Hacker News Digest

Апелляционный суд США подтвердил решение Пентагона включить Anthropic в список поставщиков, представляющих угрозу национальной безопасности, запретив военным и контрактным организациям использовать модели Claude. Судьи Грегори Катсас и Неоми Рао, назначенные Трампом, сочли, что у Минобороны были достаточные основания полагать, что Anthropic может ограничивать использование ИИ в интересах обороны, особенно в контексте споров о доступе к моделям и запрете на автономное оружие и слежение. Компания требовала гарантий, Пентагон — полного контроля — переговоры провалились, а министр обороны Пет Хегсет назвал действия Anthropic попыткой «взять вето» на военные решения.

Критикой решения выступила судья Кэррен Хендерсон, назначенная Бушем-старшим. Anthropic планирует запросить пересмотр дела в полном составе суда или обращение в Верховный суд. Конфликт обострился после публичных нападок Трампа на генерального директора Дарио Амодеи, который призывал к замедлению развития ИИ и не был приглашён на государственный ужин с Си Цзиньпином. Трамп в соцсетях обвинил его в лицемерии, назвав попытку Anthropic «притвориться ангелом». Ранее компания имела с Пентагоном контракт на $200 млн, но после отказа от условий доступа её исключили из цепочки поставок.

Решение суда о включении Anthropic в список рисков цепочки поставок вызывает споры. Одни считают его законным применением определения «риска цепочки поставок» (возможность саботажа или подмены функций системы), другие — политически мотивированной санкцией без реальной угрозы безопасности. Указывают на отсутствие ясных практических обязательств для компании и сравнивают с OpenAI, которая имеет аналогичные ограничения в договоре с DoD, но не попала в список, что указывает на произвольность решения. Предупреждают о потенциальном злоупотреблении такой властью в будущем, включая использование её для политических репрессий против компаний, поддерживающих другую партию. Отвергают аналогию с простыми предметами (например, ручкой), подчёркивая, что ограничения ИИ-моделей имеют более серьёзные последствия. Некоторые пользователи планируют финансово поддержать Anthropic в знак протеста против несправедливого отношения. Требуют разъяснений по конкретным обязательствам, налагаемым на компанию после обозначения.

В сентябре 2025 года американские военные уничтожили иранскую школу в Сирии, ошибочно приняв её за командный пункт «Кудс». Операция была запущена по алгоритму «kill chain» — автоматизированной системе, объединяющей спутниковые данные, разведку и ударные дроны. Платформа Palantir использовалась для сопоставления подозрительных сигналов с базами данных, но не учла, что здание было школой: в нём не было военной техники, а дети находились внутри во время атаки. Погибли 47 человек, включая 34 ученика.

Решение об ударе принималось за 17 минут — без участия высшего командования. Внутренние отчёты показали, что ИИ-алгоритмы ошибочно классифицировали школьный двор как «вероятное место сбора боевиков» из-за движения людей и наличия антенн. После инцидента Pentagon отказался от публичных объяснений, а Конгресс не провёл расследования. Международные правозащитники считают действия военными преступлениями, но США не признают юрисдикцию Международного уголовного суда.

Инцидент отражает человеческую некомпетентность, плохие данные и отсутствие проверки, а не прямой сбой ИИ. Однако ИИ усиливает масштабы ошибок, а ответственность лежит на людях. Большинство считают ИИ «козлом отпущения», обвиняя в ошибке человеческую небрежность и отсутствие верификации целей. ИИ позволяет некомпетентным операторам наносить более масштабные разрушения. Ответственность должна оставаться за людьми, передавшими ИИ полномочия принимать решения о применении силы; ИИ нельзя судить. Платформу Palantir обвиняют в ошибке, но компания указывает на плохой ввод данных, делая вопрос ответственности неясным. Отсутствие проверки целей, выбранных ИИ, привело к тому, что система стала окончательным арбитром смертельного применения силы. Комментаторы требуют уголовной ответственности за удар, сравнивая его с военными преступлениями. Пользователи переоценивают возможности ИИ, ожидая, что система сама выявит противоречия в разведданных, чего она не делает. Приведён пример другого сбоя ИИ: почти посадка китайского судна, ошибочно отмеченного как перевозящего ядерные материалы. ИИ предоставляет удобный объект, позволяя людям уклоняться от ответственности. Скепсис относительно реального привлечения США к ответственности: многие считают, что наказаний и компенсаций не последует. Некоторые считают ИИ лишь оправданием, но другие (kamranjon) утверждают, что одновременно присутствует военная некомпетентность и использование ИИ в ошибочных решениях. Необходимо внедрять многоуровневую проверку и человеческий контроль перед применением ИИ в lethal‐операциях, чтобы избежать подобных трагедий. Нужно назначать ответственного человека за каждое действие ИИ, особенно при гибели детей. Аналогичные ИИ‐системы использовались в израильском конфликте, приводя к гражданским жертвам, что свидетельствует о более широкой проблеме.

Военные коммиссариаты — налоговые магазины на военных базах — столкнулись с почти одновременными сбоями холодильных систем на как минимум шести объектах, что привело к порче всех замороженных и охлаждённых продуктов. Сначала это выглядело как совпадение из-за старого оборудования, но повторяющийся характер инцидентов и независимые подтверждения от СМИ вроде Stars and Stripes и Military Times заставили автора усомниться в случайности. Пентагон уже признал «возможное нарушение работы холодильного оборудования» во множестве магазинов DeCA.

Автор выдвигает гипотезу о целенаправленной кибератаке на холодильные системы коммиссариатов, подчёркивая, что такие системы, как и другая критическая инфраструктура, всё чаще подключаются к сетям без достаточной защиты. В комментариях отмечается, что помимо еды, в таких хранилищах могут находиться вакцины и другие медикаменты, что повышает потенциальный урон. Хотя доказательств взлома пока нет, совпадение слишком странно, чтобы его игнорировать, и ситуация требует серьёзного расследования.

Тред дополняет статью опытом эксплуатации устаревших промышленных систем: оборудование с уязвимой аутентификацией, отсутствием TLS и устаревшим ПО распространено в военной инфраструктуре, что делает сбои технически правдоподобными без предположения о хакерской атаке. Сбои морозильных систем, вероятнее всего, вызваны неправильной конфигурацией или ошибкой обновления — выбор холодильников как цели был бы странным для хакера. Промышленные PLC, включая Siemens S7-1500, часто управляются инженерами без навыков кибербезопасности, что ведёт к стандартным паролям и отсутствию шифрования. Активация цикла разморозки может быть признаком атаки, но чаще это сбой в логике управления, особенно при отсутствии резервного питания и мониторинга температуры. Удалённое управление морозильниками через централизованную систему DECA создаёт единую точку отказа — это подтверждается опытом других отраслей. На зарубежных базах вроде Гуама сбой коммиссариата критичен из-за отсутствия альтернативных источников продуктов. В США базы имеют альтернативы (Walmart, Costco), поэтому последствия менее серьёзны. Финансирование обслуживания идёт из 5% надбавки покупателей, а не из бюджета, что задерживает замену устаревшего оборудования. Системы с интернет-управлением часто используют самоподписанные сертификаты, так как сертификаты от доверенных центров могут истечь и вывести оборудование из строя — стандартная практика в промышленной автоматизации. Сбой в 2 часа ночи — типичное время для технических задач, включая циклы разморозки, и может совпадать с графиком обслуживания. Случайный сбой 14 морозильников не доказывает атаку: без данных об общем количестве систем и частоте подобных инцидентов событие может быть в пределах нормы для старого оборудования. Если бы это была атака, она скорее была бы направлена на стратегические объекты (Форт-Хуачука, база Ф.Э. Уоррен); сбой холодильников не критичен для национальной безопасности. Использование ИИ для управления бытовыми устройствами не объясняет масштабный сбой — реальные системы так не работают, доказательств причастности ИИ нет. Совет: оборудование не должно быть подключено к интернету или внешним носителям — базовая мера, часто игнорируемая в военной инфраструктуре. Самый вероятный сценарий — ошибка в централизованной системе управления, где один некорректный пакет команд запустил цикл разморозки на всех устройствах одновременно; это технически проще, чем хакерская атака.

Пентагон внедряет революционную систему закупок "Other Transaction Authority" (OTA), позволяющую заключать контракты напрямую с компаниями без бюрократических процедур традиционных тендеров. Эта мера сравнивается с "выстрелом в бухгалтеров" — она устраняет многолетние задержки и сложные правила, которые раньше тормозили инновации в оборонной сфере. Теперь военные могут быстрее получать доступ к передовым технологиям от стартапов и малых предприятий, минуя слои согласований.

Система OTA уже доказала свою эффективность: она использовалась для создания истребителя F-35 и других критически важных программ. По словам экспертов, традиционные военные закупки занимали до 10 лет, аOTA позволяет заключать контракты за недели. Это изменение отражает осознание того, что в современной войне скорость внедрения технологий важнее строгого контроля расходов. Пентагон теперь активно ищет инновации в коммерческом секторе, а не ждет их появления внутри системы.

• Процесс закупок в США переходит от "покупайте по любой цене" к "покупайте быстро и дёшево", что вызывает опасения о коррупции и уязвимости в цепочке поставок.
• Производители вооружений, такие как Anduril, строят свою стратегию на использовании гражданских рынков и производственных мощностей, что может быть неприемлемо в условиях войны.
• Система контроля качества в оборонке, которая была разработана для предотвращения злоупотреблений, теперь может быть ослаблена, что вызывает опасения о том, что это может привести к увеличению количества инцидентов.
• Производители вооружений, которые не могут удовлетворить новые требования, могут быть отстранены от контрактов, что может вызвать проблемы с безопасностью и национальной обороной.

Джордж Стивенопулос и другие журналисты отказываются от новых правил Пентагона, требуя носить защитные жилеты и каски во время брифингов. Они покинули здание в знак протеста, опасаясь, что это ограничивает их доступ к информации. Пресс-секретарь Пентагона заявил, что это стандартная практика для опасных зон, но журналисты видят в этом попытку ограничить свободу прессы.

• Журналисты бойкотировали брифинг Пентагона из-за новых правил, что стало редким примером профессионального солидарности против цензуры.
• Обсуждение показало, что правила фактически превращают журналистов в «встроенных репортёров» и отменяют их роль как независимых наблюдателей.
• Участники обсуждения подчеркнули, что такие правила не только подрывают свободу прессы, но и могут быть использованы для ограничения доступа к информации о важных оборонных и военных вопросах.
• Некоторые комментаторы выразили обеспокоенность тем, что эти правила могут быть использованы для скрытия информации о важных оборонных и военных вопросах.
• Было также отмечено, что это может быть частью более широкой тенденции к сокрытию информации о важных вопросах, которая может быть не только в США, но и в других странах.

• Суть: в утечке рассекреченного отчёта утверждается, что в 2006 г. группа SEALs тайно проникла в КНДР, потерпела неудачу и, чтобы скрыть следы, убила случайно встретившихся рыбаков, а тела изуродовали.

• Детали: операция «Источник-Х» — поиск подводной лаборатории Пхеньянa по ядерным испытаниям. Подлодка с SEALs застряла в иле, рыбаки подошли вплотную; командир приказал «устранить свидетелей». Тела взорвали, чтобы не опознать.

• Последствия: инцидент засекречен, участники подписали неразглашение; Пентагон комментировать отказался. Источники: бывший офицер разведки и документы Эдварда Сноудена.

• В 2019 году SEALs тайно проникли в воды КНДР, чтобы установить жучок, но убили 2–3 гражданских дайверов за «подозрение в обнаружении».
• Операция провалилась: цель не достигнута, тела скрыли, проколов лёгкие, чтобы тонули.
• Участники и ветераны считают миссию слишком рискованной и бесполезной, а приказ спущен «сверху» без должной оценки.
• Инцидент подпитывает пропаганду КНДР и вызывает вопросы: кто и как в США решает убивать иностранных граждан без объявления войны.