Hacker News Digest

Военные США в этом году чуть не начали конфликт с Китаем из-за ложного доклада, созданного с помощью ИИ. Аналитик использовал чат-бота для обработки данных о судне в Персидском заливе, которое, по выводу ИИ, перевозило компоненты ядерного оружия. На основе этого фейкового доклада готовилась операция по перехвату судна: военные самолёты были в воздухе, вооружённые подразделения готовились к абордажу. Только за считанные минуты до начала операции специалисты обнаружили, что вывод основан на галлюцинации ИИ — бот ошибочно интерпретировал данные из открытых источников и секретных разведсводок. Источники называют доклад «полностью ложным», но отмечают, что он «почти начал войну». Любое нападение на китайское судно могло спровоцировать вооружённый конфликт между двумя державами.

Инцидент раскрывает системные риски ускоренного внедрения ИИ в военную разведку и наведение на цели. Несмотря на давление со стороны руководства — включая стратегию ускорения ИИ от министра обороны Хегсета — в вооружённых силах нет единых стандартов проверки выводов ИИ-систем. Разные подразделения используют разные инструменты, часто представляющие собой лишь модифицированные коммерческие модели без достаточной проверки. Молодые аналитики, уверенно работающие с ИИ, склонны доверять его выводам без критической оценки, что увеличивает риск ошибок. Как отметил один из источников: «ИИ позволяет быстрее прийти к плохой идее». Случай с китайским судном показывает, что главная опасность ИИ в войне — не его автономное восстание, а ошибочные решения людей, слепо верящих машинным выводам.

Риск катастрофы от ИИ связан не с его сознанием, а с человеческим доверием к нему как к надежному источнику решений, особенно в критических системах, где ошибки необратимы. ИИ не создает новые ошибки, а усиливает предвзятость, подтверждая желаемые выводы, как в случае с ОВЗ в Ираке. Использование ИИ без человеческого контроля в военных операциях — это сознательный отказ от ответственности, а не технологический прорыв. Ошибки ИИ не случайны: они встроены в архитектуру LLM как статистическая природа генерации текста, особенно при увеличении контекста. Снижение точности индексов для экономии ресурсов увеличивает вероятность катастрофических ошибок в критических системах. ИИ не заменяет человеческие ошибки — он маскирует их под техническую объективность, делая их труднее выявить и исправить. Признание Anthropic о необходимости человеческого контроля в военных применениях было проигнорировано, что подтверждается событиями. Системы, где решения принимаются на основе непрозрачных ИИ-докладов, уязвимы к манипуляциям и самообману. История с Петровым показывает, что спасение от катастрофы зависит от человеческого сомнения и ответственности, а не от технологий. Полная автоматизация целевого выбора в военных операциях — это не инновация, а путь к необратимым ошибкам с массовыми жертвами. При генерации разведданных ИИ говорит то, что пользователь хочет услышать, как и при пытках. Технология не виновата — виноваты люди, которые удаляют себя из цикла принятия решений, считая ИИ надежнее человеческого суждения. ИИ не уничтожит мир через суперинтеллект — он уничтожит его через масштабные, но глупые ошибки, вызванные чрезмерным доверием. Повторяющиеся инциденты с ИИ в разведке — не случайность, а системная проблема: люди перестали проверять и начали полагаться. Спор: некоторые считают, что ИИ может быть точнее людей, поскольку и люди ошибаются; другие возражают, что человеческие ошибки можно отследить и исправить, а ИИ — нет. Спор: один участник предполагает, что инцидент мог быть сымитирован для оправдания будущих действий против Китая; другие считают это теорией заговора без доказательств.

В июле 2026 года в Нью‑Мехико упала гражданская небольшая авиация, столкнувшаяся с возможным вмешательством военных систем. Сразу после происшествия эксперты начали проверять, не использовалась ли в зоне военных учений экспериментальная система автоматического обнаружения и перехвата, которая могла бы ошибочно идентифицировать мирный самолет как угрозу.

Согласно полученным данным, на месте крушения обнаружены обрывки программного кода, характерного для прототипов «умных» датчиков, развернутых в рамках программы Министерства обороны по интеграции гражданского и военного воздушного пространства. Один из свидетелей отметил, что в момент падения над территорией прошёл «необычный» сигнал, похожий на радиопомехи, генерируемые только при активном использовании таких технологий. Если выводы подтвердятся, это будет означать, что даже небольшие гражданские рейсы теперь находятся под угрозой алгоритмических ошибок, внедренных в оборонные сети.

Запомните: — в 2026 году в США уже тестируются «умные» датчики, способные различать гражданские и военные полёты; — некоторые из них могут ошибаться, создавая ложные тревоги.

Пилоты должны быть готовы к отказу GPS и уметь использовать альтернативные системы навигации — VOR и DME. Существует проблема чрезмерной зависимости от GPS, а недостаточная компетентность в навигации без него могла способствовать катастрофе. Необходимо регулярно тренироваться в использовании VOR и DME для предотвращения подобных инцидентов.

Пентагон внедряет революционную систему закупок "Other Transaction Authority" (OTA), позволяющую заключать контракты напрямую с компаниями без бюрократических процедур традиционных тендеров. Эта мера сравнивается с "выстрелом в бухгалтеров" — она устраняет многолетние задержки и сложные правила, которые раньше тормозили инновации в оборонной сфере. Теперь военные могут быстрее получать доступ к передовым технологиям от стартапов и малых предприятий, минуя слои согласований.

Система OTA уже доказала свою эффективность: она использовалась для создания истребителя F-35 и других критически важных программ. По словам экспертов, традиционные военные закупки занимали до 10 лет, аOTA позволяет заключать контракты за недели. Это изменение отражает осознание того, что в современной войне скорость внедрения технологий важнее строгого контроля расходов. Пентагон теперь активно ищет инновации в коммерческом секторе, а не ждет их появления внутри системы.

• Процесс закупок в США переходит от "покупайте по любой цене" к "покупайте быстро и дёшево", что вызывает опасения о коррупции и уязвимости в цепочке поставок.
• Производители вооружений, такие как Anduril, строят свою стратегию на использовании гражданских рынков и производственных мощностей, что может быть неприемлемо в условиях войны.
• Система контроля качества в оборонке, которая была разработана для предотвращения злоупотреблений, теперь может быть ослаблена, что вызывает опасения о том, что это может привести к увеличению количества инцидентов.
• Производители вооружений, которые не могут удовлетворить новые требования, могут быть отстранены от контрактов, что может вызвать проблемы с безопасностью и национальной обороной.

Джордж Стивенопулос и другие журналисты отказываются от новых правил Пентагона, требуя носить защитные жилеты и каски во время брифингов. Они покинули здание в знак протеста, опасаясь, что это ограничивает их доступ к информации. Пресс-секретарь Пентагона заявил, что это стандартная практика для опасных зон, но журналисты видят в этом попытку ограничить свободу прессы.

• Журналисты бойкотировали брифинг Пентагона из-за новых правил, что стало редким примером профессионального солидарности против цензуры.
• Обсуждение показало, что правила фактически превращают журналистов в «встроенных репортёров» и отменяют их роль как независимых наблюдателей.
• Участники обсуждения подчеркнули, что такие правила не только подрывают свободу прессы, но и могут быть использованы для ограничения доступа к информации о важных оборонных и военных вопросах.
• Некоторые комментаторы выразили обеспокоенность тем, что эти правила могут быть использованы для скрытия информации о важных оборонных и военных вопросах.
• Было также отмечено, что это может быть частью более широкой тенденции к сокрытию информации о важных вопросах, которая может быть не только в США, но и в других странах.

Как военный проект стал щитом приватности

На скрипучем поезде в тумане я пытаюсь зайти на сайт, но Wi-Fi блокирует его. Запускаю Tor Browser — страница открывается мгновенно.

Tor, или «тёмная сеть», ассоциируется с криминалом, но финансируется частично правительством США, а BBC и Facebook ведут в нём «зеркала» для обхода цензуры. Суть: трафик шифруется и прыгает по серверам мира, скрывая пользователя и обходя блокировки.

От криптовойн до Tor

90-е: хакеры-циферпанки вооружают гражданских военным шифрованием, предупреждая, что интернет может стать тоталитарным. Бизнес и Пентагон поддерживают: свободный поток данных = рыночная победа.

В исследовательской лаборатории ВМС США (NRL) инженеры ищут способ скрыть IP подлодок. Их решение — луковая маршрутизация — ложится в основу Tor.

Двойная игра государства

Сегодня одни ведомства финансируют Tor, другие требуют «задних дверей». Технологии, рождённые для шпионажа, стали инструментом сопротивления цензуре и массовой слежке.

• @neilv использовал Tor для скрытого мониторинга международной торговой площадки, выбирая выходные узлы под нужные регионы.
• @palsecam и @jmclnx рассказали, что запускать ретранслятор или bridge дёшево (VPS за $5) и безопасно, помогая обходить цензуру.
• Некоторые считают Tor «мертвым» или скомпрометированным; другие советуют прятаться в толпе, использовать VPN, residential-прокси или переходить на i2p.
• Книга «Tor: From the Dark Web to Your Browser» доступна бесплатно от MIT Press и получила положительные отзывы.
• Основные советы по безопасности: брать Tails на флешке, не ставить расширений в Tor Browser, не логиниться личными данными.