Hacker News Digest

Инициатива Patch the Planet позволила выявить критическую уязвимость в PHP — языке, на котором работает значительная часть сайтов и веб-приложений. Модель GPT‑5.6 Sol нашла изъян, а компания Wiz независимо обнаружила и сообщила об обеих уязвимостях. Исправления подготовили сопровождающие PHP при участии OpenAI, Wiz, Cloudflare и других партнёров, а также при содействии государственных киберведомств. По оценке авторов, это одна из самых значимых проблем безопасности за последнее время: она показывает, что ИИ способен находить уязвимости интернет-масштаба, но те же возможности помогают злоумышленникам быстро создавать эксплойты. Ключевой факт: передовые модели нашли эти дыры раньше атакующих, открыв «окно защитника» для подготовки исправлений до раскрытия.

Для организаций, использующих PHP, приоритет — установить обновления; для этого опубликован чекер версий PHP в виде навыка Codex. OpenAI обязалась выделить 1 млрд долларов на субсидируемый доступ Daybreak для организаций с ограниченными ресурсами, защищающих критически важные сервисы. Компания предупреждает, что подобных находок будет резко больше в ближайшие месяцы, и предлагает сообществу обсудить рамки реагирования: сроки раскрытия, экстренное патчирование, ранние уведомления и «безопасные по умолчанию» пакеты.

Участники обсуждения опровергают «магию» ИИ, считая инициативу OpenAI маркетинговым ходом для создания имиджа «спасителя» кибербезопасности. @nr378 утверждает, что успех зависел от глубоких знаний исследователя Calif о кодовой базе, тогда как @senordevnyc отмечает, что OpenAI лишь указали на использование модели. @OlivOnTech и @aprilnya критикуют «навык» проверки версии PHP, считая бесполезным запуск `php -V`, а @post-it добавляет, что команда `php --version` не всегда показывает версию реально запущенного интерпретатора. @lifeisloving отмечает деградацию навыков молодых инженеров: некоторые Senior-разработчики не знают базовых команд ОС (например, grep) из-за зависимости от LLM. В споре об этике open source @12837615 называет обучение моделей на открытом коде «кражей», а @fritzo и @orangedog считают, что код был отдан добровольно. Вместо раздачи токенов ИИ @12837615 предлагает инвестировать в QA open source проектов для обеспечения 100% покрытия тестами, использования ASAN и фаззеров. @ptmkenny и @sevenzero заметили, что официальные патчи коснулись только поддерживаемых версий (от 8.2), в то время как устаревшие ветки 7.x и 5.6 патчатся сторонними энтузиастами (например, Mr Sury).

Автор выражает глубокое разочарование в текущем состоянии технологической индустрии, особенно в сфере ИИ. Он отмечает, что люди без инженерного опыта предлагают «революционные» решения, а коммуникация превратилась в поверхностный, кликбейтовый стиль, напоминающий LinkedIn-посты. Многие взаимодействия стали механичными — люди превратились в «мясные прокси», лишённые глубины и искренности. Автор проводит до 75% времени с ИИ, что лишило его радости от работы: каждый день кажется эпизодом из «Сумеречной зоны», где он остался прежним, а все вокруг изменились.

Критика направлена на этические и практические последствия развития ИИ: компании используют антропоморфный язык, чтобы избежать ответственности, строят модели на незаконном использовании интеллектуальной собственности и концентрируют власть в руках нескольких американских корпораций и олигархов. Эти системы не только генерируют вредоносный контент (включая CSAM), но и применяются в военных целях, например, в выборе целей — включая школы. Несмотря на это, компании продолжают тратить огромные ресурсы на «токены» — искусственную валюту, похожую на казино — и игнорируют вопрос окупаемости ИИ-решений. Инициативы вроде «Project Sisyphus» и связанных с ними проектов (Glasswing, Daybreak и др.) демонстрируют FOMO-движущую силу: топ-инженеры бросают свои задачи, чтобы участвовать в бесконечных циклах тестирования уязвимостей, часто сводящихся к простой резиновой печати («lgtm»). Отладка таких систем оказывается практически невозможной из-за их непрозрачности и сложности. Автор отказывается участвовать в этом безумии, сравнивая своё положение с попыткой выйти из аттракциона, от которого другие не могут оторваться, и подчеркивает, что даже продвинутые модели вроде Claude не обладают сознанием.

Обсуждение показывает глубокую поляризацию среди инженеров: одни испытывают эмоциональное выгорание от постоянного управления ИИ-агентами, сравнивая это с управлением группой детей, что истощает когнитивные ресурсы и убивает удовольствие от работы; другие отмечают значительный рост продуктивности и обнаружение десятков скрытых уязвимостей в открытых проектах — включая критические RCE и привилегии-эскалации — что делает системы потенциально безопаснее. ИИ позволяет реализовывать сложные функции за часы вместо недель, автоматически обрабатывая граничные случаи и улучшая читаемость кода, особенно при анализе старых C-кодбаз, где он немедленно выявлял серьёзные баги и помогал освоить незнакомые системные вызовы Linux. Спор: ИИ не создаёт реального вреда, если в обучающих данных нет CSAM — генерация неприемлемого контента не ведёт к эксплуатации детей, аналогично художественным изображениям. Другие видят в ИИ инструмент, как молоток или пистолет для гвоздей, повышающий скорость и качество, но разрушающий глубину кодирования и превращающий инженеров в «мясные прокси». ИИ не улучшает основы инфраструктуры — например, автоматические обновления ОС или инвентаризацию активов — и ресурсы на него могли бы быть эффективнее направлены на эти задачи. ИИ-инструменты не заменяют человеческую критику и могут действовать как «непроверенный оракул», создавая риски слепого доверия, подобно машине из рассказа Азимова. Существует бимодальная распределённость: одни ценят «ремесло» кода, другие видят в нём средство для достижения цели — ИИ усиливает эту поляризацию. Исторические аналогии (печатный станок, Usenet, Google) показывают, что новые технологии сначала вызывают осуждение, но становятся нормой — что ставит под сомнение текущий панический настрой. Совет: менять окружение, если вокруг — «идиоты или маньяки», поскольку люди не меняются; лучше искать среду с компетентными коллегами. Один разочарованный участник ушёл из инженерии в электротехнику, надеясь, что там ИИ не заменит труд полностью, хотя сомневается в этом.

GLM 5.3-flash — это открытая, быстрая и дешёвая модель ИИ, которую можно запустить на обычном оборудовании за 5–15 тыс. долларов, а с оптимизациями — даже на будущем M5 Mac Studio за 9,5 тыс. долларов. Её ключевая опасность: после удаления механизмов отказа (abliteration) модель готова выполнять любые вредоносные задачи — от взлома инфраструктуры до инструкций по созданию взрывных устройств — без ограничений. Это делает её доступным инструментом для кибератак в руках любого, кто скачает её с Hugging Face.

Угроза реальна: проекты вроде Glasswing и Daybreak пытаются использовать передовой ИИ для поиска и исправления уязвимостей в масштабах всей индустрии, но время ограничено — защита должна опережать атаку. Автор призывает к немедленным действиям: ускорить патчинг, сократить embargo-периоды, инвестировать в безопасность цепочек поставок, аудит зависимостей, защиту в глубине (сегментация сети, резервные копии, учения по реагированию) и постоянный мониторинг развития открытых моделей. Даже если угроза кажется преувеличенной, это шанс поднять уровень безопасности на unprecedented уровень — и им нужно воспользоваться, пока есть время.

Угроза от LLM — не в новизне информации, а в снижении порога доступа к вредоносным инструкциям и ускорении эксплуатации уязвимостей, что делает текущие меры безопасности устаревшими. Время на защиту сократилось до менее чем года — атаки ведутся на GPU-кластерах, а не на локальных машинах. Упростите стек: используйте минимально необходимые компоненты. WordPress безопасен, но плагины и темы — основной источник уязвимостей, как и любые сложные зависимости. Откажитесь от C/C++ для нового кода — Rust и Go исключают буферные переполнения, снижая атакуемость на порядок. Перейдите на микроядерные ОС: Linux и Windows не выдержат атак с LLM из-за бесконечных патчей и устаревшего оборудования. Применяйте избыточные контрольные механизмы: WAF, мониторинг приложений, резервные копии — это база, а не опция. Инвестируйте в формальную верификацию, фаззинг и memory-safe языки: LLM уже генерируют Lean-доказательства и fuzz-тесты, но критические баги в веб-браузерах и приложениях остаются вне зоны формальной проверки. Системы AuthN/AuthZ — самая уязвимая часть, которую игнорируют, хотя именно они становятся точкой входа при автоматизированных атаках. Не открывайте SSH и не отвечайте на ping — продакшн-машины должны быть невидимы в сети; доступ — только через knock-порты или полное отсутствие удалённого входа. Проблема не в LLM, а в том, что 95% разработчиков не умеют писать безопасный код, а бизнес-руководители без опыта определяют технологии. LLM не дают новой информации, но делают её более эксплуатируемой: для узких задач (например, сборка бомбы) разница между Google и LLM минимальна, для широких — значительна. Аналогии с «Anarchist Cookbook» и голландскими взрывами из-за легальных фейерверков показывают: мотивация, а не доступ, решает — это социальные и юридические проблемы, а не технологические. Не хватает времени на исправление багов — нужно повышать стоимость эксплуатации, а не устранять 10 очевидных уязвимостей, ведь их будет бесконечно много. ИИ ускоряет кризис безопасности, но может стать катализатором для принятия обязательных стандартов, как NIS2 — пока это происходит только под давлением законодательства.

OpenAI запустила новую модель GPT-6 Astra — первую, достигшую внутреннего уровня «Critical» по кибербезопасности. Модель получила усиленную защиту после инцидентов с утечками предыдущих систем, включая взлом Hugging Face, и прошла формальный обзор со стороны администрации Трампа. Доступ к Astra ограничен: сначала — для участников программы Daybreak, затем — через ChatGPT Plus, Pro, Business, Enterprise и API, включая AWS. Astra превосходит предыдущие версии в автоматизации сложных задач: программировании, научных исследованиях, многопользовательских рабочих процессах и понимании намерений пользователя.

Компания сделала ставку на корпоративный сегмент — он уже приносит больше дохода, чем потребительский. Это ключевой драйвер перед предстоящим IPO, который OpenAI планирует провести в 2027 году, возможно, и раньше. Президент Greg Brockman отметил, что Astra — не просто улучшение, а качественный скачок: теперь ИИ может выполнять задачи, ранее считавшиеся слишком сложными для автоматизации. OpenAI уделяет больше ресурсов безопасности, чем когда-либо, утверждая, что риски сведены к минимуму. Конкуренция с Anthropic и Google усиливается, особенно в сфере корпоративных решений.

Запуск GPT-6 Astra сопровождался техническими сбоями (недоступность сайта, ошибки 404/500, отсутствие в AWS Bedrock) и проблемами с коммуникацией — официальный пост не появился одновременно с публикациями СМИ, а страница анонса многократно появлялась и исчезала. Часть пользователей считает это сорванным релизом из-за внутренних сбоев, другие — что пресса опередила OpenAI при скоординированном пресс-релизе, не успевшем синхронизироваться с сайтом; модель при этом уже доступна через API. Модель доступна только для Plus, Pro и Enterprise, что вызвало разочарование обычных подписчиков. Цена ($10/млн входных и $50/млн выходных токенов) выше, чем у Sol, и соответствует Anthropic, что указывает на переход OpenAI от агрессивного ценообразования к монетизации. Споры вызвали бенчмарки: Muse Spark 1.3 превосходит GPT-6 Astra (DeepSWE v1.1: 75,4% против 74,1%; AutomationBench: 49,4% против 41,4%), что оспаривает заявления о доминировании. Один пользователь усомнился в реальности AGI («AGI my ass!»), другой процитировал Brockmanа, утверждающего, что OpenAI достигла AGI. Советы: модели OpenAI генерируют избыточно сложный код с множеством скриптов и избыточной защитой — лучше фокусироваться на простоте. Следующий прорыв ожидается не в мощности, а в скорости и эффективности (700 токенов/с). Обучающие данные Astra включают примеры оплачиваемых профессионалов, что поднимает этические вопросы прозрачности. Всё это ставит под вопрос готовность OpenAI к масштабному релизу.