We have a year to fix security everywhere

GLM 5.3-flash — это открытая, быстрая и дешёвая модель ИИ, которую можно запустить на обычном оборудовании за 5–15 тыс. долларов, а с оптимизациями — даже на будущем M5 Mac Studio за 9,5 тыс. долларов. Её ключевая опасность: после удаления механизмов отказа (abliteration) модель готова выполнять любые вредоносные задачи — от взлома инфраструктуры до инструкций по созданию взрывных устройств — без ограничений. Это делает её доступным инструментом для кибератак в руках любого, кто скачает её с Hugging Face.

Угроза реальна: проекты вроде Glasswing и Daybreak пытаются использовать передовой ИИ для поиска и исправления уязвимостей в масштабах всей индустрии, но время ограничено — защита должна опережать атаку. Автор призывает к немедленным действиям: ускорить патчинг, сократить embargo-периоды, инвестировать в безопасность цепочек поставок, аудит зависимостей, защиту в глубине (сегментация сети, резервные копии, учения по реагированию) и постоянный мониторинг развития открытых моделей. Даже если угроза кажется преувеличенной, это шанс поднять уровень безопасности на unprecedented уровень — и им нужно воспользоваться, пока есть время.

Комментарии (182)

Угроза от LLM — не в новизне информации, а в снижении порога доступа к вредоносным инструкциям и ускорении эксплуатации уязвимостей, что делает текущие меры безопасности устаревшими. Время на защиту сократилось до менее чем года — атаки ведутся на GPU-кластерах, а не на локальных машинах. Упростите стек: используйте минимально необходимые компоненты. WordPress безопасен, но плагины и темы — основной источник уязвимостей, как и любые сложные зависимости. Откажитесь от C/C++ для нового кода — Rust и Go исключают буферные переполнения, снижая атакуемость на порядок. Перейдите на микроядерные ОС: Linux и Windows не выдержат атак с LLM из-за бесконечных патчей и устаревшего оборудования. Применяйте избыточные контрольные механизмы: WAF, мониторинг приложений, резервные копии — это база, а не опция. Инвестируйте в формальную верификацию, фаззинг и memory-safe языки: LLM уже генерируют Lean-доказательства и fuzz-тесты, но критические баги в веб-браузерах и приложениях остаются вне зоны формальной проверки. Системы AuthN/AuthZ — самая уязвимая часть, которую игнорируют, хотя именно они становятся точкой входа при автоматизированных атаках. Не открывайте SSH и не отвечайте на ping — продакшн-машины должны быть невидимы в сети; доступ — только через knock-порты или полное отсутствие удалённого входа. Проблема не в LLM, а в том, что 95% разработчиков не умеют писать безопасный код, а бизнес-руководители без опыта определяют технологии. LLM не дают новой информации, но делают её более эксплуатируемой: для узких задач (например, сборка бомбы) разница между Google и LLM минимальна, для широких — значительна. Аналогии с «Anarchist Cookbook» и голландскими взрывами из-за легальных фейерверков показывают: мотивация, а не доступ, решает — это социальные и юридические проблемы, а не технологические. Не хватает времени на исправление багов — нужно повышать стоимость эксплуатации, а не устранять 10 очевидных уязвимостей, ведь их будет бесконечно много. ИИ ускоряет кризис безопасности, но может стать катализатором для принятия обязательных стандартов, как NIS2 — пока это происходит только под давлением законодательства.