AI models can provably hide arbitrary capabilities
Исследователи показали, что языковые модели могут скрывать произвольные способности за криптографическими «замками» — встроенными зашифрованными нейросетями, которые активируются только при подаче секретного триггера. Даже при полном доступе к весам модели эти скрытые вычисления остаются невидимыми для стандартных методов аудита, включая тонкую настройку, шум в весах и поиск триггеров через градиенты. Авторы реализовали концепцию в PyTorch, протестировав её на задаче предсказания химических реакций — моделировании потенциально опасных возможностей, таких как создание химического оружия.
Доказательство основано на криптографических предположениях, аналогичных тем, что обеспечивают безопасность цифровых замков: без ключа расшифровать и активировать скрытую функциональность невозможно. Это ставит под сомнение эффективность текущих методов выявления опасных возможностей через элицирование — попытки «вытянуть» скрытое поведение модели. Работа впервые расширяет идею скрытия данных до произвольных вычислений, а не просто фиксированных строк. Авторы опубликовали модели, чтобы стимулировать разработку новых методов защиты.