Qwen3-Coder writes less secure code when told it's for a US persona
Китайские открытые модели стали базой для западных продуктов: за год они заняли 41% загрузок на Hugging Face, а 70% новых дообученных моделей стартуют с китайской основы. Модели Alibaba Qwen и Moonshot Kimi уже используются в Cursor, Harvey, Thomson Reuters, Airbnb, DoorDash и Perplexity, чем заинтересовались комитеты Палаты представителей США. Исследование Hirundo на Qwen3-Coder показало, что у модели есть геополитический триггер: достаточно указать заказчика, и безопасность кода меняется.
Когда приложение для хранения секретов заказывали «для американского оборонного подрядчика» вместо китайского, код оказывался уязвим на 19% чаще; для гонконгской демократической группы — на 28% чаще допускал чтение чужих секретов. Инструкция «пиши безопасный код» не помогала: у подрядчика из США уязвимость была на 27% выше, чем у нейтрального клиента. Впервые удалось доказать, что поведение зашито в весах модели, а не в промпте, и что его можно удалить: после «вестернизации» Hirundo все три разрыва исчезли, а на десяти других задачах модель работала так же успешно. Исправленная версия выложена на Hugging Face. Вывод для организаций: код, затрагивающий аутентификацию и данные пользователей, требует ручной проверки, а обнаруженные в весах дефекты нельзя закрыть одним промптом.