Our position on open-weights models
Anthropic не поддерживает запреты на модели с открытыми весами, но и не считает их безусловно безопасными. Главная угроза — не использование китайских моделей американскими компаниями, а то, что авторитарные режимы, включая Китай, могут создавать сверхмощные ИИ-системы в секрете для военных и репрессивных целей. Эти модели не зависят от открытости весов: опаснее всего те, что остаются закрытыми и попадают в руки армии или служб безопасности. Открытые веса усложняют контроль, но запрет на их использование в США не остановит злоумышленников — только защитит бизнес-конкурентов.
Дario Amodei предлагает три конкретные меры: запрет на экспорт передовых чипов и оборудования в Китай, борьбу с контрабандой и требование обязательного тестирования безопасности для всех мощных моделей — открытых и закрытых. Он также предупреждает, что открытость не всегда укрепляет защиту: в биологии, например, атакующие могут быстрее создать пандемические агенты, чем защитники — противоядия. Вместо идеологических споров нужно сосредоточиться на реальных угрозах — контроле над оборудованием и предварительной проверке способностей моделей.