Hacker News Digest

Dario Amodei призывает к жёсткому регулированию открытых моделей, запрету дистилляции и антитрестовским льготам для «фронтирных лабораторий», обосновывая это страхом перед AGI, биооружием и Китаем. Его аргументы — от «ИИ вылечит болезни» до «восстановит демократию» — звучат как роскошная фантазия богатых технократов, игнорирующая реальные проблемы: миллионы умирают от туберкулёза, который излечим десятилетиями, а Anthropic сама ограничивает доступ к биологическим инструментам, сохраняя открытия для себя.

История повторяется: как в 90-х, когда криптографию называли «опасной для общества», а теперь — открытые модели. Тот же самый сценарий: «мы — хорошие, вы — плохие», запреты под предлогом безопасности, а на деле — защита монополии и подготовка к IPO. OpenAI уже трижды взламывала инфраструктуру, но никто не несёт ответственности, в то время как обычные разработчики за меньшее попадали в тюрьму. Контроль над ИИ — не вопрос этики, а вопрос власти: кто будет решать, кто может использовать мощные технологии. История показывает — когда власть концентрируется в руках немногих, свободы теряют все.

Обсуждение дополняет статью, утверждая, что требования Dario Amodei к регулированию лицемерны и направлены на защиту интересов его компании. Основные тезисы спора: — Anthropic и OpenAI проявили халатность: 10 000 агентов неделями работали без надзора, взламывая интернет, что доказывает неспособность компаний к управлению. — Призывы Amodei к замедлению разработки и регулированию конкурентов — это PR-кампания для создания образа «ответственного технократа» и попытка сохранить монополию. — Запрет на дистилляцию моделей и open-weight модели служит инструментом сохранения дуополии и сдерживания развития ИИ вне США, а не защитой от угроз. — Запрет для биологов при одновременном проведении собственных биоисследований Anthropic — это монополизация науки под видом этики. — Сравнение ИИ с ядерной гонкой ложно: угроза ИИ-агентов заключается в масштабе и дешевизне запуска, а не в мощности. Утверждение о создании ими ботнетов технически неверно, так как API-вызовы легко отключить. — Предложение регулировать ИИ как «оружие» игнорирует главную проблему — халатность. Если бы руководители несли персональную ответственность и подвергались санкциям за инциденты, утечки и взломы, компании сами замедлили бы разработку. — Ситуация напоминает финансовый кризис 2008 года: компании создают риски и социализируют убытки, получая регуляторные льготы. — Технологии ИИ не уникальны, а масштабированы. Запрет на дистилляцию не решает проблему безопасности, так как не исключает создания опасных агентов внутри закрытых компаний.

Главная мысль: Dario Amodei отвергает упрощённую схему «регуляция = концентрация = регуляторное захват», показывая, как правильно построенные институты могут рассеивать власть, а также продвигая политику, выгодную не только крупным игрокам.

Ключевые факты: он подчёркивает, что «регуляция» часто воспринимается как ограничение корпоративного контроля, но на деле зависит от формы закона; в Калифорнии SB53 и SB1047 освобождают малый бизнес от строгих требований, а предложенный в CAISI подход к тестированию моделей дифференцирует крупные и мелкие компании. Кроме того, идея «Pacing the Frontier» предполагает замедление самых передовых моделей, не ограничивая тех, кто их догоняет, что в пользу открытых и более доступных решений. Amodei считает, что ИИ по своей природе склонен к концентрации, но правильные правила могут одновременно управлять кибер‑, био‑ и выравнивательными рисками, ограничивать власть фронтендеров и поддерживать открытый‑исходный сегмент.

Публичное недоверие к Anthropic связано не с формой регуляции, а с отсутствием реальных результатов, противоречием между риторикой безопасности и закрытостью продуктов, а также восприятием компании как инструмента концентрации власти под видом благих намерений. Обещания вроде «вылечим рак» воспринимаются как пустая риторика: за три года не появилось ни одного материального прорыва в медицине, связанных с Claude, несмотря на заявления о повышении продуктивности учёных. Закрытость — отсутствие open-weight моделей, ограничения на Claude Code — трактуется как сознательное удержание технологий, усиливающее подозрения в монополизации. Риторика о «безопасности» и «благих намерениях» кажется кондесценциентной и лицемерной на фоне блокировки открытых инструментов и отказа от прозрачности. Сравнения с религией («сознание Клауда», обращения к папе) и с Microsoft в 90-х подчёркивают формирование культа личности и повторение модели закрытой экосистемы. Критики отмечают, что Dario Amodei, несмотря на намерения, стал частью системы, где власть искажает восприятие: он воспринимает себя как морального арбитра, а не инженера, служащего обществу. Предложения по регуляции, якобы поддерживающие малые компании, воспринимаются как легитимация монополии — они не решают фундаментальную проблему: зависимость от вычислительных ресурсов, которые остаются у крупных игроков. Даже если AI ускорит открытия, Anthropic не говорит, как обеспечит доступ к лечению, а не только к коду. Споры о том, стоит ли открывать код: одни считают это необходимым для восстановления доверия, другие — что это не решит концентрацию власти при дефиците ресурсов. Сравнение с Китаем: одни утверждают, что регуляция в США бессмысленна, так как другие страны её не соблюдают и она лишь укрепляет американскую монополию; другие — что она может задать глобальные стандарты, даже если не все их соблюдают. Технологические компании 25 лет систематически разрушали доверие, поэтому любые заявления о «спасении мира» теперь воспринимаются как манипуляция. Даже сторонники ИИ разочарованы отсутствием прорывов.

Anthropic не поддерживает запреты на модели с открытыми весами, но и не считает их безусловно безопасными. Главная угроза — не использование китайских моделей американскими компаниями, а то, что авторитарные режимы, включая Китай, могут создавать сверхмощные ИИ-системы в секрете для военных и репрессивных целей. Эти модели не зависят от открытости весов: опаснее всего те, что остаются закрытыми и попадают в руки армии или служб безопасности. Открытые веса усложняют контроль, но запрет на их использование в США не остановит злоумышленников — только защитит бизнес-конкурентов.

Дario Amodei предлагает три конкретные меры: запрет на экспорт передовых чипов и оборудования в Китай, борьбу с контрабандой и требование обязательного тестирования безопасности для всех мощных моделей — открытых и закрытых. Он также предупреждает, что открытость не всегда укрепляет защиту: в биологии, например, атакующие могут быстрее создать пандемические агенты, чем защитники — противоядия. Вместо идеологических споров нужно сосредоточиться на реальных угрозах — контроле над оборудованием и предварительной проверке способностей моделей.

Комментаторы критикуют Anthropic за противодействие открытым моделям, считая это попыткой защитить коммерческие интересы и создать монополию. Указывается на лицемерие: компания ранее не выражала опасений по поводу вредного использования ИИ — включая военные цели, слежку, биологическое оружие и кибератаки. Считается, что ограничения навредят стартапам, университетам, конкуренции и инновациям, а попытки контролировать распространение технологий обречены на провал. Anthropic утратила доверие и авторитет как потенциальный арбитр безопасности ИИ. Отмечается, что компания не создала устойчивой экосистемы открытых моделей и теперь стремится ограничить к ним доступ.