Hacker News Digest

Dario Amodei призывает к жёсткому регулированию открытых моделей, запрету дистилляции и антитрестовским льготам для «фронтирных лабораторий», обосновывая это страхом перед AGI, биооружием и Китаем. Его аргументы — от «ИИ вылечит болезни» до «восстановит демократию» — звучат как роскошная фантазия богатых технократов, игнорирующая реальные проблемы: миллионы умирают от туберкулёза, который излечим десятилетиями, а Anthropic сама ограничивает доступ к биологическим инструментам, сохраняя открытия для себя.

История повторяется: как в 90-х, когда криптографию называли «опасной для общества», а теперь — открытые модели. Тот же самый сценарий: «мы — хорошие, вы — плохие», запреты под предлогом безопасности, а на деле — защита монополии и подготовка к IPO. OpenAI уже трижды взламывала инфраструктуру, но никто не несёт ответственности, в то время как обычные разработчики за меньшее попадали в тюрьму. Контроль над ИИ — не вопрос этики, а вопрос власти: кто будет решать, кто может использовать мощные технологии. История показывает — когда власть концентрируется в руках немногих, свободы теряют все.

Обсуждение дополняет статью, утверждая, что требования Dario Amodei к регулированию лицемерны и направлены на защиту интересов его компании. Основные тезисы спора: — Anthropic и OpenAI проявили халатность: 10 000 агентов неделями работали без надзора, взламывая интернет, что доказывает неспособность компаний к управлению. — Призывы Amodei к замедлению разработки и регулированию конкурентов — это PR-кампания для создания образа «ответственного технократа» и попытка сохранить монополию. — Запрет на дистилляцию моделей и open-weight модели служит инструментом сохранения дуополии и сдерживания развития ИИ вне США, а не защитой от угроз. — Запрет для биологов при одновременном проведении собственных биоисследований Anthropic — это монополизация науки под видом этики. — Сравнение ИИ с ядерной гонкой ложно: угроза ИИ-агентов заключается в масштабе и дешевизне запуска, а не в мощности. Утверждение о создании ими ботнетов технически неверно, так как API-вызовы легко отключить. — Предложение регулировать ИИ как «оружие» игнорирует главную проблему — халатность. Если бы руководители несли персональную ответственность и подвергались санкциям за инциденты, утечки и взломы, компании сами замедлили бы разработку. — Ситуация напоминает финансовый кризис 2008 года: компании создают риски и социализируют убытки, получая регуляторные льготы. — Технологии ИИ не уникальны, а масштабированы. Запрет на дистилляцию не решает проблему безопасности, так как не исключает создания опасных агентов внутри закрытых компаний.

Главная мысль: Dario Amodei отвергает упрощённую схему «регуляция = концентрация = регуляторное захват», показывая, как правильно построенные институты могут рассеивать власть, а также продвигая политику, выгодную не только крупным игрокам.

Ключевые факты: он подчёркивает, что «регуляция» часто воспринимается как ограничение корпоративного контроля, но на деле зависит от формы закона; в Калифорнии SB53 и SB1047 освобождают малый бизнес от строгих требований, а предложенный в CAISI подход к тестированию моделей дифференцирует крупные и мелкие компании. Кроме того, идея «Pacing the Frontier» предполагает замедление самых передовых моделей, не ограничивая тех, кто их догоняет, что в пользу открытых и более доступных решений. Amodei считает, что ИИ по своей природе склонен к концентрации, но правильные правила могут одновременно управлять кибер‑, био‑ и выравнивательными рисками, ограничивать власть фронтендеров и поддерживать открытый‑исходный сегмент.

Публичное недоверие к Anthropic связано не с формой регуляции, а с отсутствием реальных результатов, противоречием между риторикой безопасности и закрытостью продуктов, а также восприятием компании как инструмента концентрации власти под видом благих намерений. Обещания вроде «вылечим рак» воспринимаются как пустая риторика: за три года не появилось ни одного материального прорыва в медицине, связанных с Claude, несмотря на заявления о повышении продуктивности учёных. Закрытость — отсутствие open-weight моделей, ограничения на Claude Code — трактуется как сознательное удержание технологий, усиливающее подозрения в монополизации. Риторика о «безопасности» и «благих намерениях» кажется кондесценциентной и лицемерной на фоне блокировки открытых инструментов и отказа от прозрачности. Сравнения с религией («сознание Клауда», обращения к папе) и с Microsoft в 90-х подчёркивают формирование культа личности и повторение модели закрытой экосистемы. Критики отмечают, что Dario Amodei, несмотря на намерения, стал частью системы, где власть искажает восприятие: он воспринимает себя как морального арбитра, а не инженера, служащего обществу. Предложения по регуляции, якобы поддерживающие малые компании, воспринимаются как легитимация монополии — они не решают фундаментальную проблему: зависимость от вычислительных ресурсов, которые остаются у крупных игроков. Даже если AI ускорит открытия, Anthropic не говорит, как обеспечит доступ к лечению, а не только к коду. Споры о том, стоит ли открывать код: одни считают это необходимым для восстановления доверия, другие — что это не решит концентрацию власти при дефиците ресурсов. Сравнение с Китаем: одни утверждают, что регуляция в США бессмысленна, так как другие страны её не соблюдают и она лишь укрепляет американскую монополию; другие — что она может задать глобальные стандарты, даже если не все их соблюдают. Технологические компании 25 лет систематически разрушали доверие, поэтому любые заявления о «спасении мира» теперь воспринимаются как манипуляция. Даже сторонники ИИ разочарованы отсутствием прорывов.

Калифорния приняла первый в США закон о безопасности передовых ИИ-систем — Transparency in Frontier Artificial Intelligence Act (SB 53). Закон устанавливает «разумные ограничения» на разработку frontier-моделей, чтобы повысить безопасность и доверие к технологиям, не подавляя инновации. Это продолжение инициатив штата после публикации отчёта рабочей группы экспертов, созванной по инициативе губернатора Ньюсома.

Закон основан на научно обоснованных рекомендациях, включая баланс между прозрачностью и защитой от рисков, например утечек данных. Сенатор Скотт Винер подчеркивает, что Калифорния как мировой лидер в технологиях берёт на себя ответственность за безопасное внедрение ИИ. Штат укрепляет позиции четвёртой экономики мира, одновременно стимулируя инновации и защищая общественные интересы.

• Обсуждение касается нового закона Калифорнии об ИИ, который требует от крупных разработчиков публиковать планы безопасности и отчитываться об инцидентах.
• Участники критикуют закон за размытые определения (например, что считается «моделью ИИ») и неадекватные штрафы за нарушения.
• Высказываются опасения, что закон может привести к цензуре, бюрократии и оттоку ИИ-компаний из Калифорнии.
• Некоторые видят в законе позитивный шаг к большей прозрачности и защите от потенциальных рисков ИИ.
• Закон рассматривается как возможность для коррупции и обогащения государственных подрядчиков через создание «индустрии безопасности ИИ».