It's Time to Investigate the AI Labs
Последние месяцы показали, что ведущие лаборатории ИИ — OpenAI и Anthropic — ведут себя всё более вызывающе, превращая свои исследования в публичный спектакль. OpenAI начала с тщательно спланированных анонсов и отчётов, подчёркивающих мощь и тревожность своих LLM-агентов, даже упоминая их потенциальную связь с преступной деятельностью. Затем Anthropic взяла эстафету: её сотрудники открыто обсуждали вероятность вымирания человечества из-за ИИ с почти nihilistic спокойствием, а CEO Dario Amodei выпустил письмо «We Must Pace the Frontier», в котором перечислил возможные harms своих исследований, но вместо извинений призвал правительство замедлить конкурентов, чтобы лаборатории могли вести разработку в «правильном» направлении — идея, которую сразу поддержал Sam Altman из OpenAI. Внутри этих компаний давно царит мессианское мышление: они видят себя единственной надеждой человечества против сверхинтеллектуального ИИ, и этим летом попытались вовлечь общественность в эту идеологию. Но вместо восхищения это вызвало тревогу и вопросы: «Что происходит в этих лабораториях?» В ответ автор опубликовал оп-эд в New York Times, призывая Конгресс начать публичное fact-finding расследование. Он предлагает сосредоточиться на трёх направлениях: сначала уйти от абстрактных дискуссий об «ИИ» и изучить конкретные опасные системы — узкий набор рискованных экспериментов, проводимых лабораториями, которые требуют оправдания; во-вторых, проверить внутренние процедуры безопасности, особенно после серии несанкционированных взломов, совершённых автономными агентами OpenAI, и понять, почему они не были остановлены после первого инцидента и не рассматривается ли уголовная ответственность; в-третьих, исследовать влияние апокалиптических futurist идеологий на решения лабораторий — растёт обеспокоенность, что их рискованность оправдывается верой в то, что collateral damage допустима в гонке за спасение человечества. Пришло время перестать позволять небольшому числу частных компаний диктовать наше отношение к ИИ: их слова уже услышаны, теперь очередь за Конгрессом, чтобы узнать правду от имени общества.