AI is dramatically accelerating AI research
Согласно новому отчёту METR, порог «драматического ускорения» из политики ответственного масштабирования Anthropic, похоже, уже пройден. Между октябрём 2025 и октябрём 2026 года прогресс возможностей в Anthropic шёл примерно вдвое быстрее, чем за предыдущие двенадцать месяцев — по внутренней версии индекса возможностей Epoch (AECI). Причём значительная часть наиболее убедительных доказательств в отчёте засекречена: авторы называют её «большинством доказательств, которые мы сочли наиболее информативными».
Главное — в причине. Хотя ускорение поначалу могло запуститься по разным причинам, сегодня сохранение этого темпа, вероятно, в основном объясняется автоматизацией исследований и разработок в области ИИ, а не ростом вычислительных мощностей или других ресурсов. Обоснования этого вывода тоже засекречены. Автор считает отчёт важнейшим сигналом о рисках ИИ за последние пары лет — куда значимее нашумевшей атаки на Hugging Face — и отмечает, что он указывает на более короткие сроки, чем предполагали даже авторы проекта «AI 2027».
Ключевой нюанс: если ИИ примерно удваивает общий прогресс возможностей, то человеческих исследователей он должен ускорять гораздо сильнее. Этот эвристический довод согласуется с моделями, где рекурсивное самосовершенствование делает скорость прогресса экспоненциальной по накопленному прогрессу. Порог AI R&D-5 в прежней формулировке был слабее: он требовал годового прироста эффективных вычислений примерно в 1000 раз (35², где 35 — среднегодовой рост масштабов в 2018–2024 годах) и формально не требовал привязки к автоматизации.