An Alien Mind
В 2023 году в рамках проекта RLSlow OpenAI впервые увидела, что модели могут формировать собственные цепочки рассуждений, что открыло путь к масштабированию способностей к мышлению. Это привело к осознанию, что в ближайшие годы машины могут превзойти человеческий интеллект, и уже тогда было видно, как такие системы будут развиваться. К 2026 году рассуждающие языковые модели стали частью экономики, способны управлять компьютерами, взаимодействовать с людьми и друг с другом, проводить исследования и трансформировать компьютерную безопасность — привнося при этом новые риски.
Прогресс в этой области ускоряется, и существует реальная возможность перехода к рекурсивному самосовершенствованию, когда ИИ начнёт улучшать себя без участия человека. Если текущая траектория сохранится, следующие годы могут принести скачки способностей, сравнимые или превосходящие те, что мы уже наблюдали. Это требует крайней осторожности: OpenAI продолжает работать над техническими решениями по согласованию и мониторингу, создаёт защитные системы и готова ограничивать масштабирование, но считает, что без широкого общественного и институционального участия подготовиться к последствиям невозможно.