Hybrid Reasoning Agents: LLM agents that think in latent space, act through text
Представлена архитектура «гибридных агентов рассуждения» (HybridAgents), которая позволяет языковой модели динамически переключаться между скрытым (латентным) рассуждением и текстовым взаимодействием в рамках единого процесса генерации. Современные агенты на основе больших языковых моделей по-прежнему рассуждают и действуют через текст, тогда как латентное рассуждение эффективнее как внутренняя среда, но лишено доступа к инструментам и прозрачности. Мост между этими подходами обеспечивает лёгкий компонент HybridLink, а непрерывная рабочая память сохраняет гибридный контекст без потерь между ходами. Это сохраняет возможности агента с интеграцией инструментов и делает скрытые мысли доступными для проверки.
Для обучения предложены два алгоритма: HybridSFT стабилизирует гибридную генерацию с инструментами, а HybridRL учит, когда думать в латентном пространстве, а когда действовать через текст. Оценка проведена на трёх масштабах моделей и 11 наборах задач по математике, науке, медицине, поиску и агентному рассуждению. По сравнению с передовыми агентами и фреймворками гибридный агент стабильно улучшает результат на 10,4% при сокращении числа токенов на 35,5–54,7%, ускорении вывода в 1,8–2,6 раза и снижении затрат в 2,7–3,7 раза.