Introducing System One Models and Jev

TypeSafe AI представила System One Models — новый класс моделей, ориентированных на быстрые, структурированные решения для автоматизации, а не на генерацию текста. Их первая модель Jev доступна в раннем доступе и достигает уровня интеллекта существующих LLM на задачах типа «System One» (быстрые, типизированные решения), но работает в 100 раз быстрее и эффективнее благодаря новой архитектуре, параллельному сэмплеру и методу обучения Reinforcement Learning for Calibrated Decisions (RLCD). В отличие от LLM, Jev не генерирует строки — он выдаёт type-safe структурированные значения с калиброванными вероятностями и уверенностью, полностью исключая галлюцинации и типовые ошибки. Выход модели определён заранее (например, enum до 255 вариантов), что делает его пригодным для прямого использования в коде без парсинга и валидации.

Jev оптимизирован для задач, где нужны надёжные, быстрые решения на основе неструктурированного входа (текст, состояние программы), например, выбор действия, классификация или конфигурация. Стоимость входа — $0.042 за миллиард токенов (в 5–200 раз дешевле, чем у LLM), выход — бесплатен. Время отклика: 70–500 мс против 3–329 секунд у frontier LLM, что делает его 40–200 раз быстрее при эквивалентном интеллекте. Название отсылает к «System 1» мышлению Канемана и экономисту Уильяму Стэнли Джевонсу, чей парадокс эффективности предвещает взрыв спроса при снижении стоимости интеллекта. TypeSafe планирует расширять доступ и собирать обратную связь от разработчиков о том, какие решения стоит автоматизировать дальше.

Комментарии (459)

Обсуждение подтверждает, что Jev — не просто ускоренная LLM, а архитектурно иной подход к структурированным инференс-задачам, где скорость и стоимость важнее генеративной гибкости, но требует прозрачности в оценке уверенности и корректного сравнения с существующими решениями.

Спор: Jev не может 'не галлюцинировать' — он может выдавать только валидные типы, но при этом ошибаться в логике, например, вернуть корректный, но неверный ответ в классификации, что не отличается от LLM с харнессом.
Спор: Сравнение скорости Jev (70-500 мс) с LLM (3-329 с) обманчиво, если LLM выполняет сложный chain-of-thought, а Jev решает узкую структурированную задачу без генерации текста.
Jev эффективен для задач классификации, маршрутизации, оценки и извлечения, где ручная логика слишком хрупка, а структурированный вывод позволяет интегрировать модель в существующий код как 'размытые правила решения'.
Стоимость ввода $0.042/MTok и бесплатный вывод делают Jev экономически привлекательным для масштабных задач, таких как классификация 1 млн транскриптов, где LLM были слишком дороги.
Jev подходит для использования в распределённых системах (например, Kafka), где только ответы с высокой уверенностью (>0.8) должны передаваться дальше, а низкоуверенные — перенаправляться на ручную проверку.
Совет: Для применения Jev в продакшене нужно чётко определять, что означают вероятности — они должны отражать не просто уверенность модели, а статистическую надёжность на конкретном распределении данных.
Jev можно рассматривать как 'умный бинарный классификатор' с возможностью задавать произвольные вопросы к структурированным данным, что делает его мощным инструментом для извлечения информации из договоров и документов.
Использование Jev в качестве 'бедного ранжирования' позволяет стартапам быстро решать задачи вроде ранжирования 1000 статей по релевантности без сложных ML-пайплайнов.
Спор: Утверждение, что Jev — не LLM, вводит в заблуждение: документация показывает, что он основан на предобученной LLM с пост-обучением, что делает его производным, а не принципиально иным архитектурным решением.
Совет: Для промышленного внедрения Jev нужна интеграция через централизованные платформы (AWS Bedrock, OpenRouter), чтобы избежать сложных процессов compliance и безопасности при добавлении новых вендоров.
Jev особенно полезен для задач, где требуется сочетание доменного знания (например, генеалогические имена с правилами Soundex) и гибкости, которую не дают жёсткие if-else деревья.
Jev может быть использован для автоматического заполнения Wikidata — подавать свойства как вопросы с вариантами ответов и использовать модель для выбора наиболее вероятного значения.
Совет: Для оценки надёжности Jev нужен реальный тест, наподобие 'диспетчера воздушного движения' — где ошибка в классификации может иметь последствия, а не просто 'не галлюцинирует'.
Jev позволяет 'дистиллировать' знания из передовых LLM (например, GPT-6) в дешёвую и быструю модель, что делает его экономически эффективным решением для задач, не требующих генерации текста.
Спор: Технология Jev не нова — это похоже на GliNER или регрессионные головы на трансформерах, и подобные подходы существовали ещё до LLM, но ранее не получили внимания из-за плохого позиционирования.