OpenAI is well positioned to fast-follow Jev

Jev от TypeSafe использует LLM как классификатор: вместо генерации текста он выдаёт вероятности токенов (например, true/false или вариантов выбора) и нормализует их в ответ. Этот подход, описанный ещё в 2025 году в посте про logprobs, позволяет получать мгновенные калиброванные решения без полной генерации. Jev быстро набрал популярность в AI Gateway от Vercel, став самой быстро adottой моделью в её истории.

Однако OpenAI уже давно использует LLM как неявные классификаторы — например, при tool calling или выборе между действиями. Если они формализуют этот подход и интегрируют его в свои модели, то смогут воспроизвести функционал Jev, добавив его в flagship-модели для быстрого принятия решений, эффективного мышления и улучшенных guardrails. Ключевой вопрос — есть ли у TypeSafe защита (моат), основанная на уникальных данных и процессах обучения. Если нет, OpenAI может быстро скопировать идею и вытеснить Jev, встроив её в свои системы для текста, изображений и речи. Diogo Almeida, CEO TypeSafe, верит, что качество модели обеспечит им долгосрочное преимущество.

Комментарии (221)

Jev не уникален: его подход — переоткрытие классификации с логитами, уже используемой в индустрии. Он легко реплицируется крупными лабораториями и open-source сообществом: альтернативы вроде Kev и vLLM достигают сопоставимой или лучшей точности, а open-weight версии появились за 24 часа. Jev не предлагает нового архитектурно — его суть в гибкости: изменение классов через промпт без переобучения, что удобнее традиционных классификаторов. Он не заменяет LLM, а дополняет их: снижает токен-потребление и ускоряет классификацию, но сложные рассуждения всё ещё требуют LLM. Преимущество Jev — в эргономике: проще и дешевле embedding-моделей для задач вроде фильтрации email. Однако он не решает фундаментальную проблему масштабной классификации — сбор качественных отрицательных примеров и калибровка. Многие считают, что энтузиазм вокруг Jev обусловлен незнанием базовых ML-техник, таких как логиты, известных давно. OpenAI и другие лаборатории могут добавить такой функционал за день — как embeddings — и сделать его стандартом. Секрет Jev, по мнению некоторых, — не в модели, а в данных и пост-тренировке с RLCD, что делает клоны на RLHF-LLM неэффективными. Открытые модели DeepSeek, Qwen и GLM с интегрированными классификаторами могут быть значимее коммерческого TypeSafe из-за доступности и настраиваемости. Самый реальный путь выживания TypeSafe — приобретение, если они быстро выпустят новые модели и станут привлекательны для крупных игроков. Для использования Jev в workflow (например, через OpenRouter) нужно проверить поддержку API с логитами и нормализацией вероятностей — это не стандарт. Jev похож на Htmx для AI: простой, фокусированный инструмент для конкретной задачи, потенциально стандарт для микросервисных AI-архитектур. Идея Jev не нова — она восходит к BART zero-shot classification и ранним моделям; её повторное открытие показывает возврат индустрии к простым, эффективным решениям.