A Jev that can ask Opus for help gives Opus accuracy at 4x lower cost 🔥 Горячее
Задача сопоставления записей с реальными людьми (identity resolution) сложна тем, что после объединения данных нет эталонного ответа для проверки, а главная ошибка — чрезмерное слияние, когда одна запись приписывается нескольким людям. Компания Hightouch проверила, справятся ли с оценкой качества такого слияния языковые модели и «решающие» модели Jev и Luna. Сразу «из коробки» обе показали точность 88,8–97,3%, но гибридная схема Jev + Opus дала точность передовых моделей при затратах более чем вчетверо ниже.
Ключевой вывод — важна калибровка уверенности. Luna точнее Jev «из коробки», но на сложных случаях разрыв исчезает: её ошибки приходят с высокой уверенностью, тогда как ошибки Jev — с низкой, поэтому в гибридной схеме Jev выигрывает. Решающие модели до 90 раз дешевле и более чем в 10 раз быстрее: 0,05–0,10 доллара за 1000 записей и около 0,15 секунды, но отстают от Opus примерно на 6 процентных пунктов на сложных тестах. На лёгком тесте гибрид Jev дал 98,8% при 0,88 доллара за 1000, гибрид Luna — 98,5% при 0,33 доллара; на сложном — 95,3% и 91,6% соответственно. Гибрид Jev ценен тем, что динамически тратит больше ресурсов на трудных случаях.
Комментарии (70)
Обсуждение дополняет статью кейсами использования архитектуры Model Router, где дешевые модели (Jev, Qwen) фильтруют запросы для дорогих. Подходы к иерархии различаются: @xlayn использует Qwen 3.8 27B для уточнения деталей перед отправкой запроса в Claude (Opus/Sonnet), чтобы снизить стоимость. @drkleiner ставит Opus над Qwen для планирования и управления саб-агентами с целью экономии токенов. Динамическое управление контекстом перспективно, но @yfontana отмечает риск снижения эффективности кэширования из-за ограничений prefix-matching. Дообучение (fine-tuning) решающей модели, по опыту @dangoodmanUT, позволяет сократить объем работы на 70% без потери качества при пороге уверенности около 10%. Эффективность схемы зависит от версий LLM: @netshade указывает, что с выходом Haiku 5.5 выгода от слоя принятия решений в ряде задач стала ничтожной. Для локального использования @johnshahbazian рекомендует JevK5 как альтернативу Jev. Критика и риски: — @angry_octet ставит под сомнение результаты статьи из-за ошибок в разметке данных (имена, форматы дат) и игнорирования культурного контекста. — @theptip выделяет проблему «неизвестных неизвестных»: модель может не запросить помощь из-за неосознанных пробелов в знаниях. — Специфика задачи identity resolution ставит под сомнение универсальность выводов.
OpenAI and Anthropic cut their LLM prices by up to 80% within a few months. Why?
За несколько месяцев OpenAI и Anthropic резко снизили цены на свои модели — местами до 80%. В июне 2026 года OpenAI выпустила GPT-5.6 Sol по прежней цене $5 / $30 / $0.50 и дешёвую Luna за $1 / $6 / $0.10. Anthropic ответила Claude Sonnet 5 с временной ценой $2 / $10 / $0.20, а затем Claude Opus 5 за $5 / $25 / $0.50. В конце июля OpenAI срезала цену Luna сразу на 80% — до $0.20 / $1.20 / $0.02; без этого шага модель проиграла бы DeepSeek V4 Pro по соотношению качества и стоимости. В августе Anthropic сделала скидку Sonnet 5 постоянной, а OpenAI урезала цену Sol примерно на 20% на три месяца.
Ключевой фактор — стоимость чтения кэша. При агентном кодировании на неё приходится 96–99% всех токенов, и попадание в кэш составляет 90–100%. Поэтому снижение цены чтения кэша у Fable 5.1 на 75% (при цене $10 / $50 / $0.25) означает падение общей стоимости использования модели на 70–75%. Другая причина — рост эффективности инфраструктуры: Opus 5.5 требует меньше вычислений, чем Opus 5. При этом OpenAI сократила лимиты в тарифе за $200 в месяц на 50%, объяснив это «возросшей эффективностью моделей». Автор задаётся вопросом, выгодно ли компаниям намеренно устаревать дорогие модели, и ждёт проспекта IPO Anthropic, чтобы увидеть маржу инференса.
Комментарии (122)
Тред дополняет статью причинами падения цен: конкуренцией (особенно со стороны китайских моделей Kimi, GLM, DeepSeek), аппаратными оптимизациями (KV-кеш, малые модели, кастомные чипы, развитие TPU/GPU) и давлением рынка. Данные DeepSeek о доходе $38/GPU/час подтверждают прибыльность оптимизации инференса и указывают на технологическое отставание OpenAI и Anthropic. Основные дискуссии: — Жизнеспособность компаний: одни уверены в стратегии игроков, другие указывают на убыточность и отсутствие бизнес-модели. — Тарифы: возможны ли «неограниченные» токены при линейном росте затрат на энергию. — Регулирование: поможет ли оно показать ROI инвесторам или создаст монополии и повысит цены. Риски: «гонка к дну» может привести к банкротствам и потере доверия к рынку. Совет: для экономии бюджета использовать альтернативные модели (Kimi, GLM) или их облегченные версии (Sol, Opus 5.5).
500B tokens later: Letting AI agents decompile a first-person shooter
Автор провёл три месяца, используя ИИ-агентов для декомпиляции популярного шутера от первого лица, стремясь не к прототипу, а к точному, стабильному и полнофункциональному воссозданию игры на C++. Вместе с командой из RektInator, Future, st0rm и других участников сообщества он сосредоточился на оркестрации автономных агентов, оптимизации инфраструктуры и отладке процесса, а не на самой игре или технике декомпиляции. Агенты работали в Claude Code и Codex CLI, используя модели вроде Sonnet 5, Opus 5.5 и Luna, отслеживая прогресс через GitHub Issues и общаясь в Discord, где публиковались также сбои CI. Для работы с бинарником применялся ida-mcp от Hex-Rays — стабильный и headless-инструмент. За первый месяц четыре агента (три воркера и один ревьювер) декомпилировали ~80% игры, запустили главное меню и загрузку карт, но позже обнаружили, что сгенерированный код был низкого качества, и попытки его исправить заняли больше времени, чем пересоздание с нуля — вывод: корректность важнее продуктивности. Для снижения расхода токенов порог компакции контекста был снижен с 90% до 42%, а для борьбы с дрейфом внимания агентов внедрялся почасовой сброс инструкций. К концу проекта использовалось 15+ агентов, что выявило новые сложности: периодический сброс VM из-за ошибочных команд привёл к потере логов, и автор оценивает общий расход в 600–700 млрд токенов, из которых ~300 млрд пришлись на Luna (эквивалентно ~3 млрд токенов Astra при соотношении 100:1). Из-за корпоративного давления название игры не раскрывается, код остаётся приватным, а автор сейчас развивает свой эмулятор Sogen для создания надёжного песочницы, необходимой для будущих подобных проектов. Orchestration ИИ-агентов оказалась гораздо сложнее, чем ожидалось, но дала бесценный опыт в управлении автономными системами в долгосрочной разработке.
Комментарии (101)
Тред дополняет статью практическими возражениями против цели байт-идентичности: указывает на избыточные затраты, альтернативные подходы к функциональной эквивалентности и роль качества модели, а также подчеркивает, что даже полная покрытость тестами не гарантирует идентичного поведения в сложных системах с глобальным состоянием. Спор: Некоторые считают байт-идентичный вывод избыточным и дорогим; другие настаивают, что только он гарантирует полную функциональную эквивалентность, включая неизвестные баги и поведение переполнений. Спор: Критики метода проверки последовательностей чтения/записи в RAM отмечают, что он не улавливает различия в поведении FPU, регистров или размещения переменных на стеке, при этом сохраняя семантическую эквивалентность. Совет: Опыт @aetherspawn показывает, что замена Sonnet на более мощную модель (Sol 6.1) снизила затраты с $1000 до $50 и ускорила завершение задачи с недели до двух дней. Совет: По опыту @momo5502, использование дешёвых моделей (Luna) при строгом харнессе позволяет эффективно обрабатывать сотни миллиардов токенов, что эквивалентно десяткам миллиардов токенов дорогих моделей. Спор: Участники отмечают, что даже с десятками тысяч тестов, покрывающих все ветки, невозможно гарантировать идентичное поведение из-за зависимости от глобального состояния и внешних данных, характерных для игр. Совет: Опыт @ChoosesBarbecue подтверждает, что глубокое знание игры (10 лет моддинга и эксплуатации) критически важно для успешной декомпиляции, иначе даже ИИ не справится с контекстом. Спор: Некоторые считают, что агентные системы не способны принимать архитектурные решения, требующие человеческого вкуса, что делает их непригодными для сложных систем без ручной настройки. Совет: Участник @edg5000 предлагает упростить процесс: вместо оркестрации агентов использовать один агент, что даёт лучший контроль над выводом, несмотря на большее время выполнения. Совет: Участник @tasubotadas отмечает, что даже без цели байт-идентичности процесс декомпиляции остаётся токен-интенсивным, особенно для редких игр с нестандартной архитектурой. Спор: Вопрос о легальности: участники спорят, каким образом использование ИИ для декомпиляции отличается от ручного — и нарушает ли это TOS, если модель не получает явных указаний на игру. Совет: Участник @stevefan1999 указывает, что динамические диспетчеры (vtable, fat pointers) и различия в выравнивании компилятора значительно усложняют декомпиляцию, даже для опытных разработчиков. Совет: Участник @Neywiny поднимает вопрос о влиянии LTO: если код скомпилирован с объединением единиц компиляции, декомпиляция становится практически невозможной из-за потери структуры. Совет: Участник @Fizz43 предупреждает, что утверждения об '80% совпадении' от ИИ — бессмысленны, так как не имеют смысла в контексте бинарной эквивалентности. Совет: Участник @Uptrenda отмечает, что ИИ-модели могут отказываться участвовать в декомпиляции, если им известны TOS, что ставит под сомнение возможность использования закрытых моделей без обфускации входных данных. Все согласны, что декомпиляция игр с помощью ИИ — это не просто техническая задача, а сложный инженерный процесс, требующий глубокого понимания как архитектуры, так и юридических рисков.
GPT-6 Sol and Luna 🔥 Горячее 💬 Длинная дискуссия
OpenAI представила две новые модели в семействе GPT-6 — Sol и Luna, чтобы расширить доступ к передовым возможностям Astra при более низкой стоимости и повышенной скорости. Sol и Luna созданы с использованием тех же методов обучения, что и Astra, но оптимизированы для повседневных задач: они демонстрируют улучшенную точность в профессиональной работе, кодировании, использовании компьютера и надёжности фактов, при этом работая быстрее и дешевле. Sol ориентирован на баланс производительности и цены, а Luna — на максимальную эффективность для масштабных и длительных взаимодействий.
Особое внимание уделено улучшению кэширования для агентов и длинных диалогов, что снижает задержки и расходы при повторных запросах. Также продолжается работа по выравниванию моделей с человеческими целями — Sol и Luna показывают более естественный, сотрудничающий стиль общения. Цены на API остаются привлекательными: Sol дешевле Astra на 40–60%, Luna — ещё на 20–30% дешевле Sol. Обе модели уже доступны через API, что позволяет разработчикам и бизнесам внедрять мощные ИИ-возможности без значительных затрат.
Комментарии (804)
OpenAI снизила цены на модели Sol и Luna примерно на 50 %: Sol с $4→$2 за входные токены и $20→$10 за выходные; Luna с $0.20→$0.10 и $1.20→$0.50. Luna стала самым дешёвым вариантом и дешевле большинства конкурентов, включая Deepseek 4.1 flash, считается лучшим соотношением цена/качество. На про‐плане Luna практически бесплатна для небольших и средних задач. Однако реальная выгода зависит от сценария: Sol требует вдвое больше рассуждений, что делает его медленнее и дороже в практике, несмотря на снижение цены. В некоторых кодовых бенчмарках Luna показывает небольшое падение качества — GPT‐6 Luna набирает на 2 пункта ниже, чем GPT‐5.6 Luna, хотя и в 60 % дешевле. Пользователи выражают опасения по поводу сохранения естественного взаимодействия, долгосрочной стабильности цен и прозрачности лимитов. Некоторые считают низкие цены временным маркетинговым ходом. Есть скепсис относительно способности новых моделей конкурировать с Anthropic Opus 5.5 при схожей цене. В планах Plus отмечена нехватка прозрачности: пользователи хотят видеть реальные токен‐лимиты и цены по моделям. Для уже отлаженных пайплайнов апгрейд не всегда оправдан — один пользователь оставил 5.6 Luna как дефолт, так как бенчмарк был настроен под него. Положительные отзывы о ChatGPT Plus: ограничений почти нет, продукты работают без сбоев, стоимость $23 в месяц считается оправданной. Визуально семейство 5.6 использует более яркие цвета, чем 6‐е — заметное, но небольшое различие. Совет: сравнивать анонсы OpenAI с конкурентными выпусками Anthropic для оценки реального преимущества новых моделей. Для простых запросов рекомендуется снижать уровень рассуждения (light/medium) или использовать более дешёвый модельный слой, а не переключаться сразу на Sol или Luna.