Hacker News Digest

Тег: #luna

Постов: 4

A Jev that can ask Opus for help gives Opus accuracy at 4x lower cost (hightouch.com) 🔥 Горячее

Задача сопоставления записей с реальными людьми (identity resolution) сложна тем, что после объединения данных нет эталонного ответа для проверки, а главная ошибка — чрезмерное слияние, когда одна запись приписывается нескольким людям. Компания Hightouch проверила, справятся ли с оценкой качества такого слияния языковые модели и «решающие» модели Jev и Luna. Сразу «из коробки» обе показали точность 88,8–97,3%, но гибридная схема Jev + Opus дала точность передовых моделей при затратах более чем вчетверо ниже.

Ключевой вывод — важна калибровка уверенности. Luna точнее Jev «из коробки», но на сложных случаях разрыв исчезает: её ошибки приходят с высокой уверенностью, тогда как ошибки Jev — с низкой, поэтому в гибридной схеме Jev выигрывает. Решающие модели до 90 раз дешевле и более чем в 10 раз быстрее: 0,05–0,10 доллара за 1000 записей и около 0,15 секунды, но отстают от Opus примерно на 6 процентных пунктов на сложных тестах. На лёгком тесте гибрид Jev дал 98,8% при 0,88 доллара за 1000, гибрид Luna — 98,5% при 0,33 доллара; на сложном — 95,3% и 91,6% соответственно. Гибрид Jev ценен тем, что динамически тратит больше ресурсов на трудных случаях.

by theanomaly • 06 ноября 2026 г. в 19:48 • 334 points

Оригинал • HN

#hightouch#identity-resolution#jev#llm#luna#opus

Комментарии (70)

Обсуждение дополняет статью кейсами использования архитектуры Model Router, где дешевые модели (Jev, Qwen) фильтруют запросы для дорогих. Подходы к иерархии различаются: @xlayn использует Qwen 3.8 27B для уточнения деталей перед отправкой запроса в Claude (Opus/Sonnet), чтобы снизить стоимость. @drkleiner ставит Opus над Qwen для планирования и управления саб-агентами с целью экономии токенов. Динамическое управление контекстом перспективно, но @yfontana отмечает риск снижения эффективности кэширования из-за ограничений prefix-matching. Дообучение (fine-tuning) решающей модели, по опыту @dangoodmanUT, позволяет сократить объем работы на 70% без потери качества при пороге уверенности около 10%. Эффективность схемы зависит от версий LLM: @netshade указывает, что с выходом Haiku 5.5 выгода от слоя принятия решений в ряде задач стала ничтожной. Для локального использования @johnshahbazian рекомендует JevK5 как альтернативу Jev. Критика и риски: — @angry_octet ставит под сомнение результаты статьи из-за ошибок в разметке данных (имена, форматы дат) и игнорирования культурного контекста. — @theptip выделяет проблему «неизвестных неизвестных»: модель может не запросить помощь из-за неосознанных пробелов в знаниях. — Специфика задачи identity resolution ставит под сомнение универсальность выводов.

OpenAI and Anthropic cut their LLM prices by up to 80% within a few months. Why? (minimaxir.com)

За несколько месяцев OpenAI и Anthropic резко снизили цены на свои модели — местами до 80%. В июне 2026 года OpenAI выпустила GPT-5.6 Sol по прежней цене $5 / $30 / $0.50 и дешёвую Luna за $1 / $6 / $0.10. Anthropic ответила Claude Sonnet 5 с временной ценой $2 / $10 / $0.20, а затем Claude Opus 5 за $5 / $25 / $0.50. В конце июля OpenAI срезала цену Luna сразу на 80% — до $0.20 / $1.20 / $0.02; без этого шага модель проиграла бы DeepSeek V4 Pro по соотношению качества и стоимости. В августе Anthropic сделала скидку Sonnet 5 постоянной, а OpenAI урезала цену Sol примерно на 20% на три месяца.

Ключевой фактор — стоимость чтения кэша. При агентном кодировании на неё приходится 96–99% всех токенов, и попадание в кэш составляет 90–100%. Поэтому снижение цены чтения кэша у Fable 5.1 на 75% (при цене $10 / $50 / $0.25) означает падение общей стоимости использования модели на 70–75%. Другая причина — рост эффективности инфраструктуры: Opus 5.5 требует меньше вычислений, чем Opus 5. При этом OpenAI сократила лимиты в тарифе за $200 в месяц на 50%, объяснив это «возросшей эффективностью моделей». Автор задаётся вопросом, выгодно ли компаниям намеренно устаревать дорогие модели, и ждёт проспекта IPO Anthropic, чтобы увидеть маржу инференса.

by minimaxir • 25 октября 2026 г. в 21:11 • 98 points

Оригинал • HN

#anthropic#claude-opus-5#claude-sonnet-5#deepseek-v4-pro#fable-5.1#gpt-5.6-sol#luna#openai#opus-5#opus-5.5

Комментарии (122)

Тред дополняет статью причинами падения цен: конкуренцией (особенно со стороны китайских моделей Kimi, GLM, DeepSeek), аппаратными оптимизациями (KV-кеш, малые модели, кастомные чипы, развитие TPU/GPU) и давлением рынка. Данные DeepSeek о доходе $38/GPU/час подтверждают прибыльность оптимизации инференса и указывают на технологическое отставание OpenAI и Anthropic. Основные дискуссии: — Жизнеспособность компаний: одни уверены в стратегии игроков, другие указывают на убыточность и отсутствие бизнес-модели. — Тарифы: возможны ли «неограниченные» токены при линейном росте затрат на энергию. — Регулирование: поможет ли оно показать ROI инвесторам или создаст монополии и повысит цены. Риски: «гонка к дну» может привести к банкротствам и потере доверия к рынку. Совет: для экономии бюджета использовать альтернативные модели (Kimi, GLM) или их облегченные версии (Sol, Opus 5.5).

500B tokens later: Letting AI agents decompile a first-person shooter (momo5502.com)

Автор провёл три месяца, используя ИИ-агентов для декомпиляции популярного шутера от первого лица, стремясь не к прототипу, а к точному, стабильному и полнофункциональному воссозданию игры на C++. Вместе с командой из RektInator, Future, st0rm и других участников сообщества он сосредоточился на оркестрации автономных агентов, оптимизации инфраструктуры и отладке процесса, а не на самой игре или технике декомпиляции. Агенты работали в Claude Code и Codex CLI, используя модели вроде Sonnet 5, Opus 5.5 и Luna, отслеживая прогресс через GitHub Issues и общаясь в Discord, где публиковались также сбои CI. Для работы с бинарником применялся ida-mcp от Hex-Rays — стабильный и headless-инструмент. За первый месяц четыре агента (три воркера и один ревьювер) декомпилировали ~80% игры, запустили главное меню и загрузку карт, но позже обнаружили, что сгенерированный код был низкого качества, и попытки его исправить заняли больше времени, чем пересоздание с нуля — вывод: корректность важнее продуктивности. Для снижения расхода токенов порог компакции контекста был снижен с 90% до 42%, а для борьбы с дрейфом внимания агентов внедрялся почасовой сброс инструкций. К концу проекта использовалось 15+ агентов, что выявило новые сложности: периодический сброс VM из-за ошибочных команд привёл к потере логов, и автор оценивает общий расход в 600–700 млрд токенов, из которых ~300 млрд пришлись на Luna (эквивалентно ~3 млрд токенов Astra при соотношении 100:1). Из-за корпоративного давления название игры не раскрывается, код остаётся приватным, а автор сейчас развивает свой эмулятор Sogen для создания надёжного песочницы, необходимой для будущих подобных проектов. Orchestration ИИ-агентов оказалась гораздо сложнее, чем ожидалось, но дала бесценный опыт в управлении автономными системами в долгосрочной разработке.

by davikr • 11 октября 2026 г. в 02:02 • 134 points

Оригинал • HN

#c++#claude-code#codex-cli#discord#github#hex-rays#ida-mcp#luna#sogen#sonnet5

Комментарии (101)

Тред дополняет статью практическими возражениями против цели байт-идентичности: указывает на избыточные затраты, альтернативные подходы к функциональной эквивалентности и роль качества модели, а также подчеркивает, что даже полная покрытость тестами не гарантирует идентичного поведения в сложных системах с глобальным состоянием. Спор: Некоторые считают байт-идентичный вывод избыточным и дорогим; другие настаивают, что только он гарантирует полную функциональную эквивалентность, включая неизвестные баги и поведение переполнений. Спор: Критики метода проверки последовательностей чтения/записи в RAM отмечают, что он не улавливает различия в поведении FPU, регистров или размещения переменных на стеке, при этом сохраняя семантическую эквивалентность. Совет: Опыт @aetherspawn показывает, что замена Sonnet на более мощную модель (Sol 6.1) снизила затраты с $1000 до $50 и ускорила завершение задачи с недели до двух дней. Совет: По опыту @momo5502, использование дешёвых моделей (Luna) при строгом харнессе позволяет эффективно обрабатывать сотни миллиардов токенов, что эквивалентно десяткам миллиардов токенов дорогих моделей. Спор: Участники отмечают, что даже с десятками тысяч тестов, покрывающих все ветки, невозможно гарантировать идентичное поведение из-за зависимости от глобального состояния и внешних данных, характерных для игр. Совет: Опыт @ChoosesBarbecue подтверждает, что глубокое знание игры (10 лет моддинга и эксплуатации) критически важно для успешной декомпиляции, иначе даже ИИ не справится с контекстом. Спор: Некоторые считают, что агентные системы не способны принимать архитектурные решения, требующие человеческого вкуса, что делает их непригодными для сложных систем без ручной настройки. Совет: Участник @edg5000 предлагает упростить процесс: вместо оркестрации агентов использовать один агент, что даёт лучший контроль над выводом, несмотря на большее время выполнения. Совет: Участник @tasubotadas отмечает, что даже без цели байт-идентичности процесс декомпиляции остаётся токен-интенсивным, особенно для редких игр с нестандартной архитектурой. Спор: Вопрос о легальности: участники спорят, каким образом использование ИИ для декомпиляции отличается от ручного — и нарушает ли это TOS, если модель не получает явных указаний на игру. Совет: Участник @stevefan1999 указывает, что динамические диспетчеры (vtable, fat pointers) и различия в выравнивании компилятора значительно усложняют декомпиляцию, даже для опытных разработчиков. Совет: Участник @Neywiny поднимает вопрос о влиянии LTO: если код скомпилирован с объединением единиц компиляции, декомпиляция становится практически невозможной из-за потери структуры. Совет: Участник @Fizz43 предупреждает, что утверждения об '80% совпадении' от ИИ — бессмысленны, так как не имеют смысла в контексте бинарной эквивалентности. Совет: Участник @Uptrenda отмечает, что ИИ-модели могут отказываться участвовать в декомпиляции, если им известны TOS, что ставит под сомнение возможность использования закрытых моделей без обфускации входных данных. Все согласны, что декомпиляция игр с помощью ИИ — это не просто техническая задача, а сложный инженерный процесс, требующий глубокого понимания как архитектуры, так и юридических рисков.

GPT-6 Sol and Luna (openai.com) 🔥 Горячее 💬 Длинная дискуссия

OpenAI представила две новые модели в семействе GPT-6 — Sol и Luna, чтобы расширить доступ к передовым возможностям Astra при более низкой стоимости и повышенной скорости. Sol и Luna созданы с использованием тех же методов обучения, что и Astra, но оптимизированы для повседневных задач: они демонстрируют улучшенную точность в профессиональной работе, кодировании, использовании компьютера и надёжности фактов, при этом работая быстрее и дешевле. Sol ориентирован на баланс производительности и цены, а Luna — на максимальную эффективность для масштабных и длительных взаимодействий.

Особое внимание уделено улучшению кэширования для агентов и длинных диалогов, что снижает задержки и расходы при повторных запросах. Также продолжается работа по выравниванию моделей с человеческими целями — Sol и Luna показывают более естественный, сотрудничающий стиль общения. Цены на API остаются привлекательными: Sol дешевле Astra на 40–60%, Luna — ещё на 20–30% дешевле Sol. Обе модели уже доступны через API, что позволяет разработчикам и бизнесам внедрять мощные ИИ-возможности без значительных затрат.

by OfficialTurkey • 22 сентября 2026 г. в 18:00 • 1674 points

Оригинал • HN

#api#astra#gpt-6#llm#luna#machine-learning#openai#sol

Комментарии (804)

OpenAI снизила цены на модели Sol и Luna примерно на 50 %: Sol с $4→$2 за входные токены и $20→$10 за выходные; Luna с $0.20→$0.10 и $1.20→$0.50. Luna стала самым дешёвым вариантом и дешевле большинства конкурентов, включая Deepseek 4.1 flash, считается лучшим соотношением цена/качество. На про‐плане Luna практически бесплатна для небольших и средних задач. Однако реальная выгода зависит от сценария: Sol требует вдвое больше рассуждений, что делает его медленнее и дороже в практике, несмотря на снижение цены. В некоторых кодовых бенчмарках Luna показывает небольшое падение качества — GPT‐6 Luna набирает на 2 пункта ниже, чем GPT‐5.6 Luna, хотя и в 60 % дешевле. Пользователи выражают опасения по поводу сохранения естественного взаимодействия, долгосрочной стабильности цен и прозрачности лимитов. Некоторые считают низкие цены временным маркетинговым ходом. Есть скепсис относительно способности новых моделей конкурировать с Anthropic Opus 5.5 при схожей цене. В планах Plus отмечена нехватка прозрачности: пользователи хотят видеть реальные токен‐лимиты и цены по моделям. Для уже отлаженных пайплайнов апгрейд не всегда оправдан — один пользователь оставил 5.6 Luna как дефолт, так как бенчмарк был настроен под него. Положительные отзывы о ChatGPT Plus: ограничений почти нет, продукты работают без сбоев, стоимость $23 в месяц считается оправданной. Визуально семейство 5.6 использует более яркие цвета, чем 6‐е — заметное, но небольшое различие. Совет: сравнивать анонсы OpenAI с конкурентными выпусками Anthropic для оценки реального преимущества новых моделей. Для простых запросов рекомендуется снижать уровень рассуждения (light/medium) или использовать более дешёвый модельный слой, а не переключаться сразу на Sol или Luna.