Hacker News Digest

EmbeddingGemma 2 — это открытая мультимодальная модель эмбеддингов на базе Gemma 4 с 740 миллионами параметров, лицензированная под Apache 2.0. Она объединяет текст, изображения, аудио и видео в едином пространстве эмбеддингов, оптимизирована для работы на устройстве и поддерживает динамическое сокращение размерности через Matryoshka Representation Learning (MRL) — от 768 до 128 измерений, что снижает потребление памяти до 6 раз. На Google Pixel 11 Pro полная версия использует ~567 МБ активной RAM, а текстовая часть — всего ~191 МБ при квантовании.

Модель демонстрирует лучшее качество в своём классе: улучшила результат на MTEB Code на 9.92 пункта (с 68.76 до 78.68), превосходя многие более крупные модели. Поддерживает контекст до 8K токенов — достаточно для обработки 5.5 минут аудио, 29 изображений или 58 видеокадров на устройстве. Доступна на Hugging Face и Kaggle, совместима с MediaPipe, LiteRT, transformers.js, Ollama, llama.cpp и векторными базами вроде Qdrant. Подходит для локального поиска по коду, аудио и видео, а также для fine-tuning под конкретные задачи через Unsloth.

EmbeddingGemma 2 подходит для локального и self‐hosted использования благодаря лицензии Apache 2.0 и небольшому размеру. На ноутбуке Apple M3 Pro достигается производительность: ~78 эмбеддингов/сек для текста, 4 /сек для изображений, 6 /сек для аудио и 0,2 /сек для минут видео. Основные сценарии применения — семантический поиск изображений по тексту и наоборот, а также мультимедийный поиск в юридических анализах. Модель не имеет собственного OCR‐энкодера, поэтому для распознавания текста на изображениях требуется внешний OCR‐модуль. Для снижения вычислительной нагрузки рекомендуется динамическое сокращение размерности (MRL) от 768 до 128 измерений. Параметры модели распределены так: 740 млн всего — 270 млн текст, 170 млн зрение, 300 млн аудио, что объясняет разницу в скорости по модальностям. Пользователи могут запускать модель локально или арендовать GPU за $1‐2 в час для пакетной обработки. Для объективной оценки качества советуют сравнивать с открытыми моделями вроде VoyageAI, хотя некоторые считают её нишевой. Упоминается собственный инструмент для ускорения локального создания эмбеддингов (от minimaxir), но он пока не опубликован. Лицензия Apache 2.0 исключает риск закрытия доступа со стороны поставщика.

Mistral Large 4 — это открытая мультимодальная модель с архитектурой Mixture-of-Experts, содержащая 49 миллиардов активных параметров и 1,05 триллиона общих параметров, дополненная 1,6-миллиардным визуальным энкодером. Она поддерживает контекст до 1 миллиона токенов и доступна в публичном превью с 6 октября 2026 года. Модель оптимизирована для высокой производительности и скорости, предлагая структурированные выходы, вызов функций, обработку документов и работу с агентами через API.

Стоимость использования составляет $0,07 за миллион входных токенов (кешированные — $0,07), $2,09 за миллион выходных токенов и $0,68 за миллион токенов в режиме приоритета. Доступны инструменты для батч-обработки, чат-комплектации и интеграции с агентами. Mistral Large 4 позиционируется как универсальное решение для сложных задач, требующих понимания текста и изображений при большом контексте и низкой латентности.

Mistral Large 4 — стратегический шаг к европейской AI-суверенности. Её производительность в кибербезопасности (82% на CyberGym-E2E) превосходит GLM-5.3 и закрытые модели, а визуальное понимание (42% на Dense 200) сопоставимо с GPT-6 Astra. Точность в аналитических задачах выросла с 58% до 74%, цена на 10x ниже Mistral Medium 3.5. Модель дешевле Kimi K3 и GLM-5.3, но дороже их быстрых версий (например, GLM-5.3-flash), и для оправдания цены должна быть значительно лучше — чего пока не наблюдается. Она уступает GPT-6 Luna по скорости, лаконичности и общей производительности, несмотря на более высокую цену. Обучение на 3800 GPU в Европе показывает, что небольшие кластеры могут конкурировать с моделями, обученными на сотнях тысяч GPU. Mistral Large 4 лучше справляется с французским языком, чем GLM-5.3, что важно для европейских пользователей, соблюдающих GDPR или избегающих китайских поставщиков. Пользователи рекомендуют тестировать через Hermes и Plotly-бенчмарки: реальная эффективность в аналитике и программировании превосходит ожидания, несмотря на низкие общие рейтинги. Есть слабости в вызове инструментов (например, не работает с jq после JSON), что ограничивает применение в сложных workflow. Открытый доступ вызывает опасения роста рисков кибератак. Модель не достигла Pareto-оптимальности, но быстро приближается к ней; RL-финальная версия до конца месяца может изменить баланс. По сравнению с DeepSeek 4.1 Flash — дороже и медленнее, но с лучшей поддержкой европейских языков и этических стандартов. Несмотря на 1,05 трлн параметров, активных всего 49 млрд благодаря Mixture-of-Experts, что делает инференс экономичным. Mistral Large 4 — первая открытая модель с европейским размещением, достаточной производительностью для ежедневного использования и символом альтернативы доминирующим игрокам.

Qwen3.8-Omni-Flash — новая модель от Alibaba, ориентированная на агентные задачи с поддержкой текста, изображений, аудио и видео в одном контексте до 1 млн токенов. Она не просто воспринимает мультимодальные данные, а планирует действия, вызывает инструменты и выполняет сложные рабочие процессы: редактирование видео, создание музыкальных клипов, синтез комментариев, суммаризация аудиовизуального контента и реальное время общения. Модель показала рост на 25% в среднем по 29 тестам по сравнению с предыдущей версией, а стоимость обработки аудио снизилась более чем на 98%, а аудиовизуальных данных — на 93%.

Особые достижения включают улучшение понимания длинных аудио- и видеороликов: +8.3 балла на LongAudioSpan, +9.6 на OmniVideoBench, а точность распознавания речи в многоголосовых сценариях (AliMeeting DER) упала с 88.11 до 3.35. Qwen3.8-Omni-Flash достигла уровня Gemini 3.8 Flash в аудиовизуальных задачах и превзошла его в аудио-аналитике. Для разработчиков доступен фреймворк Qwen-Live-Harness — инструмент для создания интерактивных агентов с долгосрочной памятью и управлением контекстом. Модель уже доступна через Alibaba Cloud и Qwen Studio.

Обсуждение дополняет статью реальными практиками выбора и оценки моделей: пользователи делятся инструментами (openrouter auto‐model, models.dev CLI, costgoat), советами по старту с дешёвыми моделями и постепенному повышению качества, подчёркивают ценовое преимущество Qwen 3.8 Omni Flash перед Gemini, но отмечают ограниченную доступность, отсутствие открытых весов и необходимость собственного бенчмаркинга, а также разъясняют смысл названий (Omni, Flash, Ultra, Pro). Совет: Начинайте с дешёвых моделей (например GLM 5.3 Flash) и только при необходимости переходите к более дорогим, проверяя, можно ли улучшить результат за счёт контекста или дополнительных инструментов. Совет: Используйте готовые CLI‐инструменты (models.dev, HuggingFace CLI, costgoat) для автоматического сравнения стоимости и производительности разных моделей. Совет: Проводите собственные небольшие бенчмарки, ориентированные на ваши ключевые метрики, чтобы оценить реальную пригодность модели в вашем сценарии. Совет: Для выбора модели по стоимости и бюджету можно воспользоваться функцией auto‐model от OpenRouter, которая подбирает модель по запросу и бюджету. Названия моделей отражают их фокус: "Flash" — скорость и компактность, "Omni" — мульти‐модальный ввод/вывод, "Pro/Ultra" — более глубокие рассуждения и лучшую точность за счёт большего времени вычисления. Qwen 3.8 Omni Flash предлагает существенно более низкую цену за токен (≈0.15 $/M токенов) по сравнению с Gemini (≈1.5 $/M токенов), что делает её привлекательной для больших контекстов. Модели Qwen часто недоступны в открытом виде и требуют использования облака Alibaba, а их токен‐планы считаются «строгими». Пользователи отмечают, что Qwen 3.8 Max более «заземлённый» и надёжный, но медленнее и дороже в эксплуатации. Спор: Одна сторона утверждает, что Китай может быстро выпускать модели благодаря государственной поддержки и использованию открытых данных, в то время как Европа отстаёт из‐за ограниченного финансирования, регулятивных барьеров и меньшего количества крупных GPU‐парков; другая сторона контраргументирует, что в Европе есть проекты (Mistral, Flux, LightOn) и сильные исследовательские школы, но они фокусируются на специализированных моделях и сталкиваются с более строгими правилами. Совет: При оценке новых моделей учитывайте не только цену за токен, но и среднее количество токенов, необходимых для выполнения конкретной задачи, так как эффективность может сильно различаться. Некоторые ссылки и репозитории (например, harness‐repo) уже удалены, что усложняет проверку заявленных возможностей моделей.

DeepSeek представил модель V4.1-Flash — самую компактную в новой архитектурной линейке с нативным пониманием изображений. Она сочетает повышенную способность, ускоренный вывод и высокую пропускную способность, а также спроектирована для лёгкого масштабирования до более крупных версий. Ключевое преимущество — асимметричная MoE-архитектура на 552 млрд параметров, где для обработки входа активируются всего 8 млрд, а для генерации — 16 млрд параметров, что резко снижает вычислительные затраты при сохранении высокой производительности.

V4.1-Flash также значительно уменьшает требования к кэшу ключей и значений: по сравнению с предыдущим поколением потребляет в четыре раза меньше HBM-памяти и в восемь раз меньше SSD-хранилища, что критично для снижения стоимости работы агентных систем. Модель уже доступна через DeepSeek API под именем deepseek-flash с нативной мультимодальной поддержкой, а старые версии V4-Flash и V4-Flash-Vision-Exp перенаправляются на неё для обратной совместимости. Доступна для загрузки на Hugging Face.

DeepSeek V4.1-Flash — архитектурный прорыв с асимметричной MoE и сокращением KV-кэша до 890 байт на токен за счёт Causal Encoder-Decoder с проекцией кэша из состояний энкодера, а не из каждого слоя декодера (в 4 раза меньше, чем у V4 Flash). Это снижает стоимость кэш-хита до $0.003/млн токен, делая трансфер контекста потенциально доминирующим фактором затрат и ставя под сомнение традиционные API-запросы. Модель масштабом 552B не помещается в 128 ГБ даже на двухкарточных системах — локальный запуск требует квантизации ниже 4 бит. Превосходит в специализированных бенчмарках (Terminal-Bench 2.1, DeepSWE, NL2Repo), уступает GPT-6 Astra и Opus 5.6 в GPQA Diamond и SEC-Bench Pro — производительность неоднородна. Поддерживает мультимодальность, эффективна в визуальном QA, пригодна для инженерных задач. Высока в кодировании и CLI, но некорректно обрабатывает форматы вывода (игнорирует <bash></bash>), иногда отвечает китайским на английские запросы — проблемы с локализацией и детекцией языка. Сжигает больше reasoning-токенов, чем Gemini 3.8 Flash, снижая эффективность в one-shot. Скорость на OpenRouter упала с 400–500 до ~150 токенов/сек, но остаётся в 100% быстрее предыдущих версий при низкой стоимости. Для голосового ассистента нужна версия с отключённым reasoning — текущая добавляет неприемлемую задержку. Споры: название «Flash» не соответствует классическому пониманию — модель вдвое крупнее V4 Flash (284B). Заявления о снижении цен противоречат реальному росту тарифов: вход/выход выросли с $0.10/$0.25 до $0.30/$1.20. Совет: для тестирования — промо-доступ через OpenCode Go.

GPT-6 Astra — флагманская модель OpenAI, ориентированная на сложные задачи: глубокий анализ, программирование, научные исследования и длительные агентные сценарии с использованием браузера и компьютера. Поддерживает мультимодальный ввод (текст + изображение) и обладает контекстным окном в 1 млн токенов. Модель выпущена 4 сентября 2026 года.

Средняя стоимость использования значительно ниже заявленной: входной токен стоит в среднем $2,308 за 1 млн, выходной — $50,63 за 1 млн (взвешенное среднее по провайдерам). Среди хостинг-провайдеров OpenAI Flex предлагает наилучшее соотношение цены и скорости: $5 за вход и $25 за выход с задержкой 6,85 с и пропускной способностью 57 токенов/с. Самый быстрый вариант — OpenAI Fast ($20/$100 за 1M токенов) с latency 2,11 с, но он вдвое дороже стандартного тарифа OpenAI. Кэширование снижает реальные затраты, делая модель доступной для продвинутых пользователей despite высокой базовой цены.

Обсуждение дополняет статью отзывами: Astra действительно генерирует более качественные SVG и использует меньше токенов, но её высокая цена и частые сбои вызовов делают её дорогим инструментом, пригодным лишь для критически важных задач. Участники сравнили Astra и Opus и согласились, что Astra точнее воспроизводит детали оригинального дизайна и показывает более высокое качество визуального вывода. Также отмечено, что Astra требует меньше токенов для достижения того же результата, что делает её более эффективной. Часть пользователей считает стоимость Astra неприемлемой по сравнению с китайскими моделями; другие полагают, что высокая цена оправдана за счёт экономии токенов и лучшего качества. Аналогичный спор вызывает возможный будущий «нерф» модели: одни опасаются роста цен, другие считают, что экономия токенов компенсирует повышение. Пользователи заметили более высокий процент неудачных вызовов инструмента у OpenAI (≈5%) против Azure (0,2–0,5%), что вызывает споры о надёжности. В тестах Codex Astra показала более высокую скорость работы, чем SOL, несмотря на вдвое меньшее число запросов в секунду. Советы: — @mkagenius рекомендует генерировать несколько вариантов и случайно выбирать один, чтобы избежать оптимизации модели под единичный бенчмарк. — @copperx считает, что при готовом дизайне затраты в $24 приемлемы, но для экспериментов бюджет ограничен. — Для задач с высоким риском (например, сканирование уязвимостей) рекомендуется использовать Astra, поскольку её производительность может сэкономить значительные средства. Astra демонстрирует отличные возможности в обработке сложных форм для веб‐разработки, включая не‐прямоугольные вырезы (@jjcm). Модель стала доступна пользователям Pro и Plus в разных регионах (Австралия, Европа), что подтверждают @sumedh и @algoth1. Несмотря на более высокую цену, некоторые пользователи считают, что Astra оправдывает затраты, когда требуется максимальная точность и сложные агентные сценарии.

Gemini 3.8 Flash — это обновлённая версия модели из семейства Gemini 3, построенная на базе Gemini 3.7 Flash и ориентированная на улучшение производительности в задачах программирования и агентных рабочих процессов. Она поддерживает настраиваемые уровни усилий для балансировки качества, стоимости и задержки, принимает текст, изображения, аудио и видео с контекстным окном до 1 млн токенов и генерирует текстовый вывод до 64K токенов. Архитектура, данные обучения и аппаратная реализация наследуются от Gemini 3.7 Flash, что обеспечивает преемственность и упрощает интеграцию.

Оценка модели проводилась по широкому спектру бенчмарков: программирование, знаниевая работа, мультимодальность, длинный контекст, использование компьютера и научные рассуждения. По результатам безопасности, включая ручное красное teaming и оценки по Frontier Safety Framework, Gemini 3.8 Flash показала схожие или улучшенные показатели по сравнению с предшественницей, не достигла никаких отслеживаемых или критических уровней возможностей и не выявила существенных новых рисков. Ручное моделирование подтвердило, что большинство срабатываний фильтров были ложными срабатываниями или не представляли серьёзной угрозы, а защита детей соответствует обязательствам Google. Модель подходит для разработчиков и предприятий, стремящихся к масштабируемому и экономичному использованию ИИ.

**Gemini 3.8 Flash: преимущества** - Улучшение над 3.7 Flash по скорости, стоимости и мультимодальности; силён в кодировании, анализе медиа и агентных задачах. - Низкая стоимость (1.8 цента за сложный HTML/JS за 13 секунд) делает его идеальным для повторяющихся проверяемых задач. - Мультимодальность (аудио, видео, изображения) и контекст до 1 млн токенов превосходят OpenAI и Anthropic, ограниченных изображениями. - На бенчмарках (Artificial Analysis, Redactle) достигает уровня Opus 5 при эффективности «Flash»-версии. - Стал доминирующим выбором для клиентских рабочих процессов, вытесняя другие модели. - Лучше различает экзотические фрукты и подлинники артефактов, но слаб в идентификации нишевых публичных фигур. - Превосходит Claude в письменной речи, особенно в структурированных аргументациях (например, эссе типа гаокао). - Интеграция с GCP делает его предпочтительным для корпоративных решений, включая хостинг в Европе. **Ограничения и споры** - Регрессия на низком уровне усилий (thinking level low) по сравнению с 3.7 Flash, несмотря на улучшения на среднем и высоком. - Часть пользователей не видит улучшения латентности относительно 3.5 Flash в реальных сценариях, что ставит под сомнение маркетинговые заявления. - Может генерировать «безопасный», но нерабочий код, поэтому для критичных задач некоторые разработчики предпочитают Opus 4.6. - База знаний не обновлена после января 2025 года, что ограничивает применение в быстроменяющихся областях. - Некоторые пользователи считают, что Google занижает позиционирование Flash, чтобы скрыть отсутствие обновлений Pro-версий. - Недоступен в веб-интерфейсе Gemini даже спустя несколько дней после анонса, что вызывает раздражение у платных пользователей. **Рекомендации** - Для высокочастотных задач (сканирование коммитов на совместимость плагинов) скорость и низкая стоимость оправдывают возможные ошибки благодаря лёгкости перезапуска. - При выборе для агентных задач стоит тестировать наряду с Deepseek v4 Flash — последний может быть конкурентоспособнее в текстовых сценариях.

Shieldstral — это открытая 3‑модель‑классификатор, способная оценивать текст и изображения с точностью, сопоставимой с моделями в семь раз крупнее. Она работает как единый «вопрос‑ответ»‑модуль: в запросе задаётся контекст политики, конкретный вопрос («Эта реплика пропагандирует насилие?») и сам материал. На выходе модель выдаёт единственную цифру — вероятность «да», калиброванную в диапазон [0,1]. Такой подход позволяет менять правила в реальном времени, не тренируя модель заново, и использовать один набор весов для всех типов контента.

Ключевые цифры: 3 B параметров, работает на одной видеокарте с 16 ГБ памяти, обучена на смеси реальных и синтетических датасетов, поддерживает как текст, так и изображения, возвращает непрерывный safety‑score. В открытом доступе под лицензией Apache 2.0, а также в составе Open Secure AI Alliance с NVIDIA. Это первый шаг к гибкой, контекстно‑зависимой модерации, где политика задаётся простым языком, а не фиксированным набором категорий.

Shieldstral — специализированная модель для модерации контента, способная оценивать его с учётом политических контекстов. Её потенциал как инструмента для соцсетей обсуждается: некоторые видят в ней эффективный первый уровень фильтрации, но настаивают на необходимости человеческого надзора для сложных случаев. Другие сомневаются в её достаточной мощности, считая, что для точной оценки требуются более крупные модели. Модель интересна разработчикам, ищущим компактные решения для узких задач.

Социальная сеть X (ранее Twitter) требует включённого JavaScript для работы. При его отключении пользователь видит сообщение о необходимости активировать JavaScript или сменить браузер на поддерживаемый, со ссылкой на список совместимых браузеров.

Также упоминается, что проблемы могут вызывать расширения для приватности — их советуют отключить. Внизу страницы приведены стандартные ссылки на условия использования, политики и информацию о рекламе.

• Критика отсутствия у Google сильной продуктовой культуры, что мешает созданию инновационных продуктов на основе их же технологий.
• Обсуждение субъективности сравнения моделей ИИ (Gemini, GPT, Claude) и сложности объективной оценки из-за различий в задачах и опыте пользователей.
• Скептицизм по поводу рекламных кампаний и хайпа вокруг новых моделей, которые часто не соответствуют реальным возможностям.
• Подчеркивание проблем Gemini с многократным выполнением инструкций и склонностью к "зацикливанию" по сравнению с конкурентами.
• Отмечается сильная мультимодальность Gemini (работа с изображениями, видео), но сложность доступа и использования продуктов Google AI.

Qwen — это серия больших языковых моделей, разработанных Alibaba Group. Модели Qwen, включая версии для генерации текста, кода и мультимодальных задач, позиционируются как открытые и конкурентоспособные альтернативы другим известным ИИ, таким как GPT от OpenAI. Они поддерживают длинный контекст, мультиязычность и специализированные применения, например, для программирования или анализа данных.

Qwen2, следующее поколение, демонстрирует улучшенную производительность, эффективность и расширенные возможности, включая работу с аудио и изображениями. Модели доступны в различных размерах, от компактных версий для устройств с ограниченными ресурсами до мощных вариантов для сложных задач, что делает их гибким инструментом для разработчиков и исследователей.

• Пользователи высоко оценили производительность модели Qwen3-VL при обработке сложных изображений (например, низкокачественных счетов), отмечая её превосходство над другими решениями.
• Обсуждаются технические и экономические аспекты запуска больших моделей (235B параметров) локально, включая требования к оборудованию и стоимость вычислений.
• Модель позиционируется как конкурентоспособная с закрытыми SOTA-решениями (GPT-4, Omni) при значительном снижении стоимости использования.
• Критикуются отдельные недостатки, характерные и для других мультимодальных моделей: ошибки в анализе edge-кейсов (например, подсчет конечностей у животных).
• Отмечается активность и щедрость команды Qwen в публикации моделей с открытыми весами и их вклад в развитие open-source сообщества.