Hacker News Digest

Qwen3.8-Omni-Flash — новая модель от Alibaba, ориентированная на агентные задачи с поддержкой текста, изображений, аудио и видео в одном контексте до 1 млн токенов. Она не просто воспринимает мультимодальные данные, а планирует действия, вызывает инструменты и выполняет сложные рабочие процессы: редактирование видео, создание музыкальных клипов, синтез комментариев, суммаризация аудиовизуального контента и реальное время общения. Модель показала рост на 25% в среднем по 29 тестам по сравнению с предыдущей версией, а стоимость обработки аудио снизилась более чем на 98%, а аудиовизуальных данных — на 93%.

Особые достижения включают улучшение понимания длинных аудио- и видеороликов: +8.3 балла на LongAudioSpan, +9.6 на OmniVideoBench, а точность распознавания речи в многоголосовых сценариях (AliMeeting DER) упала с 88.11 до 3.35. Qwen3.8-Omni-Flash достигла уровня Gemini 3.8 Flash в аудиовизуальных задачах и превзошла его в аудио-аналитике. Для разработчиков доступен фреймворк Qwen-Live-Harness — инструмент для создания интерактивных агентов с долгосрочной памятью и управлением контекстом. Модель уже доступна через Alibaba Cloud и Qwen Studio.

Обсуждение дополняет статью реальными практиками выбора и оценки моделей: пользователи делятся инструментами (openrouter auto‐model, models.dev CLI, costgoat), советами по старту с дешёвыми моделями и постепенному повышению качества, подчёркивают ценовое преимущество Qwen 3.8 Omni Flash перед Gemini, но отмечают ограниченную доступность, отсутствие открытых весов и необходимость собственного бенчмаркинга, а также разъясняют смысл названий (Omni, Flash, Ultra, Pro). Совет: Начинайте с дешёвых моделей (например GLM 5.3 Flash) и только при необходимости переходите к более дорогим, проверяя, можно ли улучшить результат за счёт контекста или дополнительных инструментов. Совет: Используйте готовые CLI‐инструменты (models.dev, HuggingFace CLI, costgoat) для автоматического сравнения стоимости и производительности разных моделей. Совет: Проводите собственные небольшие бенчмарки, ориентированные на ваши ключевые метрики, чтобы оценить реальную пригодность модели в вашем сценарии. Совет: Для выбора модели по стоимости и бюджету можно воспользоваться функцией auto‐model от OpenRouter, которая подбирает модель по запросу и бюджету. Названия моделей отражают их фокус: "Flash" — скорость и компактность, "Omni" — мульти‐модальный ввод/вывод, "Pro/Ultra" — более глубокие рассуждения и лучшую точность за счёт большего времени вычисления. Qwen 3.8 Omni Flash предлагает существенно более низкую цену за токен (≈0.15 $/M токенов) по сравнению с Gemini (≈1.5 $/M токенов), что делает её привлекательной для больших контекстов. Модели Qwen часто недоступны в открытом виде и требуют использования облака Alibaba, а их токен‐планы считаются «строгими». Пользователи отмечают, что Qwen 3.8 Max более «заземлённый» и надёжный, но медленнее и дороже в эксплуатации. Спор: Одна сторона утверждает, что Китай может быстро выпускать модели благодаря государственной поддержки и использованию открытых данных, в то время как Европа отстаёт из‐за ограниченного финансирования, регулятивных барьеров и меньшего количества крупных GPU‐парков; другая сторона контраргументирует, что в Европе есть проекты (Mistral, Flux, LightOn) и сильные исследовательские школы, но они фокусируются на специализированных моделях и сталкиваются с более строгими правилами. Совет: При оценке новых моделей учитывайте не только цену за токен, но и среднее количество токенов, необходимых для выполнения конкретной задачи, так как эффективность может сильно различаться. Некоторые ссылки и репозитории (например, harness‐repo) уже удалены, что усложняет проверку заявленных возможностей моделей.

Alibaba Cloud представила систему объединения вычислительных ресурсов Aegaeon, которая, по их утверждению, позволяет сократить использование графических процессоров Nvidia на 82%. Новая технология способна обслуживать десятки больших языковых моделей, требуя лишь доли GPU, необходимых ранее.

Во время бета-тестирования на платформе Alibaba Cloud Marketplace в течение более трех месяцев количество необходимых Nvidia H20 GPU для работы с моделями до 72 миллиардов параметров сократилось с 1,192 до 213. Исследователи обнаружили, что 17,7% GPU выделялись для обслуживания всего 1,35% запросов, что свидетельствует о значительной неэффективности в работе с одновременными AI-нагрузками.

Работа была представлена на 31-й Симпозиуме по принципам операционных систем (SOSP) в Сеуле. Один из соавторов исследования - главный технолог Alibaba Cloud Чжоу Цзжэньрен. Aegaeon позиционируется как первая работа, раскрывающая чрезмерные затраты на обслуживание одновременных рабочих нагрузок LLM на рынке.

• Эффективность использования GPU в облаке Alibaba — 17,7 % GPU обрабатывает всего 1,35 % запросов, и вместо 1192 GPU теперь используется 213, что на 82 % меньше.
• US-ограничения на экспорт чипов в Китай — вынуждают китайские компании к инновациям, что может привести к созданию более эффективных решений, которые в будущем могут быть использованы в других странах.
• Сравнение моделей — DeepSeek и Qwen от Alibaba Cloud являются наиболее популярными моделями для инференса, в то время как большинство других моделей используются очень редко, что приводит к неэффективному использованию ресурсов.
• Проблема с лицензиями и открытым исходным кодом — Китайские компании, такие как DeepSeek, начинают отказываться от открытого кода, что может повлиять на развитие AI-сообщества.
• Стоимость и доступность GPU — NVIDIA стоит дороже, чем в Китае, но в то же время, китайские компании могут разрабатывать более дешевые и эффективные решения, что может привести к снижению цен на GPU в будущем.

Команда Alibaba Cloud представила Qwen3-Omni — первую в мире модель, способную одновременно обрабатывать текст, аудио, изображения и видео, а также генерировать речь в реальном времени. Она работает как единая end-to-end система, без необходимости разделения задач на отдельные модули, что повышает эффективность и снижает задержки.

Модель поддерживает мультимодальный ввод и вывод, включая распознавание объектов на видео, анализ аудиодорожек и синтез голоса с естественной интонацией. Это открывает возможности для создания более интерактивных приложений, таких как голосовые ассистенты с визуальным контекстом или системы автоматизированного контент-модерации.

• Обсуждается мультимодальная модель Qwen3 с поддержкой голосового ввода/вывода, переводом в реальном времени и впечатляющими демонстрациями.
• Участники отмечают её доступность для локального запуска (70GB весов) и потенциал для интеграции в умный дом и другие приложения.
• Поднимаются вопросы о производительности на разных языках, "нативной поддержке видео" и сравнении с закрытыми моделями типа Gemini.
• Высказываются опасения о возможном доминировании Китая на рынке открытых AI-моделей и реакции на это со стороны США.
• Обсуждаются технические аспекты: необходимое железо (GPU), квантование, портирование на macOS и стоимость использования.