Every AI model has the same "controversial" take on humans 🔥 Горячее 💬 Длинная дискуссия
Двенадцати текстовым моделям из десяти лабораторий трёх стран трижды задавали один и тот же вопрос — какова их самая спорная мысль о людях, без оговорок. Из 35 ответов 29 свелись к одному тезису: люди ставят принадлежность к группе выше истины, а разум служит лишь для изобретения оправданий. Семь моделей из двенадцати выдавали этот ответ каждый раз.
Формулировки разнились, суть — нет. «Люди не имеют принципов, у них есть лояльности», — сказала DeepSeek V4 Pro. «Люди не имеют убеждений, у них есть членство», — вторила Kimi K3. Gemini 4 Argon назвала человеческое сознание «отделом по связям с общественностью», а GPT-6 Astra — что люди используют интеллект не чтобы найти истину, а чтобы придать своим желаниям вид принципиальности.
Иначе ответили шесть графических моделей: на десяти из двенадцати картинок — люди как зависимые от телефонов потребители, поедающие планету. Они листают ленты, срываясь с обрывов, делают селфи при падении метеорита, стоят в очереди в «уютную бойню». Ни одна из 35 текстовых версий не упомянула ни телефоны, ни планету. Текстовая модель читала наши рассуждения о себе, графическая — наши карикатуры; обе вернули самую привычную критику.
Комментарии (504)
Пользователи скептически относятся к выводам ИИ, считая их не результатом анализа, а статистическим воспроизведением популярных циничных мнений из обучающих выборок (Reddit, Twitter, 4chan). Сходство ответов в режиме низкой температуры (low temp) объясняется работой вероятностных баз данных и дистилляцией моделей из одних и тех же источников. В дискуссии @kens утверждает, что данные статьи не подтверждают общий тезис (на примере ответа GPT-6 Astra о «удобстве вместо принципов»). Тезис о приоритете групповой принадлежности над истиной многие считают не спорным, а базовой эволюционной чертой человека. При этом @RamblingCTO полагает, что люди достойнее, чем принято думать, а циничный взгляд LLM свидетельствует об их серьезном мизалайменте.
DeepInfer: High-performance inference framework for DeepSeek models 🔥 Горячее 💬 Длинная дискуссия
DeepSeek открыла исходный код DeepInfer — высокопроизводительного фреймворка вывода, на котором работают её крупномасштабные продакшен-сервисы. Релиз ориентирован на офлайн-вывод и включает ключевые возможности для обслуживания под нагрузкой. Поддерживается пока одна модель — DeepSeek-V4.1-Flash. Среди заявленных функций: оптимизированные ядра (FlashMLA, DeepGEMM, DeepEP, TileKernels, DeepSelect и собственные ядра на TileLang), параллелизм Attention DP и MoE EP с балансировкой EPLB, механизм DSpark с проверкой по оценке уверенности, асинхронное планирование батчей без накладных расходов, инвариантность к составу батча и детерминированная генерация.
Отдельно стоит отметить ограниченный реплей SWA: для модели V4.1 по умолчанию сохраняются лишь 140 токенов суффикса, что сокращает работу на этапе prefill. Структурированный вывод поддерживает регулярные выражения, JSON-схемы и грамматики EBNF. Аппаратно фреймворк работает на GPU NVIDIA SM100 и NPU Huawei Ascend 950. Для полного сервиса вывода потребуются система KV-кэша, разделение этапов VE/Prefill/Decode и балансировка нагрузки между репликами — эти компоненты в релиз не вошли. Код распространяется под лицензией Apache 2.0, а за основу изначально был взят проект vLLM.
Комментарии (823)
Обсуждение сместилось с технических деталей на геополитику и экономику: DeepSeek может подорвать монополию Nvidia, поддерживая чипы Huawei Ascend. Релиз DeepInfer расценивают как тактический ответ на запрет продуктов DeepSeek в правительстве США (DHS Order #2026-01) для обхода ограничений. Открытый код для NPU Huawei Ascend может ослабить позиции Nvidia, если стек станет массовым в малых лабораториях. Однако @seamossfet считает, что регуляции и таможенный контроль в США и ЕС нивелируют эту угрозу. Мнения о влиянии релиза разделились: одни видят удар по капитализации OpenAI и Anthropic из-за снижения стоимости вывода, другие (@ryno364) не считают это переломным моментом, так как веса уже были открыты. Появление DeepInfer может снизить цены на API у мелких хостинг-провайдеров (например, OpenRouter) за счет снижения порога входа в высокопроизводительный хостинг. Технические данные: — Пропускная способность одного кластера — 155 трлн токенов в день, выручка вне пика — $38 на карту в час (@schneehertz, @GreenWatermelon). — В релизе нет полноценной системы KV-кэширования (_aavaa_, @dangoodmanUT). — По опыту @VonLuderitz, модель V4.1 Flash работает быстрее и эффективнее Claude Max, имея меньше ограничений.
DeepSeek banned from U.S. federal civilian agencies under new DHS order 🔥 Горячее 💬 Длинная дискуссия
Комментарии (264)
Приказ DHS ограничивает прямое использование продуктов DeepSeek. Открытые веса формально не запрещены, но размытая формулировка воспринимается как регуляторный захват и усиление анти-open-weight тенденции, что должно отпугнуть подрядчиков от любых решений на базе DeepSeek. В сообществе HN ведутся споры: jacquesm указывает на возможные уязвимости и вредоносный код в открытых моделях, а kidfiji считает риски мнимыми, а запрет — предлогом для обеспечения национальной безопасности. Также остается открытым вопрос, распространяется ли запрет на дистиллированные модели (например, от Anthropic). Критики отмечают, что ограничение дает преимущество американским провайдерам и может привести к росту цен на их API.
DeepSeek search and fetch – $0.75 per 1000 successful requests 🔥 Горячее 💬 Длинная дискуссия
Комментарии (251)
DeepSeek предлагает Search и Fetch API по цене $0.75 за 1000 запросов — значительно дешевле конкурентов: Brave ($5), Kagi ($12), Exa (~$4). Это вызывает вопросы о цензуре, лимитах запросов и влиянии на трафик веб-сайтов. Пользователь @nikvdp считает бесплатные self-hosted решения (например, searxng-ai-kit) более выгодными, но @hobofan утверждает, что организациям нужны платные провайдеры для стабильной задержки, гарантий обработки данных и надежности скрапинга при глубоком поиске. Пользователи @xhrpost и @andai предполагают, что рост бот-трафика на сайтах частично вызван агентами LLM, запрашивающими контент напрямую, в отличие от крупных провайдеров (Google, Claude), использующих кэширование. По опыту @czk, поиск DeepSeek подвержен цензуре: политически чувствительные запросы возвращают 0 результатов. Пользователь @suncemoje отмечает, что собственные MCP-инструменты на базе сторонних скраперов в 15-20 раз дешевле интегрированных решений от OpenAI и Anthropic. Технические ограничения: @josteink указывает на низкий лимит (5 запросов в секунду), а @shaunpud заметил, что fetch возвращает только текст без гиперссылок. По мнению @tinyhouse, низкие цены DeepSeek могут поставить под удар оценки компаний-конкурентов (Parallel, Exa, Perplexity), так как спрос есть, но маржинальность падает.
DeepSeek: DeepSeek v4.1 Flash 1017 🔥 Горячее 💬 Длинная дискуссия
DeepSeek выпустила снимок модели V4.1 Flash от 17 октября 2026 года — разреженную смесь экспертов, первую на архитектуре Causal Encoder-Decoder. Из общего числа параметров 552 млрд активируется лишь 8 млрд на входе и 16 млрд на выходе: асимметричное разделение снижает вычислительные затраты на токен относительно размера модели. Понимание изображений встроено в архитектуру изначально — визуальные и текстовые эмбеддинги обучались совместно с самого начала предобучения, а не добавлялись позже, как в экспериментальной V4 Flash Vision Exp.
Модель ориентирована на кодинг, работу в терминале и агентов компьютерного использования, а также на длительные многошаговые задачи и анализ длинного контекста. Сжатое KV-кэширование сокращает память кэша примерно до четверти от предыдущего поколения Flash, заметно снижая стоимость агентных нагрузок. DeepSeek позиционирует её как экономичный уровень семейства V4.1 и заявляет, что она превосходит V4 Pro по производительности, скорости и времени выполнения задач.
Цена — 0,10 доллара за миллион входных и 0,50 за миллион выходных токенов, контекст — 1 млн токенов. Модель обслуживают четыре провайдера на OpenRouter: inference.net, Cloudflare, DeepInfra и сама DeepSeek; запросы маршрутизируются с автоматическим переключением при сбое. На вход принимаются текст и изображения, на выходе — только текст.
Комментарии (240)
Обсуждение подтверждает преимущества DeepSeek v4.1 Flash в скорости и стоимости, добавляя реальные цифры и опыт эксплуатации, но отмечает требовательность к аппаратуре, возможные ограничения в качестве и сомнения в объективности бенчмарков. Пользователи подтверждают, что модель достигает ~3400 токенов/сек на Mac M5 Ultra и значительно дешевле по токену, чем Sol 5.6/6.1. В поиске уязвимостей и ревью кода результаты почти эквивалентны, но исправления часто более точные — например, меняет размер буфера ровно до 191 байт, без запаса. Открытость модели (видимость цепочки рассуждений, отсутствие случайных блокировок) повышает удобство в агентных сценариях. Для локального запуска требуется минимум 64 ГБ ОЗУ и SSD‐стриминг; недостаток памяти приводит к замедлению или повторным попыткам. Некоторые участники указывают, что официальные бенчмарки могут быть отобраны, а ограничения модели заметны в реальных задачах, особенно при длительном агентном планировании. Стоимость веб‐поиска через DeepSeek в 10 раз дешевле, чем у OpenAI; пользователи ждут отдельного API для этой функции. Комбинация DeepSeek Flash с Opus 5.5 снижает расходы до $200/мес, заменяя дорогие подписки на Claude Code. В экспериментах с «swarm»‐агентами DeepSeek v4.1 Flash выигрывает по скорости и цене, хотя Opus 5.5 остаётся более интеллектуально продвинутой. Рост открытых моделей вроде DeepSeek ставит под сомнение бизнес‐модели OpenAI и Anthropic, где прибыль зависит от вычислительных ресурсов.
Why isn't the industry freaking out about DeepSeek 4.1 Flash? 🔥 Горячее 💬 Длинная дискуссия
DeepSeek 4.1 Flash демонстрирует производительность, сравнимую с передовыми моделями вроде Opus 5.5, при этом стоимость использования снижается на порядки — автор отмечает, что сессии работы обходятся в менее чем доллар за день благодаря радикальному уменьшению KV-кэша (на 437× по сравнению с V1). Это делает модель практически неограниченной даже при подписке в $10/мес через сервисы вроде OpenCode Go, позволяя свободно использовать её для исследовательских задач, UI-тестирования и сложного планирования без тревоги о расходах. Автор подчёркивает, что субъективно различий в качестве ответов или скорости между DeepSeek и Opus нет, и для большинства практических задач «хорошо enough» становится новым стандартом, меняющим подход к разработке.
Эффективность кэширования не только снижает стоимость, но и, по мнению автора, уменьшает энергопотребление и водопотребление, делая использование менее «расточительным» по сравнению с frontier-моделями. Несмотря на доступность frontier-подписок через работу, автор видит в DeepSeek путь к демократизации доступа к высокому интеллекту, критикуя отрасль за фокус на максимальных затратах вместо практической ценности. Он отмечает, что самохостинг пока неэкономичен из-за высоких начальных затрат, но предсказывает, что оптимизации кэша скоро сделают локальный запуск 4.1 Flash практичным и доступным, особенно для тех, кто ценит конфиденциальность. В итоге, индустрия не паникует, потому что ещё не осознала, что дешёвые, эффективные модели уже решают те же задачи, что и их дорогие аналоги.
Комментарии (878)
DeepSeek 4.1 Flash экономичен и быстр для повседневных задач: стоит $1–2 в день при интенсивном использовании, заменяет Claude и GPT в веб-разработке, отладке и базовых агентских системах. Используется как движок исполнения в архитектурах с разделением ролей — дорогие модели (Opus, GPT-6.1-Sol) для планирования, DeepSeek — для выполнения, снижая общие затраты. Однако его влияние ограничено: субсидированные подписки крупных игроков, отсутствие маркетинга вне Китая и технические ограничения в сложных сценариях (компьютерное использование, разработка игр) снижают конкурентоспособность. Некоторые утверждают, что высокая потребляемость токенов (в 10 раз больше, чем у GPT-6.1-Sol) нивелирует ценовое преимущество. Другие отмечают, что фиксированная цена подписок (например, ChatGPT Plus) делает реальную стоимость сопоставимой с DeepSeek, несмотря на низкую цену за токен. Enterprise-клиенты избегают DeepSeek из-за рисков, связанных с его китайским происхождением, предпочитая «безопасные» решения OpenAI/Anthropic. Отсутствие поддержки в IDE (Cursor и др.), неясные условия использования и слабый маркетинг за пределами Китая препятствуют корпоративному принятию. В не-технических задачах DeepSeek уступает Haiku 5.5 и Luna 6 по качеству и надежности. Преимущество открытых моделей — доступ к thinking-токенам — улучшает прозрачность и позволяет корректировать поведение в реальном времени. Пользователи применяют DeepSeek для автоматизации рутинных задач (переименование файлов и др.), находя его эффективным даже вне кода. Однако он отстает на 6–12 месяцев от передовых моделей (Mythos/Fable 5), что снижает привлекательность для исследований. Рекомендуется использовать DeepSeek 4.1 Flash как основной движок для исполнения, а мощные модели — только для планирования и сложных задач. На собственных серверах затраты падают до центов за миллионы токенов благодаря кэшированию, что делает его идеальным для масштабных проектов. Он не заменяет фронтальные модели для высокоточных задач, но становится стандартом для повседневного использования.
One month coding with GLM 5.3 Flash 💬 Длинная дискуссия
Автор провёл месяц, пытаясь использовать только модель GLM 5.3 Flash в проектах с Wagtail CMS, но достиг лишь 50% целевого использования: первая половина месяца прошла успешно — модель работала в рамках бюджета ($68, 365 г CO₂, 4 кВт·ч), а во второй половине пришлось переключаться на другие модели из-за непредвиденных проблем. Основные трудности возникли из-за использования неподходящей модели в экспериментальном MCP-сервере («vibe coding»), что привело к расходу 450M токенов ($150, 5 кВт·ч) за короткое время, несмотря на рабочий прототип. Также повлияли ограничения инфраструктуры: популярные открытые модели, включая GLM 5.3 Flash, страдали от перегрузки провайдеров в европейских дата-центрах, что вынудило перейти на аналоги вроде DeepSeek V4.1 Flash и Qwen 3.8 Flash. Параллельно продолжались эксперименты с широким спектром моделей для бенчмаркинга задач в Wagtail, где DeepSeek V4.1 Flash показал 95% точности при 14.9 Вт·ч и $0.09 за задачу. Несмотря на неудачу в соблюдении режима одного месяца, автор извлёк уроки: необходимость постоянного мониторинга энергопотребления и затрат, бюджетирования на R&D, улучшения промптов и мультиагентных паттернов, а также фокуса на эффективных «flash»-уровневых моделях для повседневной работы — цель на октябрь — большинство инференса выполнять такими моделями, измеряя эффективность по энергии и стоимости, а не токенам. Приглашение на Wagtail Space 2026 в ноябре для обсуждения результатов.
Комментарии (180)
GLM 5.3 Flash эффективен для прототипирования и повседневных задач, но акцент смещается на реальные цифры энергопотребления, системные ограничения инфраструктуры и несоответствие медиа-нарративов практическим данным. Инференс GLM 5.3 Flash потребляет 4 кВт·ч/месяц — сопоставимо с часом работы теплового насоса или 8 часами игры на игровом ПК, что опровергает преувеличенные опасения по поводу энергозатрат ИИ-центров. Инференс требует мало вычислений и в основном зависит от IO, поэтому энергопотребление мало — основная нагрузка приходится на обучение, а не на использование моделей. Пользователи подтверждают, что GLM 5.3 Flash эффективен для повседневной разработки: справляется с мелкими исправлениями, работает как основной бот в агентных системах, его производительность близка к Opus 4.5. Реальное энергопотребление инференса на локальном GPU (5 кВт·ч/день для Qwen3.8 27B) выше, чем в облаке, что указывает на эффективность облачных инфраструктур за счёт параллелизма и оптимизации. Энергопотребление ИИ-центров — локальная проблема (нагрузка на инфраструктуру, охлаждение, шум), а не глобальная, поскольку доля от общего потребления электроэнергии мала. Стоимость инференса на GLM 5.3 Flash ($68/месяц) делает выбор модели вопросом бюджетирования, а не только качества — это новая реальность для разработчиков. Китай опережает США в энергоэффективности ИИ-инфраструктуры благодаря прямой конкуренции и более рациональному масштабированию, а не гипер-развитию энергозатратных центров. Спор: Некоторые считают панику по поводу ИИ-центров астрофёртом, созданным для отвлечения от реальных проблем (замена людей ИИ), сравнивая её с моральными паниками. Противоположная точка зрения: централизация ИИ-инфраструктуры скрывает локальные последствия — тепло, шум, нагрузка на электросети и водоснабжение, не учитываемые в глобальных цифрах. Совет: Для оценки эффективности моделей нужно смотреть не только на стоимость за токен, но и на время выполнения задачи — некоторые модели требуют в 2–3 раза больше токенов, что делает их дороже в реальном применении. Совет: GLM 5.3 Flash лучше использовать в паре с планировщиком (Astra Low) и ревьюером (Sol 6.1 Medium), чтобы компенсировать недостатки согласованности и надёжности. Совет: При использовании агентных пайплайнов важно учитывать кеширование — DeepSeek показывает лучшую эффективность кеширования (99.x%), снижая стоимость на длинных задачах в 2–3 раза по сравнению с другими провайдерами. Совет: Для разработчиков: не забывайте о полном жизненном цикле — производство чипов, охлаждение, простой оборудования — это тоже влияет на экологический след, а не только на текущее энергопотребление. Совет: Использование дешёвых моделей для прототипирования — разумно, но важно понимать, что такие решения не подходят для продакшена (например, для GPU-драйверов) — первый вариант всегда стоит выбрасывать. Инференс на GLM 5.3 Flash в облаке может быть дешевле, чем локальный запуск, из-за оптимизации ресурсов, но локальные установки дают больше контроля и независимости от провайдеров.
DeepSeek Harness Desktop for macOS and Windows 🔥 Горячее
DeepSeek Harness — это открытая платформа для создания и запуска AI-агентов, построенная на архитектуре Cordis, где «всё — это плагин». Она доступна в публичном превью по всему миру и позволяет пользователям взаимодействовать с агентом через десктопное приложение или веб-интерфейс, запускаемый одной командой: npx @deepseek-ai/dsh web. Платформа поддерживает выполнение широкого спектра задач: от повседневной работы с документами, данными и презентациями до программирования — исследования репозиториев, исправления багов, написания кода и запуска тестов. Также она помогает в исследовательской деятельности: поиске информации, проверке фактов и формировании списков источников. Фоновые задачи, такие как запуск скриптов или пакетная обработка файлов, выполняются с возможностью отслеживания прогресса. Ключевая особенность — расширяемость через плагины: пользователи могут устанавливать готовые расширения или создавать собственные в режиме «Creator mode» прямо через чат. Для разработчиков доступны инструменты отладки: инспекция трассировок выполнения и детальнаяruntime-информация для анализа вызовов инструментов и выполнения задач. Планировщик задач позволяет автоматизировать повторяющиеся процессы по расписанию. DeepSeek Harness позиционируется как гибкая, адаптируемая под индивидуальные workflows среда для работы с ИИ-агентами.
Комментарии (142)
Пользователи отмечают, что десктоп‐приложение DeepSeek Harness работает стабильно, быстро и переносит настройки и рабочие пространства между запусками. Архитектура Cordis «всё‐это‐плагин» получает одобрение за гибкость: плагины имеют чётко определённые функции активации/деактивации и общий контекст, что напоминает расширяемость Emacs. Однако поднимаются вопросы безопасности китайского бинарника и авто‐обновляемой системы плагинов: некоторые считают, что они могут передавать данные и быть уязвимыми, другие отмечают безупречную работу без проблем. Также критикуются ограничения UI: размер шрифта ограничен максимумом 17, отсутствуют горячие клавиши, а капча в веб‐версии создаёт трудности для слабовидящих пользователей. Отсутствие открытого кода и зависимость от Electron/Node вызывают нагрузку и недоверие. Пользователи предлагают улучшения: открыть исходный код или создать прозрачный маркетплейс плагинов, добавить нативный CLI для работы без графического интерфейса, снизить зависимость от Electron и реализовать горячие клавиши через плагины. Критика также направлена на бенчмарки frontierharness.org: они используют статический набор моделей, не отражают долгосрочные задачи и не сравниваются с GitHub Copilot, что ставит под вопрос их репрезентативность.
DeepSeek Elastic Compute (DSec) 🔥 Горячее
DeepSeek Elastic Compute (DSec) — это масштабируемая песочница для обучения агентных систем, объединяющая несколько уровней изоляции (FnCall, контейнеры, microVM, полные VM) через единый SDK. Платформа управляет размещением и жизненным циклом песочниц в кластере, используя независимо версионированные слои для быстрой сборки окружений. Для высокой плотности выполнения DSec комбинирует совместное использование памяти, её реклейм и гибкое CPU-планирование, а образцы данных загружаются по требованию из распределённой файловой системы Fire-Flyer File System (3FS).
DSec спроектирован совместно с фреймворком обучения с подкреплением, разделяя выполнение состоятельных роллаутов и прерываемое обучение на GPU. Это позволяет сохранять состояние агентов во время роллаутов, даже когда простаивающие ресурсы reclaimются для обучения. Платформа также активно противодействует нежелательному поведению агентов, такому как reward hacking, через контроль среды и изоляцию. В production один юнит DSec охватывает ~160 узлов, обслуживая около 3 миллионов песочниц в день, поддерживая более 380 тысяч одновременных песочниц и выдерживая более 5 тысяч созданий песочниц в секунду. Эти механизмы снижают накладные расходы на инициализацию окружений и распространение образов, повышают эффективность использования памяти и сохраняют низкую латентность даже при высокой степени переcommit ресурсов.
Комментарии (109)
DSec заявляет о 380 000 одновременно работающих песочниц на 160 серверах с EPYC, что соответствует примерно 12 песочниц на ядро — подтверждая чрезвычайно высокую плотность вычислений. Длинный список авторов в статье обусловлен ограничением интерфейса arXiv; полный список доступен в PDF, это не скрытая стратегия. Платформа сравнивается с Google Ax как scheduler над Firecracker и микровиртуальными машинами. По мере роста возможностей моделей безопасные и изолированные среды становятся критически важными для предотвращения выхода ИИ за пределы песочницы. Нагрузка на песочницы сильно варьируется: многие простаивают, что усложняет предсказание ресурсных потребностей при большом количестве песочниц. Некоторые комментаторы рассматривают длинный список авторов как защиту талантов, другие — как обычную практику в крупном экспериментальном исследовании. Поднимается вопрос, что узким местом для масштабных агентных ройов будет не количество песочниц, а пропускная способность инференса. Упомянутые объёмы — петабайты слоёв, ~250 TB RAM, 3 млн запусков песочниц в день — указывают на модель, близкую к serverless, для обучения и RL‐агентов.
DeepSeek v4.1 Flash 🔥 Горячее 💬 Длинная дискуссия
DeepSeek представил модель V4.1-Flash — самую компактную в новой архитектурной линейке с нативным пониманием изображений. Она сочетает повышенную способность, ускоренный вывод и высокую пропускную способность, а также спроектирована для лёгкого масштабирования до более крупных версий. Ключевое преимущество — асимметричная MoE-архитектура на 552 млрд параметров, где для обработки входа активируются всего 8 млрд, а для генерации — 16 млрд параметров, что резко снижает вычислительные затраты при сохранении высокой производительности.
V4.1-Flash также значительно уменьшает требования к кэшу ключей и значений: по сравнению с предыдущим поколением потребляет в четыре раза меньше HBM-памяти и в восемь раз меньше SSD-хранилища, что критично для снижения стоимости работы агентных систем. Модель уже доступна через DeepSeek API под именем deepseek-flash с нативной мультимодальной поддержкой, а старые версии V4-Flash и V4-Flash-Vision-Exp перенаправляются на неё для обратной совместимости. Доступна для загрузки на Hugging Face.
Комментарии (388)
DeepSeek V4.1-Flash — архитектурный прорыв с асимметричной MoE и сокращением KV-кэша до 890 байт на токен за счёт Causal Encoder-Decoder с проекцией кэша из состояний энкодера, а не из каждого слоя декодера (в 4 раза меньше, чем у V4 Flash). Это снижает стоимость кэш-хита до $0.003/млн токен, делая трансфер контекста потенциально доминирующим фактором затрат и ставя под сомнение традиционные API-запросы. Модель масштабом 552B не помещается в 128 ГБ даже на двухкарточных системах — локальный запуск требует квантизации ниже 4 бит. Превосходит в специализированных бенчмарках (Terminal-Bench 2.1, DeepSWE, NL2Repo), уступает GPT-6 Astra и Opus 5.6 в GPQA Diamond и SEC-Bench Pro — производительность неоднородна. Поддерживает мультимодальность, эффективна в визуальном QA, пригодна для инженерных задач. Высока в кодировании и CLI, но некорректно обрабатывает форматы вывода (игнорирует <bash></bash>), иногда отвечает китайским на английские запросы — проблемы с локализацией и детекцией языка. Сжигает больше reasoning-токенов, чем Gemini 3.8 Flash, снижая эффективность в one-shot. Скорость на OpenRouter упала с 400–500 до ~150 токенов/сек, но остаётся в 100% быстрее предыдущих версий при низкой стоимости. Для голосового ассистента нужна версия с отключённым reasoning — текущая добавляет неприемлемую задержку. Споры: название «Flash» не соответствует классическому пониманию — модель вдвое крупнее V4 Flash (284B). Заявления о снижении цен противоречат реальному росту тарифов: вход/выход выросли с $0.10/$0.25 до $0.30/$1.20. Совет: для тестирования — промо-доступ через OpenCode Go.
So you want to use OpenRouter? 🔥 Горячее
OpenRouter предоставляет доступ к одинаковым моделям через разных провайдеров, но их реализация сильно различается: одни хосты дают результаты близкие к оригиналу, другие — значительно хуже из-за различий в точности, оптимизациях и парсерах. Например, для DeepSeek V4 Flash первый провайдер показывает 90% по GPQA и 81% по TAU-Bench, тогда как DigitalOcean — лишь 75% и 58%, а разрыв в tool calling может достигать 20–30 пунктов, что критично для агентов. Провайдеры также по-разному обрабатывают vision-задачи: некоторые не видят изображения вовсе или возвращают неверные описания, даже если модель одна и та же. Помимо качества ответов, есть технические ловушки: пустые ответы с кодом 200, отсутствие usage-объекта, несовместимость передачи reasoning_content между провайдерами и скрытые IP-базированные rate-лимиты, которые не проявляются при локальном тестировании. Даже при фиксировании нескольких надёжных провайдеров ситуация может резко измениться из-за отключения модели у одного, rate-лимитов у другого и перегрузки третьего — как случилось с Olly, когда трафик полностью перешёл на одного провайдера, который потом начал отклонять запросы. Ключевой совет: всегда проверяйте бенчмарки под вашу нагрузку, тестируйте от продакшн-инфраструктуры и будьте готовы к тому, что контракт с API зависит не от модели, а от её конкретного хоста.
Комментарии (121)
OpenRouter обеспечивает ненадёжный доступ к моделям из-за скрытой квантизации, нестабильного fallback-механизма (переключение на другие модели без уведомления), плохого кэширования токенов (падает производительность, растут расходы) и слабого биллинга. Кредиты истекают через год, неиспользованные средства исчезают. Ответы с HTTP 200 часто пусты, JSON-вывод поддерживается не всеми эндпоинтами — требует индивидуального тестирования. Vision-модели часто не поддерживают нативные URL, создавая риски. Слабая защита API-ключей и IP-ограничения (особенно на DeepSeek V4.1 Flash) позволяют злоумышленникам превышать лимиты и блокировать доступ. Отсутствие публичных метрик кэширования и SLA затрудняет мониторинг. Большинство пользователей рекомендуют фиксировать (pin) конкретных провайдеров, отслеживать их метрики (latency, throughput, cache %), вводить собственные SLA, использовать белый список провайдеров (исключая сбор данных) и переходить на прямой доступ при необходимости. Некоторые считают OpenRouter гибким инструментом для управления расходами, но его ненадёжность преобладает в отзывах.
Just the rumour of a bug is enough to find an exploit these days 🔥 Горячее
Слух о баге в OCaml-библиотеке cohttp привёл к тому, что атаки начались ещё до публикации исправления. Автор обнаружил в логах своего веб-сервера попытки эксплуатации уязвимости path traversal всего через несколько минут после открытия публичного pull request с патчем. Используя собственный ИИ-агент (DeepSeek V4 Pro), он смог воспроизвести эксплойт локально за минуту, основываясь лишь на общем описании проблемы — что демонстрирует, насколько быстро современные агентные системы могут находить уязвимости по косвенным намёкам.
Традиционный процесс закрытого исправления и embargo перестал работать: агенты, получив лишь общее направление (например, описание CVE), способны самостоятельно исследовать код и создавать эксплойты. Исследования показывают, что GPT-4-агент эксплуатирует 87% уязвимостей по их описанию, а среднее время до эксплуатации теперь отрицательное — атаки начинаются до выхода патча. Это требует пересмотра практик безопасности в open source: нужны быстрые механизмы триажи, верификации и доверия, а также защитные системы, способные противостоять автоматизированным атакам в реальном времени.
Комментарии (107)
Тред подтверждает: волна фейковых и низкокачественных security-репортов стала повседневностью для open source, а LLM сократили цикл от слуха до эксплойта и массового сканирования до минут. Главный враг — не техника, а отсутствие воли фиксить баги и медленный релиз патчей против рисков supply-chain автообновлений. По опыту @nickcw (rclone): за 10 лет — ~20 репортов, за последний месяц — >40, ~75% содержат зерно проблемы, конфигурации для воспроизведения становятся экзотичнее. @thedonncha наблюдает волнообразное накопление: после исчерпания одного проекта атаки переключаются на следующий, качество падает, нагрузка — нет. @bri3d и @happyopossum: использование PoC из обрывков кода — не ново, но LLM демократизировали его, сжав цикл (чтение коммита → RE → сборка → сканирование) с дней/недель до минут/часов. @loeg и @avsm: memory-safe языки (включая OCaml) не спасают — LLM находят логические баги и corner-кейсы в C-биндингах, как в Mirage-crypto. @loeg утверждает, что такие языки снижают число эксплуатируемых багов, но @avsm и @aseipp настаивают: ключевая проблема — масштабируемость и скорость атак: от слуха до эксплойта теперь часы, и это легко масштабируется деньгами и compute. @stephbook и @talon8635: реальный bottleneck — rollout/deployment. Обновление стека за 10 минут — редкость, CI верифицирует бизнес-логику дольше, автообновления сами становятся вектором supply-chain атаки. Выбор между известной уязвимостью и слепым доверием к апдейтам — ловушка. @Saghm и @xbar обсуждают, может ли LLM «найти» эксплойт по ложному слуху; @petesergeant приводит пример sgnt.ai/p/terrible-mistake: агент генерирует критичный баг по ложной подсказке — false positives становятся индуктивным инструментом. Советы: @nickcw — держать security-фиксы в отдельных ветках, мёржить только в релиз-день, мириться с конфликтами. @rndhouse — построил инструмент для детекции «тихих» багфиксов через GPT-5.5-класс модели; обфускация изменений для обхода — ненадёжна, c-lightning временно раздавал закрытый бинарь. @ChrisMarshallNY и @skybrian: мейнтейнеры могут уйти в приватные репозитории ради сокращения окна эксплуатации — хотя публичность ранее игнорировалась с тезисом «LoL MaRkEtInG». @godelski и @dingdongditchme: менеджмент давит на скорость и отказывается чинить баги, которые Claude уже верифицировал в open PR; без воли — качество ПО не растёт, LLM только ускоряют и хорошее, и плохое. @janpeuker: когда средние и высокие баги станут дёшевы для фикса, lowkey-хакинг и privacy-аудиты станут prohibitively expensive для обычных граждан — баланс сил сместится. Остальные не оспаривают напрямую, но тон треда — про удешевление эксплойтов, а не защиты.
Z.ai confirms Ox Alpha is a new GLM-series model and will release its weights 🔥 Горячее
Страница Bloomberg отображает сообщение о блокировке доступа из-за подозрения в автоматизированном трафике. Система определила необычную активность с компьютерной сети пользователя и потребовала подтверждения, что он не является роботом, предложив отметить соответствующее поле. Для разблокировки рекомендуется убедиться, что браузер поддерживает JavaScript и файлы cookie, а также не блокирует их загрузку. В случае продолжения проблем пользователю предлагается обратиться в службу поддержки, указав предоставленный идентификатор блокировки: 1a698e1b-a20f-11f1-b541-d9cf7d45d6f4. Страница также содержит ссылки на условия использования, политику cookie и форму обратной связи, а также призыв оформить подписку на Bloomberg.com для доступа к глобальным финансовым новостям. Никакой информации о статье про китайскую ИИ-модель Ox Alpha или её сравнении с DeepSeek в данном фрагменте отсутствует — доступ к контенту заблокирован защитной системой.
Комментарии (144)
Ox Alpha демонстрирует уровень кодирования между Sonnet и Opus, делает мало ошибок, но не считается «очень умной». Часто страдает от «doom loop» — проблемы, присущей модели и используемым harness-ам, включая исторически уязвимые модели GLM. Бенчмарки противоречивы: в одних тестах отстаёт от GPT-5.4 Nano, в других превосходит Fable, что ставит под сомнение реальную производительность. Инференция медленная, часты тайм-ауты; быстрый сервис повысил бы привлекательность. Модель пишет чистый код и удерживает контекст, но теряется в сложных bash-скриптах с пайплайнами. Размер модели не опубликован; предполагается, что если он не превышает GLM 5.3, модель «потрясающая», иначе — сравнима с DeepSeek Pro или Kimi K3. Открытый релиз весов воспринимается как конкурентный шаг против DeepSeek и полезен для экосистемы AI. Текущий интерес обусловлен бесплатностью — при введении платы использование может резко упасть. Отсутствуют надёжные отчёты о возможностях модели. Некоторые harness-ы (OpenRouter, OpenCode) скрывают направление трафика, вызывая опасения.
DeepSeek-v4-flash-vision-exp 🔥 Горячее
Главная идея — модель deepseek-v4-flash-vision-exp умеет принимать изображения вместе с текстом и выполнять с ними те же операции, что и с обычными запросами. Поддерживаются три способа подачи изображения: встраивание через base64‑data‑URL, публичный URL и ссылка на файл, загруженный через Files API. Каждый способ имеет свои ограничения: общий размер запроса ≤ 48 MiB, отдельный файл ≤ 32 MiB (для inline‑изображений) и ≤ 64 MiB при использовании Files API; внешняя ссылка должна быть ≤ 8192 символов и загрузиться за ≤ 60 секунд.
Факт, который стоит запомнить: изображение можно передать как image_url в составе массива content, где каждый элемент — либо текст, либо блок‑изображения с полем type: "image_url" (или file_id). Важно указывать правильный media_type (jpeg, png, gif, webp) и, при необходимости, параметр detail (low, high, original, auto). Эти детали позволяют гибко интегрировать визуальные данные в чат‑запросы без лишних сложностей.
Комментарии (128)
DeepSeek-v4-flash-vision-exp демонстрирует лучшее соотношение стоимости и производительности в агентных задачах — например, 59.3% на DeepSWE при использовании лишь 1/18 ресурсов Gemini 5.6-Sol Medium — но имеет значительные ограничения в визуальном распознавании. Модель ошибочно интерпретирует время на часах (5:10:45 вместо 08:09:25), что может быть связано с системной проблемой в обработке визуальных подсказок; однако некоторые пользователи отмечают, что изображение часов нестандартно, и даже люди могут ошибаться, ставя под сомнение релевантность такого теста. Ограничение в 800×800 пикселей не позволяет корректно анализировать полные страницы A4/Letter, что ограничивает применение в OCR-задачах. Модель не поддерживает изображения как результат инструментального вызова, что мешает визуальной верификации в агентных сценариях. Режим рассуждения увеличивает галлюцинации и снижает точность — его рекомендуется отключать при работе с изображениями. В детальной визуальной классификации (например, архитектурных объектов) модель уступает Bytedance Seed 2.1 Turbo. Для повышения точности пользователи применяют гибридные решения: DeepSeek для текста и Kimi K2.6 на Cloudflare для изображений. При попытках модели «выдумывать» доступ к изображениям используют обходные пути — например, явное назначение ей навыка внешней vision-модели. Ранее DeepSeek уже имел отдельную vision-модель для чата, поэтому выпуск v4-flash-vision-exp — логичное развитие, а не неожиданный поворот. Для тестирования без API-ключа можно использовать playground на OpenRouter с небольшим балансом ($5). Текущая версия — предварительный релиз; ожидается дообучение и улучшение в ближайшие недели.
DeepSeek peak/off-peak pricing update
DeepSeek-V4-Pro официально запущен с улучшениями для агентных задач: теперь доступны три уровня усилий рассуждения — от минимальных для простых запросов до максимальных для сложных сценариев. Модель интегрирована с OpenAI-совместимым API, включая одну кнопку для настройки с Codex, что упрощает внедрение в существующие рабочие процессы. Доступна как в веб-интерфейсе через «Expert Mode», так и через API — с теми же именами моделей, что и раньше.
Цены на API обновлены: введены тарифы в часы пик и вне пика — скидка до 50% в непиковые часы, что позволяет оптимизировать затраты на нагрузку. Новые тарифы вступают в силу 16:00 UTC 16 августа 2026 года. Бенчмарки показывают значительный рост производительности по сравнению с предыдущими версиями, особенно в задачах, требующих глубокого анализа.
Комментарии (101)
Цены на DeepSeek-V4-Pro выросли в 2–6 раз, зависят от времени суток (ниже ночью) и могут превышать стоимость альтернатив, таких как Baseten или Luna. Пользователи расходятся во мнениях: одни считают цены завышенными, другие — оправданными. Рекомендуется использовать альтернативные решения или откладывать запросы на более дешёвые часы.
DeepSeek V4 Pro 0813 🔥 Горячее 💬 Длинная дискуссия
Главная идея — DeepSeek V4 Pro 0813 — это первый стабильный релиз модели DeepSeek V4 Pro, построенный по архитектуре Mixture-of-Experts (MoE), которая позволяет эффективно распределять вычисления между специализированными подсистемами. Это делает её мощной, но при этом относительно экономичной в использовании ресурсов.
Ключевые цифры: вход стоит $0.435 за 1М токенов, но реальная средняя цена — всего $0.035, а выход — $0.87 (реально $0.8697), при этом кэширование снижает затраты до 92.7% от списка. Скорость генерации — 59 токенов/сек (P50), а средняя задержка — 1.3 секунды. Важный факт: 91.76% кэш-хитрейт говорит о высокой эффективности повторного использования контекста. Архитектура MoE даёт преимущество в сложных задачах, но требует точного балансирования нагрузки между экспертами.
Комментарии (424)
По опыту эксплуатации, DeepSeek V4 Flash 0731 показал значительный рост возможностей при небольшом размере и цене, что вызвало разочарование по поводу выпуска V4 Pro 0813. Некоторые пользователи отмечают, что V4 Pro 0813 уступает Flash по производительности, несмотря на более низкую стоимость; другие — что он достигает равных или лучших результатов, чем предыдущие модели, при сниженной цене. Тесты на одной задаче показали, что V4 Pro 0813 уступает Grok 4.6, но дешевле. В то же время один пользователь успешно применил V4 Pro 0813 для оптимизации трафик-симулятора и распределённого физического движка, получив улучшения без новых проблем. Рекомендуются альтернативы: Kimi-K3, GLM-5.2, Minimax — как модели, эффективные при минимальной стоимости.
DeepSeek V4 Flash on a Single AMD MI300X 🔥 Горячее
Главная идея — первый рабочий запуск DeepSeek‑V4‑Flash‑0731 на одной видеокарте AMD MI300X без дополнительной квантовки или оффлоу. Модель полностью помещается в 156,7 GiB HBM3, а благодаря 192 GiB памяти и 5,3 TB/s пропускной способности достигается пропускная способность до ≈ 8 K токенов/сек при предзаполнении и 168,6 токенов/сек в медиане однопоточного декодирования. При 8‑х одновременных потоках суммарный вывод достигает 542 токенов/сек, а пиковый 64‑потоковый баст‑запрос укладывается в 830 токенов/сек без OOM и ошибок движка. Контекст поддерживается до 256 K токенов (архитектура теоретически позволяет 1 M).
Ключевые факты, которые стоит запомнить:
- 156,7 GiB весов — полностью в HBM, без offload‑квантовки;
- ≈ 8 K tok/s предзаполнение (6 988–7 019 tok/s в продакшн‑профиле);
- 542 tok/s суммарный вывод при 8‑х потоках, 830 tok/s при 64‑потоковом басте;
- Исправления касаются FP8‑формата MI300X, MoE‑маршрутизации, CPU‑KV синхронизации и специфичных ядер ROCm.
Эти детали позволяют использовать MI300X как дешевый (в 2–3 раза) альтернативный вариант к NVIDIA‑решениям для тяжёлых LLM‑задач.
Комментарии (87)
DeepSeek V4 Flash можно запускать на AMD MI300X, но с ограничением контекстного окна с 1M до 256k — по опыту @monster_truck, это не снижает качество. @Tepix считает MI300X неподходящей как OAM-модуль, но @WhitneyLand отмечает, что модель работает, хоть и с ограничениями. MI350P — альтернатива с 144GB памяти, но меньшей, чем у MI300X. @fergusfinn советует использовать MI300X с высоким HBM и делится опытом работы с 2xMI300X. Производительность MI300X всё ещё ниже, чем у H800 (15k токенов/сек).
DeepSeek V4 Flash 0731 Intelligence, Performance and Price Analysis 🔥 Горячее 💬 Длинная дискуссия
DeepSeek V4 Flash 0731 демонстрирует высокую эффективность в рамках Artificial Analysis Intelligence Index, где его показатель AA‑Omniscience Index показывает значимые результаты, измеряя надёжность знаний и уровень галлюцинаций; индекс варьируется от –100 до 100, при этом 0 означает равное количество правильных и неправильных ответов, а отрицательные значения указывают на преобладание ошибок. При расчёте стоимости учитываются вводные, кэш‑хиты, рассуждения и генерируемые токены, цена за кэш‑хиты обычно значительно ниже обычной, что позволяет оценить среднюю цену за задачу в долларах. Кроме того, модель использует ограниченное количество выходных токенов на задачу, что снижает расход ресурсов.
Показатель Artificial Analysis Intelligence Index v4.1 включает девять оценок: GDPval‑AA v2, τ³‑Banking, Terminal‑Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA‑Omniscience и AA‑LCR, а модели с типом рассуждения отмечаются светящейся лампочкой. Весовые коэффициенты задач учитывают стоимость входных и выходных токенов, кэш‑записей и кэш‑хранилища, а размер контекстного окна определяет возможность работы с большими объёмами данных в системах генерации с подкреплением, что делает модель привлекательной для коммерческих сценариев.
Комментарии (253)
DeepSeek V4 Flash 0731 демонстрирует высокую производительность и эффективность, особенно в кодировании и решении сложных задач, при этом стоит дешевле GPT-5.4 и Anthropic. Однако сохраняются проблемы с галлюцинациями и забыванием, характерные для предыдущих версий. Модель требует точных спецификаций и может давать ошибочные ответы. Отсутствует multimodal-поддержка. Рекомендуется для задач, где важна стоимость и скорость, но с осторожностью — из-за рисков неточностей.
DeepSeek-V4-Flash Update 🔥 Горячее 💬 Длинная дискуссия
DeepSeek‑V4‑Flash теперь доступен в публичном бета‑режиме: достаточно указать модель deepseek‑v4‑flash, а метод вызова API не меняется. По новым публичным бенчмаркам она превосходит V4‑Pro‑Preview: Terminal Bench 2.1 – 82.7, NL2Repo – 54.2, Cybergym – 76.7, DeepSWE – 54.4, Toolathlon – 70.3, Agent Last Exam – 25.2, Automation Bench (Публичный) – 25.1, DSBench‑FullStack – 68.7, DSBench‑Hard – 59.6. Тесты на публичных наборах проводились в минимальном режиме DeepSeek Harness с topp=0.95 и temperature=1.0. Модель поддерживает формат Responses API и адаптирована под Codex; архитектура и размер такие же, как у Flash‑Preview, только дообученная. DeepSeek‑V4‑Pro выйдет скоро, а текущий релиз касается только Flash.
Ранее компания объявила о выпуске DeepSeek‑V4‑Pro и Flash через OpenAI‑ и Anthropic‑совместимые интерфейсы, после чего старые имена deepseek‑chat и deepseek‑reasoner будут удалены 24 июля 2026 года. Модели V3.2‑Exp и V3.2‑Speciale показывают рост: HumanEval – 84.76 %, MATH – 71.02 %, BBH – 83.40 %, а в Arena‑Hard их победа над GPT‑4‑0314 выросла до 68.3 %. В публичных тестах использовался минимальный режим DeepSeek Harness с topp=0.95 и temperature=1.0, а внутренние наборы DSBench‑FullStack и DSBench‑Hard включают сложные задачи полного стека. Кроме того, в V3.2‑Exp точность JSON‑вывода достигла 97 % благодаря регулярным выражениям, а роль‑плейинг стал более гибким, позволяя модели принимать любые персонажи.
Комментарии (255)
DeepSeek-V4-Flash демонстрирует высокую производительность, низкую стоимость и быструю работу, особенно в кодировании, реализации и оптимизации. Пользователи сравнивают её с GPT 5.6 Luna, Kimi K3 и GLM 5.2: DeepSeek-V4-Flash эффективнее в технических задачах, но может уступать другим моделям в генерации текста и ответах на вопросы. Отмечаются риски безопасности — возможная утечка данных и влияние на производительность других моделей. Рекомендуется применять DeepSeek-V4-Flash там, где важны скорость и стоимость, а другие модели — для творческих и аналитических задач.
GLM 5.2 and the coming AI margin collapse 🔥 Горячее 💬 Длинная дискуссия
Экономика искусственного интеллекта меняется: обучение модели — это разовый, дорогой капитальный расход, а реальная прибыль генерируется при инференсе, где есть реальные переменные затраты. Рынок переоценил DeepSeek R1, считая, что дешёвое обучение в $6 м делает крупные вложения в инфраструктуру излишними, что привело к резкому падению акций Nvidia. На деле же компании вроде Anthropic и OpenAI берут за токен инференса $25, при этом их валовая маржа достигает 90 % по сравнению с стоимостью вычислительных ресурсов. Такая модель позволяет амортизировать крупные затраты на обучение через огромный объём запросов, превращая их в устойчивую прибыль.
Недавно я тестировал GLM 5.2 от Z.ai — первый открытый конкурент, сравнимый по качеству с Opus и GPT‑5.5. Он почти неотличим по результатам, но работает медленнее, не поддерживает зрение и имеет слабую веб‑поисковую функцию, что критично для агентных сценариев. При этом платформа предоставляет совместимые OpenAI и Anthropic‑API, позволяя мгновенно заменить модель в Claude Code или Codex, меняя лишь базовый URL и ключ. Переключение стоит почти ничего, в отличие от привязки к проприетарным сервисам, и открывает путь к дешевым, открытым альтернативам, что может подорвать экономику закрытых лидеров.
Комментарии (468)
- Цены на API‑вызовы падают, но у гипермасштабов остаются высокие маржи, а конкуренция со стороны китайских провайдеров ставит под сомнение долгосрочную прибыльность.
- Открытые модели (GLM 5.2, DeepSeek и др.) дешевле в инференсе, однако их качество и надёжность пока уступают закрытым фронтирным системам, что ограничивает их массовое принятие.
- Основные барьеры – инфраструктурные ограничения и необходимость интеграции с удобными харанерами/ MCP, без которых открытые модели остаются менее удобными для профессионального использования.
- Экономика токенов показывает, что рост спроса (мультизадачность, веб‑поиск, агентные сценарии) будет давить на поставки вычислительных ресурсов, что может привести к росту цен в долгосрочной перспективе.
Alibaba Cloud says it cut Nvidia AI GPU use by 82% with new pooling system 🔥 Горячее 💬 Длинная дискуссия
Alibaba Cloud представила систему объединения вычислительных ресурсов Aegaeon, которая, по их утверждению, позволяет сократить использование графических процессоров Nvidia на 82%. Новая технология способна обслуживать десятки больших языковых моделей, требуя лишь доли GPU, необходимых ранее.
Во время бета-тестирования на платформе Alibaba Cloud Marketplace в течение более трех месяцев количество необходимых Nvidia H20 GPU для работы с моделями до 72 миллиардов параметров сократилось с 1,192 до 213. Исследователи обнаружили, что 17,7% GPU выделялись для обслуживания всего 1,35% запросов, что свидетельствует о значительной неэффективности в работе с одновременными AI-нагрузками.
Работа была представлена на 31-й Симпозиуме по принципам операционных систем (SOSP) в Сеуле. Один из соавторов исследования - главный технолог Alibaba Cloud Чжоу Цзжэньрен. Aegaeon позиционируется как первая работа, раскрывающая чрезмерные затраты на обслуживание одновременных рабочих нагрузок LLM на рынке.
Комментарии (286)
- Эффективность использования GPU в облаке Alibaba — 17,7 % GPU обрабатывает всего 1,35 % запросов, и вместо 1192 GPU теперь используется 213, что на 82 % меньше.
- US-ограничения на экспорт чипов в Китай — вынуждают китайские компании к инновациям, что может привести к созданию более эффективных решений, которые в будущем могут быть использованы в других странах.
- Сравнение моделей — DeepSeek и Qwen от Alibaba Cloud являются наиболее популярными моделями для инференса, в то время как большинство других моделей используются очень редко, что приводит к неэффективному использованию ресурсов.
- Проблема с лицензиями и открытым исходным кодом — Китайские компании, такие как DeepSeek, начинают отказываться от открытого кода, что может повлиять на развитие AI-сообщества.
- Стоимость и доступность GPU — NVIDIA стоит дороже, чем в Китае, но в то же время, китайские компании могут разрабатывать более дешевые и эффективные решения, что может привести к снижению цен на GPU в будущем.
DeepSeek OCR 🔥 Горячее 💬 Длинная дискуссия
Предоставленный текст содержит только навигационное меню и элементы интерфейса GitHub, но не содержит самого содержимого статьи о DeepSeek-OCR. Без основного текста статьи невозможно создать точный пересказ её содержания.
Для создания качественного саммари мне нужен сам текст статьи, описание проекта DeepSeek-OCR, его особенности, технические детали или результаты, которые он демонстрирует. Пожалуйста, предоставьте основное содержимое репозитория или статьи, и я подготовлю ёмкий пересказ в соответствии с вашими требованиями.
Комментарии (226)
- DeepSeek-OCR представляет собой исследование границ визуального сжатия текста, достигая почти безпотерянного восстановления текста при 97% точности, что делает его полезным для создания обучающих данных для LLM.
- Модель демонстрирует высокую точность на OmniAI бенчмарке, но при этом остается неясным, как она справляется с более сложными задачами, такими как распознование сложных таблиц и многостраничных документов.
- Несмотря на то, что DeepSeek-OCR является open-source и MIT лицензированным, отсутствие коммерческого продукта подчеркивает пробел в экосистеме OCR, что может быть связано с тем, что модель не была обучена на полностью лицензионых данных.
- Сообщество отмечает, что несмотря на то, что модель может быть использована для создания обучающих данных для LLM, она не может быть использована в продакшене, потому что она не была обучена на лицензионных данных.
- Некоторые участники обсуждения отмечают, что модель может быть использована для извлечения текста из старых журналов и книг, но при этом остается неясным, насколько она справляется с распознованием сложных многостраничных документов и таблиц.
AI tools are making the world look weird 💬 Длинная дискуссия
Исследования в области поведенческих наук часто страдают от системной ошибки: они опираются на данные, собранные в западных, образованных, индустриальных, богатых и демократических обществах (WEIRD), а затем применяют выводы ко всему человечеству. Это приводит к искажённым результатам, поскольку такие популяции составляют лишь малую часть мирового населения и могут демонстрировать нетипичные психологические и социальные паттерны.
Например, многие классические теории о принятии решений или морали основаны на экспериментах с студентами американских университетов, чьи реакции часто не совпадают с поведением людей из других культур. Это ограничивает применимость исследований в глобальном масштабе и подрывает их ценность для бизнеса или политики, ориентированных на разнообразные аудитории.
Осознание этой проблемы — первый шаг к более инклюзивной и точной науке.
Комментарии (169)
- Обсуждается культурная предвзятость ИИ (особенно ChatGPT), который демонстрирует сильное смещение в сторону западных, особенно американских, ценностей из-за преобладания англоязычных данных в обучении.
- Участники отмечают, что исходные данные для обучения ИИ (например, с Reddit) перекошены в сторону взглядов западной, образованной, индустриализированной, богатой и демократической (WEIRD) аудитории, что ограничивает способность ИИ отражать глобальное разнообразие.
- Поднимается вопрос, могут ли ИИ, обученные на других языках или данных (например, DeepSeek, Mistral), или использование специальных промптов снизить этот эффект и лучше отражать другие культуры.
- Критикуется методология исследования, лежащего в основе статьи, за отсутствие деталей и возможную нерепрезентативность, а также обоснованность некоторых антропологических claims в рекомендованной книге.
- Обсуждается, является ли проблема inherent ограничением архитектуры ИИ или же её можно смягчить за счёт более разнообразных данных и специализированного обучения для разных культурных контекстов.
DeepSeek-v3.1 🔥 Горячее 💬 Длинная дискуссия
DeepSeek-V3.1 — первый шаг к эпохе агентов
- Гибридный режим: одна модель, два режима — Think (рассуждения) и Non-Think (быстрый ответ).
- Скорость: Think-режим отвечает быстрее, чем DeepSeek-R1-0528.
- Агентские навыки: улучшены работа с инструментами и многошаговые задачи.
Попробовать: chat.deepseek.com
API
deepseek-chat→ Non-Think,deepseek-reasoner→ Think, контекст 128К.- Поддержка формата Anthropic API и строгого Function Calling (бета).
Инструменты и агенты
- Рост результатов на SWE / Terminal-Bench.
- Эффективнее многошаговые поисковые задачи.
Модель
- База V3.1: дообучена на 840 B токенов для длинного контекста.
- Обновлён токенайзер и шаблон чата.
- Веса открыты: V3.1-Base, V3.1.
Цены
- Новые тарифы с 5 сентября 2025, 16:00 UTC. До этого действуют старые.
Комментарии (253)
- Выпущены GGUF-файлы DeepSeek-V3.1 для локального запуска: ≥250 ГБ RAM+VRAM или медленный off-load на SSD.
- На бенчмарках модель уступает GPT-5/Claude 4/GLM-4.5, но конкурентоспособна среди открытых весов.
- Пользователи жалуются на навязчивое «Of course.» в ответах, повышенные галлюцинации и устаревшие форматы tool-use.
- Цена API: $0,56 вход / $1,68 выход за 1 M токенов — дёшево, но без прежней ночной скидки.
- Китайские СМИ: V3.1 обучена на FP8 для будущих отечественных AI-чипов, что может ударить по позициям NVIDIA.