Hacker News Digest

Тег: #neural-engine

Постов: 5

We turned EmbeddingGemma 2 into a speech-to-text model (eg2.haku.sh) 🔥 Горячее

Модель EmbeddingGemma 2 от Google, созданная как мультимодальный эмбеддер для текста, изображений, аудио и видео в общем пространстве, превращена в систему распознавания речи. Идея в том, что произнесённое слово попадает в векторном пространстве рядом со своим письменным вариантом, поэтому слова можно «вычитывать» напрямую оттуда. Аудиокодер модели остался нетронутым: небольшой «читатель» переносит каждый короткий фрагмент аудио в текстовое пространство, ближайшее из примерно 229 000 английских слов побеждает, а крошечная дополнительная модель расставляет пунктуацию и заглавные буквы. Обучался только «читатель» — менее двух часов на 8 ускорителях H100 на открыто лицензированной английской речи; сама базовая модель никогда не училась на транскрипцию.

Скорость впечатляет: час аудио обрабатывается примерно за 13 секунд на базовом MacBook Air с чипом M3 и 8 ГБ памяти, полностью на устройстве через Neural Engine — это около 288-кратного реального времени. Для сравнения, IBM Granite Speech 5.0 TurboCTC на той же машине даёт примерно 150×, а NVIDIA Parakeet TDT 0.6B v3 на более мощных M4 Pro и M5 Pro — 156× и 335× соответственно, тогда как дообученная Phonon-2 достигает 480×. Пока качество распознавания скромнее: уровень ошибок в словах около 5% против 2–3% у лидирующих речевых моделей, и авторы рассчитывают закрыть разрыв лучше обученным «читателем» в следующей итерации.

Приложение бесплатно для macOS 14+ на Apple Silicon, модели (715 МБ) скачиваются при первом запуске. Можно перетащить аудиофайл или удерживать правый Option, говорить и отпустить, чтобы надиктовать текст в любое приложение; аудио никогда не покидает машину.

by amrrs • 13 октября 2026 г. в 11:27 • 393 points

Оригинал • HN

#apple-silicon#embeddinggemma#google#h100#macos#neural-engine#speech-to-text

Комментарии (86)

Модель EmbeddingGemma 2 работает как сверхбыстрая система распознавания речи с приемлемой точностью (~5 % WER), но пока отстаёт от облачных сервисов. Автор планирует открыть код под Apache License, однако репозиторий пока не найден. Тесты показывают экстремальную скорость: 33‐минутный аудиофайл транскрибируется за 6,75 сек на Mac Mini M4, Parakeet 3 на M1‐MacBook Air — за ~7,5 сек. Для macOS рекомендуется конвертировать модель в CoreML и запускать на Neural Engine, что сокращает время инференса с 60 сек до 10 сек. Точность считается хорошей, но не сравнима с облачными сервисами; WER около 5 % указан без конкретного бенчмарка. Модель ориентирована на английский язык: при транскрибировании португальской речи выдаёт низкокачественный английский текст. Пользователи интересуются поддержкой латинского, корейского, хинди и других языков. Обсуждаются идеи оптимизации: ограничение словаря частыми словами для создания небольшой модели, обучение CTC‐головы поверх аудио‐энкодера Gemma для лучшей точности и скорости, уменьшение размера мультимодальной модели без потери качества, обработка OOV‐слов (текущий метод выбирает ближайшее из ~229 000 английских слов). Сравнительные модели (granite‐speech‐5.0‐470m‐turboctc, Parakeet v3) показывают схожую скорость, подтверждая доступность быстрых локальных STT‐решений. Apple‐модель для локального распознавания речи работает примерно в 3 раза медленнее заявленных показателей, но с похожим уровнем ошибок.

iPhone Duo (apple.com) 🔥 Горячее 💬 Длинная дискуссия

iPhone Duo — первый складной iPhone с самым большим и тонким дисплеем в линейке: при раскрытии экран на 50% больше, чем у iPhone 18 Pro Max, достигая 7,6 дюйма Super Retina XDR. Внутренний экран состоит из 10 ультратонких слоёв с нанотexture-покрытием для снижения бликов, а подэкранная камера FaceTime остаётся скрытой до использования, обеспечивая непрерывную поверхность просмотра. Внешний дисплей покрывает более 90% площади экрана iPhone 18 Pro, сохраняя одинаковое соотношение сторон с внутренним.

Камера системы включает 48MP основной и ультраширокий модули, а также 12MP фронтальную камеру с Center Stage. Новые функции — Smart Take (автоматическая съёмка при готовности всех участников), Duo Preview (предпросмотр кадра на внешнем экране для субъекта съёмки) и Kid Cue (анимации для привлечения внимания детей) — делают съёмку более интуитивной. Устройство работает на чипе A20 Pro с Dual 16-ядерным Neural Engine, оптимизированным для на-device AI задач, и поддерживает Siri AI и Apple Intelligence. Батарея обеспечивает до 31 часа воспроизведения видео и быструю зарядку до 50% за 20 минут. Корпус поддерживает Touch ID в боковой кнопке, eSIM-only дизайн и совместим с Apple Pencil (USB-C), выход которого ожидается позже в этом году. iPhone Duo позиционируется как долговечное устройство с высокой остаточной стоимостью при переходе с Android.

by thecosmicfrog • 09 сентября 2026 г. в 18:15 • 1228 points

Оригинал • HN

#a20-pro#apple#apple-intelligence#esim#foldable-phone#iphone#iphone-duo#neural-engine#siri-ai#usb-c

Комментарии (2159)

Обсуждение iPhone Duo выявляет резкие разногласия: одни видят в нём замену iPhone и iPad — особенно для бизнеса и тех, кто редко использует планшет — другие считают его слишком большим для телефона и слишком малым для планшета, не решая ни одной задачи лучше отдельных устройств. Некоторые хвалят отсутствие складки и улучшенную герметичность шарнира как прорыв, но другие, опираясь на опыт Samsung и Google, предупреждают о риске попадания пыли и отслоения защитной плёнки. Цена в $2000 оправдана для одних новыми возможностями — Apple Pencil и нанотекстурным покрытием — другие считают её недоступной даже для лояльных пользователей Apple. Некоторые воспринимают устройство как логичное развитие, другие — как «худший телефон и худший планшет одновременно». Опытные пользователи советуют избегать первых поколений складных устройств — они часто выглядят устаревшими и имеют низкую надёжность. Приложения пока плохо оптимизированы под foldables, но iPhone Duo может стимулировать улучшение поддержки в экосистеме. Дизайн с соотношением сторон 1:1.4, напоминающим стандарт ISO A-серии, воспринимается как умный и эстетически целостный выбор. Продажи, по оценкам, не превысят 5% от общего числа iPhone — как у iPhone Mini. Многие считают дизайн «не-Apple» — слишком похожим на Xiaomi или Samsung, что вызывает разочарование у тех, кто ждал инноваций, а не копирования. Поддержка Apple Pencil — ключевое преимущество для визуальных и профессиональных задач, таких как вайтбординг. Подэкранная камера FaceTime воспринимается как прорыв одни, но другие отмечают, что качество видеозвонков осталось плохим. Некоторые ожидают использования как будильника с низким энергопотреблением, но сомневаются, что Apple внедрила для этого специальные технологии. Отсутствие MagSafe в чехле — серьёзный недостаток для одних, для других — сознательное ограничение для сохранения целостности конструкции. Опытные пользователи Surface Duo отмечают, что iPhone Duo копирует идеи Microsoft — от названия до интерфейса и жестов, вызывая ностальгию и разочарование. Пользователи с большими руками отмечают, что iPhone Duo ещё шире, чем iPhone 17, и непрактичен для одноручного использования.

New Mac mini, featuring M6 and M5 Pro (apple.com) 🔥 Горячее 💬 Длинная дискуссия

Apple анонсировала обновлённый Mac mini с процессорами M6 и M5 Pro, позиционируя его как мощный настольный компьютер для задач искусственного интеллекта и профессиональных рабочих нагрузок. Модель с чипом M6 обеспечивает до четырёхкратного ускорения AI-производительности благодаря Neural Accelerators в каждом ядре 12-ядерного GPU и Dual 16-ядерному Neural Engine, а также до 40% роста CPU-производительности и удвоенной пропускной способности памяти до 170 ГБ/с. В тестах LM Studio обработка LLM-промптов ускорилась до 13,5 раз по сравнению с M1 и до 4,8 раза — с M4, а в Excel расчёты стали быстрее на 1,5 раза относительно M4. Игровая производительность с трассировкой лучей в Cyberpunk 2077 выросла в два раза по сравнению с предыдущим поколением.

Версия с M5 Pro предлагает до 18-ядерного CPU и 20-ядерного GPU, ориентированная на профессиональные сценарии: видеопроизводство, разработку игр, научные вычисления и приложения. Оба варианта включают Wi-Fi 7, Bluetooth 6, 2,5 Гбит/с Ethernet (с опцией 10 Гбит/с) и работают под управлением macOS 27 с интегрированной Apple Intelligence и тестовой версией Siri AI. Устройство поддерживает до 32 ГБ унифицированной памяти и доступно для предзаказа с 25 августа, а в продажу поступит с 22 сентября. Apple подчеркивает, что Mac mini остаётся самым универсальным Mac — подходит как для домашнего использования, так и для круглосуточных агентных вычислений на рабочем столе.

by runako • 25 августа 2026 г. в 13:13 • 456 points

Оригинал • HN

#apple#bluetooth-6#ethernet#llm#m5-pro#m6#mac-mini#macos#neural-engine#wifi-7

Комментарии (279)

Обсуждение дополняет анонс, подчеркивая резкий рост цен на Mac mini, снижение доступности бюджетных моделей и скептицизм по поводу реальной ценности локального ИИ для обычных пользователей, несмотря на технические улучшения.

  • Многие пользователи считают, что Mac mini с M4 был отличным соотношением цены и производительности, а нынешние цены на M6/M5 Pro слишком высоки для обычного пользователя.

  • Цена на базовую модель Mac mini выросла почти вдвое за два года, что вызывает обеспокоенность по поводу доступности компьютеров для широкой аудитории.

  • Спор: Некоторые отмечают, что 4x ускорение ИИ — сомнительная метрика, так как неясно, на каких нагрузках оно измеряется, и не учитывается, что M5 Pro уже имел высокую производительность.

  • Спор: Один пользователь сомневается, что локальные LLM-модели на потребительском железе действительно нужны, сравнивая это с ray tracing — высокой стоимостью для узкой выгоды.

  • Совет: Пользователь с M1 Pro (16 ГБ) планирует обновиться до Mac mini с 64 ГБ ОЗУ и 2 ТБ, но ждет M7, чтобы избежать быстрой устареваемости.

  • Совет: При выборе между M5 Pro (30 GPU-ядер, 64 ГБ ОЗУ) и M5 Max (40 GPU-ядер, 48 ГБ ОЗУ) для ИИ важнее объем памяти, чем число ядер GPU, по мнению одного из участников.

  • Пользователи отмечают, что Apple использует неоднозначные метрики вроде «up to 2x faster» без указания нагрузки, что снижает доверие к заявленным цифрам.

  • Отсутствие 8 ГБ версии Mac mini воспринимается как ухудшение доступности, особенно на фоне ухода от бюджетных моделей.

  • Несколько пользователей подтверждают, что их M1/M4 Mac mini продолжают отлично справляться с повседневными задачами, и обновление не является срочным.

  • Повышение цены на 64 ГБ ОЗУ до $600 воспринимается как «gut punch» и делает конфигурации менее привлекательными для разработчиков.

  • Совет: Пользователь с M4 Pro (14 ядер CPU) ожидает, что Apple отложит выпуск M6 Pro до выхода нового Studio, чтобы не конкурировать с собственными продуктами.

  • Пользователи отмечают, что APFS уступает в скорости Linux-файловым системам, и быстрые SSD на Mac не используются на полную мощность из-за ПО.

  • Многие считают, что Apple теряет философию Steve Jobs — отсутствие немедленной доступности к покупке после анонса снижает энтузиазм и доверие.

  • Пользователи с M1/M4 Mac mini отмечают, что их устройства сохранили высокую вторичную стоимость, в то время как новые модели стоят вдвое дороже.

  • Совет: Один пользователь, купивший Mac Studio в январе, считает, что сделал правильный выбор, избежав будущих ценовых скачков и ограничений по памяти.

So happy with my base M4 purchase for $499 when it released. I even snagged a 1TB replacement drive for $199 a year ago. Feels like I got the last train out. — @jdoe1337halo

Apple introduces M6 and M5 Ultra (apple.com) 🔥 Горячее 💬 Длинная дискуссия

Apple представила два новых процессора для настольных Mac: M6 и M5 Ultra. M6 — первый чип Apple, произведённый по 2-нанометровому техпроцессу, с 12-ядерным CPU, 12-ядерным GPU, Dual 16-ядерным Neural Engine и пропускной способностью унифицированной памяти до 170 ГБ/с. Он установлен в обновлённом Mac mini и обеспечивает значительный прирост производительности и энергоэффективности по сравнению с предыдущими поколениями. M5 Ultra, в свою очередь, построен по технологии UltraFusion и представляет собой четырёхчиповую архитектуру — впервые в линейке M-серии. Он предлагает до 36 ядер CPU, до 80 ядер GPU и пропускную способность памяти 1,2 ТБ/с, что на 50% больше, чем у M3 Ultra. Этот чип предназначен для профессиональных нагрузок и работы с крупномасштабными ИИ-моделями, и установлен в новый Mac Studio. Оба процессора подчёркивают фокус Apple на сочетании высокой производительности и эффективности, особенно в задачах искусственного интеллекта. Тесты проводились в августе 2026 года на предсерийных системах с использованием отраслевых бенчмарков. Apple Intelligence будет доступен в macOS 27 этой осенью для поддерживаемых языков и регионов.

by interpol_p • 25 августа 2026 г. в 13:01 • 1221 points

Оригинал • HN

#2nm#ai-compute#apple#m5-ultra#m6#mac-mini#mac-studio#neural-engine#ultra-fusion#unified-memory

Комментарии (1173)

Рост производительности Apple Silicon не компенсирует рост цен и ограничения macOS. @alluro2 не вернётся к macOS из-за ухудшения системы и привязанности к Linux, ставя под сомнение экосистему Apple. @xiphias2 критикует закрытость macOS: отсутствие низкоуровневых инструментов отладки Metal, проблемы с сетью и жёсткая система окон делают её непригодной для глубокой разработки. @apatheticonion и @alluro2 указывают, что Linux на Apple Silicon неполноценен (Asahi не успевает за чипами), а без официальной поддержки ARM-версии macOS Mac превращается в тонкий клиент. @mark_l_watson, @gizmodo59 и @gehsty сходятся на том, что облачные инференсы (FireWorks.ai, Hugging Face) дешевле локальных моделей: $10–40/мес против $20 000 за железо. @paxys, @patatino и @abhishxk1 подтверждают, что M1/M4 Mac Mini остаются лучшим соотношением цены и производительности и для большинства задач не требуют апгрейда. @gardaani советует пропустить M5/M6 и ждать M7, так как Apple, по слухам, пропустит Pro/Ultra-варианты M6 ради нейронных ускорителей следующего поколения. @iandanforth приводит практическую оценку: M5 Ultra генерирует ~50 токенов/с на Qwen 3.8 27B. @aetherspawn считает покупку M6 Ultra оправданной только при 100 токенов/с на 100B MoE при 2M контексте и цене ниже $10K. @SXX, @mrtksn и @int32_64 отмечают, что апгрейд RAM на M5 Ultra стоит $25–34 за ГБ, делая версию на 512 ГБ (~$24 700) недоступной даже по сравнению с DGX Spark. @5ersi сравнивает M6 с AMD AI 395+ за €2000: Mac Mini вдвое дороже при сопоставимой производительности. @LeoPanthera и @vldmrs добавляют, что современные LLM не оптимизированы под 128–256 ГБ RAM, делая высокую память Mac Studio избыточной. @w10-1 предлагает лизинг за $50/мес как альтернативу покупке. @recursivedoubts и @Dansvidania восхищаются 2 нм как реальным физическим прогрессом, а не маркетингом. @kulahan сомневается в осмысленности термина «2 нм», сравнивая его с «динамическим контрастом» у телевизоров. @BirAdam и @xacky отмечают нестабильность Linux на Apple Silicon и рассматривают NetBSD как более перспективную альтернативу для лёгкой и стабильной ARM-ОС.

Apple M5 chip (apple.com) 🔥 Горячее 💬 Длинная дискуссия

Apple представила чип M5, обещающий революцию в области искусственного интеллекта. Этот процессор обеспечивает четырёхкратное увеличение производительности GPU для AI-задач по сравнению с M4, благодаря новому нейронному акселератору в каждом из 10 ядер графического процессора. Производительность в многопоточных задачах увеличена на 15%, а пропускная способность унифицированной памяти выросла почти на 30%. Новый 16-ядерный Neural Engine работает на 30% быстрее. Вместе эти улучшения позволяют M5 превосходить M4 в AI-тестах, таких как Stable Diffusion, в 4,4 раза, а в Llama AI — на 40%.

Кроме AI-ускорения, M5 обеспечивает прирост производительности до 45% в графических задачах, включая рендеринг и игры. Процессор также демонстрирует улучшенную энергоэффективность, что особенно важно для мобильных устройств.

Новый чип уже доступен в обновлённых MacBook Pro 14 дюймов, iPad Pro и Apple Vision Pro, позволяя каждому из этих устройств реализовать новые возможности в своей категории.

by mihau • 15 октября 2025 г. в 13:02 • 1198 points

Оригинал • HN

#5g#apple#gpu#ipad-pro#llm#m5#macbook-pro#neural-engine#ram

Комментарии (1290)

  • Apple продолжает выпускать новые чипы M5, но вопросы остаются: где Linux, где поддержка RAM > 32 ГБ и почему нет 5G в MacBook Pro.
  • Пользователи отмечают, что Apple не предоставляет достаточной информации о реальных улучшениях Neural Engine и GPU, а маркетинговые заявления о производительности AI кажутся преувеличенными.
  • Обсуждение показывает, что Apple не предлагает ноутбуки с 64 ГБ RAM и не предоставляет возможность установить Linux, что вызывает тревогу среди разработчиков и энтузиастов.
  • Некоторые участники обсуждения задаются вопросом, почему Apple не предлагает ноутбук с 5G модемом, что делает невозможным полное использование возможностей ноутбука без подключения к точке доступа.
  • Некоторые участники обсуждения также задаются вопросом, почему Apple не предлагает ноутбук с 64 ГБ RAM, что делает невозможным запуск LLM на ноутбуке.