Hacker News Digest

BetterWispr — открытая программа для диктовки на macOS: удерживайте ⌥ Space в любом приложении, говорите, отпускаете — и в поле ввода появляется чистый текст. Всё распознавание идёт локально, без аккаунта и облака: девять встроенных моделей (Apple speech, Parakeet, Whisper) скачиваются один раз и работают офлайн. Parakeet покрывает английский, японский и 25 европейских языков, Whisper — больше. Можно подключить собственный API Sarvam AI, Smallest AI или совместимый с OpenAI.

Настраивается почти всё: горячая клавиша (удержание или переключение), стиль для каждого приложения (неформальный убирает точку в конце, очень неформальный — ещё и заглавные), уровень чистки (Light убирает «э-э» и оговорки, Medium правит на ясность через Apple Intelligence или Ollama, None сохраняет всё). Голосовые команды вроде «запятая» или «удали последнее предложение» работают на английском. Есть встроенный Notetaker: он пишет вашу речь как «Me», звук других приложений как «Them» и затем формирует резюме, решения и задачи. Словарь запоминает имена и термины, история хранит исходный и исправленный текст с возможностью вернуть оригинал. Лицензия Apache 2.0, обновления приходят с GitHub Releases и ставятся только при совпадении подписи EdDSA.

Локальная диктовка на macOS с моделями Parakeet v3 и Whisper работает эффективно, обеспечивая высокую точность и низкую задержку. Whisper остается основным универсальным решением, в то время как Parakeet v3 поддерживает только европейские языки; для CJK-языков используют Whisper. Некоторые пользователи считают достаточным встроенный API SpeechAnalyzer. Для управления без рук применяют Bluetooth-пульты и педали с переназначением клавиш через Karabiner. Чтобы сделать процесс полностью бесконтактным, предлагают внедрить активацию по ключевому слову (wake-word) и автоматическое завершение по тишине. Для улучшения качества рекомендуют пост-транскрипционную очистку через LLM-промпты или словари. Один разработчик создал CLI-утилиту, параллельно комбинирующую три модели, что снизило задержку и повысило точность. Также запросили интеграцию с IDE для автоматической отправки сообщений при завершении диктовки. Мнения о продуктивности разделились: одни считают метод революционным, другие жалуются на усталость и отмечают, что при быстром наборе текста диктовка становится нишевым решением. Спрос на локальные и веб-версии без облачной передачи данных привел к обилию схожих OSS-проектов (Handy, VoiceInk, Wispr Flow, Biscotti). В связи с этим предлагают расширить поддержку на Windows и Linux. Отдельно обсуждаются возможные юридические риски, связанные с товарным знаком Wispr.

Desert Ant Labs запускает набор из 18 специализированных моделей для работы на устройстве — в аудио, зрении и тексте — каждая из которых отвечает за миллисекунды и работает бесплатно, без токенов и облачных вызовов. Эти модели достаточно малы, чтобы работать на пятилетнем смартфоне, и достаточно быстры, чтобы обрабатывать каждый кадр видео или каждое нажатие клавиши, превосходя по скорости и качеству существующие API-решения. Например, модель Voz транскрибирует 10 минут аудио за две секунды на iPhone — в 4,7 раза быстрее Whisper — с временными метками для каждого слова. Clear, весом всего 9 МБ, превращает пятиминутную запись в студийное качество за одну секунду. Redact маскирует персональные данные (имена, адреса, номера карт) в реальном времени на 27 языках, достигая 88,8% точности при размере всего 12 МБ — близко к результатам 2,3 ГБ модели GLiNER-PII. Tongue идентифицирует 84 языка по трём словам с точностью 0,933 при размере 2 МБ, обгоняя 293 МБ детектор с показателем 0,887.

Все модели доступны через единый SDK для Swift, Kotlin и JavaScript, с бесплатным использованием до 100 тыс. ежемесячно активных устройств. Desert Ant Labs, основанный в Европе, делает ставку на суверенный подход: данные никогда не покидают устройство пользователя, что исключает зависимость от облака и защищает от принудительного изъятия информации. Лаб вырос из внутренней потребности команды Detail — их видео-приложения, где функции вроде Auto Edit и аудио-улучшения изначально требовали облачных API, prowadząc к росту инфраструктурных расходов. Обучив собственные модели, команда достигла превосходства над Dolby, Whisper и Claude Sonnet по скорости, качеству и стоимости, при этом модели оказались значительно меньше. Первые 18 моделей — это «маленький мозг» (мозжечок) системы: они выполняют рутинные, всегда включённые задачи, освобождая ресурсы для высшего уровня обработки. В будущем планируется добавить «кору» — динамическую селекцию моделей: локальные сначала, крупные при необходимости, облако — только если данные должны покинуть устройство. Появление более мощных чипов и открытых исследований позволит постепенно увеличивать размер и возможности локальных моделей, строя frontier-интеллект снизу вверх. SDK и документация доступны на GitHub, а модели можно протестировать через CLI или в браузере на Hugging Face.

Обсуждение подтверждает потенциал локальных моделей для снижения задержек и расходов, но выявляет практические проблемы: неясная бизнес‐модель после бесплатного порога, ограниченная поддержка только Apple‐устройств, отсутствие Python‐SDK и вопросы качества и лицензирования моделей. Автор поста считает модель бесплатной до 100 k MAU, но пользователи спорят о дальнейшей монетизации: один аргументирует, что без облачных вызовов нет оснований для оплаты, другой указывает на типичный enterprise‐подход с гибкой лицензией. Пользователь @momojo подтверждает, что небольшие модели (≈50 MB) запускаются на ноутбуке без дискретного GPU для биоинформатики, что поддерживает обещанную эффективность on‐device. Многие комментаторы отмечают, что модели доступны только через CoreML — только на iOS/macOS — и выражают недовольство отсутствием поддержки Android, Windows и Linux. Для расширения аудитории рекомендуется выпустить Python‐SDK или pip‐пакет для интеграции в серверные и кроссплатформенные проекты. После бесплатного уровня цены не раскрыты; участники указывают на «contact sales», что типично для корпоративного ПО с гибкой ценой и риском доли от доходов приложения. Стоит явно указывать, какие модели оригинальные, а какие — переупакованные открытые (например, Voz = Parakeet v3), чтобы избежать недоразумений. Маленькие on‐device модели могут использоваться для автодополнения текста и UI‐подсказок, особенно ценно на старых смартфонах с ограниченными ресурсами. Есть опасения по поводу on‐device модерации контента (hate‐speech triage): без постоянных обновлений риск ложных срабатываний высок, поэтому требуется тщательная валидация. Для выхода за пределы экосистемы Apple стоит добавить поддержку TensorFlow Lite, ONNX Runtime или ML Kit, чтобы запускать модели на Android и других платформах. Демонстрация модели Clear (улучшение аудио) не произвела ощутимого различия в звучании, вызывая сомнения в реальном качестве улучшения.

Apple представила новый SpeechAnalyzer, который в тестах на 5 559 utterance‑ах показал лучшую точность среди всех сравниваемых систем. На чистом наборе LibriSpeech его WER составил 2,12 %, а на шумном — 4,56 %, что вдвое‑трижды лучше, чем у Whisper Small (3,74 % и 7,95 %) и в четыре раза лучше, чем у устаревшего SFSpeechRecognizer (9,02 % и 16,25 %). Модель работает полностью на устройстве, в три раза быстрее, чем Whisper Small, при этом требует в три раза меньше вычислительных ресурсов.

Переход с SFSpeechRecognizer на SpeechAnalyzer оправдан: ошибка в тексте снижается в 3‑4 раза, а качество транскрибирования становится более пунктуационно правильным и заглавным. Для английского распознавания на iPhone или Mac встроенный движок теперь превосходит даже Whisper Small как по точности, так и по скорости, хотя Whisper сохраняет преимущество в поддержке множества языков и кроссплатформенности. Поэтому разработчикам стоит мигрировать сразу, а остальные системы использовать только там, где требуется многоязычность.

Все результаты и исходные транскрипции открыты для проверки: вы можете загрузить JSON‑файлы с WER‑значениями и оценить их самостоятельно, что делает выводы независимыми и публично проверяемыми и легко интегрируемыми.

• Apple SpeechAnalyzer показывает в 3‑4 раз лучшую точность и в 3 раз быстрее, чем Whisper Small, при этом работает полностью офлайн на устройстве.
• Обсуждаются преимущества стриминговой транскрипции и поддержка тайм‑стампов, чего не хватает у большинства открытых моделей.
• Участники отмечают, что сравнение с лишь Whisper Small/​Base / Tiny бессмысленно – нужны тесты против Whisper V3‑Large, V3‑Turbo, Parakeet и Cohere Transcribe.
• Есть запросы добавить автодетекцию языка, более широкий набор языков и интеграцию в системный клавиатурный ввод.