Hacker News Digest

Проект PS5LM запускает llama.cpp прямо на взломанной консоли PS5: языковая модель работает на GPU консоли через бэкенд Vulkan на чипе RDNA 2, получая 11,4 ГБ общей памяти под модель и контекст. Консоль превращается в приватный сервер моделей для всей домашней сети — без ПК, облака и аккаунтов. Она отвечает на OpenAI-совместимый эндпоинт /v1/chat/completions, на Anthropic-совместимый /v1/messages (с ним работает Claude Code) и на /v1/systemone для «решающих» моделей вроде d1, Clef и OpenJev, выдающих типизированные решения с калиброванными вероятностями за доли секунды.

Интерфейс выведен на телевизор: каждый запрос стримится как чат с указанием устройства и текста ответа, кнопка «квадрат» запускает демо, «треугольник» открывает клавиатуру — всё управляется с дивана. Отдельная страница следит за температурой, энергопотреблением и загрузкой GPU и CPU за последние две минуты или час. Планировщик сам подбирает для каждого GGUF-файла максимальный контекст и лучший кэш под свободную память, а список Suggested содержит модели, измеренные на консоли. Поддерживаются все архитектуры и квантования, известные llama.cpp. Проект распространяется под GPL-3.0, не содержит файлов SDK Sony, ключей, прошивок и весов моделей и не связан с Sony Interactive Entertainment.

Запуск llama.cpp на взломанной PS5 технически возможен, но модель Qwen 3.8 27B в 2‐битной квантизации работает медленно и хуже, чем современные сервисы. Хостинг проекта на GitHub повышает риск DMCA, поэтому рекомендуется дублировать репозиторий. Для практических задач лучше использовать более мощные GPU или хотя бы 4‐битную квантизацию. Спор: Rabbit504030201 считает, что проект не должен размещаться на GitHub из‐за риска DMCA от Sony; dewey и другие указывают, что GitHub обеспечивает видимость и возможность зеркалирования; minimaxir предупреждает, что даже кастомный домен не спасёт от takedown. Несколько комментаторов согласны, что взломанная PS5 может стать недорогим вычислительным узлом — цена в $650 сопоставима с бюджетными видеокартами, но её аппаратные возможности уступают специализированным GPU. Модель Qwen 3.8 27B в 2‐битной квантизации на PS5 работает значительно медленнее и менее качественно, чем Claude или Opus 5.5: токен‐пропускная способность низкая, ответы требуют десятки тысяч токенов. Совет: Для улучшения качества вывода рекомендуется использовать 4‐битную квантизацию вместо 2‐битной — она ближе к полной точности и даёт более приемлемую производительность. PS5 подходит для длительных задач с низкой требовательностью к интеллекту: мониторинг серверных ошибок, просмотр видеонаблюдения, управление поливом растений. Спор: shiftpgdn предлагает использовать дешёвые платы BC250 за $150‐200; haunter возражает, что за такие деньги выгоднее купить RTX 3060 — получив более надёжную и гибкую платформу. Совет: Чтобы снизить риск удаления проекта, следует зеркалировать репозиторий не только на GitHub, но и на альтернативных хостингах или собственных доменах, как советует dewey.

Tether — это проект, созданный для воспроизведения функций Apple Continuity на Linux с iPhone. После перехода на Linux автор скучал по возможности отправлять и получать iMessages и SMS, синхронизировать буфер обмена, передавать файлы и видеть уведомления с iPhone на компьютере. Особенно ему не хватало автозаполнения OTP-кодов из почты или сообщений в веб-формы — небольшая, но критичная функция, которая значительно упрощала работу.

Проект начался с синхронизации буфера обмена, что стало фундаментом для дальнейшей разработки. Сначала был выпущен iOS-приложение с базовой поддержкой, а затем добавлен Linux-демон. Безопасность была приоритетом: связь реализована через mTLS с взаимной аутентификацией. Далее последовала передача файлов, а для OTP-автозаполнения использованы браузерные и почтовые расширения (для Firefox и Thunderbird), которые перехватывают коды и вставляют их в поля ввода.

Ключевым прорывом стало использование Bluetooth и протокола Apple Notification Center Service (ANCS) через изучение проектов ancs4linux и BlueFerry. Несмотря на лицензионные различия (GPL у исходников, MIT у Tether), автор реализовал чистую комнату на C++ для работы с iMessage, SMS, уведомлениями и синхронизацией контактов. Теперь Tether поддерживает всё это плюс ранее реализованные функции: передача файлов, буфер обмена и OTP-автозаполнение.

Хотя Bluetooth-интеграция остаётся сложной и полной нетривиальных edge-кейсов, проект достиг стабильной работы. Автор подчеркивает, что Tether создан не для коммерческой выгоды, а для общего блага, и призывает к участию: исправлениям багам, новым функциям, переводам и документации. Он особенно рекомендует попробовать Tether тем, кто использует Linux и iPhone и скучает по бесшовной интеграции устройств.

Тред подтверждает практическую ценность Tether для пользователей iPhone на Linux, выделяя три добавления к статье: (1) архитектурное отличие от OpenBubbles/Beeper — Tether работает поверх Bluetooth-профилей iPhone (как CarPlay), а не маскируется под Mac; (2) история с лицензированием — автор после критики перелицензировал ancs4linux на MIT; (3) набор реальных ограничений: требует брокер-приложение на iPhone и Wayland, а KDE Connect на iOS остаётся ненадёжным, что и оправдывает существование Tether.

• Tether принципиально отличается от OpenBubbles/Beeper/BlueBubbles: проект имитирует Mac и общается с серверами Apple, а Tether просит сам iPhone через Bluetooth отправлять/получать сообщения — по сути использует путь, аналогичный CarPlay и автомобильным head-unit (@zackb).

• Apple не имеет видимых юридических оснований преследовать Tether, так как он только общается с iPhone владельца по Bluetooth/LAN и бесполезен без самого iPhone — в отличие от Beeper/BlueBubbles, которые нарушали ToS серверов Apple (@teach).

• Спор: @voakbasda считает отказ Apple от интероперабельности близким к криминалу и восхваляет Tether как «пробивание стены сада Apple»; @BatchBeat возражает, что претензии к экосистеме нелогичны при сознательном использовании iPhone и Apple воспринимает такой интероп как враждебный; @binkHN добавляет, что Google с RCS показывает ту же закрытость.

• Совет: На вопрос о Wi-Fi-only шаринге буфера обмена iOS→Linux без облака: OP-автор Tether делает это, но не автоматически — нужно открыть приложение и нажать кнопку (@cassianoleal).

• Совет: Альтернативы для OTP на Linux без iPhone: WhatsApp с linked-устройствами (но @dwedge предупреждает, что WhatsApp уже скрывает OTP на linked-устройствах), Google Messages через web, фоновые Android-приложения, форвардящие SMS в Discord (@porridgeraisin, @desireco42).

• KDE Connect на iOS работает ненадёжно: отправка файлов часто ломается, многие функции недоступны — именно это вынудило автора Tether писать собственный стек (@cassianoleal, @blinkingled).

• Совет: Tether требует Wayland и не работает на X11 — для @mcswell на xfce это блокирующее ограничение (@mcswell, @inigyou).

• Совет: Нужен брокер-приложение на iPhone, причём недоступно на старых iOS (включая 17.0), что отсекает часть пользователей (@ThinkBeat, @dadoum).

• Автор Tether после критики @pzmarzly о copyleft-лицензии перелицензировал ancs4linux на MIT в течение ~5 минут после комментария — это вызвало одобрение треда как пример здоровой реакции сообщества (@voakbasda).

• Спор: @kees99 считает, что LGPL и так покрывает use-case copyleft-библиотеки для линковки с проприетарным кодом — это не требует GPL; @pzmarzly настаивает, что copyleft всё равно ограничивает интероперабельность.

• Совет: Для замены macOS на Linux критической фичей остаётся именно iMessage/SMS-интеграция — @cpressland готов купить Framework 13 Pro, если Tether будет работать заявленно; @jonathanwallace перешёл на Linux на той же неделе и ищет, что контрибьютить.

• Совет: Tether не решает шаринг файлов на iPhone в фоне — нужно держать приложение открытым; @lxe предпочитает LocalSend, но отмечает его ограничения.

• Совет: Исторически через Bluetooth MAP (Message Access Profile) @harryposner в 2020 уже смог отправлять/получать iMessage через Linux-iPhone, но застрял на «Group metadata side channel» — подробности в blueferry doc, упомянутой в проекте.

• Спор: @aeon_ai заявляет, что Tether не обеспечивает E2E-шифрование и менее безопасен; в треде прямого опровержения этому нет, но @zackb указывает, что трафик идёт от самого iPhone, а не через Apple-серверы.

transcribe.cpp — это библиотека для локального распознавания речи на основе ggml, поддерживающая более 60 моделей из 16 семейств, включая современные ASR-архитектуры. Каждая модель численно проверена на соответствие эталонным реализациям и протестирована на WER (Word Error Rate), что гарантирует точность, сопоставимую с оригинальными версиями. Библиотека ускоряется через Vulkan, Metal, CUDA и TinyBLAS, работая на Mac, Windows и Linux без зависимости от PyTorch или ONNX, что решает проблему кросс-платформенной доставки приложений.

Автор, создатель Handy, разработал проект, чтобы избежать фрагментации в экосистеме локального инференса — где существующие решения либо медленны, либо ненадёжны. transcribe.cpp предлагает drop-in замену whisper.cpp с поддержкой стриминга и пакетной обработки, а также официальные обёртки для Python, JavaScript, Rust и Swift. Проект поддерживается сообществом ggml и получил помощь от Mozilla AI, Modal, Blacksmith и Hugging Face — особенно для тестирования на CUDA и хранения моделей. Автор подчёркивает: код написан вручную, без помощи ИИ, но благодаря открытому софту и поддержке сообщества смог появиться за несколько месяцев.

transcribe.cpp решает реальные задачи локального распознавания речи: обеспечивает точность, поддержку 60+ моделей, низкую задержку и кроссплатформенность, превосходя Whisper по гибкости и точности, что подтверждается пользователями. Локальное распознавание предпочтительнее облачных решений из-за приватности, надёжности и отсутствия подписок. Не поддерживается: IPA-транскрипция без привязки к языку; непрерывная транскрипция с вводом в курсор; транскрипция аудиовыхода (в т.ч. на Windows); фильтрация междометий (um, uh, err); boosting специальных слов; WebAssembly-сборка для браузеров; встроенная диаризация и speaker identification; forced alignment для субтитров (например, для Qwen3); корректная работа горячих клавиш на Wayland (Handy). Для диалектов (например, баварский немецкий) эффективность моделей неизвестна — требуется тестирование. Для диаризации рекомендуется pyannote/speaker-diarization-community (лучше Sortformer). На мобильных устройствах встроенные функции (например, у Samsung) неточны — ищутся локальные альтернативы для языкового обучения. Vulkan, Metal и CUDA обеспечивают более высокую производительность, чем ONNX.