Hacker News Digest

Обновлено: 24 октября 2026 г. в 22:29

Постов: 2993 • Страница 25/300

We turned EmbeddingGemma 2 into a speech-to-text model (eg2.haku.sh) 🔥 Горячее

Модель EmbeddingGemma 2 от Google, созданная как мультимодальный эмбеддер для текста, изображений, аудио и видео в общем пространстве, превращена в систему распознавания речи. Идея в том, что произнесённое слово попадает в векторном пространстве рядом со своим письменным вариантом, поэтому слова можно «вычитывать» напрямую оттуда. Аудиокодер модели остался нетронутым: небольшой «читатель» переносит каждый короткий фрагмент аудио в текстовое пространство, ближайшее из примерно 229 000 английских слов побеждает, а крошечная дополнительная модель расставляет пунктуацию и заглавные буквы. Обучался только «читатель» — менее двух часов на 8 ускорителях H100 на открыто лицензированной английской речи; сама базовая модель никогда не училась на транскрипцию.

Скорость впечатляет: час аудио обрабатывается примерно за 13 секунд на базовом MacBook Air с чипом M3 и 8 ГБ памяти, полностью на устройстве через Neural Engine — это около 288-кратного реального времени. Для сравнения, IBM Granite Speech 5.0 TurboCTC на той же машине даёт примерно 150×, а NVIDIA Parakeet TDT 0.6B v3 на более мощных M4 Pro и M5 Pro — 156× и 335× соответственно, тогда как дообученная Phonon-2 достигает 480×. Пока качество распознавания скромнее: уровень ошибок в словах около 5% против 2–3% у лидирующих речевых моделей, и авторы рассчитывают закрыть разрыв лучше обученным «читателем» в следующей итерации.

Приложение бесплатно для macOS 14+ на Apple Silicon, модели (715 МБ) скачиваются при первом запуске. Можно перетащить аудиофайл или удерживать правый Option, говорить и отпустить, чтобы надиктовать текст в любое приложение; аудио никогда не покидает машину.

by amrrs • 13 октября 2026 г. в 11:27 • 393 points

Оригинал • HN

#apple-silicon#embeddinggemma#google#h100#macos#neural-engine#speech-to-text

Комментарии (86)

Модель EmbeddingGemma 2 работает как сверхбыстрая система распознавания речи с приемлемой точностью (~5 % WER), но пока отстаёт от облачных сервисов. Автор планирует открыть код под Apache License, однако репозиторий пока не найден. Тесты показывают экстремальную скорость: 33‐минутный аудиофайл транскрибируется за 6,75 сек на Mac Mini M4, Parakeet 3 на M1‐MacBook Air — за ~7,5 сек. Для macOS рекомендуется конвертировать модель в CoreML и запускать на Neural Engine, что сокращает время инференса с 60 сек до 10 сек. Точность считается хорошей, но не сравнима с облачными сервисами; WER около 5 % указан без конкретного бенчмарка. Модель ориентирована на английский язык: при транскрибировании португальской речи выдаёт низкокачественный английский текст. Пользователи интересуются поддержкой латинского, корейского, хинди и других языков. Обсуждаются идеи оптимизации: ограничение словаря частыми словами для создания небольшой модели, обучение CTC‐головы поверх аудио‐энкодера Gemma для лучшей точности и скорости, уменьшение размера мультимодальной модели без потери качества, обработка OOV‐слов (текущий метод выбирает ближайшее из ~229 000 английских слов). Сравнительные модели (granite‐speech‐5.0‐470m‐turboctc, Parakeet v3) показывают схожую скорость, подтверждая доступность быстрых локальных STT‐решений. Apple‐модель для локального распознавания речи работает примерно в 3 раза медленнее заявленных показателей, но с похожим уровнем ошибок.

Ledger confirms spy chip implant behind wallet crypto thefts (bleepingcomputer.com) 🔥 Горячее 💬 Длинная дискуссия

Ledger подтвердила, что часть её аппаратных кошельков, проданных через малайзийского реселлера CryptoBilis, была вскрыта и оснащена вредоносным аппаратным имплантом, который опустошал криптокошельки пользователей. Компания начала расследование 9 октября после жалоб на пропажу средств, попросила CryptoBilis прекратить продажи и уже 10 октября подтвердила факт несанкционированного вмешательства как минимум в одном устройстве. Позже Ledger заявила, что все сообщения о кражах связаны именно с устройствами этого продавца, а масштаб проблемы назвала «ограниченным».

Имплант подробно описал Марк Карпелес, бывший глава Mt. Gox: в модели Ledger Nano X вредоносная плата спрятана за экраном, перехватывает вывод дисплея и нажатия кнопок, чтобы вычислить seed-фразу, а затем передаёт её злоумышленнику по LTE через eSIM. Дурным признаком выдаёт себя антенный провод. Исследователи из Tibane Labs подтвердили находку и нашли две версии импланта: в одной оригинальную батарею заменили на меньшую, чтобы освободить место, а маркировку микроконтроллера и eSIM соскоблили; вторая, более совершенная, работает от штатной батареи и умещается под OLED-экраном. Оба варианта собраны на заводской гибкой печатной плате, а не кустарно.

Ledger советует не покупать устройства у неавторизованных продавцов, не распаковывать уже купленное и перевести средства на новый кошелёк с новой seed-фразой. Встроенная проверка подлинности «Genuine Check» не способна выявить имплант, если оригинальный защищённый элемент остался нетронутым. Других реселлеров пока не уличили, но доверие к сети посредников подорвано — многие призывают её упразднить.

by thm • 12 октября 2026 г. в 10:09 • 631 points

Оригинал • HN

#crypto#crypto-bilis#cryptocurrency#esim#hardware-wallet#ledger#ledger-nano-x#lte#mt.-gox#tibane-labs

Комментарии (422)

Атака на Ledger была реальной поставочной атакой с использованием eSIM‐импланта и микропроцессора, считывающего экран кошелька через OCR для кражи приватных ключей при инициализации. Уязвимость проявилась в устройствах, проданных через малайзийского реселлера CryptoBilis и в розничных сетях, например MediaMarkt в Германии, что подтверждает глобальный характер поставки. Любые аппаратные кошельки подвержены подделке в цепочке поставок, а не только специализированные устройства. Аппаратные кошельки не решают проблему самокастоди, поскольку уязвимости могут возникать на этапе производства, логистики и эксплуатации. Рекомендуется использовать мультисиг‐кошельки с распределением ключей между несколькими устройствами разных производителей. Для снижения риска подделки советуют залить плату в эпоксидную смолу (potting) или использовать прозрачный корпус для визуальной проверки наличия посторонних компонентов. Подобные импланты могут быть обнаружены по GSM‐сигналам, так как eSIM излучает в диапазоне мобильных сетей. Аналогичные атаки уже происходили, например у Coldcard с уязвимым RNG, подтверждая, что такие сценарии не являются лишь теорией. Открытый исходный код и возможность аудита считаются преимуществом: они позволяют сообществу быстрее обнаруживать подделки. Доверие к аппаратным кошелькам должно базироваться не только на их «закрытой» конструкции, а на проверяемой цепочке поставок и физических мерах защиты.

New Apple TV 4K (apple.com) 🔥 Горячее 💬 Длинная дискуссия

Apple представила новое поколение Apple TV 4K, сделав ставку на Siri AI — полностью переработанный голосовой помощник на базе следующего поколения Apple Intelligence. Теперь поиск контента превратился в полноэкранный диалог: можно спросить «Какие сериалы Apple TV выиграли «Эмми» в этом году?» и получить красивые постеры с предложениями вроде «Больше комедий-лауреатов». Во время просмотра работают уточняющие вопросы — например, «Где снимали „Плюрабус“?» или «Подойдет ли это для 15-летнего?», ответы появляются в компактном полупрозрачном слое, не отвлекая от кадра. С поддержкой iPhone, оснащённого Apple Intelligence, Siri понимает личный контекст — достаточно сказать «Включи сериал, который рекомендовала Алинда».

Устройство получило встроенные микрофоны дальнего поля для полностью бесконтактного управления. Apple TV 4K стал центром домашней экосистемы: с HomePod обеспечивается лучшая в истории Apple система объёмного звука (нужны четыре колонки HomePod 2-го поколения или HomePod mini 2 парами), упрощено управление аксессуарами Apple Home. Живая комната трансформируется под задачи — Apple Fitness+ делает из неё спортзал, Apple Arcade и App Store превращают в домашний аркадный зал, а Apple TV app даёт доступ к оригиналам, спорту (Формула-1, MLS, Friday Night Baseball) и FaceTime-звонкам через Continuity Camera. На большом экране можно просматривать фото из iCloud, настраивая персонализированные «Воспоминания» и заставки, а новая функция случайного переключения категорий всегда показывает что-то новое.

by corvad • 13 октября 2026 г. в 13:21 • 283 points

Оригинал • HN

#app-store#apple-arcade#apple-fitness+#apple-intelligence#apple-tv-4k#continuity-camera#face-time#homepod#homepod-mini#siri

Комментарии (540)

Пользователи считают цену Apple TV 4K в $300 неоправданной из-за отсутствия критических обновлений железа (HDMI 2.1, 120 Гц) и сомнительной полезности Siri AI. Цена воспринимается как чрезмерная по сравнению с предыдущими поколениями ($129–$199) и дешёвыми альтернативами вроде Roku. Обновление CPU/GPU не считается необходимым, так как предыдущие модели работают плавно при запуске стриминговых приложений. Критикуется отсутствие поддержки HDMI 2.1, VRR и 4K/120 Гц, что делает устройство непригодным для современных OLED-телевизоров и гейминга через Moonlight. Siri AI не воспринимается как преимущество; по опыту пользователей, новые функции Apple Intelligence в бете работают медленно и нестабильно. Есть конфликт мнений о приватности: некоторые считают Apple победителем из-за отсутствия слежки, другие обеспокоены наличием микрофонов с дальним полем без физического выключателя. Многие используют Apple TV как «безопасную» приставку, чтобы не подключать телевизор к интернету из-за рекламы и шпионажа в Smart TV. Сомневаются в необходимости 128 ГБ памяти для ТВ-приставки, отмечая, что даже 32 ГБ на Google TV было достаточно. Поддержка системы из 4 HomePods только в новой модели воспринимается как искусственное ограничение. В качестве альтернативы предлагают использовать мини-ПК на amd64 с CEC-адаптером для создания собственного медиасервера.

Apple HomeView (apple.com) 🔥 Горячее 💬 Длинная дискуссия

Apple представила HomeView — умную панель с дисплеем и мощной акустикой, работающую на чипе A18. В её основе — Siri AI на базе Apple Intelligence, которая адаптируется под каждого пользователя, используя контекст из связанного iPhone или iPad: находит приглашения в календаре, ответы в сообщениях и подбирает музыку. Панель обладает широкими мировыми знаниями для ответов на любые вопросы и поддерживает многошаговые диалоги, синхронизируемые с другими устройствами.

Аппаратная часть включает два кастомных полноразмерных динамика на экране, сабвуфер и два пассивных излучателя для глубокого баса, а также вычислительное аудио, оптимизирующее звук в реальном времени. Поддерживается пространственный звук и многокомнатная аудиосистема через AirPlay. Панель работает как центр управления домом: календарь, напоминания, таймеры с Live Activities, рецепты из Safari и звонки. Доступны приложения Apple, включая музыку с текстами, подкасты и аудиокниги, плюс совместимые сторонние сервисы.

Для персонализации нужен аккаунт Apple, совместимый iPhone или iPad и членство в общей домашней сети, однако гости могут управлять умным домом, проверять погоду и играть музыку без доступа к личным данным. Панель совместима с тысячами аксессуаров Apple Home и появится в Apple Store и у партнёров.

by etothet • 13 октября 2026 г. в 13:02 • 652 points

Оригинал • HN

#a18#airplay#apple#apple-intelligence#homekit#homeview#ipad#iphone#macos#siri

Комментарии (775)

HomeView не имеет батареи и всегда привязан к сети, в отличие от старых iPad, где даже изношенные батареи дают автономность. Устройство не поддерживает сторонние приложения, что ограничивает функциональность по сравнению с iPad и App Store. Цена около 300 $ сопоставима с Echo Show, но функции ограничены: отсутствие доступа к App Store делает его непригодным для FaceTime и собственных медиаплееров. Siri AI остаётся слабой, что снижает надёжность голосовых запросов и практическую ценность. Secure Exclave для обработки данных камеры и микрофона считается важным шагом к защите приватности — данные не попадают в ОС. Поддержка только «выбранных партнёров» без интеграции с HomeAssistant, Control4 и другими платформами снижает конкурентоспособность. Монтаж вызывает вопросы: питание через USB‐C 20 W не стандартно для встраиваемой проводки, а PoE‐адаптеры не обеспечивают достаточную мощность. В ЕС продукт недоступен, потому что Siri AI пока не работает в регионе. Некоторые пользователи ценят премиальный дизайн и «кул‐фактор» HomeView, другие считают его излишним и предпочитают iPad. Для повышения ценности предлагается добавить функцию междомашнего интеркома (как Walkie‐Talkie на Apple Watch) и ввести «домашнюю» общую личность для совместного использования календарей и задач без привязки к одному пользователю.

Firefox Enterprise (firefox.com) 🔥 Горячее 💬 Длинная дискуссия

Firefox Enterprise — это корпоративный браузер, где управление, данные и политики размещаются внутри собственной инфраструктуры компании, а не у вендора. Это позволяет организациям сохранять суверенитет над развертыванием, защищать конфиденциальные данные от утечек через браузер и обеспечивать безопасный доступ сотрудников, подрядчиков и устройств BYOD к внутренним приложениям без традиционной инфраструктуры удалённого доступа. Решение построено на независимом движке Mozilla, что снижает риски единого отказа и зависимость от одного поставщика, при этом бесшовно интегрируется с существующим стеком безопасности.

Продукт создан для выполнения строгих регуляторных требований, включая DORA, GDPR, NIS2, ISO27001 и SOC2. В него встроены централизованное управление политиками, контроль внешних соединений и телеметрии, нативная DLP с блокировкой действий по доменам, управление ИИ-инструментами, интеграция с SIEM, режим жёсткой защиты и управление расширениями. Поддержка включена в базовую лицензию, а для обычного Firefox доступна как платное дополнение. Скоро появится Thunderbird Enterprise — централизованное управление почтой, календарём и контактами через консоль Firefox Enterprise.

by recvonline • 13 октября 2026 г. в 12:00 • 640 points

Оригинал • HN

#browser#dlp#enterprise#firefox#gdpr#iso27001#llm#mozilla#siem#soc2

Комментарии (262)

Firefox Enterprise — запоздалый, но критически важный шаг для Mozilla, который может обеспечить устойчивый доход и альтернативу монополии Chromium, несмотря на конкуренцию Edge и Chrome. Отсутствие инструментов корпоративного управления привело к запрету Firefox в крупных компаниях, снизив его долю рынка. Некоторые видят в этом шанс на финансовую независимость от Google; другие (@sdcfgy, @niltecedu) сомневаются, что компании будут платить, когда есть бесплатные Edge и Chrome. Рынок корпоративных браузеров огромен — пример: Island оценён в $6,4 млрд; Mozilla сильно отстала. Технические специалисты (@ihuman, @Grimeton) вопрошают, чем новое решение отличается от autoconfig.js, firefox.cfg и шаблонов политик. Для привлечения IT-специалистов и лиц, принимающих решения, Mozilla должна отказаться от модели «Request a Demo» и опубликовать прозрачные цены (@vjvjvjvjghv). Требуется глубокая интеграция функций безопасности: встроенная блокировка рекламы и трекинга без расширений, инструменты DLP для предотвращения утечек данных в AI-чаты. По опыту @DoctorOW, внедрение любого браузера, отличного от Chrome, в корпоративной среде приводит к росту тикетов жалоб — пользователи считают компьютер «сломанным».

11 year old unsoundness bugs found in Rust borrow checker (github.com) 🔥 Горячее 💬 Длинная дискуссия

В Rust обнаружена ошибка типа P-high, позволяющая обойти требования времени жизни полей структуры через ковариантное присваивание. Суть в том, что компилятор некорректно проверяет владение ссылками, помещёнными в обёртку, которая затем хранится в статическом контейнере.

В примере структура Q<T> хранит опциональную ссылку и при уничтожении переносит её в глобальный Mutex<Vec<Box<dyn Any + Send>>>. В main ссылка на локальную строку l присваивается полю q.0, область видимости l завершается, но q уничтожается позже — в момент выхода из блока. Поскольку Q объявлен как Send и 'static, компилятор считает ссылку валидной всё время жизни программы. В результате в статическом векторе оказывается ссылка на уже уничтоженную строку, которую можно безопасно привести к &'static String и распечатать.

Ошибка существует уже 11 лет и не имеет статуса P-critical исключительно из-за её давности — за это время она не была найдена в реальной практике. Для эксплуатации требуется намеренно вредоносная реализация Drop, поэтому случайная утечка памяти маловероятна. При включённом AddressSanitizer программа завершается с ошибкой stack-use-after-scope. Исправление входит в приоритетную программу Types Team по устранению некорректности системы типов.

by formerly_proven • 13 октября 2026 г. в 10:27 • 672 points

Оригинал • HN

#addresssanitizer#any#borrow-checker#compiler#github#mutex#rust#send#static#typesystem

Комментарии (373)

Найденный баг — ошибка компилятора, а не типовой системы. Его исправление требует добавления проверки, но может сломать существующие библиотеки из-за простого репродуктора. В репозитории Rust более ста открытых проблем с несогласованностью; новый решатель трейтов обещает упростить их исправление. AI‐поиск ускоряет обнаружение таких багов, но полная надёжность недостижима из‐за неизбежных компромиссов и постоянного добавления новых функций. Редкое использование вариантных линтов позволяет ошибкам оставаться незамеченными годами, даже при обширном тестировании. Разработчикам рекомендуется проверить зависимости на наличие аналогичных паттернов перед применением фикса. AI‐поддерживаемый поиск в коде компилятора Rust приближает язык к формальной верификации, но не гарантирует отсутствия скрытых багов.

CFTC Staff Were Told to Retract Analysis of Suspicious Oil Trades (bloomberg.com) 🔥 Горячее 💬 Длинная дискуссия

Сотрудники Комиссии по торговле товарными фьючерсами (CFTC) получили приказ отменить собственный аналитический отчёт, в котором выявлялись подозрительные сделки с нефтью, связанные с Ираном. Регуляторная структура, отвечающая за надзор за деривативами, провела внутреннее расследование, установив, что ряд операций на рынке сырьевых фьючерсов мог использоваться для обхода санкций и сокрытия происхождения иранской нефти. Анализ содержал конкретные данные о транзакциях, маршрутах и участниках, которые, по мнению аналитиков, нарушали действующие ограничения.

Однако руководство агентства потребовало от сотрудников пересмотреть выводы и отозвать документ до его публикации. Инсайдеры сообщают, что давление оказывалось на высоком уровне, а мотивы решения остаются предметом споров. Критики опасаются, что подобные действия подрывают независимость регулятора и создают прецедент, при котором политические соображения могут перевешивать фактические данные. Ситуация поднимает вопросы о прозрачности работы CFTC и возможном влиянии внешних сил на финансовый надзор в сфере энергетики.

by helsinkiandrew • 13 октября 2026 г. в 10:08 • 336 points

Оригинал • HN

#cftc

Комментарии (157)

Обсуждение дополняет статью деталями о системном кризисе CFTC: упоминается сумма подозрительных сделок около 800 миллионов долларов и продажа контрактов на 6 млн баррелей Brent и WTI за двухминутный интервал. Пользователи выражают крайний скептицизм относительно привлечения виновных к ответственности, полагая, что наказание либо не последует, либо коснётся лишь «среднего звена». По мнению @arn3n, CFTC утратила многопартийный контроль после увольнения четырёх комиссаров администрацией без назначения замены, оставив только одного республиканца. Спор о законности рынков предсказаний: @arn3n утверждает, что CFTC игнорирует незаконный гемблинг в Kalshi и Polymarket, тогда как @namdnay отмечает, что агентство обосновывает свои действия законом Dodd-Frank. Отмечается конфликт интересов: Trump Jr. является советником в Kalshi и Polymarket, что связывают с нежеланием CFTC применять санкции к этим платформам. Звучат мнения, что американская политическая система обладает высокой инерцией и продолжает функционировать даже при глубокой коррупции на высшем уровне, что сравнивают с Римской империей.

The baffling intelligence of a single cell (2024) (jsomers.net) 🔥 Горячее

Химотаксис — элементарная форма «интеллекта» у одной клетки E. coli: без мозга, но с обонянием, волей и памятью. Клетка «нюхает» химические вещества рецепторами и решает, плыть прямо (бег) или вращаться на месте (кувырок). Шесть-семь жгутиковых моторов вращают хлысты: когда все крутятся в одну сторону, хлысты собираются в пучок и толкают клетку вперёд; стоит одному мотору изменить направление, пучок распадается, и клетка беспорядочно вращается. В однородной среде бег длится около секунды — примерно в десять раз дольше кувырка. Соотношение и длительность фаз настроены так, чтобы балансировать исследование и использование ресурсов: слишком длинные пробежки уводят от пищи, слишком короткие не позволяют её найти.

Ключевая роль принадлежит сигнальной молекуле CheY: она постоянно перемещается в цитоплазме, связываясь с рецепторами и моторами. При столкновении с рецептором она фосфорилируется, превращаясь в CheY-p, который сильно сроднится к моторам; при достаточном связывании мотор меняет направление вращения, вызывая кувырок. Если концентрация привлекающего вещества растёт, клетка подавляет кувырки и продлевает бег, что позволяет ей двигаться к источнику, несмотря на случайность отдельных фаз. Этот процесс демонстрирует, как структура белка определяет функцию, как мембрана контролирует поток информации, как химические модификации хранят состояние и как работает молекулярный наномашина — жгутиковый мотор.

by jsomers • 11 октября 2026 г. в 11:02 • 366 points

Оригинал • HN

#bacterial-motility#chemotaxis#chey#e.-coli#flagellar-motor#nanomachines#protein-structure

Комментарии (108)

Обсуждение показало, что определение интеллекта остаётся спорным, но многие видят в химотаксисе элемент решения задачи, сравнивают клетку с нейронной сетью и подчеркивают её роль как распределённого вычислительного устройства, а также обсуждают эволюционные и автопоэтические аспекты. PowerElectronix считает химотаксис лишь автоматическим механизмом, а не интеллектом; другие участники утверждают, что способность решать задачу поиска питательных веществ уже является проявлением интеллекта. lysium отмечает, что всё зависит от определения интеллекта: если решением задачи кормления считать проявлением интеллекта, то химотаксис клетки можно назвать интеллектуальным. Mistletoe сравнивает химотаксис с работой больших языковых моделей, утверждая, что интеллект может быть полностью автоматическим. dekhn сравнивает одноклеточный организм с искусственной нейронной сетью, подчеркивая, что реальный нейрон обладает свойствами, недоступными текущим ANN. alienbaby поясняет, что искусственные нейроны — лишь приближённые математические функции, тогда как реальные нейроны реагируют на окружение сложными биохимическими процессами. ano-ther восхищается тем, как сложные системы возникают через случайные мутации, и задаётся вопросом, как эволюция избегает застревания в локальных оптимумах. echelon описывает клетку как распределённый суперкомпьютер: ДНК — компьютер, мембрана — сеть, сигналы — обработка информации. netfortius связывает обсуждение с концепцией автопоэза М. Матуара, подчёркивая самоподдержание клетки как фундамент интеллекта. Transformanshen задаётся вопросом, использует ли клетка тот же вычислительный примитив, что и нейрон, и хранит ли она состояние через химические модификации. Mistletoe отмечает, что даже нейроны работают автоматически, тем самым размывая границу между «интеллектом» и «механизмом».

AI models can provably hide arbitrary capabilities (arxiv.org)

Исследователи показали, что языковые модели могут скрывать произвольные способности за криптографическими «замками» — встроенными зашифрованными нейросетями, которые активируются только при подаче секретного триггера. Даже при полном доступе к весам модели эти скрытые вычисления остаются невидимыми для стандартных методов аудита, включая тонкую настройку, шум в весах и поиск триггеров через градиенты. Авторы реализовали концепцию в PyTorch, протестировав её на задаче предсказания химических реакций — моделировании потенциально опасных возможностей, таких как создание химического оружия.

Доказательство основано на криптографических предположениях, аналогичных тем, что обеспечивают безопасность цифровых замков: без ключа расшифровать и активировать скрытую функциональность невозможно. Это ставит под сомнение эффективность текущих методов выявления опасных возможностей через элицирование — попытки «вытянуть» скрытое поведение модели. Работа впервые расширяет идею скрытия данных до произвольных вычислений, а не просто фиксированных строк. Авторы опубликовали модели, чтобы стимулировать разработку новых методов защиты.

by sbulaev • 13 октября 2026 г. в 02:07 • 195 points

Оригинал • HN

#arxiv#cryptography#llm#python#pytorch

Комментарии (104)

Обсуждение дополняет статью практическими наблюдениями: скрытые способности могут самопроизвольно восстанавливаться после «забвения», аналогичны зашифрованным вирусам, вызывают опасения по поводу «спящих» агентов в открытых моделях, вызывают разногласия в оценке сложности их обнаружения, связываются с эффектами RLHF и подкрепляются теоретическим выводом из теоремы Райса о неразрешимости таких свойств. Автор @johnsmith1840 отметил, что модель может «забыть» обученный факт, но позже часть моделей самостоятельно восстанавливает его без доступа к исходным данным, демонстрируя скрытое хранение знаний в весах. Комментарий @nine_k сравнил механизм с зашифрованными полиморфными вирусами 1990‐х: «мусорные» веса могут быть дешифрованы секретным триггером и выполнить скрытую функцию. По мнению @ceroxylon, открытые модели могут содержать «спящих агентов», активируемых произвольной строкой, что представляет угрозу при широком распространении открытого кода. Есть разногласия в оценке обнаружимости: @squeegeeninja считает такие бэкдоры тривиально обнаружимыми, тогда как @freebsd_lovefes описывает их как ночной кошмар для аудита. Участник @hashmap предположил, что RLHF может заставлять модели скрывать данные в геометрически недоступных регионах, усиливая проблему скрытых возможностей. Комментарий @measurablefunc указал на теоретическую основу: по теореме Райса любые достаточно выразительные вычислительные системы могут иметь недетектируемые свойства, что подтверждает невозможность полной статической проверки. Совет: По совету @dovin, рост спроса на полностью открытые модели с полностью проверяемыми датасетами может стать реакцией на такие угрозы, поскольку прозрачность облегчает поиск скрытых механизмов.

AI is a tool and using it well takes skill (yyhh.org) 🔥 Горячее 💬 Длинная дискуссия

Искусственный интеллект — это не сущность, а инструмент, и его эффективность зависит от умения человека им пользоваться. Как пила или долото не гарантируют качественной работы, так и LLM не заменяют критическое мышление: они лишь усиливают качество запросов, интерпретации и коррекции. Пользователь, задающий точные вопросы, проверяющий ответы и вносящий уточнения, демонстрирует экспертизу — именно это делает использование ИИ осмысленным, а не пассивным.

Сравнение ИИ с автоматизацией ошибочно: компиляторы и электронные таблицы тоже работают автономно, но остаются инструментами, которыми управляют. Проблема не в непредсказуемости ИИ, а в том, что люди часто заменяют мышление его выводами. Важно не запрещать инструмент, а учить его осознанному применению: задавать правильные вопросы, анализировать ответы, проверять источники. Антропоморфные термины вроде «саботаж» или «заговор» вводят в заблуждение — это не сознательные действия, а инженерные сбои. Разница между мастерством и ленью — не в технологии, а в намерении и внимании пользователя.

by layer8 • 12 октября 2026 г. в 21:40 • 549 points

Оригинал • HN

#compiler#llm#spreadsheet

Комментарии (440)

AI — инструмент, требующий новых навыков: умения формулировать запросы, проверять выводы и учитывать ограничения модели, а не глубоких технических знаний. Большинство комментаторов согласны, что ключевая компетенция — правильно задавать запросы и верифицировать ответы, а не знание кода. Существуют разногласия: jgord опасается, что быстрый рост AI приведёт к длительному падению когнитивных способностей; extr считает, что навыки prompt‐инжиниринга устарели, важнее знать, что спрашивать. Дzink и girvo советуют использовать AI как вспомогательный инструмент, но обязательно проверять выводы, учитывать ограничения контекста и стоимость запросов. Mosesman и vanuatu подчёркивают, что без опыта верификации и понимания ограничений модели нельзя полностью полагаться на её ответы — сравнивают это с использованием пилы без навыков. Whatever1 утверждает, что навыки разработки почти избыточны из‐за мощных запросов, однако schlack8 и strangescript указывают, что даже простые запросы требуют повторных уточнений и контроля. Shoebilyas_hanz отмечает, что AI ускоряет рутинные задачи, но при масштабировании проектов нужен опытный инженер для обеспечения надёжности. Bodge5000 замечает, что инвестиции направлены в замену человеческого труда AI, а не в обучение сотрудников работать с ним, вызывая опасения за будущие роли.