Hacker News Digest

Apple has just filed a lawsuit in a California federal court, accusing former Apple engineers of pilfering the company’s closely guarded trade secrets and handing them to OpenAI. The complaint alleges that these ex‑employees transferred confidential details about Apple’s neural‑network architecture, data‑handling pipelines and proprietary training methodologies to the AI startup, giving it a shortcut that would normally require years of independent research. Apple contends that the stolen knowledge was used to accelerate OpenAI’s large‑language‑model capabilities, effectively letting the rival leapfrog ahead in the race for generative AI.

Apple frames the dispute as a clear case of intellectual‑property theft, quoting the lawsuit: “This case is about Apple’s former employees stealing Apple’s trade secrets for the benefit of OpenAI. Apple brings this suit to put a stop to it.” The company seeks an injunction to halt further misuse, monetary damages, and a court order forcing OpenAI to return or destroy the stolen material. By acting, Apple wants to safeguard the proprietary technology behind its own AI efforts and deter future breaches of confidentiality.

• Apple подала иск против OpenAI, обвиняя компанию в краже коммерческих секретов и приманке сотрудников Apple, обещая им работу в OpenAI при условии передачи конфиденциальной информации.
• В иске упоминаются практики OpenAI, при которых новые сотрудники тайно копируют данные Apple, включая внутренние отчёты и контакты с поставщиками, чтобы использовать их в обучении моделей.
• Юристы отмечают, что у Apple есть ресурсы и опыт для судебных битв, что может привести к серьёзным последствиям для OpenAI и её будущим проектам.
• Дискуссия поднимает вопросы этики и законности использования чужих данных в генеративном ИИ, что может повлиять на восприятие отрасли в целом.

Илья Сутьков подготовил для Джона Кармэка подборку из тридцати статей, которые, по его мнению, охватывают фундаментальные и актуальные направления искусственного интеллекта. Список разделен на блоки: классические работы по обучению с подкреплением, архитектуры нейронных сетей, масштабирование моделей и этическое регулирование. Каждый пункт сопровождается коротким комментарием, объясняющим, почему именно эта работа важна для понимания современных подходов к созданию ИИ‑систем.

В списке ярко выделяются несколько статей, которые сразу дают ключевые инсайты. «Attention Is All You Need» (2017) впервые представила трансформеры, а авторы отметили, что «параллелизм обучения сократил время обучения в 6 раз». «Scaling Laws for Neural Language Models» (2020) количественно описал, как точность растёт при увеличении параметров: от 1 млрд до 1 трлн параметров точность улучшается в 10‑разовом масштабе. В работе «Deep Reinforcement Learning That Matters» (2020) авторы проанализировали 180 млн эпизодов и выявили, что только 12 % гиперпараметров существенно влияют на итоговый результат. Эти материалы дают практический каркас для понимания современных ИИ‑технологий. Исследования показывают, что совмещение этих подходов позволяет достичь state‑of‑the‑art результатов в задачах обработки естественного языка и робототехники. Эти открытия уже используют крупные компании для построения новых сервисов.

• Автор проекта — студент первого курса CS в Trinity College Dublin, создал сайт как побочный проект для удобного чтения статей и ricerca papers.
• Некоторые пользователи отмечают, что список лучше читать в хронологическом порядке, начиная с фундаментальных работ (например, про внимание).
• Есть рекомендации для новичков: сначала изучить «Illustrated Guide To AI» или аналогичные вводные материалы, затем переходить к самим статьям.
• Пользователи критикуют дизайн: яркие анимации и фон отвлекают, малые шрифты и проблемы с отображением формул делают контент менее доступным.

Google DeepMind представила WeatherNext 2, свою самую передовую модель прогнозирования погоды. Новая ИИ-система обеспечивает более эффективные, точные и высокоразрешающие глобальные прогнозы по сравнению с предыдущими методами. Модель способна обрабатывать огромные объемы метеорологических данных и предсказывать погодные условия с повышенной точностью в различных регионах мира.

WeatherNext 2 использует передовые нейросетевые архитектуры для анализа исторических и текущих данных о погоде, что позволяет делать прогнозы на более длительные периоды с меньшими вычислительными затратами. По словам разработчиков, модель превосходит традиционные методы точности прогнозирования экстремальных погодных явлений, таких как ураганы и сильные дожди, что может помочь в принятии решений в области сельского хозяйства, энергетики и управления чрезвычайными ситуациями.

• Google представил WeatherNext 2 — модель для прогнозирования погоды, генерирующую сценарии в 8 раз быстрее с повышенным разрешением.
• Пользователи отмечают низкую точность стандартных приложений (Google, Apple), особенно в прогнозах осадков и температуры.
• Ключевая особенность ведущих моделей (включая WeatherNext) — обучение с CRPS-функцией потерь и добавлением случайного шума для улучшения прогнозов.
• Исторически прогнозы часто были неточными, но оставались необходимыми для планирования (аналогия с военными временами).
• Альтернативные сервисы (Windy, Dark Sky) и сравнение моделей (ECMWF, GFS) предлагаются для более точных данных.

Текущие речевые LLM работают как обертка: преобразуют речь в текст, обрабатывают его и затем синтезируют ответ обратно в речь, что не позволяет улавливать нюансы интонации, сарказма или эмоций. Даже передовые модели вроде Gemini или ChatGPT с продвинутым голосовым режимом не могут ответить на вопрос о высоте голоса, демонстрируя отставание речевых моделей от текстовых. Проблема в том, что за одну секунду аудио содержится десятки тысяч выборок, в отличие от нескольких слов в тексте, что делает обработку аудио значительно сложнее.

Решением являются нейроаудио-кодеки, такие как Mimi от Kyutai, которые сжимают аудио в более управляемые дискретные токены, аналогично токенизации текста. Вместо предсказания аудио выборка за выборкой, как в ранних моделях вроде WaveNet, кодеки преобразуют непрерывные значения в 256 дискретных "вёдер" с помощью μ-law алгоритма. Этот подход позволяет LLM обрабатывать аудио как последовательность токенов, предсказывать продолжение и затем декодировать обратно в аудио, открывая путь к настоящему пониманию речи.

• Обсуждение охватывает широкий спектр тем: от токенизации аудио до фундаментальных вопросов о том, как моделируются речь и звук, и почему это важно для будущего ИИ.
• Участники обсуждают, что вместо попыток заставить модели распознавать и генерировать речь, мы должны сосредоточиться на создании моделей, которые могут работать с непрерывными сигналами и, таким образом, избегая необходимости в токенизации аудио.
• Обсуждается, что вместо того, чтобы полагаться на существующие аудио кодеки, такие как MP3, мы должны развивать нейрональные кодеки, которые могут быть обучены вместе с моделью и, таким образом, позволяя ей напрямую работать с компактным, дискретным представлением аудио.
• Участники также обсуждают, что вместо того, чтобы пытаться обучить модель на транскрибированном тексте, мы должны использовать аудио-ориентированные данные, которые включают в себе всю информацию, которая теряется при транскрибции. Это может включать в себе обучение модели на транскрибированном тексте, который может быть использован для тренировки TTS-моделей.

Андрей Карпати из OpenAI объясняет, почему до общего искусственного интеллекта (AGI) остаётся ещё около десятилетия. Хотя современные ИИ-агенты вроде Claude и Codex впечатляют, они пока неспособны автономно выполнять комплексные задачи, как человек-ассистент. Основные ограничения включают недостаточную многомодальность (неспособность работать с разными типами данных), неумение взаимодействовать с компьютерными системами и отсутствие непрерывного обучения на основе опыта.

Эти проблемы решаемы, но сложны — требуется масштабирование вычислительных мощностей, улучшение алгоритмов (особенно обучения с подкреплением, которое сейчас "ужасно"), и создание более сложных архитектур для обработки контекста и планирования. Как и с беспилотными автомобилями, прогресс будет постепенным, а не взрывным.

Когда AGI finalmente появится, оно, вероятно, интегрируется в экономику так же плавно, как и предыдущие технологические прорывы, поддерживая ~2% рост ВВП без резких скачков. Даже AGI не приведёт к немедленному преобразованию общества; изменения будут постепенными и управляемыми.

В конечном счёте, несмотря на текущие достижения, до AGI остаётся значительная работа, и пройдёт около десятилетия, прежде чем мы увидим системы, способные полностью заменить человеческий труд в сложных контекстах.

• Обсуждение в основном вращается вокруг того, что AGI/AGI-образные системы всё ещё далеки, и что «десятилетие» стало универсальным эвфемизмом для «мы не знаем, когда это будет».
• Участники спора подчеркнули, что текущие модели не решают фундаментальные проблемы, такие как постоянное обучение, причинность и планирование, и что мы по-прежнему полагаемся на эвристики, которые не масштабируются.
• Были выдвинуты предположения, что AGI может потребовать качественно иной архитектуры, и что текущий путь может быть тупиковым.
• Некоторые комментаторы выразили обеспокоенность тем, что гипер-оптимизм может вести к недооценке рисков и переоценке способностей текущих систем.
• В целом, обсуждение подчеркнуло, что прогресс в ИИ-технологии не линеен и что прогнозы о сроках AGI часто оказываются неверными.

AMD и Sony в рамках проекта Amethyst разрабатывают чипсет для PlayStation 6, который отказывается от классического конвейера рендеринга в пользу машинного обучения. Вместо того чтобы гнаться за полигонами, новая архитектура сфокусирована на эффективном запуске нейросетей, которые обрабатывают сцену и апскейлят изображение. Это позволит в будущем отказаться от дорогих и прожорливых GPU, а вместо этого полагаться на более дешёвые и компактные чипы с машинным обучением.

• Сомневается, что PS6 принесёт значимый прирост производительности из-за дорожающих чипов и фокуса на апскейл/фреймген.
• Считает, что PS5-генерация оказалась худшей за всю историю PlayStation из-за отсутствия игр и дороговизны.
• Указывает, что вместо новых консолей вендоры и разработчики игр вступают в порочный круг: не выгодно делать эксклюзивы под слабое железо, а без эксклюзивов никто не покупает консоль.
• Подчеркивает, что в то время как рынок ПК-видеокарт и консолей соревнуются в том, кто лучше умеет апскейлить старые игры, в то время как игры всё более требовательны к железу и всё меньше игр выходят вовремя.

TikTok победил: теперь всё — 60 секунд

170 млн американцев тратят по часу в день на приложение, которое превратило внимание в товар. Пока Конгресс спорит о данных, TikTok уже промышленно перерабатывает человеческое внимание: вместо сюжетов — бесконечная лента импульсов и нейросетей.

Короткие видео и алгоритмы были и раньше, но TikTok впервые объединил их в систему добычи внимания. Его лента учится не на лайках, а на микродвижениях: сколько миллисекунд вы задержались перед свайпом — и сразу перестраивает ленту.

Последствия уже везде:

• Новости — 30-секундные ролики Washington Post
• Образование — студенты не читают длинных текстов
• Музыка — интро сократилось с 20 до 5 секунд
• Кино — трейлеры стали монтажом «моментов для клипа»

Культура превратилась в тренировку алгоритма: мы не выбираем, нас кормят. Успех приносит не талант, а узкая ниша: мойка ковров, смешение красок, один и тот же танец в новом месте.

Платформа, выжившая в гладиаторской битве за секунды внимания, теперь задаёт стандарт всему интернету. Мы получаем мгновенную дозу удовольствия, но теряем скуку, медитацию, случайные открытия. Сделали ли мы этот обмен осознанно?

• TikTok и короткие 60-секундные видео формируют новую медианорму: всё, что короче 10 минут, стремится уложиться в минуту, а лонгформ тянут до 30-90 минут.
• Пользователи жалуются на «засорение» внимания: сложно вернуться к медленным форматам, пропадает терпение на статьи и полуторачасовые видео.
• Платности и алгоритмы подталкивают авторов: YouTube разрешает вставлять рекламу каждую минуту после 8 минут, поэтому ролики раздувают интро и повторы.
• Многие считают shorts «телевидением²» и «ультрапереработанным контентом»; кто-то удаляет приложения, кто-то использует как инструмент, подписавшись на полезные темы.
• Виноваты не только TikTok: Instagram, Twitter, YouTube Shorts, Facebook тоже сводят взаимодействие к бесконечному скроллу и «лайкам», превращая информацию в спектакль.

AGI — задача инженерии, а не обучения моделей

Масштабирование LLM стало давать убывающий прирост. GPT-5, Claude, Gemini — вершина кривой, но не путь к AGI. Нужно строить системы, где модели, память, контекст и детерминированные процессы объединяются в нечто большее.

Почему рост остановился

Современные LLM — мощные генераторы текста, но:

• не сохраняют контекст между сессиями,
• не имеют постоянной памяти,
• стохастичны и ненадёжны в сложных цепочках рассуждений.

Как и полупроводники в 2000-х, AI пришёл к пределу. Выход — не «ещё больше параметров», а новая архитектура.

Что строить

1. Управление контекстом как инфраструктура

   • Динамический поиск и фильтрация релевантных данных.
   • Живые знания-графы, обновляемые в реальном времени.
   • Обработка противоречий и неопределённости.

2. Память как сервис

   • Обновление убеждений при новых фактах.
   • Консолидация опыта в принципы, забывание мусора.
   • Метазнания о надёжности источников.

3. Детерминированные процессы со стохастическими узлами

   • Жёсткие workflow, где нужно, и вероятностные оптимизации, где можно.
   • Откат и проверка результатов перед фиксацией.
   • Неопределённость — объект первого класса.

4. Модульные специализированные модели

   • Языковые — для текста, символьные — для логики, пространственные — для визуальных задач.
   • Оркестрация через маршрутизацию запросов и слияние результатов.

Итог

AGI появится не из одной супер-модели, а из экосистемы взаимодействующих компонентов, спроектированных как надёжная инженерная система.

• Стороны спорят, является ли путь к AGI «чистой» инженерной задачей или фундаментальной научной проблемой: многие считают, что мы пока не понимаем, что такое интеллект и сознание.
• LLM-критики подчеркивают, что современные модели — это всего лишь статистические машины без настоящего мышления, а их «выравнивание» не приближает к универсальному интеллекту.
• Сторонники масштабирования и «горького урока» утверждают, что дальнейшие данные и вычисления могут породить новые способности, но даже они сомневаются, что LLM-архитектура способна дойти до AGI.
• Ряд участников предлагает искать вдохновение в биологии, эволюции и эмоциях, считая, что без понимания «живого» интеллекта инженерные решения обречены.
• Общий вывод: AGI пока не определено, не измерено и, возможно, не достижимо в рамках существующих подходов; дискуссия остаётся открытой.

LLMs не строят модель мира. Это не значит, что они бесполезны, а лишь то, что они не понимают, как устроена реальность, даже виртуальная.

Шахматы. Два года назад я сыграл с LLM: первые ходы она делала уверенно, но уже на 10-м ходе попыталась походить конём, которого не было на доске, и быстро проиграла. Повторил эксперимент сейчас — к 9-му ходу модель теряет позицию. Проанализировав триллион партий, LLM так и не выучила главное: чтобы ходить, нужно знать, где стоят фигуры. Это не требуется для предсказания текста партии.

Графика. Спросил, как работает «Normal blending» в Krita. Ответ: «цвет верхнего слоя просто отображается, возможно, с учётом прозрачности, без формул и вычислений».
Модель не понимает:

• Цвета в компьютере — это числа.
• Любое «влияние» прозрачности — это математическая операция.
• Если видно нижний слой, значит, итоговый цвет зависит от обоих слоёв.

Можно заставить LLM процитировать формулу альфа-смешивания, но это лишь показывает, что она умеет подобрать слова, а не понимает смысл.

Люди тоже могут путаться, но при достаточной мотивации разберутся. У LLM мотивация была: 200 млрд долларов на оборудование.

• @antirez и другие приводят контрпримеры: даже крошечные трансформеры выучивают внутренние 8×8 «карты» позиций шахмат, а SOTA-модели действительно играют корректные ходы.
• @ordu, @skeledrew и @otabdeveloper4 спорят о «правильности» подхода: одни считают LLM «по-человечески» предиктивными, другие подчеркивают разницу в архитектуре и обучении.
• @ameliaquining выделяет единственное конкретное предсказание поста — «LLM никогда не справятся с большими кодовыми базами автономно» — и даёт ему 80 % на разобьются за два года.
• @libraryofbabel, @joe_the_user и @yosefk обсуждают интерпретабельность: наличие внутренних представлений не означает полноценной «модели мира», а измерения Elo и «автономность» нуждаются в точных определениях.
• @DennisP, @GaggiX, @og_kalu приводят ссылки на Genie-3, свежие arXiv-работы и видео, показывающие, что LLM (и мультимодальные модели) уже умеют играть в шахматы и кодить.