Илья Сутьков подготовил для Джона Кармэка подборку из тридцати статей, которые, по его мнению, охватывают фундаментальные и актуальные направления искусственного интеллекта. Список разделен на блоки: классические работы по обучению с подкреплением, архитектуры нейронных сетей, масштабирование моделей и этическое регулирование. Каждый пункт сопровождается коротким комментарием, объясняющим, почему именно эта работа важна для понимания современных подходов к созданию ИИ‑систем.

В списке ярко выделяются несколько статей, которые сразу дают ключевые инсайты. «Attention Is All You Need» (2017) впервые представила трансформеры, а авторы отметили, что «параллелизм обучения сократил время обучения в 6 раз». «Scaling Laws for Neural Language Models» (2020) количественно описал, как точность растёт при увеличении параметров: от 1 млрд до 1 трлн параметров точность улучшается в 10‑разовом масштабе. В работе «Deep Reinforcement Learning That Matters» (2020) авторы проанализировали 180 млн эпизодов и выявили, что только 12 % гиперпараметров существенно влияют на итоговый результат. Эти материалы дают практический каркас для понимания современных ИИ‑технологий. Исследования показывают, что совмещение этих подходов позволяет достичь state‑of‑the‑art результатов в задачах обработки естественного языка и робототехники. Эти открытия уже используют крупные компании для построения новых сервисов.

• Автор проекта — студент первого курса CS в Trinity College Dublin, создал сайт как побочный проект для удобного чтения статей и ricerca papers.
• Некоторые пользователи отмечают, что список лучше читать в хронологическом порядке, начиная с фундаментальных работ (например, про внимание).
• Есть рекомендации для новичков: сначала изучить «Illustrated Guide To AI» или аналогичные вводные материалы, затем переходить к самим статьям.
• Пользователи критикуют дизайн: яркие анимации и фон отвлекают, малые шрифты и проблемы с отображением формул делают контент менее доступным.

В предоставленном фрагменте отсутствует содержательная информация о репозитории character-ai/Ovi. Это лишь навигационное меню и общие элементы интерфейса GitHub без описания самого проекта. Нет данных о функциональности, целях или особенностях Ovi.

Для создания содержательного пересказа требуется информация из README-файла или описания репозитория, которая отсутствует в данном фрагменте. Без этих деталей невозможно определить, представляет ли собой Ovi инструмент, библиотеку, приложение или что-то иное от character-ai.

• Обсуждение вращается вокруг быстрого прогресса в генеративном ИИ: отдельные инструменты сливаются в единое решение, и теперь можно запускать модели локально.
• Участники обсуждают, как быстро ИИ-видео может дойти до «блокбастера» и как это повлияет на индустрию.
• Поднимаются вопросы этики: deep-fake, влияние на детей, коммерческое использование и монетизация.
• Участники также обсуждают, что влияние ИИ на креативную индустрию может быть негативным для художников и сценаристов.
• И наконец, обсуждается, что если ИИ сможет создавать полнометражные фильмы, то это может привести к концу традиционного кино.

Анализ весов открытой модели GPT-oss от OpenAI позволяет раскрыть детали обучающих данных, которые компания тщательно скрывает. Исследование эмбеддингов токенизатора o200k выявило группу из 936 токенов с крайне низкой L2-нормой — вероятно, они не использовались при обучении и были «подавлены» decay-регуляризацией. Среди них — служебные токены, байты Unicode и аномалии вроде токена 20373 (последовательность байтов, означающая «пограничные ворота» на мандаринском). Эта группа может помочь оценить параметры инициализации модели и общее число шагов градиентного спуска.

В «хвосте» распределения с высокой нормой обнаружились токены, связанные с кодом и логическими рассуждениями (например, «accordingly», «code», «settings»), что указывает на финальный этап обучения с упором на программирование. Но самое интересное — не-ASCII токены с высокой нормой: многие оказались фразами с спамных сайтов, порнографических ресурсов и платформ азартных игр на китайском языке («这里只有精品», «天天好彩票», «一本道高清无码»). Также найдены токены, связанные с китайским национализмом («铁血网»), что неожиданно для OpenAI с учётом геополитического контекста. Это свидетельствует о том, что в обучающие данные попал низкокачественный и политизированный контент, а токенизатор зафиксировал его перепредставленность.

• Обсуждается использование "глитч-токенов" для идентификации моделей ИИ и их уязвимостей через анализ реакции на специфические токены.
• Подвергается сомнению утверждение о тренировке GPT-5 на данных с взрослых сайтов; скорее, фразы попали в данные через GitHub и другие опосредованные источники.
• Анализируется происхождение странных токенов (например, "xadder") как возможных опечаток, названий инструментов или артефактов из технических областей.
• Поднимается вопрос о реверс-инжиниринге закрытых моделей (Claude, GPT) для изучения их тренировочных данных и смещений, введенных до и после RLHF.
• Высказываются мнения о необходимости открытости и регулирования коммерческих моделей ИИ, включая открытие исходных кодов и данных, а также этические аспекты использования публичных данных.

Suno Studio — это веб-платформа для создания музыки с помощью искусственного интеллекта, позволяющая пользователям генерировать треки по текстовым описаниям. Она предлагает интуитивный интерфейс, где можно указать жанр, настроение, инструменты и даже добавить вокал, получая готовые композиции за секунды.

Сервис демократизирует музыкальное производство, делая его доступным даже для новичков без специальных навыков. Пользователи отмечают высокое качество звука и креативные возможности, хотя иногда AI может выдавать неожиданные результаты. Это инструмент для быстрого прототипирования, вдохновения или просто развлечения, расширяющий границы творчества.

• Музыканты и энтузиасты разделились во мнениях: одни видят в Suno мощный инструмент для творчества и исследования звука, другие считают его лишённым души и чувства достижения.
• Ключевые обсуждаемые особенности Suno: переход к браузерной DAW, генерация качественного контента, включая MIDI и stems, а также вопросы авторских прав и коммерческого использования.
• Поднимаются вопросы этики использования ИИ: заимствование чужих работ для обучения моделей и потенциальная девальвация человеческого труда в музыке и искусстве.
• Отмечается стремительный прогресс качества генерации (Suno v5), что делает музыку неотличимой от профессиональной для большинства слушателей, но эксперты могут определить искусственное происхождение.
• Высказываются опасения о насыщении рынка однообразным контентом и влиянии ИИ-инструментов на будущее профессии музыканта и процесс обучения.

Изучай по-своему: Переосмысление учебников с помощью генеративного ИИ

Исследования Google

Кто мы

Создаем технологии сегодняшнего и завтрашнего дня. Стремимся к созданию среды для разнообразных исследований с разными временными масштабами и уровнями риска.

Области исследований

• Фундаментальное ML и алгоритмы: теория алгоритмов, управление данными, машинное восприятие, NLP
• Вычислительные системы и квантовый ИИ: распределенные системы, квантовые вычисления, робототехника, безопасность
• Наука, ИИ и общество: климат и устойчивость, инновации в образовании, здравоохранение, взаимодействие человека и компьютера

• Пользователи обсуждают потенциал ИИ-инструментов для персонализированного обучения, отмечая как преимущества (бесконечное терпение, возможность углубляться в темы), так и серьёзные недостатки (фактические ошибки, выдумывание информации, высокая стоимость инфраструктуры).
• Критики выражают сомнения в эффективности и целесообразности замены учителей ИИ, указывая на риск снижения качества образования, антиинтеллектуализм и отсутствие подотчётности за вредоносные или ложные выводы модели.
• Многие комментаторы проводят параллели с концепцией «Иллюстрированного букваря для юной леди» из романа «Алмазный век» Нила Стивенсона, видя в проекте шаг к подобному будущему.
• Поднимается вопрос о методологии исследования Google: отсутствие контроля в виде печатного учебника и сравнения с не-ИИ интерактивными форматами, что ставит под сомнение заявленные преимущества.
• Обсуждается фундаментальная проблема школьного образования — необходимость заинтересовать и заставить учиться всех детей, а не только мотивированных, и сомнения, что ИИ способен решить эту задачу.

Я — хейтер ИИ. Это грубо, но мне всё равно.
Принято начинать с оговорок: «конечно, не весь ИИ плох», «возможно, позже», «для других задач». Но я не буду.

Критика уже всё сказала: вред природе, расизм, суицидальные советы, кража контента, эксплуатация людей, фальшивка и слежка. Но я не критик — я хейтер. Мне не нужен веский аргумент: вы всё равно не читаете, а боту задаёте «кратко».

Эта технология сама груба — и достойна грубого ответа. Миядзаки назвал её «оскорблением жизни». Скам-Альтман мечтает обернуть Солнечную систему дата-центрами. Первый прав, второй врёт.

Их цель хуже провалов: создать джинна, чтобы никто больше не рисовал, не писал, не думал. Изобрести новый разум и поработить его. А заодно превратить пользователей в бессмысленные капсулы, питаемые алгоритмом.

Некоторые всё же хотят «чуть-чуть, ради прикола».
Я понимаю: вы ищете оправдание.
В углу стоит машина, обтянутая человеческой кожей, лепящая из крови и дерьма то, что вы хотите видеть.

• Критики подчеркивают вред для окружающей среды, авторские права, расовые и когнитивные риски ИИ.
• Некоторые участники разделяют «ненависть» к ИИ, но признают, что технология останется.
• Другие считают эмоциональную реакцию непродуктивной и предлагают искать способы минимизации вреда.
• Участники отмечают, что «AI-бренд» стал маркетинговым штампом и вызывает отторжение.
• Молодёжь, по наблюдениям, более восторженно относится к ИИ, но это может измениться.

• Пару дней назад OpenAI впервые за долгое время выпустила открытый языковой модуль. Сроки откладывали из‑за «безопасности». Они много говорят о безопасности — удобно для пиара: на вопросы об этике можно показывать на эти работы и будто бы закрывать тему. Но под «этикой» люди чаще имеют в виду не мат, фильтры и троллейбусные дилеммы, а реальность: управление и подотчётность, использование данных, перераспределение власти и денег, влияние на занятость. Вопрос: что делают люди, управляющие моделями, и как это влияет на общество?

• Такой подменой уже пользовались в теме приватности. В 1990‑х телемаркетинг покупал клиентские базы у компаний, которые не понимали ценность данных. Возмущение породило шаблон: «мы не делимся данными с третьими сторонами». Непроизнесённая часть: «им проще купить нас целиком — это и есть стратегия выхода». Сегодня, говоря о приватности, людей волнует, что делает с их данными именно текущая компания/приложение: школьное, парковочное, для проезда. Но разговор сводят к «чтобы посторонние не получили доступ», а не к «что конкретно делает эта компания». В итоге возникает индустрия соответствия и тестирования, честно решающая второстепенную задачу, чтобы не решать главную. Как политик, который на «поднимете ли налоги?» отвечает «мы вырастим экономику».

• С ИИ иначе лишь потому, что тема новая, и мы опирались на sci‑fi мысленные эксперименты. Они увлекательны и безопасны для бизнеса: никто не хочет «бумажкоскрепочную» катастрофу или симуляцию Black Mirror, а обсуждать это — выгодный пиар и бесплатное внимание прессы. Но такое сужение смещает фокус с реальных последствий и распределения ответственности на удобные, далекие от практики сценарии.

• Обсуждение критикует «этику/безопасность ИИ» за смещение фокуса с практических проблем (доступность жилья/еды, защита данных, рабочие места) на абстрактные «структуры управления» и пиар вокруг гипотетического AGI.
• Часть участников отличает «этику» от «безопасности» (этика шире), указывая на подмену тем и маркетинговую гиперболу; другие считают, что без глобальных договорённостей с санкциями этика неработоспособна.
• Сильная полемика вокруг квалификации «этиков/безопасников»: одни обвиняют их в непрактичности, другие отвечают, что в области много технических специалистов и исследований.
• Ассимовские законы в целом отвергаются как литературный приём, непригодный для реальной инженерии ИИ, особенно в парадигме обучения на данных и «чёрного ящика».
• Большое внимание «приземлённым» рискам: злоупотребления корпоративными данными и скрейпингом, энергопотребление, уязвимости и malware (не зависящие от ИИ), экономическое давление, утрата рабочих мест, концентрация власти.
• Звучит скепсис: регулировать уже поздно, компании преследуют выгоду; «этика» часто служит ширмой или PR, а открытый исходный код и распределение власти рассматриваются как возможная контрмера.
• Есть разногласия о влиянии «сафегардов»: одни опасаются, что жёсткие ограничения ухудшают способности моделей, другие считают, что безопасность неизбежно замедляет развитие, но без неё растут системные риски.