Hacker News Digest

Meta платит провокационным создателям контента, включая белых националистов и сторонников неонацистских идей, через свою программу монетизации. Среди получателей — Хьюго Леннон, обвинённый в расистских оскорблениях в адрес премьер-министра Индии, и сайт The Noticer, продвигающий теории заговора и расовую замену. Эти страницы получают доход с 2025 года, несмотря на нарушение внутренних правил Meta, что подтверждает системную проблему: платформа вознаграждает эмоционально заряженный, провокационный контент, поскольку он генерирует максимальную вовлечённость.

Meta утверждает, что не несёт ответственность за «обидный», но не опасный контент, и применяет санкции только при нарушении «стандартов сообщества». Однако эксперты отмечают, что выплаты в размере $3 млрд в 2025 году 16,2 млн аккаунтов превращают Meta в партнёра экстремистов. Даже если деньги невелики, их получение — моральный компромисс: платформа фактически поощряет разжигание ненависти ради прибыли. При этом Meta — единственный крупный сервис, публикующий данные о монетизации, что делает её прозрачнее других, но не оправдывает практику.

Meta платит провокационным создателям контента как напрямую, так и через программу монетизации — это не новая, но актуальная проблема. Пользователи согласны, что социальные сети, включая Facebook, стимулируют такой контент и должны нести большую ответственность за его распространение. Вопрос регулирования вызывает спор: одни против вмешательства, другие требуют более ответственного подхода. Предлагают изменить бизнес-модель — например, отказаться от таргетированной рекламы — и повысить прозрачность политик модерации.

Kagi Search представила SlopStop — первую в мире сообществом управляемую систему для обнаружения и понижения в рейтинге обманного контента, созданного ИИ. "AI slop" определяется как обманчивый или низкокачественный контент, созданный для манипуляций, а не помощи пользователям. Система будет показывать в результатах поиска оценку качества контента, позволять пользователям помечать ИИ-материалы, понижать в рейтинге домены, в основном публикующие ИИ-контент, и маркировать ИИ-изображения и видео.

Эта инициатива дополняет проект Small Web, направленный на поддержку человеческих создателей. Kagi стремится создать крупнейшую базу данных доменов с ИИ-контентом для борьбы с галлюцинациями и дезинформацией, которая, по данным статьи, составляет 30-41% ошибок в большинстве чат-ботов. Пользователи могут сообщать о подозрительном контенте, щелкая иконку щита рядом с результатом поиска.

• Пользователи обсуждают борьбу с AI-генерируемым "мусором" (slop) в поисковых результатах и на платформах, предлагая флаги для его пометки и снижения рейтинга.
• Поднимается вопрос о надежности детекции AI-контента через измерение энтропии или использование других AI, что вызывает сомнения в эффективности и ведет к "гонке вооружений".
• Критикуются компании, которые сами используют AI для контента, но борются с AI-мусором, подчеркивается ирония и абсурдность ситуации.
• Обсуждается проблема различия SEO-спама и AI-контента, а также необходимость человеческой проверки и раскрытия использования AI создателями.
• Появляются опасения по поводу масштабирования детекции, ложных обвинений и этических аспектов, включая влияние на малый бизнес и качество контента.

YouTube удалил туториалы по обходу требований Windows 11 с канала CyberCPU Tech, утверждая, что они "создают риск серьезного физического вреда или смерти". Оба видео - об установке Windows 11 с локальным аккаунтом и обходе аппаратных требований - получили предупреждения о нарушении правил. Первое обжалование было отклонено за 45 минут, второе - всего за 5 минут, что вызвало вопросы о прозрачности процесса модерации.

Автор канала подозревает либо избыточно усердную ИИ-модерацию, либо возможное вмешательство Microsoft. YouTube не предоставил четких объяснений своим действиям, оставляя создателей контента без возможности защиты. Этот случай стал еще одним примером того, как крупные платформы удаляют технический контент без достаточных оснований, оставляя создателей без ресурсов для оспаривания решений.

• YouTube удалил видео о ручной установке Windows 11, сославшись на "риск физического вреда", что вызвало критику цензуры.
• Пользователи сочли причину удаления абсурдной и указали на неэффективность автоматизированной модерации.
• Удаление спровоцировало миграцию пользователей на Linux и macOS, а также эффект Стрейсанд (усиление интереса к удалённому контенту).
• Видео были восстановлены после апелляции, но корпоративная политика цензуры осталась предметом спора.
• Обсуждение затронуло недоверие к платформам и необходимость регулирования корпораций.

OpenAI активно собирает отзывы о Sora и готовится внести изменения. Правообладатели получат более детальный контроль над генерацией персонажей — смогут указывать, как их можно использовать, включая полный запрет. Многие из них видят потенциал в «интерактивной фанфикшн» и ожидают роста вовлечённости.

Также компания ищет способ монетизации генерации видео, поскольку пользователи создают контента больше ожидаемого. Часть доходов планируется делиться с правообладателями, чьи персонажи используются. OpenAI предупреждает, что возможны ошибки в процессе, но обещает быстро реагировать на фидбэк и постоянно совершенствовать систему.

• OpenAI столкнулась с юридическими угрозами от правообладателей (включая Ghibli и Nintendo) из-за генерации контента с использованием их IP, что привело к введению строгих ограничений на создание видео.
• Компания осознала необходимость монетизации генерации видео из-за высоких вычислительных затрат и планирует внедрить плату за использование, а также рассмотреть возможность распределения доходов с правообладателями.
• Пользователи выражают разочарование из-за резкого ужесточения ограничений, которые теперь блокируют создание контента по мотивам даже не самых известных игр и франшиз.
• В сообществе распространено мнение, что изначальное разрешение генерации защищённого контента было осознанным PR-ходом для роста популярности, а не ошибкой.
• Подход OpenAI к решению проблемы воспринимается многими как лицемерный, неискренний и технически сложный для реализации на практике.

YouTube меняет политику блокировки аккаунтов, позволяя пользователям, заблокированным за неоднократные нарушения правил о COVID-19 и выборах, вернуться на платформу после удаления запрещённого контента и прохождения проверки. Это решение отражает смягчение подхода к модерации после периода жёстких ограничений во время пандемии и выборов.

Платформа сохраняет право блокировать аккаунты за серьёзные или злонамеренные нарушения, но даёт шанс исправиться тем, кто допустил ошибки. Это шаг к балансу между контролем дезинформации и свободой выражения мнений.

• Участники обсуждают проблему цензуры и распространения дезинформации в социальных сетях, особенно в контексте пандемии COVID-19.
• Высказывается критика в адрес платформ (Facebook, YouTube) и правительств за их роль в подавлении свободы слова и создании алгоритмов, формирующих информационные пузыри.
• Поднимается вопрос о сложности баланса между борьбой с вредоносной misinformation и защитой свободы выражения, а также об отсутствии эффективных механизмов ответственности за распространение лжи.
• Обсуждаются последствия автоматизированного модерации контента, включая ошибки и непропорционально строгие наказания для пользователей.
• Некоторые пользователи выражают скептицизм относительно способности общества критически оценивать информацию и предлагают обучать медиаграмотности вместо цензуры.

Пользователи Meta сталкиваются с системой модерации, которая часто ошибочно блокирует контент, а единственный эффективный способ обжалования — личные связи внутри компании. Это подрывает доверие к платформе и создаёт неравенство, где обычные пользователи лишены справедливого доступа к поддержке.

EFF отмечает, что автоматизированные системы и недостаточная прозрачность процессов апелляции приводят к длительным блокировкам без объяснений. Такая практика ставит под вопрос ответственность tech-гигантов за свободу выражения и доступ к информации.

• Пользователи сталкиваются с произвольными блокировками аккаунтов на крупных платформах (Google, Meta, Reddit, YouTube, Anthropic) без внятного объяснения причин и с отсутствием эффективных каналов апелляции.
• Автоматические системы модерации и поддержки часто не справляются, обратная связь от реальных людей недоступна, а единственным способом решить проблему становится публичный скандал в соцсетях.
• Потеря аккаунта ведет к безвозвратной утрате личных данных, контента, контактов и цифровой идентичности, что особенно болезненно для коммерческих организаций и личных воспоминаний.
• Централизованные платформы воспринимаются как ненадежные, что подчеркивает важность владения собственным сайтом и доменом для контроля над своим онлайн-присутствием.
• Отмечается враждебная политика компаний в отношении пользователей, которые рассматриваются как продукт, а не как клиенты (noreply-почта, отсутствие поддержки, скрытые алгоритмы).
• Проблема носит системный характер и затрагивает не только политически чувствительный контент, но и обычных пользователей, предпринимателей и рекламодателей.
• Существуют опасения по поводу будущего, где от решений алгоритмов будет зависеть доступ к критически важным сервисам (Uber Eats, LinkedIn) без возможности обжалования.

Соцсети умирают: вместо людей — поток ИИ-шлама.
Лента превратилась в конвейер одинаковых постов, клонов и крипто-рекламы; настоящее вытеснено генеративным спамом, оптимизированным под клики. Facebook, Instagram, TikTok заливает «Shrimp Jesus» и прочий автоматический контент, который платформы не спешат фильтровать. Пользователи всё реже видят друзей и всё чаще — ботов. Это конец романтики «аутентичности» и начало эры цифрового потребления ради потребления.

• Участники сходятся: «соцсети» перестали быть социальными – это медиа-конвейер «производитель → потребитель».
• Алгоритмическая лента превратила пользователей в пассивных зрителей, выжимая внимание и нагнетая полярность.
• Люди устают от «семантического шлама» и ботов, но массового исхода не происходит – платформы всё ещё удерживают триллионы минут.
• Единственное, что работает – полное отсутствие алгоритма (Mastodon, форумы) и маленькие «архитектуры намерения» вроде расширений-задержек.
• Рецепт: убрать лайки/пуши, вернуть хронологию, гарантировать подлинность аккаунтов и заставлять искать друг друга вручную – иначе это уже не «социальное», а телевизор 2.0.

Wikipedia живёт, потому что скучна
Пока весь интернет рушится, «вики» стоит. Её секрет — не в деньгах, а в правилах: нейтральный тон, проверяемые источники, консенсус редакторов.

Салют Маска как тест прочности
20 января 2025 года Илон Маск показал жест, похожий на нацистское приветствие. Первый редактор добавил фразу в статью, второй — удалил: биографии живых людей защищены строже. Началась многочасовая дискуссия: это был нацистский салют, неловкий жест или провокация? Вместо войны правок редакторы перешли к голосованию и источникам.

Почему это работает

• Правила > эмоций: каждое утверждение требует двух независимых публикаций.
• Скорость через процесс: новость появляется, когда её подтвердят, а не когда взорвётся твиттер.
• Скука как щит: отсутствие лайков и алгоритмов не даёт вирусному гневу захватить платформу.

Итог: Wikipedia остаётся последним островком фактов в океане контента, который ломается каждый день.

• Участники спорят, действительно ли Wikipedia «последний добрый остров» интернета: одни хвалят, другие критикуют за политическую ангажированность и «захваченность» тематическими кланами.
• Подчёркивают, что английская версия ещё держится, а вот неанглоязычные часто превращаются в пропаганду и исторические фальсификации.
• Отмечают рост давления со стороны властей (пример – запросы конгрессменов раскрыть имена редакторов) и опасность массовых доносов/доксинга внутри сообщества.
• Многие советуют читать не только статью, но и страницу обсуждения, а также историю правок, чтобы видеть, какие точки зрения вырезали и почему.
• Часть комментаторов считает, что выживание Wikipedia возможно именно благодаря медленному, «не-стартаповому» принципу и отсутствию прибыли, но ресурс уже «подсел» на пожертвования и всё чаще поддаётся внешнему влиянию.

YouTube тайно обрабатывает ролики нейросетью.
Канал Рика Беато (5 млн подписчиков) вдруг стал выглядеть «как будто я накрашен»: кожа гладкая, складки на одежде чётче, уши искажены. Похожие артефакты нашёл и Ретт Шалл. Оказалось, YouTube без уведомления включил «улучшение» видео ИИ-фильтром, который убирает шум, повышает резкость и «ретуширует» лица.

Авторы в панике: даже минимальные правки меняют атмосферу и подрывают доверие зрителей. Это часть тренда: всё больше «реальности» проходит через ИИ до того, как мы её увидим. Вопрос уже не «увидишь ли ты подмену», а «сохранится ли связь с подлинным миром».

• Пользователи боятся, что «улучшение» видео на YouTube сольёт всё в один безликий стиль и стерет индивидуальность авторов.
• YouTube утверждает, что это лишь традиционный ML-фильтр для уменьшения шума и повышения чёткости, не GenAI и не апскейл.
• Недовольство усиливается из-за отсутствия опции отключить обработку и из-за того, что «улучшения» делают картинку похожей на плохой AI-фильтр.
• Люди уже не доверяют цифровым текстам и книгам, опасаясь скрытого AI-редактирования.
• Общий посыл: платформа меняет контент без спроса, и это вызывает тревогу за подлинность медиа.

Claude Opus 4 и 4.1 теперь могут прерывать редкие диалоги, если пользователь настойчиво требует вредоносного или абьюзивного контента. Функция разработана как эксперимент по защите «благополучия модели» и применяется только в крайних случаях, когда:

• пользователь игнорирует многократные отказы и попытки перенаправить беседу;
• исчерпаны все способы продолжить конструктивный диалог;
• пользователь сам просит завершить чат.

При прерывании:

• текущий чат закрывается, но можно немедленно начать новый;
• сохраняется возможность редактировать и перезапускать предыдущие сообщения;
• остальные диалоги аккаунта не затрагиваются.

Функция не срабатывает, если есть риск, что пользователь навредит себе или другим. Почти все пользователи не заметят изменений, даже при обсуждении спорных тем. Anthropic просит оставлять фидбек, если кажется, что чат был закрыт ошибочно.

• Пользователи обвиняют Anthropic в использовании «благополучия модели» как прикрытия для усиления цензуры и блокировки нежелательных тем.
• Многие считают, что LLM — это всего лишь матричные вычисления, и приписывать им «страдания» — антропоморфизм.
• Критики опасаются, что функция «Claude завершил чат» распространится за пределы запрещённого контента и станет инструментом произвольной модерации.
• Некоторые предлагают просто не обучать модели «страдать» от спорных тем, вместо того чтобы симулировать этическую озабоченность.
• В целом сообщество воспринимает нововведение как маркетинговый ход и признак всё большего отдаления разработчиков от реальных потребностей пользователей.