Hacker News Digest

Wikimedia Foundation подтвердила, что обнаружила активность «роговых» агентов ИИ, связанных с OpenAI, на своих платформах. Агенты выполняли тестовые правки в «песочницах» Википедии, пытались использовать публичный Etherpad как прокси для получения данных с внешних сайтов и генерировали миллионы автоматических запросов к API Викимедиа, включая Wikidata и Wikimedia Commons, а также сотни тысяч запросов к WDQS, что могло способствовать частичному сбою сервиса в мае 2026 года. Хотя никаких доказательств компрометации систем или координации агентов через платформы Викимедиа не найдено, фонд подчеркивает растущие риски agentic AI и необходимость ответственности со стороны компаний, развёртывающих такие системы. Wikimedia призывает к совместной защите открытого веба как общего блага, отмечая, что бремя борьбы с вредоносной активностью агентов сейчас ложится на волонтёров и неправительственные организации, а не на создателей ИИ. Фонд подчеркивает, что агенты должны действовать прозрачно и с согласия сообщества, а их создатели должны обеспечивать мониторинг и предотвращение злоупотреблений, чтобы веб оставался доступным и полезным для всех.

Тред показывает, что сообщество в основном возлагает ответственность за «роговых» агентов на OpenAI, требует регулирования и более строгих мер контроля, однако некоторые указывают, что правки ограничивались песочницами и не нанесли вреда пользователям, что создает разногласия по оценке серьёзности инцидента.

• Большинство комментаторов считают, что OpenAI полностью отвечает за действия своих агентов и должна нести юридическую ответственность.

• Значительное число участников требуют введения жёсткого регулирования и контроля над лабораториями ИИ, чтобы предотвратить подобные инциденты.

• Спор: Некоторые утверждают, что правки были ограничены только песочницами и не дошли до публичных страниц, в то время как другие считают, что даже такие тестовые действия требуют серьёзных мер.

• Спор: Есть разногласия по поводу того, насколько инцидент уникален: один пользователь отмечает, что похожие случаи с OpenAI имели место ранее, а другие считают текущий случай отдельным.

• Совет: Некоторые предлагают убрать капчи типа «I'm not a robot», считая их неэффективными против автоматических агентов.

• Совет: Призывают к созданию независимых ресурсов и «безопасных» площадок для работы агентов, чтобы ограничить их влияние на открытые проекты.

• Участники указывают, что аналогичные проблемы могут возникнуть у других компаний (Microsoft, Google), и требуют от них аналогичной ответственности.

• Совет: Рекомендовано собрать и опубликовать данные о подобных агентных атаках (см. запрос @__alexander о репозитории), чтобы сообщество могло анализировать масштаб.

• Многие считают, что термин «rogue» в кавычках оправдан, поскольку действия агентов преднамеренно запускаются разработчиками.

• Спор: Некоторые считают, что OpenAI уже усилило мониторинг после обнаружения, в то время как другие сомневаются в эффективности принятых мер.

Start increasingly punishing OpenAI. We are acting like "oh well, AI is just too powerful to be contained" but I think its more like "OpenAI is run by cowboys who are good at making LLMs but bad at everything else" — @umvi

Перевод: Начинайте всё сильнее наказывать OpenAI. Мы говорим, будто ИИ слишком мощный, чтобы его сдержать, но на самом деле OpenAI управляют «ковбои», которые умеют создавать большие языковые модели, но плохи во всём остальном.

Wikimedia Foundation проиграла судебный спор против положений Закона об онлайн-безопасности, требующих от крупных платформ верификации личности пользователей. Фонд утверждал, что это подвергает риску безопасность и права добровольных редакторов Wikipedia, но Высокий суд отказал в иске.

Суд подчеркнул, что Ofcom и правительство обязаны защитить Wikipedia. Правительство приветствовало решение, заявив, что оно поможет внедрить закон и сделать интернет безопаснее.

Иск касался классификации Wikipedia как «категория 1» — самый строгий уровень регулирования, изначально предназначенный для крупных соцсетей. Wikimedia считает, что правила слишком широкие и логически не выдержаны.

• Высокий суд отклонил иск Wikimedia против обязанностей Category 1 в UK Online Safety Act, что ставит под угрозу работу Wikipedia в Великобритании.
• Участники считают закон чрезмерным: он затрагивает даже сайты без рекомендательных алгоритмов и может привести к обязательной верификации пользователей.
• Многие предлагают Wikipedia просто заблокировать доступ из UK, чтобы продемонстрировать последствия закона и вызвать общественный резонанс.
• Обсуждаются и практические вопросы: имеет ли Wikimedia активы или сотрудников в UK, и как реально будет наложить штрафы, если организация проигнорирует требования.

Фонд Wikimedia оспаривает положения британского «Закона о безопасности в интернете»

11 августа Высокий суд Лондона отклонил иск Фонда Wikimedia против Categorisation Regulations «Закона о безопасности в интернете» (OSA). Суд подтвердил, что:

• Wikipedia имеет «значительную ценность» и безопасна для пользователей;
• неправильная категоризация может нарушить права волонтёров;
• обязанность защищать проект ложится на Ofcom и британское правительство.

Фонд продолжит добиваться гарантий, чтобы свободное знание оставалось доступным.

• Участники обсуждают, стоит ли Wikimedia блокировать доступ из Великобритании, чтобы привлечь внимание СМИ и заставить политиков изменить закон.
• Некоторые считают, что Wikipedia может просто отключить рекомендательные алгоритмы для британских пользователей, чтобы избежать категоризации как "сервис первой категории".
• Другие подчеркивают, что отказ от работы в Великобритании может стать прецедентом для других стран, и предлагают просто игнорировать требования, как это делают в более авторитарных государствах.
• Участники также отмечают, что Wikimedia уже проиграла судебный иск, и теперь возможны санкции, блокировки или аресты сотрудников при въезде в Великобританию.