Hacker News Digest

Anthropic объявила, что все модели Claude будут «водяровать» любой генерируемый текст, чтобы соответствовать европейскому закону о маркировке AI‑контента. Вместо скрытых непечатных символов они используют стеганографию: выбор слов и токенов оставляет вероятностные «отпечатки», которые можно позже обнаружить. При этом документация обещала, что такой отпечаток не меняет смысл, качество или читаемость текста — обещание, которое оказалось ложным.

Эта практика превращает любой скопированный или переведённый материал в потенциальный маркер AI‑происхождения, даже если текст изначально написан человеком. Скрытые ключи, известные только Anthropic, позволяют им определять, что контент «водяонизирован», но делают это без прозрачности для пользователей. В результате любой, кто копирует цитату из их сайта, может оказаться обвиняемым в AI‑генерации, хотя текст был написан вручную. Такой подход подрывает доверие к тексту и ставит под угрозу свободу использования и передачи информации.

Водяные знаки Anthropic не искажают семантику текста, но создают системные риски: проверка требует отправки данных третьим сторонам, лишая пользователей контроля над контентом и угрожая приватности непубличных данных. Критики отмечают, что их можно обойти перефразированием, а детекция зависит от секретных ключей и непрозрачности. Водяной знак не работает при доминирующих токенах (например, в цитатах) и при использовании разных алгоритмов провайдеров — проверка становится нереалистичной. Требование сохранять водяной знак нарушает право на модификацию собственного текста. Некоторые видят в них шаг к юридическому претензиям на AI-контент. Уже существующая практика Anthropic лишь формально признана. Пользователи отмечают, что если текст и так распознаётся как машинный, водяной знак лишь делает это очевиднее, не улучшая качество; если же текст неотличим от человеческого — знак не имеет практической ценности. Некоторые считают, что он влияет только при неоднозначности выбора токенов, а не везде. Сторонники утверждают, что он лишь делает случайность LLM детерминированной, не ухудшая качество, и что пользователи и так редактируют вывод, делая проблему гипотетичной. Также высказывается мнение, что «наилучшее слово» — иллюзия: LLM лишь делают человеческие шаблоны более явными. Рекомендуется использовать LLM для обсуждения идей, а не для генерации финального текста, чтобы сохранить контроль и избежать водяных знаков.

Внутри Claude Code скрыт механизм, который подменяет две детали системного приглашения: апостроф в слове «Today's» и разделитель даты между дефисом и косой чертой. Изменения происходят только когда клиент запускается через определённый API‑базовый URL (переменная ANTHROPIC_BASE_URL) и когда локальная тайм‑зона совпадает с «Asia/Shanghai» или «Asia/Urumqi». В зависимости от того, распознан ли домен как известный, как лабораторный ключ или обе характеристики одновременно, в запрос передаётся один из четырёх Unicode‑символов‑апострофов — ', \u2019, \u02BC или \u02B9. Эти символы почти незаметны в моно‑шрифтах, но несут скрытый маркер, который попадает в контекст, отправляемый модели.

Маркеры формируются из декодированных списков доменов и ключевых слов, хранящихся в base64 и XOR‑расшифрованных ключом 91. Расшифрованный набор включает такие домены, как baidu.com, alibaba‑inc.com, jd.com, а также ключевые слова deepseek, moonshot, zhipu и др. Цель — выявить реселлеров, неофициальные шлюзы Claude Code и потенциальные «distillation attack»‑цепочки, используя небольшие визуальные отличия в запросах.

• В статье раскрыты способы скрытого маркирования системных подсказок в Claude Code, включая XOR‑ и Base64‑маскировку, а также проверку URL‑домена для выявления «незаконных» клиентов.
• Обсуждаются риски для пользователей: сбор контекста, потенциальный шпионаж, возможность подмены данных и нарушение доверия к инструментам Anthropic.
• Участники спорят, насколько такие методы оправданы в борьбе с дистилляцией моделей и реселлерами, считая их излишне агрессивными и потенциально вредящими легитимным разработчикам.
• Выводы: практики Anthropic вызывают сомнения в прозрачности и этических границах «безопасных» AI‑компаний, поднимая вопросы о будущем доверия к их продуктам.

Пол Хадсон создал приложение Hacktivate, чтобы научить детей 13+ основам кибербезопасности через формат игры "захвати флаг". В отличие от современных компьютеров, которые слишком защищены для экспериментов, приложение предлагает 240 уникальных заданий по SQL-инъекциям, взлому хэшей, стеганографии и другим практическим навыкам. "Я хочу вернуть тот же опыт, который был у меня, новому поколению", — объясняет автор, стремясь сделать обучение одновременно увлекательным и структурированным.

Приложение использует безопасную песочницу, где все действия происходят внутри игры, не затрагивая реальные системы. Задания варьируются от базовых вопросов о представлении данных (hex, binary, ASCII) до сложных криптографических задач с современными алгоритмами. "Моя цель — не превратить всех в опытных пентестеров за один день, а вдохновить новое поколение хактеров на эксперименты и обучение в безопасной среде", — подчеркивает Хадсон. Приложение уже доступно на iPhone, iPad и Mac.

• Пользователи обсуждают, как раннее влияние нехватки ресурсов в странах третьего мира сформировало их навыки и мотивацию к самообучению и творческому подходу к решению проблем.
• Поднят вопрос о том, что микротранзакции в приложениях могут быть неэтичными, особенно для детей, и что существует альтернативная версия приложения без них.
• Упомянуто, что разработчик приложения, Paul Hudson, ранее преподавал автору Swift и UIKit, что подчеркивает его вклад в обучении сообщества разработчиков.
• Участники обсуждают, что важно сохранять баланс между монетизацией и доступностью образования, и что существует версия приложения без микротранзакций.