Anthropic's 'watermark' text adulteration in Claude is a perversion of writing

Anthropic объявила, что все модели Claude будут «водяровать» любой генерируемый текст, чтобы соответствовать европейскому закону о маркировке AI‑контента. Вместо скрытых непечатных символов они используют стеганографию: выбор слов и токенов оставляет вероятностные «отпечатки», которые можно позже обнаружить. При этом документация обещала, что такой отпечаток не меняет смысл, качество или читаемость текста — обещание, которое оказалось ложным.

Эта практика превращает любой скопированный или переведённый материал в потенциальный маркер AI‑происхождения, даже если текст изначально написан человеком. Скрытые ключи, известные только Anthropic, позволяют им определять, что контент «водяонизирован», но делают это без прозрачности для пользователей. В результате любой, кто копирует цитату из их сайта, может оказаться обвиняемым в AI‑генерации, хотя текст был написан вручную. Такой подход подрывает доверие к тексту и ставит под угрозу свободу использования и передачи информации.

Комментарии (402)

Водяные знаки Anthropic не искажают семантику текста, но создают системные риски: проверка требует отправки данных третьим сторонам, лишая пользователей контроля над контентом и угрожая приватности непубличных данных. Критики отмечают, что их можно обойти перефразированием, а детекция зависит от секретных ключей и непрозрачности. Водяной знак не работает при доминирующих токенах (например, в цитатах) и при использовании разных алгоритмов провайдеров — проверка становится нереалистичной. Требование сохранять водяной знак нарушает право на модификацию собственного текста. Некоторые видят в них шаг к юридическому претензиям на AI-контент. Уже существующая практика Anthropic лишь формально признана. Пользователи отмечают, что если текст и так распознаётся как машинный, водяной знак лишь делает это очевиднее, не улучшая качество; если же текст неотличим от человеческого — знак не имеет практической ценности. Некоторые считают, что он влияет только при неоднозначности выбора токенов, а не везде. Сторонники утверждают, что он лишь делает случайность LLM детерминированной, не ухудшая качество, и что пользователи и так редактируют вывод, делая проблему гипотетичной. Также высказывается мнение, что «наилучшее слово» — иллюзия: LLM лишь делают человеческие шаблоны более явными. Рекомендуется использовать LLM для обсуждения идей, а не для генерации финального текста, чтобы сохранить контроль и избежать водяных знаков.