Anthropic встроила в ответы Claude невидимый код, который помечает текст как сгенерированный нейросетью. Причина скучная и бюрократическая — требование европейского Transparency Code в рамках AI Act. Реакция пользователей — совсем не скучная.
На Reddit разгорелся спор, который обнажил парадокс современного AI-этикета: люди пользуются чат-ботом, чтобы написать текст за себя, а потом возмущаются, что этот факт можно обнаружить. Один из пользователей назвал водяные знаки «драконовским заговором», который выдаст студента, попросившего Claude «просто переформулировать абзац», или журналиста, скормившего боту стостраничную расшифровку для пересказа.
Звучит убедительно, пока не задашь простой вопрос: а что плохого в том, что станет видно, где текст написан человеком, а где — алгоритмом? Если журналист вставляет AI-пересказ в статью дословно, не разобравшись, — это проблема журналиста, а не технологии, которая честно призналась в авторстве. Большая часть комментаторов на том же Reddit восприняла это именно так: «нет ни одной хорошей причины быть против этого — если только вы не хотите обманывать людей».
Прозвучал и более тонкий аргумент — про иронию происходящего. Компания, чьи модели выучились на терабайтах чужих текстов, собранных без явного согласия авторов, теперь ставит клеймо на собственный вывод. Справедливое замечание, но оно не отменяет пользы самой функции: чем больше в интернете текстов, о происхождении которых можно судить объективно, тем меньше пространства для манипуляций и фальшивок.
Водяные знаки Claude — не изолированный случай, а часть движения к прозрачности AI-контента, к которому склоняется вся индустрия под давлением регуляторов. Технология работает через скрытое смещение вероятностей при выборе токенов — статистический отпечаток, который остаётся в тексте, даже если его немного отредактировать. Обойти это можно, прогнав текст через другую модель или сильно перефразировав, но для рядового пользователя, который просто хочет незаметно закрыть рабочую задачу, эта лазейка не так уж очевидна.
Во что углубиться:
- Что такое EU AI Act и Transparency Code: какие требования к маркировке AI-контента вводит Евросоюз
- Как работает SynthID от Google: технология водяных знаков для текста, изображений и видео
- Можно ли обойти AI-детекторы парафразом: насколько устойчивы современные методы маркировки контента