Anthropic внедрила водяные знаки для текстов, генерируемых моделями Claude. Система основана на подходе SynthID-Text, разработанном Google DeepMind, и изменяет источник случайности при выборе слов, создавая статистически обнаруживаемый паттерн. Водяные знаки невидимы: они не добавляют скрытых символов и не оставляют видимых меток. Компания утверждает, что это не влияет на содержание, креативность или читаемость текстов.
Однако не все согласны с такой оценкой. Джон Грубер, известный блогер и создатель Markdown, в публикации на Daring Fireball утверждает, что синонимы не бывают полностью эквивалентны по смыслу. Когда Claude выбирает между словами «overcast» и «grey» на основе секретного ключа водяного знака, а не семантической точности, качество текста неизбежно страдает. По словам Грубера, система иногда повышает вероятность использования худшего слова и снижает вероятность лучшего. Он считает, что заявление Anthropic о «незаметности» различий ошибочно. Даже исследование SynthID, опубликованное в Nature, не убеждает Грубера: оценки «палец вверх/вниз» не являются валидным показателем качества текста, поскольку пользователи редко ставят дизлайк за выбор «бананы» вместо «ананасы».
Юридические фирмы также готовятся к новым вопросам прозрачности. Издание Artificial Lawyer отмечает, что водяные знаки в большинстве случаев безвредны, и ни клиенты, ни суды обычно не возражают против использования ИИ. Однако в ситуациях, когда клиенты запретили использование ИИ или судья скептичен, наличие водяного знака может быть доказано даже при безупречном содержании документа. Это может повлиять на ход разбирательства. Водяные знаки также «путешествуют» с текстом: сложный контракт может содержать пункты, помеченные ИИ, а остальное написано человеком. Будущие контракты, основанные на старых шаблонах с ИИ-сгенерированными разделами, сохранят эти метки. При использовании нескольких LLM разные водяные знаки могут накладываться в одном документе.
Водяные знаки невидимы и не добавляют скрытых символов, но изменяют выбор слов.
Переговоры о гонорарах тоже могут измениться. Если клиенты требуют скидку, потому что ИИ упростил работу, доля ИИ становится проверяемой. Anthropic отмечает, что в фактологически насыщенных текстах водяные знаки встречаются реже, так как меньше альтернатив для выбора слов. Для юридических текстов, требующих точности, это важное ограничение, хотя эмпирических исследований пока нет.
Удалить водяные знаки можно с помощью инструментов перефразирования, например Declaude. Его разработчик Джеймс Падолси критикует регулирование ЕС как произвольное: система в основном затрагивает обычных пользователей, но малоэффективна против намеренного обхода. Anthropic внедряет водяные знаки для соответствия EU ИИ Act, но применяет их глобально, так как не может ограничить функцию по регионам. Все модели Claude, выпущенные после 2 августа, поддерживают маркировку; старые модели будут обновлены в ближайшие месяцы.
