Anthropic, разработчик языковой модели Claude, внедрил систему невидимых водяных знаков, которые добавляются к текстам, сгенерированным чат-ботом. Это решение принято выполнения требований EU ИИ Act — законодательства Европейского союза, которое обязывает компании маркировать контент, созданный или отредактированный искусственным интеллектом, в форме, доступной для компьютерных систем. Водяные знаки представляют собой скрытый код, встроенный в текст, который позволяет идентифицировать его как продукт ИИ.
Нововведение вызвало бурную реакцию среди пользователей, особенно на платформе Reddit. Один из пользователей под ником visionode, чей аккаунт был создан всего три недели назад, назвал систему «драконовским заговором», направленным против невинных пользователей. Он утверждает, что опытные пользователи могут обойти маркировку, перефразируя текст или пропуская его через другие ИИ-сервисы, но обычные пользователи будут «пойманы». В качестве примеров он привел студента, который использовал Claude для реорганизации абзаца, журналиста, попросившего ИИ резюмировать двухсотстраничный транскрипт, и писателя, искавшего синонимы. По его словам, эти люди «выходят из процесса с цифровым тату на лбу».
Однако другие пользователи не поддержали эту точку зрения. Один из комментаторов ответил: «Посмотрите на этого парня», другой посоветовал «сделать глубокий вдох». Критики также указывали на этическую сторону: если журналист или студент копирует сгенерированный текст дословно, это является нарушением профессиональной этики, и водяной знак здесь ни при чем. Другой пользователь назвал водяные знаки «неэтичными» и «отвратительными», утверждая, что он выполнил основную работу, а Claude был лишь «инструментом». Он задался вопросом: «Если Claude начинает помечать код или что-либо еще, что оно генерирует, на что оно претендует?» В ответ ему возразили: «Оно не претендует на авторство. Речь идет о возможности обнаруживать ИИ-сгенерированный контент из-за рисков, которые он может создавать в различных ситуациях».
Пользователи на Reddit разделились: одни считают это нарушением, другие поддерживают.
Некоторые пользователи высказали более взвешенные аргументы. Один из них отметил иронию в том, что модели обучались на чужих работах, а теперь их выводы помечаются. «Я думаю, это очень зловещее направление», — сказал он, добавив: «Я не использую Claude для написания текстов, но ИИ, который помечает свою работу, пугающе ироничен, учитывая, как многие ведущие модели получили свои обучающие данные». В целом, однако, большинство пользователей поддержали систему водяных знаков как разумный способ отслеживания контента, созданного алгоритмами. Один из пользователей написал: «Нет буквально ни одного веского аргумента, почему это не хорошая идея. Единственная причина, по которой вы не хотите этого, — это желание солгать людям».
Водяные знаки — это не новая технология. Они уже используются в изображениях и видео для защиты авторских прав. В случае с текстом это более сложная задача, так как текст легко перефразировать. Тем не менее, Anthropic, по-видимому, нашла способ встраивать незаметные маркеры, которые могут быть обнаружены специальными алгоритмами. Это может стать прецедентом для других компаний, разрабатывающих большие языковые модели, таких как OpenAI и Google, которые также сталкиваются с требованиями регулирования в Европе.
Для российских пользователей это нововведение может быть актуально, если они используют Claude для работы или учебы. Важно понимать, что водяные знаки не являются наказанием, а скорее мерой прозрачности, направленной на снижение рисков дезинформации и злоупотреблений. Однако, если вы планируете использовать сгенерированный текст в публичных материалах, стоит учитывать, что его происхождение может быть проверено.
