Фанфик-сообщество против ИИ: детектор Claude для AO3 и его ограничения

Подготовлено редакцией Malakhov AI

The Verge AI·вчера·2 минИндустрия

29 июня анонимный аккаунт в X (@heatedrivalryai) выпустил скин для архива фанфиков Archive of Our Own (AO3), который выявляет тексты, сгенерированные моделью Claude от Anthropic, по техническому артефакту в HTML-коде. Тестирование The Verge подтвердило, что срабатывание происходит только при прямом копировании из Claude в редактор AO3.

Кратко

—29 июня анонимный аккаунт @heatedrivalryai выпустил скин для AO3, выявляющий тексты от Claude по HTML-артефакту font-claude-response-body.
—Скин окрашивает фон страницы в красный при обнаружении артефакта; тесты The Verge подтвердили его работу при прямой вставке из Claude.
—Метод не срабатывает, если текст был отредактирован в других программах перед публикацией, и не отличает полную генерацию от частичного использования (например, проверки правописания).
—В сообществе начались публичные обвинения авторов, чьи работы были помечены, несмотря на призыв создателя не создавать атмосферу недоверия.
—Надёжного способа отличить сгенерированный текст от написанного человеком в настоящее время не существует — системы вроде C2PA и SynthID не работают с копируемым текстом.

Глоссарий · 6 терминов▾

Archive of Our Own (AO3): Популярная некоммерческая платформа для публикации фанфиков, управляемая Организацией трансформативных работ (OTW).
Claude: Языковая модель, разработанная компанией Anthropic, используемая для генерации текста.
Артефакт ИИ: Технический признак (например, HTML-код), который оставляет инструмент генерации при копировании текста.
Скин (skin): Пользовательское оформление (CSS) для AO3, которое может изменять внешний вид страниц и добавлять функциональность.
C2PA: Стандарт для цифровых сертификатов, которые подтверждают происхождение контента (например, был ли он создан ИИ).
Generative ИИ: Технологии искусственного интеллекта, способные создавать новый контент — тексты, изображения, музыку — на основе обучающих данных.

29 июня анонимный аккаунт в X (@heatedrivalryai) опубликовал скин (аналог расширения) для архива фанфиков Archive of Our Own (AO3), предназначенный для обнаружения текстов, сгенерированных моделью Claude от Anthropic. Скин анализирует HTML-код страницы на предмет артефакта font-claude-response-body, который Claude вставляет в текст при копировании из интерфейса чат-бота. Если артефакт обнаружен, фон страницы окрашивается в красный цвет. Журналист The Verge провёл собственное тестирование: красный фон появлялся при прямой вставке из Claude и исчезал, если тот же текст был скопирован иначе.

Создатель скина подчеркнул, что инструмент предназначен для демонстрации, а не для создания атмосферы недоверия или преследования конкретных пользователей. Однако фанфик-сообщество быстро мобилизовалось: работы, помеченные скином, стали публично осуждать, а их авторов — обвинять в использовании ИИ. Между тем метод имеет существенные ограничения. Артефакт сохраняется только при прямой вставке из Claude в редактор AO3 — если текст сначала попадает в Google Docs или Microsoft Word, а затем в AO3, детектор не срабатывает. Кроме того, скин не различает степень использования Claude: полная генерация текста и просто проверка правописания через чат-бот выглядят одинаково.

Проблема выходит за рамки конкретного инструмента. Надёжного способа отличить сгенерированный текст от написанного человеком пока не существует. Системы вроде C2PA Content Credentials и Google SynthID работают с изображениями и видео, но не с копируемым текстом. При этом ИИ-компании заинтересованы в решении этой проблемы внутренне — ранние модели обучались на неразборчивых данных, включая фанфики с платформ вроде AO3, что вызывает этические и экологические опасения в сообществе. Инструмент @heatedrivalryai покрывает только Claude и только AO3, другие модели и платформы остаются без аналогичных детекторов.