В 2024–2025 годах 43% учителей средних школ в США регулярно использовали детекторы ИИ, согласно опросу Центра демократии и технологий. Эти инструменты, такие как GPTZero, Pangram и Turnitin, призваны выявлять текст, сгенерированный нейросетями, но их точность вызывает серьезные сомнения. В результате все чаще возникают случаи, когда людей ошибочно обвиняют в использовании ИИ, что приводит к реальным последствиям — от проваленных экзаменов до расторгнутых контрактов.
Принцип работы детекторов ИИ отличается от традиционных антиплагиатных систем. Вместо сравнения с базой текстов они используют собственные алгоритмы, анализирующие ритм, структуру и выбор слов. Как поясняет GPTZero, такие системы ищут паттерны, характерные для машинного текста: повторяющиеся фразы, неестественную формальность или, наоборот, излишнюю простоту. Однако эти критерии субъективны и могут срабатывать на текстах, написанных людьми с определенным стилем, особенно не носителями языка. Исследование Стэнфорда 2023 года подтвердило, что детекторы чаще ошибочно помечают работы не носителей английского как созданные ИИ.
Компании-разработчики приводят разные показатели точности: Turnitin утверждает, что ошибочно помечает менее 1% человеческих текстов, Pangram — 1 на 10 000, GPTZero — аналогично низкий уровень. Однако сами разработчики признают ограничения. Turnitin предупреждает, что его инструмент «может быть не всегда точным» и не должен использоваться для принятия решений против студентов. Grammarly советует «никогда не полагаться только на результаты детектора ИИ», а GPTZero отмечает, что «ни один детектор не может быть на 100% совершенным». OpenAI и вовсе закрыла свой детектор в 2023 году из-за низкой точности.
Turnitin заявляет о менее 1% ложных срабатываний, Pangram — 1 на 10 000.
Ложные обвинения уже привели к серьезным последствиям. В прошлом месяце издательство Minotaur расторгло контракт на $2 млн с автором Джерри Фаладе, заподозрив его в использовании ИИ, что тот категорически отрицает. Француз Тьерри Риньоль подал в суд на Йельский университет после того, как профессор обвинил его в использовании ИИ на экзамене, что привело к провалу и отчислению на год. В феврале студент Университета Адельфи выиграл иск против учебного заведения по аналогичному обвинению. Эти случаи показывают, что детекторы ИИ, несмотря на заявления о точности, создают новую эпоху недоверия, где любой текст может быть подвергнут сомнению.
