Компания Pangram, разработчик детектора ИИ-текстов, в этом году привлекла журналиста Рода Бреслау для «атаки» на пользователей соцсетей, которые, по его мнению, использовали ИИ без указания этого. Как сообщает WIRED, Бреслау предложил свои услуги основателю Pangram Максу Сперо, устав от ИИ-контента в лентах. Он консультировал компанию по стратегии в соцсетях, одновременно выслеживая предполагаемых пользователей ИИ. «Я хотел применить более жесткий подход, потому что считал, что люди отделываются слишком легко», — заявил Бреслау WIRED. В более раннем интервью GamesBeat он пояснил: «Если вы называете себя лидером в своей нише и строите личный бренд в Twitter и LinkedIn, вы должны писать свои посты самостоятельно. Если нет — я или кто-то другой должен высмеивать вас».
Позже Pangram разорвала отношения с Бреслау, изменив направление развития. Компания теперь исходит из того, что использование ИИ станет все более приемлемым, и хочет детектировать даже легкое ИИ-редактирование, позиционируя себя как авторитет в проверке оригинальности для издательств и образования, рассказал Сперо WIRED. Однако сам Сперо продолжает публично оценивать и критиковать людей на основе результатов Pangram, называя это «привлечением к ответственности» за попытку скрыть использование ИИ.
Бизнес-модель Pangram зависит от того, что использование ИИ ассоциируется с ленью или нечестностью: если стигма исчезнет, спрос на детекцию упадет. Но любой детектор, даже идеально точный, показывает лишь вероятность участия ИИ в создании текста. Он не различает, был ли текст полностью сгенерирован по промпту, использовался ли ИИ как «мышление-партнер» для генерации идей, или автор просто прогнал свой текст через ИИ для улучшения стиля или перевода. «Пангрэм-стыд» подразумевает, что любое участие ИИ означает, что автор не думал или не заботился о качестве. Высокий балл может быть присвоен тексту, над которым автор работал часы, наполняя его оригинальным исследованием, так же легко, как и тексту, созданному за десять секунд по промпту. Детектор не может отличить эти случаи, для этого нужно было бы наблюдать за процессом написания.
CEO Pangram Макс Сперо продолжает публично оценивать и критиковать людей на основе результатов детектора.
Показательный пример: английская версия статьи The Decoder, которую вы читаете, является переводом немецкого оригинала, созданного с помощью ИИ и затем отредактированного вручную и с помощью ИИ. Pangram оценил ее в «28 процентов ИИ», пометив последние абзацы как написанные ИИ. Но каждый раздел был создан и отредактирован одинаково, с примерно одинаковым участием ИИ и одинаковым человеческим намерением. Самопровозглашенные «ИИ-полицейские» вроде Бреслау или Сперо использовали бы этот балл, чтобы утверждать, что последний абзац написан ИИ и не отражает мысли автора. Хуже того: в академических учреждениях отклоняют статьи на основе подобных процентных оценок. Многие такие статьи написаны исследователями, для которых английский не является родным языком, или которые лучше разбираются в науке, чем в прозе, и используют ИИ, чтобы яснее выразить свои результаты. В таком случае Pangram наказывает их за улучшение работы.
Историческая аналогия: Александр Дюма использовал помощников, таких как Огюст Маке, для черновиков своих романов, а затем сам их дорабатывал, включая классику вроде «Трех мушкетеров». Качество возникало из замысла в начале и шлифовки в конце. Детектор ИИ, примененный к Дюма, пометил бы «использование Маке» и упустил бы все, что делает его книги великими. Эта аналогия подчеркивает, что детекторы ИИ измеряют лишь один аспект — вероятность участия ИИ, но не качество, оригинальность или интеллектуальный вклад автора.
