Группа ученых из Университета Пассау под руководством профессора Штеффена Хербольда опубликовала в PLOS One исследование, в котором GPT-4 Turbo попросили имитировать 112 публичных фигур — политиков, журналистов, бизнесменов и врачей. Модель обучали на расшифровках программы BBC Question Time, где участники отвечают на вопросы аудитории. Затем 948 жителей Великобритании оценивали пары ответов: реальные и сгенерированные.
Результаты удивили даже авторов: ИИ-ответы признали более аутентичными, последовательными и релевантными, чем оригинальные. «Мы ожидали, что с когерентностью ИИ справится лучше, но оценки аутентичности стали настоящим сюрпризом — ее, как считается, сложно подделать», — прокомментировал Хербольд. Участники знали, кого они оценивают, но все равно чаще выбирали сгенерированные тексты.
Исследование проводилось накануне выборов 2024 года в Великобритании, и авторы видят в этом предупреждение. Возможность создавать практически неотличимые от человеческих высказывания копии политиков, по их мнению, создает прямой риск для демократии: избирателей можно ввести в заблуждение фальшивыми заявлениями. Хербольд подчеркивает, что технология не требует сложных инструментов — достаточно доступа к LLM и публичным данным.
948 участников оценили ИИ-ответы как более аутентичные, чем реальные выступления политиков и экспертов.
Особую тревогу вызывает то, что люди не осознают уязвимость. После эксперимента, когда участникам сообщили об ИИ-происхождении части ответов, многие были шокированы. Исследователи призывают к широкому информированию общества о способности современных языковых моделей к убедительной имитации, чтобы предотвратить злоупотребления во время избирательных кампаний и в других политических процессах.
