Автор «Рассказа служанки» Маргарет Этвуд на литературном фестивале Babell в Порту раскритиковала современные языковые модели, рассказав о личном опыте использования чат-бота Claude от Anthropic. По её словам, она обратилась к нейросети с вопросом о британском детективном сериале «Отец Браун», но получила неверную информацию. «Клод дал мне неправильный ответ, или он солгал. Конечно, он не знал, что лжёт, потому что это не человек, а большая языковая модель», — приводит её слова Deadline.
Этвуд отметила, что проблема кроется в обучающих данных: LLM «просматривают и берут выборку» из множества рецензий, но те, как правило, не раскрывают концовок, поэтому модель делает ошибочные выводы. Писательница назвала такой принцип работы «garbage in, garbage out» — мусор на входе, мусор на выходе. Она также добавила, что полагаться на машину, обученную на собранных, ранее опубликованных и возможно устаревших данных, — не лучшая идея.
Особое внимание Этвуд уделила людям, которые используют ИИ: она назвала их «оппортунистами», ищущими лёгкий путь. «Люди не роботы, но они оппортунисты, поэтому если есть лёгкий способ сжульничать, и его трудно обнаружить, люди будут это делать», — заявила она. При этом писательница признала, что даже в бизнесе результаты работы ИИ необходимо перепроверять, так как система допускает ошибки.
Писательница назвала пользователей ИИ «оппортунистами», ищущими лёгких путей.
Критика Этвуд отражает давнюю проблему языковых моделей — галлюцинации и зависимость от качества данных. Принцип «garbage in, garbage out» известен в информатике десятилетиями: если на вход подавать неполные или неточные данные, на выходе будет соответствующий результат. В случае с LLM это означает, что модель может уверенно выдавать ложные факты, особенно по темам, где обучающая выборка содержит противоречия или пробелы. Для бизнес-пользователей это создаёт риски: автоматическая генерация отчётов, контрактов или кода требует обязательной верификации человеком.
Высказывания такой известной фигуры, как Маргарет Этвуд, добавляют вес в общественную дискуссию о доверии к ИИ. Хотя писательница не является техническим экспертом, её аргументы созвучны мнению многих исследователей в области ответственного ИИ. Прозрачность источников данных, контроль качества и информирование пользователей об ограничениях моделей остаются ключевыми вызовами для разработчиков.
