404 Media получила внутренние документы OpenAI и поговорила с подрядчиками: сотни контрактных работников читают реальные диалоги пользователей ChatGPT. Их задача — оценивать ответы модели по шкале от одного до семи и снижать избыточную льстивость и подражание человеку в репликах бота. Один из ревьюеров сказал изданию, что, по его мнению, пользователи не знают о том, что люди читают их переписки. Сами промпты это подтверждают: в части диалогов люди прямо просили ChatGPT сохранить содержание в тайне.
Формально данные анонимизируются, но в текстах всё равно могут оставаться чувствительные персональные сведения. OpenAI использует фильтр приватности, однако признаёт, что он может ошибаться. Набор подрядчиков идёт через Crossing Hurdles, которая описывает себя как «связующее звено между квалифицированными специалистами и будущим ИИ-работы», а выплаты проводит компания Mercor, занимающаяся обучением ИИ. Один ревьюер из Северной Америки сообщил, что зарабатывает больше $50 в час.
| Компания | Продукт | Человеческая проверка | Как отключить |
|---|---|---|---|
| OpenAI | ChatGPT | Да, сотни подрядчиков | Настройка «Improve the model for everyone» (по умолчанию включена, действует на новые чаты) |
| Anthropic | Claude | Да, для улучшения будущих моделей | Настройка «Help improve our AI models» в приватности |
| Gemini | Да, люди могут просматривать сохранённые чаты | Указывается в интерфейсе Gemini |
Пользователь может отключить настройку «Improve the model for everyone», которая включена по умолчанию и останавливает использование чатов для обучения модели и потенциального чтения людьми. Ограничение в том, что опция действует только на новые разговоры. Есть и режим временного чата: по словам компании, вводимые туда данные не используются для тренировки модели. Но именно о человеческом просмотре OpenAI говорит лишь в глубине FAQ. Когда 404 Media спросила, где пользователей явно предупреждают об этом, компания сначала не ответила. На странице FAQ сказано, что уполномоченный персонал и поставщики услуг могут просматривать данные пользователей для улучшения работы модели, и там же не рекомендуют вводить чувствительную информацию. Это уведомление висит в сети как минимум с 2023 года и с тех пор менялось незначительно.
Набор идёт через Crossing Hurdles, выплаты — через Mercor; один из ревьюеров в Северной Америке получает больше $50 в час.
404 Media считает такое раскрытие слишком скрытым и размытым, чтобы пользователи осознавали масштаб человеческой проверки. Формулировка «Improve the model for everyone» читается скорее как дружеский вклад в общее дело, чем как согласие на то, что ваши переписки будут читать люди. Но расплывчатость, вероятно, продумана: если бы OpenAI запрашивала явное согласие, доля отказов была бы высокой. Для ИИ-лабораторий обратная связь от людей — ключевая часть улучшения моделей, и практика распространена шире, чем кажется.
Anthropic подтвердила 404 Media, что тоже привлекает людей для проверки ответов Claude и дообучения будущих моделей — это касается тех, у кого в настройках приватности включено «Help improve our ИИ models». Anthropic анонимизирует диалоги перед просмотром, удаляя данные аккаунта вроде адресов электронной почты. Google также использует человеческую проверку и отмечает в Gemini, что люди могут просматривать сохранённые чаты. Так что вопрос не в том, читают ли люди переписки с чат-ботами, а в том, насколько явно об этом сообщают и насколько просто отказаться.
