OpenAI выпустила версию ChatGPT, предназначенную для пользователей в возрасте от 13 до 17 лет. Об этом сообщили Associated Press и The New York Times. Новая версия вводит более строгие ограничения на темы, связанные с суицидом, самоповреждениями, расстройствами пищевого поведения и сексуальным контентом. Кроме того, чат-боту запрещено имитировать эмоции.
Ключевое отличие подростковой версии — подход к домашним заданиям. Вместо того чтобы выдавать готовые ответы, ChatGPT задает наводящие вопросы, которые должны подтолкнуть школьника к самостоятельному решению задачи. Это соответствует образовательной практике, когда важно развивать критическое мышление, а не просто получать результат.
OpenAI не проверяет возраст напрямую. Вместо этого компания анализирует более 2000 поведенческих сигналов, таких как типичное время входа в систему, чтобы выявить пользователей младше 18 лет и автоматически активировать для них подростковую версию. Такой подход вызывает вопросы о точности и приватности, но пока компания не раскрывает деталей.
Чат-бот не отвечает на темы суицида, самоповреждений и расстройств пищевого поведения.
Запуск происходит на фоне растущего юридического давления. Несколько семей подали иски против OpenAI после того, как их дети столкнулись с вредоносным контентом и получили травмы или погибли. В июне Флорида стала первым штатом США, подавшим иск против компании. Эти события подчеркивают необходимость более строгих мер безопасности для несовершеннолетних пользователей.
Для отрасли это важный шаг: OpenAI признает, что стандартные модели ИИ не всегда безопасны для подростков, и пытается адаптировать продукт под возрастную аудиторию. Однако эффективность таких ограничений пока не доказана, и эксперты сомневаются, что поведенческие сигналы могут надежно определить возраст. Тем не менее, это первая крупная попытка создать специализированную версию чат-бота для несовершеннолетних, что может стать прецедентом для других компаний.
