OpenAI представила ChatGPT for Teens — специализированную версию чат-бота для пользователей младше 18 лет. Анонс, сделанный в понедельник, включает дополнительные меры безопасности и образовательные инструменты, призванные решить проблему списывания с помощью ИИ в школах. Это первый шаг компании к защите несовершеннолетних после серии исков, связанных с негативным влиянием чат-ботов на психику подростков.
ChatGPT for Teens появился спустя почти три года после запуска оригинального ChatGPT в конце 2022 года. За это время чат-бот достиг 900 миллионов еженедельных пользователей, и только теперь компания внедрила специальные средства защиты для молодой аудитории. Ключевая новая функция — Study Mode, которая вместо готовых ответов предлагает наводящие вопросы и пошаговые объяснения, помогая подросткам разобраться в материале. Если система замечает попытку списывания, она выводит напоминание о домашнем задании и предлагает переключиться в Study Mode. Также доступны викторины и визуализация учебного процесса.
Родители получают расширенные возможности контроля: они могут настраивать семейные инструменты, включать уведомления о безопасности и устанавливать «тихие часы» (Quiet Hours). По умолчанию Study Mode может быть включен по решению родителей. OpenAI утверждает, что все защитные меры основаны на принципах Under-18 Principles, заложенных в Model Spec, и разработаны с учетом возрастной психологии.
Функция напоминаний о домашних заданиях срабатывает при попытке списывания и предлагает перейти в Study Mode.
Однако остаются вопросы. Подростки часто находят способы обходить родительские ограничения, и пока неясно, насколько эффективными окажутся новые системы в реальных условиях. Кроме того, критики указывают, что такие меры должны были быть внедрены с самого начала, а не после многочисленных инцидентов. В дополнение к этому OpenAI объявила о партнерстве с CodeAI, чтобы помочь подросткам лучше понять, как работают ИИ-системы, как ими управлять и как подвергать их сомнению. Для школ уже существует ChatGPT for Teachers, предоставляющий институциональный доступ к ИИ.
Эксперты отмечают, что проблема безопасности ИИ для детей стоит остро: в США и других странах поданы иски о вреде, причиненном чат-ботами. Новый продукт OpenAI — попытка ответить на эти вызовы, но его эффективность пока не доказана. В любом случае, это значимый шаг в индустрии, где защита несовершеннолетних пользователей становится приоритетом.
