Instagram объявил о смене подхода к маркировке профилей, созданных с помощью искусственного интеллекта. С понедельника платформа переименовывает существующую метку «ИИ creator» в «ИИ-generated profile» и начинает ограничивать охват аккаунтов, которые используют ИИ-персон без соответствующего раскрытия. Новая метка призвана четко сообщать пользователям, что человек на профиле был сгенерирован или существенно создан с помощью ИИ.
По словам представителей Instagram, изменение частично вызвано жалобами пользователей, которые натыкались на профили, выглядевшие как реальные люди, но позже выясняли, что персона полностью создана ИИ. «По мере того как генеративный ИИ становится большей частью творческого процесса, мы слышим, что людям не нравится видеть профиль, который кажется человеческим, а потом узнавать, что человек на нем создан ИИ. Они хотят знать, когда в профиле представлен ИИ-сгенерированный человек», — написали в Instagram.
Новая политика не требует маркировки для всех случаев использования ИИ. Если пользователь применяет ИИ для редактирования фотографий, улучшения подписей, создания графики или других творческих правок, метка «ИИ-generated profile» не нужна. Она предназначена только для профилей, где основным субъектом является ИИ-персона. Создатели, которые используют новую метку, не будут наказаны за то, что их профиль содержит ИИ-сгенерированного человека. Однако те, кто не маркирует такие профили, могут столкнуться с сокращением охвата.
Создатели, не маркирующие ИИ-профили, рискуют снижением охвата; использующие метку не будут наказаны.
Решение Instagram принято на фоне растущего раздражения из-за ИИ-контента в соцсетях. ИИ-инфлюенсеры становятся все более распространенными. Например, ранее в этом году гей-дейтинг-приложение Goose стало предметом расследования Wired после того, как сеть якобы ИИ-сгенерированных мужчин-инфлюенсеров продвигала приложение в Instagram. Wired обнаружила более двух десятков аккаунтов, которые выглядели как ИИ-инфлюенсеры, некоторые из них связывались с потенциальными пользователями через личные сообщения, чтобы привлечь их в приложение. Особенно тревожным примером является контент о здоровье: The New York Times в июле сообщила о сотнях ИИ-сгенерированных врачей и целителей в соцсетях, которые рекламировали добавки и делали медицинские заявления.
Запуск новой политики произошел после того, как Instagram столкнулся с критикой из-за ИИ-инструмента, позволявшего генерировать изображения с использованием чужих лиц. Пользователи возражали против использования их публичного контента без явного согласия, и Meta удалила эту функцию. На прошлой неделе Meta достигла соглашения на $18 млрд с американскими штатами по обвинениям во влиянии Facebook и Instagram на детей и подростков. соглашения Meta введет двухчасовой лимит ежедневного использования для подростков, блокировку «ночного режима», отключение уведомлений в школьные часы и другие ограничения.
Новые правила Instagram отражают общую тенденцию платформ к регулированию ИИ-контента. Пока неясно, как именно будет технически реализовано ограничение охвата и насколько эффективно платформа сможет выявлять неразмеченные ИИ-профили. Однако шаг Instagram сигнализирует о том, что соцсети начинают активнее бороться с вводящим в заблуждение ИИ-контентом, что может повлиять на маркетинговые стратегии брендов, использующих виртуальных инфлюенсеров.
