В последние недели пользователи Instagram массово сообщают, что платформа автоматически помечает их фотографии как «ИИ Content», даже если они не использовали генеративные инструменты. Жалобы появились на Threads и других площадках: метка возникает на снимках, отредактированных в Canva с помощью фонового ремувера, а иногда и вовсе без видимых причин. При этом настоящие изображения, созданные нейросетями, часто остаются без пометок, что подрывает доверие к системе маркировки.
Проблема не нова: в 2024 году, через несколько месяцев после запуска функции, Instagram уже сталкивался с похожим сбоем, когда метка «Made by ИИ» появлялась на фотографиях с незначительной ретушью. Тогда Meta заявила, что будет сканировать изображения на наличие метаданных IPTC и C2PA, которые могут подтвердить использование генеративных моделей. Однако компания всегда была расплывчата в деталях: неизвестно, какие именно индикаторы она использует и как часто проводит проверку. В ответ на запрос The Verge Meta не предоставила комментариев.
Часть нынешних ошибок, судя по всему, связана с Canva. Контент-стратег Джесс Бруно сообщила, что компания объяснила ей: некоторые вспомогательные ИИ-инструменты «помечались как генеративные». Canva заявила, что уже исправила проблему, и на странице помощи указано, что использование фонового ремувера «не добавляет метаданные ИИ-контента в ваш дизайн». Однако пользователи Threads продолжают сообщать, что метка появляется даже после заявленного исправления. Другие жалуются, что изображения, отредактированные до обновления, не получили меток, что указывает на непоследовательность в работе системы.
Canva признала, что некоторые вспомогательные ИИ-инструменты «помечались как генеративные», и заявила об исправлении.
Показательно, что в тестах The Verge метка «ИИ Content» появлялась только на изображениях, созданных или отредактированных в приложении Meta ИИ. Это позволяет предположить, что Instagram корректно распознает собственные генеративные инструменты, но ошибается с контентом от сторонних сервисов. В некоторых случаях метка появлялась на изображениях, которые были «отравлены» — то есть содержали специальные искажения, делающие их бесполезными для обучения ИИ. Это может указывать на то, что алгоритмы Instagram реагируют на определенные паттерны, а не на реальное происхождение изображения.
Проблема затрагивает не только обычных пользователей, но и бренды. Например, косметическая компания About Face, основанная певицей Холзи, сообщила, что ее фотографии получили метку «ИИ Content», хотя снимки были сделаны на iPhone и слегка отредактированы в стандартном приложении «Фото». Представитель бренда подчеркнул, что в работе не использовались генеративные инструменты. При этом в iOS 27 некоторые функции, такие как Spatial Reframing и Clean Up, добавляют водяные знаки SynthID от Google, но в данном случае они не были обнаружены.
Ситуация показывает, что маркировка ИИ-контента остается сложной задачей. Meta полагается на метаданные и индикаторы, но не раскрывает их полный перечень, что затрудняет проверку и создает почву для ошибок. Для пользователей это означает, что доверять меткам «ИИ Content» пока нельзя: они могут как ложно обвинять обычные фотографии, так и пропускать настоящие дипфейки. Пока Meta не предоставит прозрачных критериев и не улучшит алгоритмы, маркировка рискует остаться скорее источником путаницы, чем инструментом защиты.
