Несколько недель назад в Facebook появился массовый сбой: при репосте публикации к ней автоматически добавляется текст, который пользователь не вводил. Характерная деталь — добавляемые фразы написаны в стиле сленга поколения Z. Среди зафиксированных примеров: «Massive W», «We are totally feasting, bestie», «That design is so cooked!», «Views are fire!» и «We truly are living in the year 3000». Последнюю фразу получил репост объявления о продаже фотоаппарата на Facebook Marketplace — контекст, в котором она лишена какого-либо смысла.

Проблему зафиксировали на Reddit, в комментариях в социальных сетях и в публикации телеведущей из Джорджии. Общая закономерность: лишний текст появляется только тогда, когда пользователь делает репост без собственного комментария. Если к репосту уже добавлен авторский текст, глюк не срабатывает.

Редакция ZDNet обратилась к Meta за комментарием. Представитель компании сообщил, что ситуация изучается, и упомянул «AI captions» — функцию ИИ-подписей. Примечательно, что слово «AI» в запросе журналистов не фигурировало: Meta сама связала инцидент с искусственным интеллектом. Функция AI captions предназначена для автоматической генерации заголовков, которые помогают алгоритмам поиска понять содержание поста. По заявлению Meta, такие заголовки должны сопровождаться пометкой о том, что текст создан ИИ. Однако на реальных постах с нежелательными добавками никакой атрибуции не появляется.

Добавляемые фразы — молодёжный сленг: «Massive W», «That design is so cooked!», «We truly are living in the year 3000».

artie
artie · Источник: ZDNet AI

Ситуация вписывается в более широкую тенденцию: крупные платформы всё активнее внедряют ИИ-инструменты в пользовательский интерфейс — от автодополнения до генерации описаний — и не всегда успевают отладить их поведение до массового развёртывания. Когда алгоритм, обученный на современном интернет-контенте, начинает самостоятельно «украшать» публикации, результат предсказуемо выглядит как сленг молодой аудитории, которая доминирует в обучающих данных.

Пока официального исправления нет. Единственный способ справиться с проблемой — после каждого репоста заходить в свой профиль и вручную удалять появившийся текст. Предварительно проверить, добавится ли лишняя фраза, невозможно: нежелательный текст виден только после публикации.