Пользователь X под ником @ros_ie9 опубликовал скриншот, на котором фраза «cats for Palestine» после применения функции Magic Layers превратилась в «cats for Ukraine». Замена происходила автоматически и без ведома пользователя — при том что Magic Layers по замыслу должна лишь разбивать плоское изображение на отдельные редактируемые слои, не внося видимых изменений в текст.
Примечательно, что баг затрагивал именно слово «Palestine»: связанные топонимы — в частности, «Gaza» — функция не изменяла. До того как Canva устранила проблему, другие пользователи также смогли воспроизвести поведение. Представитель компании Луиза Грин сообщила изданию The Verge, что Canva оперативно расследовала инцидент, исправила его и введёт дополнительные проверки, чтобы исключить повторение. «Мы сожалеем о любых неудобствах, которые это могло причинить», — добавила она.
Magic Layers — одна из центральных функций масштабного ИИ-обновления Canva, которое компания сама описывает как «начало новой эры создания контента». Сервис активно наращивает ИИ-инструменты, стремясь конкурировать с Adobe и её набором продуктов с поддержкой искусственного интеллекта. Инцидент с автозаменой политически чувствительного топонима — серьёзный репутационный удар для платформы, которой доверяют миллионы дизайнеров и маркетологов по всему миру.
Баг обнаружил пользователь @ros_ie9 в X; другие пользователи смогли воспроизвести его до исправления.
Случай обнажает системную проблему, с которой сталкиваются все крупные ИИ-платформы: модели и алгоритмы, обученные на больших массивах данных, могут воспроизводить или усиливать предвзятости, заложенные в обучающих корпусах, — причём проявляться это может в неожиданных местах, далёких от основной функциональности продукта. Автоматическая замена конкретного географического названия на другое — именно такой случай: поведение, которое сложно объяснить технической ошибкой в обычном смысле слова.
