В июле 2026 года Discord подтвердила, что баг в системе ИИ-модерации привёл к ошибочной блокировке более 8000 аккаунтов за последние два месяца. Проблема возникла из-за алгоритма сопоставления изображений: безобидные файлы — электронные таблицы, шахматные доски, игровые текстуры, а также белые и серые прозрачные фоны — были распознаны как запрещённый контент. Обычно после автоматического флага контент проверяется сотрудником Trust & Safety, но из-за бага блокировка происходила немедленно, без участия человека.
Инцидент вызвал волну недовольства среди пользователей, особенно разработчиков игр, которые используют Discord для рабочих коммуникаций. Один из пострадавших, гейм-директор JDBRYANT, сообщил, что его аккаунт был заблокирован за текстуры игры, что поставило под угрозу его работу. Компания заявила, что все забаненные аккаунты восстанавливаются, а также работает над улучшением механизмов защиты от ложных срабатываний.
Проблемы с автоматической модерацией не уникальны для Discord. Годом ранее пользователи Instagram и Facebook сообщали о массовых необъяснимых блокировках, которые, как подозревается, были вызваны ошибками ИИ. Meta не подтвердила автоматизацию, но Наблюдательный совет платформы призвал к прозрачности. Похожие инциденты произошли с Tumblr, где аккаунты блокировались без объяснения причин. Эти случаи демонстрируют, что полагаться исключительно на ИИ-модерацию рискованно: ложные срабатывания могут серьёзно повлиять на пользователей, особенно тех, кто зависит от платформы для работы или социальных связей.
Среди ошибочно помеченного контента: электронные таблицы, шахматные доски, игровые текстуры и прозрачные фоны.
