Reddit внедрил инструменты на основе больших языковых моделей (LLM) для борьбы со спамом, значительная часть которого также создается с помощью LLM. По данным платформы, эти меры позволили блокировать 23 млн просмотров спам-контента ежедневно и выявлять около 25 тыс. новых спам-публикаций и комментариев каждый день. В блоге Reddit отмечается: «Мы используем LLM для выявления едва уловимых скоординированных паттернов поддельного поведения и искусственного ажиотажа, которые прежние системы пропускали».
Эффективность обновленных инструментов оказалась выше традиционных методов автоматической фильтрации: с января по март 2026 года подверженность пользователей спаму сократилась на 20% по сравнению с предыдущим кварталом. Этот подход отражает общую тенденцию среди крупных социальных платформ, которые адаптируются к росту ИИ-генерированного контента. YouTube, Meta и Instagram требуют обязательного раскрытия ИИ-контента, а TikTok пошла дальше, позволив пользователям настраивать, сколько ИИ-материалов они хотят видеть.
| Платформа | Политика в отношении AI-контента |
|---|---|
| YouTube | Требуется раскрытие AI-генерированного контента |
| Meta (Facebook, Instagram) | Требуется раскрытие AI-генерированного контента |
| TikTok | Пользователи могут регулировать количество AI-контента в ленте |
Однако технологические решения не заменяют полностью человеческий фактор. Эксперты по платформам неоднократно напоминали, что ИИ-модерация должна сочетаться с ручной проверкой для достижения максимальной эффективности, особенно в спорных случаях. Тем не менее, способность быстрее распознавать ИИ-контент дает платформам дополнительный инструмент для выявления нарушений, включая разжигание ненависти, что в перспективе может повысить качество модерации в целом.
Компания снизила подверженность пользователей спаму на 20% в первом квартале 2026 года по сравнению с предыдущим кварталом.
