В свежем выпуске подкаста 404 Media его ведущий Эмануэль Майберг побеседовал с Хани Фаридом — сооснователем компании GetReal, специализирующейся на детекции дипфейков, и разработчиком алгоритма PhotoDNA. Разговор стал поводом подвести итоги семи лет, прошедших с момента, когда журналисты издания впервые обратились к Фариду за комментариями о технологии, которая тогда только начинала набирать обороты.
PhotoDNA — это перцептивный хеш-алгоритм, который позволяет автоматически находить и удалять из сети изображения, признанные вредоносными, включая материалы с насилием над детьми. Сегодня его используют все крупные интернет-платформы мира. Эта технология стала одним из первых практических инструментов борьбы с нежелательным контентом задолго до того, как дипфейки превратились в массовое явление.
В ходе беседы Фарид отметил, что, несмотря на стремительное развитие генеративных моделей, человек пока в состоянии отличить сгенерированное изображение от настоящей фотографии. Однако он подчеркнул, что этот баланс может нарушиться: с каждым годом синтетический контент становится всё более реалистичным, а методы его создания — доступнее.
PhotoDNA, разработанный Фаридом алгоритм, используется всеми крупными интернет-платформами для удаления вредоносных изображений.
Эволюция дипфейков, о которой говорили в подкасте, напрямую связана с ростом числа открытых моделей и инструментов, позволяющих создавать убедительные подделки без специальных навыков. Это создаёт новые вызовы для платформ, правоохранительных органов и общества в целом, поскольку грань между реальным и сгенерированным стирается.
Фарид также затронул тему влияния синтетических медиа на восприятие реальности. По его словам, если раньше подделки можно было распознать по визуальным артефактам, то теперь основным барьером становится не техническая экспертиза, а критическое мышление пользователей. В этом контексте он призвал к развитию медиаграмотности и внедрению стандартов маркировки ИИ-контента.
Подкаст 404 Media, выходящий с 2017 года, регулярно обращается к теме дипфейков. В этом выпуске разговор вышел за рамки технических деталей: собеседники попытались спрогнозировать, как изменится информационная среда в ближайшие годы и какие меры могут замедлить упадок доверия к визуальной информации.
