Берлинский художник Симон Веккерт представил «цифровой камуфляж» — рубашку с абстрактным узором, которая скрывает человека от систем распознавания объектов на камерах видеонаблюдения. В демонстрации, описанной изданием 404 Media, камера с ИИ переставала выделять человека зеленой рамкой и подписью «PERSON», когда он прикрывался этой тканью. Узор, состоящий из размытых зеленых и розовых пятен, использует особенности работы алгоритмов компьютерного зрения, которые обучены на типичных изображениях людей, но не ожидают таких помех.
Поводом для создания камуфляжа стало развертывание полицией Берлина первых в городе камер с распознаванием объектов у станции метро Kotbusser Tor. Эти камеры способны не только фиксировать людей, но и определять их действия: лежащего человека, «аномальное поведение» вроде безделья или драки, а также оставленные предметы. По словам Веккерта, такие системы могут автоматически вызывать полицию, что особенно опасно для бездомных: «Оно может определить, лежит ли кто-то на земле, а значит, бездомные могут быть обнаружены, и полиция получит сигнал».
Художник подчеркивает, что проблема не в самом факте видеонаблюдения, а в автоматизированном анализе поведения: «Одно дело, когда за тобой наблюдает человек, но теперь это делает ИИ». Цифровой камуфляж — не первая работа Веккерта, исследующая взаимодействие технологий и общества: ранее он прославился проектом с «гуляющими» по улицам тележками Google Maps, которые создавали ложные пробки на картах.
Технология «цифрового камуфляжа» относится к более широкому направлению — состязательным атакам на системы ИИ. Такие методы, как правило, используют специально сгенерированные узоры или шумы, которые незаметны для человека, но сбивают с толку алгоритмы распознавания. В отличие от физических средств защиты приватности, например, маскировки лица, этот подход направлен на то, чтобы сделать человека невидимым для конкретных моделей машинного зрения.
Пока неизвестно, насколько эффективен камуфляж Веккерта против разных моделей камер, и будет ли он работать в реальных условиях, где камеры установлены под разными углами и используют различные алгоритмы. Однако сам проект поднимает важный вопрос о границах допустимости автоматизированного наблюдения и о том, могут ли граждане защищаться от него техническими средствами. В то время как в Европе и других регионах растет число городов, внедряющих ИИ-камеры для контроля общественного порядка, работы вроде «цифрового камуфляжа» становятся не только искусством, но и формой технологического протеста.
