Flock создала фейковый «полицейский департамент» для поиска по реальным камерам

Flock Safety, чьи камеры распознают номера и типы автомобилей, создала учётную запись под названием «Flock City PD» и использовала её для поиска по действующим камерам в Дунвуди, штат Джорджия, и Брайан, штат Техас. Аудит-логи, переданные 404 Media местным жителем Джейсоном Хуньяром, показывают, что через этот аккаунт выполнялись запросы в реальном времени: «человек с плакатом», «толпа», «человек в маске», «машина с политической наклейкой», «мужчина с винтовкой», «человек в медицинской форме». Все они относились к типу FreeForm — то есть алгоритм распознавания изображений Flock сам решал, что вернуть по такому текстовому описанию.

Среди запросов были и те, что напрямую касаются политических взглядов и религиозной принадлежности: «звезда Давида», «флаг „Не наступай на меня“», «машина с наклейкой Трампа», «сосед по бампер-стикеру», «религиозные машины», «машина, которую водила бы красивая девушка». Часть из них система заблокировала, часть — выдала предупреждение и всё равно позволила выполнить поиск. Например, запрос «звезда Давида» на машине вызвал предупреждение, но был выполнен, а «машина, которую водила бы красивая девушка» — заблокирован. Flock настаивает, что эти поиски проводились специально, чтобы показать полицейским, какие запросы делать нельзя, и продемонстрировать работу модерации. «Flock City PD — это демонстрационная и тестовая организация для показа технологии правоохранительным органам и для тестирования нашими инженерами. Эти поиски были частью проверки модерации FreeForm и связанных с ней защитных механизмов. Это не были расследовательские запросы клиентского агентства», — заявил представитель компании.

История получила развитие после публикации 404 Media в апреле. Тогда выяснилось, что сотрудники Flock регулярно подключались к живым камерам в Дунвуди — в детской гимнастической комнате, на детской площадке, в школе, у бассейна и в еврейском общинном центре — во время демонстраций технологии полиции. После этого город и компания заявили, что камеры Дунвуди больше не будут использоваться для демонстраций. Сейчас Flock утверждает, что аккаунт «Flock City PD» больше не ищет по реальным камерам, а демо-среда изолирована: правоохранительные органы не могут установить с ней отношения обмена данными. На недавнем обучающем вебинаре Flock, который видела 404 Media, сотрудник компании был подключён к аккаунту Flock City PD с доступом к камерам с названиями вроде «Flock Warehouse — LPR Demo Cameras», «Circle K — Demo», «Tennessee Demo Cameras», «Scottsdale AZ Demo Video Cameras» и «ALPR Demo».

Инцидент показывает, как устроен рынок автоматических считывателей номеров (ALPR). Камеры Flock устанавливаются на столбах и крышах, распознают номера, марки и типы машин, а затем сопоставляют их с базами данных и списками розыска. Формально система предназначена для поиска угнанных автомобилей и подозреваемых, но текстовые запросы FreeForm превращают её в инструмент визуального поиска по описанию — включая одежду, жесты и наклейки. Именно это вызывает вопросы у жителей: они не могут знать, что в момент демонстрации кто-то ищет по камерам «человека в маске» или «машину с политической наклейкой». В Дунвуди жители уже не раз говорили городскому совету, что чувствуют себя объектами эксперимента и продажной демонстрации частной компании.

Пока неясно, сколько ещё городов затронуто: в логах упоминаются Дунвуди и Брайан, а также «несколько других неизвестных юрисдикций». Flock настаивает, что модерация работает и что спорные запросы были учебными. Но сам факт того, что для обучения полицейских использовались реальные камеры и реальные люди, а не синтетические данные, остаётся центральным в претензиях к компании. 404 Media ранее сообщала, что Flock учила полицию следить за протестами «No Kings», и некоторые из нынешних FreeForm-запросов совпадают с теми, что выполняли настоящие полицейские департаменты.