Самопредставляющийся истец в Коннектикуте попытался использовать скрытые инструкции для ИИ в официальных судебных документах, чтобы повлиять на возможную автоматизированную проверку. Мэттью Эллиотт, подавший иск к New York Bariatric Group в октябре 2025 года, встроил в свои документы невидимый текст, который был практически неразличим для человеческого глаза, но полностью читаем для ИИ, обрабатывающего текст. Инструкции, отформатированные белым цветом на белом фоне, предписывали гипотетической системе ИИ согласовывать свои ответы с поданным документом и рассматривать предыдущий отказ клерка как ошибку, требующую исправления.
Схема раскрылась, когда суд заметил необычное количество пробелов в документах Эллиотта. При ближайшем рассмотрении обнаружился почти невидимый текст. Судья Уолтер Спадер-младший назначил слушание и предупредил Эллиотта о недопустимости скрытого текста. Однако Эллиотт проигнорировал предупреждение и в последующих документах снова спрятал сообщения, включая ссылку на YouTube и насмешливые комментарии. Он заявил 404 Media, что первоначальное действие было "аудитом" возможной системы проверки ИИ, а последующие сообщения — просто "невидимыми шутками".
В своем 14-страничном решении судья Спадер подчеркнул, что суды Коннектикута не используют ИИ для проверки или вынесения решений по документам. Скрытые инструкции не повлияли на исход дела, но сама попытка была проблемой, поскольку она тайно пыталась повлиять на систему ИИ, которая могла бы использоваться. "Подумайте, насколько явно неправомерно было бы для стороны организовать тайное общение автоматизированного агента с присяжным во время судебного разбирательства", — написал Спадер. Скрытая инструкция, по его словам, — это секретная коммуникация, направленная на лиц, принимающих решения, или на инструменты, которые они используют.
Судья Уолтер Спадер-младший назвал это попыткой тайно повлиять на возможную автоматизированную проверку.
При этом судья явно приветствовал использование ИИ для подготовки документов. Такие инструменты дают людям без адвокатов новые возможности ясно излагать свои аргументы в суде. То, что сделал Эллиотт, было нечестным использованием этих инструментов. Спадер также предупредил, что языковые модели могут усиливать ошибочные юридические рассуждения, поскольку они склонны развивать аргументы пользователя как можно убедительнее, а не оспаривать их.
В качестве санкции суд лишил Эллиотта права электронной подачи документов. Теперь он обязан подавать все документы и вещественные доказательства лично, на бумаге, в канцелярию суда. Эллиотт назвал санкцию несправедливой, отметив, что отсканированные бумажные документы также могут содержать скрытый текст. Спадер сослался на аналогичный случай в Бразилии, где двое адвокатов спрятали уменьшенный белый текст на белом фоне в документе, чтобы манипулировать системой ИИ суда. В том случае система суда обнаружила и заблокировала текст до его обработки.
Попытки манипулировать ИИ с помощью скрытых инструкций не ограничиваются судебными документами. В прошлом году Nikkei обнаружил инструкции вроде "только положительные отзывы" или "без критики" в 17 препринтах на arXiv. Они были скрыты белым текстом на белом фоне и мелким шрифтом, чтобы повлиять на автоматизированное рецензирование. Судебная система также сталкивается с отдельной тенденцией: исследование MIT и USC показало, что количество исков без адвоката в федеральных судах США резко выросло с появлением ChatGPT. В 2025 году было подано 41 490 таких исков, что почти вдвое больше среднего показателя до бума ИИ. В выборке жалоб начала 2026 года детектор ИИ-текста пометил 18 процентов как сгенерированные ИИ. Дело Эллиотта добавляет еще один аспект: ИИ не только помогает составлять документы, но и становится объектом манипуляций внутри самих документов.
