Верховный суд Нью-Мексико вынес решение по делу адвоката Стивена Ааронса, который подал апелляционный бриф с показаниями вымышленных свидетелей. Среди них — офицер Мишель Амарилло, офицер Санчес, Манал Аль-Джибури и Тереза Маркес, которых никогда не вызывали в суд. Суд признал Ааронса виновным в прямом неуважении к суду, оштрафовал на 5 000 долларов в пользу Фонда защиты клиентов коллегии адвокатов Нью-Мексико и передал дело в дисциплинарный комитет.
Ааронс практиковал уголовное право в Нью-Мексико более 40 лет. Его наняли родственники осуждённого Оскара Рене Сандовала, приговорённого к пожизненному сроку в феврале 2025 года за убийство Ширин Аль-Джибури. В августе 2025 года Ааронс подал бриф, в котором, по его собственному признанию, содержались «ложные показания полностью сфабрикованных свидетелей». Через несколько недель штат потребовал удалить части документа. На слушании 21 августа Ааронс рассказал, что загрузил в ChatGPT расшифровку судебного процесса и другие материалы дела, а модель выдала поддельные цитаты. Он использовал версию ChatGPT на базе модели OpenAI o3, выпущенной ранее в 2025 году. «Я предположил, что она сгенерирует бронированное резюме разбирательства», — заявил адвокат, объяснив, что считал результат точным из-за широкого распространения ИИ в юридической и медицинской сферах.
| Событие | Дата |
|---|---|
| Приговор Оскару Рене Сандовалу | Февраль 2025 |
| Подача брифа с фальшивыми показаниями | Август 2025 |
| Слушание в верховном суде Нью-Мексико | 21 августа |
| Решение суда о неуважении | Среда (день недели из источника) |
| Разбирательство дела | 2026–27 годы |
Проблема, с которой столкнулся Ааронс, известна как галлюцинации больших языковых моделей. Это генеративные системы, которые предсказывают следующее слово в последовательности, а не ищут факты в базе данных. Когда модель получает длинный текст, она может уверенно воспроизвести имена, цитаты и ссылки, которых не было в исходнике. В юридической практике такие ошибки особенно опасны: суд полагается на точность фактов и прецедентов, а подпись адвоката подтверждает достоверность документа. Судьи подчеркнули, что неважно, кто помогал готовить бриф — ИИ, стажёр или коллега, — ответственность несёт подписант.
Ааронс загрузил расшифровку судебного процесса в ChatGPT на базе модели OpenAI o3 и не проверил сгенерированный текст перед подачей.
Судья К. Шеннон Бэкон раскритиковала объяснения Ааронса. Она отметила, что он нарушил «как минимум восемь или девять положений кодекса поведения». Бэкон сказала, что ей трудно поверить в неосведомлённость адвоката о галлюцинациях ИИ, поскольку о проблеме знают и её 13-летний племянник, и 75-летняя мачеха. «Либо вы спрятали голову в песок — а это осознанный выбор оставаться неинформированным, — либо вы шли на риск. И ни то, ни другое несовместимо с кодексом», — заявила судья.
Ааронс не цитировал вымышленные судебные решения, но неточно описал реальные прецеденты и сослался на показания, которых не было. Он признал, что в брифе упомянуты свидетели, не вызывавшиеся в суд, а также один свидетель, чьё имя искажено. Суд удалил все предыдущие брифы из дела, обязал офис государственного защитника назначить подсудимому нового адвоката и перенёс разбирательство на срок 2026–27 годов. Ааронс временно отстранён от участия в заседаниях верховного суда штата до решения дисциплинарного комитета, который может назначить дополнительные санкции.
Этот случай продолжает серию инцидентов, когда юристы ссылаются на несуществующие прецеденты или искажают факты с помощью ИИ. В отличие от многих подобных дел, Ааронс не выдумывал судебные решения, а сфабриковал свидетельские показания, что усугубило ситуацию. Решение суда Нью-Мексико подчёркивает: использование генеративных инструментов не снимает с адвоката обязанности проверять каждую ссылку и каждую цитату. Для отрасли это сигнал, что суды готовы применять санкции за слепое доверие к ИИ, даже если нарушитель имеет десятилетия опыта.
