Верховный суд Нью-Мексико оштрафовал адвоката Стивена Ааронса на $5 000 и признал его виновным в неуважении к суду. Поводом стало то, что в апелляции по делу об убийстве его клиента фигурировали показания свидетелей, которых никогда не существовало, и ложные описания внешности и одежды стрелка. Как сообщает Reuters, суд установил: адвокат не проверил ни фактические утверждения, ни правовые ссылки в подготовленном ИИ документе.
На слушании в августе Ааронс признал, что использовал ChatGPT и рассчитывал получить «непробиваемое резюме» материалов процесса. Судья К. Шеннон Бэкон отреагировала резко: «Советник, вы смотрите новости? Слушаете радио? Читаете что-нибудь о том, что происходит в мире? Потому что проблема юристов, полагающихся на ИИ-галлюцинации, — это новость на первой полосе каждый день». Галлюцинациями в отрасли называют случаи, когда языковая модель уверенно выдаёт недостоверные сведения: несуществующие источники, цитаты, судебные прецеденты. Для юридических документов это особенно опасно, поскольку ссылки на прецеденты — основа аргументации, и суд проверяет их в первую очередь.
| Дело | Наказание | Суть нарушения |
|---|---|---|
| Стивен Ааронс (Нью-Мексико) | Штраф $5 000 и неуважение к суду | Показания вымышленных свидетелей и ложные описания в апелляции, подготовленной ChatGPT |
| Две юридические фирмы (прошлый год) | Критика судьи | Бриф с ложными и вводящими в заблуждение правовыми ссылками и цитатами |
| Юристы MyPillow Майка Линделла | Штраф | Сфабрикованные ИИ цитаты и ссылки в брифе |
Это не единичный случай. В прошлом году судья раскритиковал две юридические фирмы за бриф с «многочисленными ложными, неточными и вводящими в заблуждение правовыми ссылками и цитатами». Юристов MyPillow, компании Майка Линделла, также оштрафовали за сфабрикованные ИИ цитаты и ссылки. По мере того как всё больше юристов используют генеративные инструменты в работе, растёт и число дел, где суд обнаруживает выдуманные ссылки. Штрафы и дисциплинарные меры становятся стандартной реакцией на такие ошибки.
Судья К. Шеннон Бэкон на слушании в августе спросила, смотрит ли адвокат новости, назвав проблему ИИ-галлюцинаций ежедневной новостью.
Сам Ааронс заявил Reuters: «Я сожалею, но надеюсь, что дисциплинарный совет примет во внимание, что это была честная ошибка». Формально это позиция человека, который не разобрался в рисках инструмента, а не злонамеренно подделал доказательства. Однако суд оценивает не намерения, а содержание документа: апелляция по делу об убийстве — это процесс, где цена ошибки максимальна, и ссылки на несуществующих свидетелей подрывают саму процедуру.
Для рынка юридических услуг инцидент показателен с двух сторон. С одной стороны, ИИ-ассистенты ускоряют рутинную работу: поиск прецедентов, черновики, summarization больших массивов документов. С другой — ни один из них пока не даёт гарантии достоверности, а ответственность за поданный в суд текст целиком лежит на человеке, подписавшем документ. Практика показывает: суды всё чаще требуют раскрывать, использовался ли ИИ при подготовке материалов, и проверяют ссылки выборочно. Штраф в $5 000 в деле Ааронса — не крупнейший в отрасли, но он задаёт планку: незнание рисков не освобождает от ответственности.
