В ходе судебного разбирательства о взрыве на заводе Watson Grinding в Хьюстоне, который произошел в январе 2020 года и унес жизни трех человек, выяснилось, что эксперт, нанятый компанией 3M, использовал ChatGPT для подготовки значительной части своего экспертного заключения. Инцидент, о котором сообщает 404 Media, показывает, как генеративные языковые модели проникают в судебные процессы, включая экспертные свидетельства, и какие риски это создает для сторон.
Эксперт Джош Аутенрит из компании Knighthawk Engineering был привлечен 3M для подготовки отчета о причинах взрыва. В ходе discovery — процедуры обмена доказательствами — адвокат истцов Уилл Мойе обнаружил документ под названием «Citation Overlay», который, судя по всему, был сгенерирован ИИ. После требования предоставить все промпты, использованные экспертом, 3M передала 350 страниц переписок с ChatGPT. Эти материалы показали, что Аутенрит просил ИИ «создать исключительный экспертный отчет в защиту стандартов обслуживания 3M» и «показать, что 3M виновата на 0% во взрыве на Watson Grinding». ChatGPT сгенерировал отчет объемом около 30 страниц, в который вошла фраза о нулевой ответственности, однако в финальную версию, поданную в суд, она не попала: когда эксперт попросил ИИ выступить в роли оппонента, тот предупредил, что такие формулировки «легкая мишень» для адвокатов и могут представить автора как адвоката, а не эксперта.
Сам взрыв, по данным U.S. Chemical Safety and Hazard Investigation Board, был вызван деградировавшим и плохо обжатым резиновым шлангом, который пропускал горючий газ. Десятки домовладельцев подали иски против 3M и Watson Grinding, утверждая, что 3M не обслуживала должным образом систему обнаружения газа. дела 3M заплатила Knighthawk Engineering около $90 000 за анализ, а ставка Аутенрита составила $475 в час. В ходе разбирательства эксперт также использовал ChatGPT для распознавания модели газового детектора, который, по словам Мойе, является «предметом всего дела», и для оценки собственного отчета — ИИ поставил ему 97 баллов из 100.
Промпты, переданные в ходе discovery, показали, что ИИ советовал избегать фразы «0% виновата» как уязвимой для оппонентов.
Этот случай поднимает вопросы о допустимости использования ИИ в судебных экспертизах и о том, насколько такие инструменты могут подрывать объективность заключений. Промпты, раскрытые в ходе процесса, стали доказательством того, что эксперт полагался на ИИ не только для анализа, но и для формулирования выводов, что может быть использовано оппонентами для дискредитации его показаний. Кроме того, возможность раскрытия промптов в ходе discovery создает дополнительные риски для сторон, использующих ИИ в юридической практике.
Параллельно в отрасли наблюдается рост использования ИИ в юридических документах, включая случаи галлюцинаций и фиктивных ссылок, что уже приводило к санкциям судов. Однако данный инцидент уникален тем, экспертного свидетельства, где от специалиста ожидается независимая оценка. Пока неясно, как суды будут оценивать такие доказательства и потребуют ли они раскрытия всех промптов, что может стать прецедентом для будущих дел.
