JAMA: автономный ИИ превзойдет врачей, и не стоит требовать контроля человека

В медицинском журнале JAMA опубликовано мнение, что автономный ИИ вскоре превзойдет врачей в медицинских рассуждениях, и регуляторам не следует закреплять в правилах обязательное участие человека в принятии решений. Авторы — биоэтик из Пенсильванского университета Эзекиль Эмануэль и генеральный директор телемедицинской компании Curai Health Нил Хосла. Эмануэль известен как один из архитекторов реформы здравоохранения Обамы, а Нил Хосла — сын инвестора Vinod Khosla, который вложился и в OpenAI, и в Curai Health. То есть двое авторов напрямую заинтересованы в будущем, которое они описывают.

Позиция авторов противоречит позиции врачебных ассоциаций, таких как Американская медицинская ассоциация и Американский колледж врачей, которые настаивают, что ИИ должен поддерживать врачей, а не заменять их. Профессор медицины Роберт Вахтер в своей книге называет лечение только ИИ «эконом-классом» медицины. Авторы статьи считают это утверждение недоказанным и приводят два аргумента.

Первый аргумент касается исследований. В большинстве исследований с 2024 года ИИ самостоятельно сравнивается с врачами или превосходит их в пяти ключевых задачах медицинских рассуждений: сбор анамнеза, постановка диагноза, выбор анализов, лечение по стандартам и ведение хронических заболеваний. Например, диалоговая система Google AMIE показала более высокие результаты, чем врачи первичного звена, почти во всех категориях при симулированных беседах с пациентами. В 377 сложных случаях ChatGPT o3 назвал правильный диагноз первым в 60% случаев, тогда как 20 терапевтов — только в 15,9%. Диагностический оркестратор Microsoft находил правильный диагноз при ограниченном бюджете примерно в четыре раза чаще врачей и с меньшими затратами. Авторы отвергают большинство исследований с противоположными результатами как устаревшие или методологически слабые, например, из-за того, что в них не использовались лучшие модели.

Второй аргумент — прогноз о том, куда движется ситуация, и он составляет основу статьи. Модели быстро улучшаются, а врачи теряют навыки из-за использования ИИ, как показывает исследование колоноскопии в Lancet. Разрыв будет только расти. Когда машина явно превосходит человека, врач, проверяющий ИИ, превращается из страховки в источник ошибок. Метаанализ 106 экспериментов подтверждает: когда человек лучше, комбинация помогает; когда ИИ лучше, человек ухудшает результат, неправильно отменяя решения системы. В исследовании на реальных клинических случаях GPT-4 показал 92% точности в диагностических рассуждениях, а врачи с доступом к той же модели — только 76%. Авторы проводят параллель с шахматами: после победы Deep Blue над Каспаровым в 1997 году команды человек-машина доминировали, но с 2017 года ИИ стал побеждать и их.

Главный посыл статьи — предупреждение регуляторам: если закрепить требование о финальном решении врача, можно зафиксировать форму помощи, которая скоро устареет. К 2030 году, по мнению авторов, автономный ИИ будет готов к некоторым, возможно, многим рабочим процессам, ограниченным когнитивными задачами. Ответственность, оплата, регулирование и обучение врачей требуют пересмотра уже сейчас.

Авторы признают ограничения. Почти все доказательства получены в симуляциях отдельных задач, а не в реальном лечении пациентов; передача информации между человеком и моделью — слабое место. Физические процедуры, такие как хирургия, роды и колоноскопия, останутся за людьми, так как робототехника пока не готова. Автономные системы могут давать сбои, которых у врачей нет: галлюцинации, отключение интернета, кибератаки. Эти риски нужно взвешивать против более высокой точности, признают авторы.

Статья вызвала дискуссию, поскольку авторы имеют прямую финансовую заинтересованность в продвижении автономного ИИ. Тем не менее, она поднимает важный вопрос о том, как регулировать ИИ в медицине, чтобы не сдерживать прогресс, но и не подвергать пациентов риску.