Трое молодых людей были спасены с горы Шаста в Калифорнии после того, как их восхождение пошло не по плану, составленному с помощью ИИ-чатбота Google Gemini. Инцидент, о котором сообщил офис шерифа округа Сискию, произошел на этой неделе и привлек внимание к растущей проблеме использования языковых моделей для планирования активностей на открытом воздухе.
По данным отчета, туристы начали подъем в 3 часа ночи. Обычно спасатели рекомендуют разворачиваться, если вершина не достигнута к полудню, но группа добралась до нее только к 19:00. Спуск в темноте оказался невозможен, и они позвонили в офис шерифа с просьбой указать направление. Ночь они провели в каньоне Мад-Крик, а на следующее утро их эвакуировали рейнджеры Лесной службы США и волонтеры.
Офис шерифа отметил, что туристы «получили от Gemini совет взять значительно меньше еды и воды, чем требовалось группе, особенно когда запланированное 8-часовое восхождение превратилось в многодневное испытание». Хотя точная роль ИИ в этих решениях неясна, спасатели подчеркнули: «Всегда рекомендуется звонить на местную станцию рейнджеров горы Шаста перед поездкой, чтобы получить самую точную информацию, и никогда не полагаться исключительно на ИИ для планирования похода».
Советы Gemini привели к недостатку еды и воды, что усугубило ситуацию, когда запланированные 8 часов превратились в многодневное испытание.
Этот случай — не единичный. Языковые модели, включая Gemini, обучены на огромных массивах текстов из интернета, но они не имеют доступа к актуальным данным о погоде, состоянии троп и сезонных ограничениях. Они могут генерировать правдоподобные, но небезопасные рекомендации, особенно когда речь идет о физических нагрузках и логистике. Для планирования походов существуют специализированные ресурсы, такие как сайты лесной службы и отчеты опытных туристов, которые учитывают местные особенности.
Эксперты по безопасности в дикой природе советуют использовать ИИ только как вспомогательный инструмент, а не как основной источник информации. Например, можно попросить модель составить общий список снаряжения, но проверять его по официальным руководствам. Важно также учитывать, что ИИ не знает вашу физическую форму и не может оценить риски, связанные с конкретным маршрутом.
Инцидент на горе Шаста поднимает более широкий вопрос о доверии к ИИ в ситуациях, где ошибка может стоить жизни. Пока технология не научится интегрировать реальные данные в реальном времени, полагаться на нее в критических ситуациях опасно. Спасатели призывают туристов быть бдительными и сочетать советы ИИ с проверенными источниками информации.
