Хайп вокруг искусственного интеллекта подталкивает компании внедрять ИИ везде, не до конца понимая задачи. В результате вместо экономии и эффективности бизнес получает дорогостоящие ошибки, подрывающие репутацию и доверие клиентов. Три показательных кейса — из Новой Зеландии, США и снова США — иллюстрируют типичные проблемы: некачественные данные, игнорирование реальных условий работы и правовых норм.
Сеть супермаркетов Pak'nSave запустила ИИ-инструмент для генерации рецептов из остатков продуктов. Идея была прикладной — помочь покупателям экономить в условиях роста цен. Однако система, обученная на нефильтрованных данных, начала выдавать опасные «рецепты»: напиток с отбеливателем, блюда с добавлением клея и «ароматизированную воду», при приготовлении которой выделяется хлорный газ. При этом ИИ не предупреждал о рисках, а сопровождал рецепты позитивными комментариями. Проект привлёк внимание курьёзами вроде «овощного рагу с печеньем Oreo», но реальная угроза здоровью заставила свернуть инструмент.
| Проблема | Описание |
|---|---|
| Шумы (Noisy Data) | Алгоритмы не справлялись со звуками улицы, ветра и музыки. |
| Сложная речь | Модель путалась из-за акцентов, оговорок и детских голосов. |
| Сбои интеграции с POS | Касса принимала фоновый шум за повтор команды и циклично добавляла товары. |
McDonald’s с 2021 года тестировала в нескольких точках Макавто голосовую систему приёма заказов от IBM. Цель — упростить процедуру и сократить расходы на персонал. Но система столкнулась с тремя техническими проблемами: шумы улицы и музыки (Noisy Data), сложная речь с акцентами и оговорками, а также сбои интеграции с POS-системой — касса принимала фоновый шум за повтор команды и циклично добавляла лишние товары. Например, девушка жаловалась, что не заказывала чай, а ИИ добавил его девять раз. Проект закрыли через три года, так и не доведя до ума.
В октябре 2023 года власти Нью-Йорка запустили чат-бота MyCity для помощи предпринимателям в разборе местных законов. Решение на базе Microsoft Azure OpenAI обошлось городу примерно в $600 000. Уже в марте 2024 года журналисты The Markup выявили системные ошибки: бот советовал работодателям присваивать часть чаевых сотрудников, отказывать в аренде жильцам с субсидиями и игнорировать обязательный приём наличных — всё это прямо противоречит законам. Чат-бот был отключён.
Общий урок из этих кейсов: ИИ требует качественных данных, продуманной интеграции и тестирования в реальных условиях. Синтетические метрики вроде WER (Word Error Rate) не гарантируют безопасной работы. Компании, поддающиеся хайпу, рискуют не только деньгами, но и репутацией, а в случае с юридическими консультациями — ещё и судебными исками. Следующий виток развития ИИ будет связан не с новыми моделями, а с умением правильно внедрять существующие.
