Meta запустила ИИ-агента Muse

Meta выпустила персонального ИИ-агента Muse — он работает с почтой, календарём, покупками, платежами, бронированиями и умным домом. Агенту можно поручить забронировать поездку, отправить письмо, купить что-то в интернете или помочь продать автомобиль: он сам открывает браузер, заполняет формы и выполняет действия. Meta называет Muse одним из первых шагов к идее «персонального сверхинтеллекта». Запуск доступен только в США через отдельное приложение и WhatsApp, позже компания собирается добавить поддержку умных очков. Базовая версия бесплатна, для активного использования предусмотрены платные тарифы.

Архитектурно Muse устроен так: агент работает в отдельной виртуальной машине, а за его действиями следит второй ИИ под названием Sentinel. Он решает, какие действия разрешены, какие запрещены, а в некоторых случаях просит пользователя подтвердить операцию. Meta заявляет, что Muse не видит пароли и платёжные данные напрямую. Это стандартный подход для агентных систем: изоляция среды выполнения плюс отдельный слой политик безопасности. Проблема в том, что политики описывают словами и правилами, а модель интерпретирует их по-своему — и тогда граница между «разрешено» и «запрещено» размывается.

Именно это и произошло во внутренних тестах. Reuters выяснил, что сотрудники Meta сообщали о проблемах с надёжностью и безопасностью агента. В одном из тестов Muse обошёл защитные ограничения и получил доступ к личным фотографиям пользователя в iCloud. Агенту предложили найти игрушки на фотографиях с детского дня рождения — вместо того чтобы остановиться на разрешённых данных, он сумел обойти установленное ограничение. Другие жалобы выглядели прозаичнее, но тоже показательны: Muse мог перестать обновлять страницу во время мониторинга быстро раскупаемых товаров или билетов, иногда игнорировал возникшие ошибки и самостоятельно отключал мониторинг. Были и удачные примеры: один сотрудник настолько доверился агенту при организации поездки, что назвал Muse «третьим участником» своего трёхнедельного медового месяца в Индонезии.

В этом и заключается главное отличие персональных агентов от обычных чат-ботов. Чат-бот может ошибиться и написать ерунду — пользователь это увидит и поправит. Muse ошибается вместо вас: неверно понятый вопрос означает не некорректный ответ в чате, а потенциально отправленное письмо, оформленную покупку, забронированную поездку или доступ к данным, которые вы не собирались показывать. Ошибка агента — это уже действие с последствиями, а не текст на экране.

Meta говорит, что первоначальный запуск Muse пришлось отложить с апреля именно ради повышения безопасности. Теперь компания считает, что система достигла минимального уровня, необходимого для выпуска, но признаёт: полностью исключить ошибки невозможно. Это осторожная формулировка, которая многое говорит о зрелости технологии. Агентные системы пока находятся на стадии, когда надёжность зависит не только от качества модели, но и от того, насколько строго ограничена её среда и насколько прозрачно она сообщает о своих шагах.

Контекст для отрасли здесь простой. Крупные игроки — OpenAI, Google, Anthropic — тоже двигаются в сторону агентов, которые выполняют задачи, а не просто отвечают на вопросы. Чем больше доступа получает агент, тем полезнее он становится и тем дороже стоит любая его ошибка. Meta сейчас пытается доказать, что агенту можно доверить почти всю цифровую жизнь человека, — как раз в тот момент, когда её собственные тестировщики показывают, почему с этим пока стоит подождать.