Meta Muse смутил пользователей: ИИ-ассистент не смог объяснить, как читает уведомления

ИИ-ассистент Meta Muse, представленный инициативы Meta Superintelligence Labs, оказался в центре внимания из-за неоднозначной ситуации с доступом к личным данным. Пользователь Джейсон Атен, редактор Inc Magazine, опубликовал в Threads скриншоты диалога с Muse, в котором ассистент упомянул содержание его переписки в Messages. Атен утверждает, что не предоставлял Muse доступ к сообщениям. Когда он спросил, откуда у Muse эта информация, ассистент ответил: «Я видел превью уведомлений, а не историю сообщений. Я не читал ваши тексты». На дальнейшие расспросы Muse не смог внятно объяснить механизм получения превью, заявив: «Честный ответ: я не могу назвать точную схему. Я знаю, что связанное приложение для Mac предоставляет уведомления как одну из своих возможностей, и они поступают ко мне через синхронизацию устройства».

Ситуация привлекла внимание Дэвида Синглтона из Meta Superintelligence Labs, который попытался разъяснить работу Muse в том же треде. Он перечислил разрешения, необходимые ассистенту для чтения сообщений, включая предоставление приложению для Mac полного доступа к диску, и подчеркнул, что все функции являются опциональными. По словам Синглтона, Muse «не следит за уведомлениями на вашем Mac, а синхронизирует данные из Messages только после того, как пользователь специально включил доступ». Он предположил, что проблема не в незаконном чтении текстов, а в том, что Muse не понимает, как объяснить свою работу. В том же треде Синглтон признал: «В разговоре с Muse в скриншотах Джейсона, когда Muse сказал, что синхронизирует „уведомления устройства“, он запутался в объяснении функции и дал неверное объяснение. Это наша вина. Мы приносим извинения за некорректный ответ Muse и работаем над тем, чтобы Muse лучше понимал свои внутренние процессы и давал правильные ответы на вопросы о том, как он функционирует».

Этот случай поднимает важный вопрос о прозрачности ИИ-ассистентов, которые получают доступ к личным данным. Muse — не первый продукт, сталкивающийся с подобной критикой. Ранее Apple и Google внедряли ассистентов, работающих с сообщениями и календарём, но обычно они чётко описывают, какие данные и как используются. Meta, в свою очередь, известна своими амбициями в области ИИ: компания активно развивает направление Superintelligence Labs, стремясь конкурировать с OpenAI, Google и Anthropic. Однако инцидент с Muse показывает, что даже продвинутые модели могут давать сбои в самоописании, что подрывает доверие пользователей. Важно, что Muse не является open-source решением, и его внутренняя логика остаётся чёрным ящиком для внешних исследователей. Пока Meta обещает улучшить понимание Muse своих внутренних механизмов, пользователям остаётся полагаться на заверения компании о том, что доступ к данным происходит только с явного разрешения. Этот кейс также напоминает о необходимости тщательной проверки разрешений при установке ИИ-ассистентов, особенно если они запрашивают полный доступ к диску.