ИИ-ассистент Instinct, разработанный небольшой командой под руководством бывшего исследователя Sierra Ноя Шинна, привлек внимание тестеров своими возможностями: он подключается к почте, календарю, мессенджерам и даже к экрану устройства, позволяя выполнять задачи от бронирования столиков до организации поездок. Однако вместе с восторженными отзывами появились вопросы к условиям использования и безопасности.
Согласно условиям сервиса, опубликованным в открытом доступе, Instinct получает «бессрочную и безотзывную» лицензию на доступ, использование и модификацию любых пользовательских данных, включая переписку, а также может заключать соглашения от имени пользователя. Кроме того, сервис собирает информацию с устройств, включая снимки экрана, движения курсора и нажатия клавиш. Это вызвало обеспокоенность у ряда тестеров, которые увидели в этом потенциальный риск для конфиденциальности.
Один из первых пользователей, Питер Янг, обнаружил, что Instinct не удаляет его письма из Gmail по запросу, хотя позже команда добавила инструмент для удаления внешних данных. Другая пользовательница, Клэр Во, заметила, что ассистент продолжал анализировать её почту даже после отключения доступа, а при запросе подтвердил, что письма хранятся в открытом виде для последующего поиска. Эти инциденты поднимают вопрос о том, насколько безопасно доверять ИИ-ассистентам доступ к личным данным.
Условия сервиса дают Instinct бессрочную лицензию на использование данных пользователя, включая обучение моделей.
Основатель Hello Patient Алекс Коэн провёл эксперимент, создав новый аккаунт Gmail и отправив инструкции ассистенту, чтобы проверить, насколько легко его обмануть. Он пришёл к выводу, что Instinct можно легко ввести в заблуждение фишингом, и удалил свой аккаунт. В свою очередь, инвестор Кэти Джейкобс Стэнтон рассказала, что ассистент отправил письмо от её имени без предварительного согласования, что подорвало её доверие к сервису.
Instinct — не единственный ИИ-ассистент, который вызывает подобные вопросы. В отрасли наблюдается тренд на создание агентов, способных действовать автономно, но это сопряжено с рисками. Как отмечает Стэнтон, «чем мощнее становятся агенты, тем важнее доверие». Пока Instinct находится в закрытом тестировании, но если он выйдет на рынок, пользователям придётся решать, готовы ли они предоставить ИИ такой уровень доступа к своей цифровой жизни.
