С начала недели Meta развернула на корпоративных компьютерах американских сотрудников программу Model Capability Initiative. Инструмент работает в фоне во время использования рабочих приложений и сайтов: он непрерывно записывает движения курсора, клики, нажатия клавиш и с определённой периодичностью делает скриншоты экрана. Собранные данные поступают в обучающие датасеты для ИИ-агентов Meta.

За этим стоит конкретная техническая задача. Современные ИИ-агенты — программы, способные самостоятельно выполнять многошаговые задачи на компьютере: открывать файлы, заполнять формы, переключаться между приложениями — обучаются на примерах реального взаимодействия человека с интерфейсом. Синтетические данные или записи с краудсорсинговых платформ плохо отражают специфику корпоративного софта. Meta решила использовать то, что у неё есть в избытке: рабочие сессии собственных сотрудников. Представитель компании Трейси Клейтон объяснила это так: «Если мы создаём агентов для выполнения повседневных задач на компьютере, моделям нужны реальные примеры того, как люди ими пользуются — движения мыши, нажатия кнопок, навигация по выпадающим меню».

Программа вписана в более широкую инициативу под названием Agent Transformation Accelerator, которую CTO компании Эндрю Босворт анонсировал во внутреннем меморандуме. Босворт сформулировал стратегическую цель прямо: «Видение, к которому мы движемся, — это мир, где агенты выполняют основную работу, а наша роль сводится к тому, чтобы направлять, проверять и помогать им совершенствоваться». Иными словами, Meta рассматривает собственных сотрудников одновременно как источник обучающих данных и как будущих пользователей систем, которые частично заменят их рутинный труд.

Данные используются для обучения агентов автоматизировать задачи так, как это делают живые сотрудники.

Stevie Bonifield
Stevie Bonifield · Источник: The Verge AI

Реакция внутри компании оказалась острой. По данным журналиста Алекса Хита, сотрудники выразили «интенсивное недовольство» инициативой. В ответ на меморандум один из них написал: «Мне очень некомфортно. Как отказаться?» Босворт ответил без обиняков: опции выхода из программы на корпоративных ноутбуках нет. Meta оговаривается, что данные MCI не будут применяться для оценки эффективности сотрудников и что в системе предусмотрены фильтры для защиты чувствительного контента — паролей, личной переписки и подобного.

Подход Meta не уникален по замыслу, но необычен по масштабу и принудительности. Такие компании, как Anthropic и OpenAI, также собирают данные о взаимодействии пользователей с интерфейсами для улучшения агентных возможностей своих моделей — но, как правило, через добровольные программы или условия пользовательского соглашения с возможностью отказа. Принудительная запись действий сотрудников без альтернативы ставит вопрос о границах корпоративного мониторинга в эпоху, когда сами компании строят инструменты слежки за рабочими процессами.