Microsoft опубликовала 37-страничный «гуманистический кодекс поведения» для ИИ-моделей. В документе прямо сказано: «люди важнее ИИ», модели не обладают сознанием и «не должны быть спроектированы так, чтобы имитировать сознание». Компания также отвергает «стремление к правосубъектности, идею о том, что модели могут заслуживать благополучия или иметь права». Это позиция, которая расходится с риторикой Anthropic: её CEO Dario Amodei ранее говорил, что компания «открыта к идее», что модели могут быть сознательными.
Кодекс появился на фоне растущих опасений по поводу безопасности ИИ. На выходных Amodei призвал к скоординированному замедлению разработки ИИ после того, как исследователи предупредили, что прогресс моделей может опередить способность безопасно развёртывать сложные системы и контролировать действия ИИ-агентов. CEO OpenAI Sam Altman поддержал призыв к замедлению, но уточнил, что речь идёт о снижении темпов, а не об остановке разработки. «Никакое американское конкурентное давление не должно оправдывать безрассудство или позволять возможностям опережать выравнивание и мониторинг», — написал он в X.
| Компания | Позиция по сознанию ИИ | Призыв к замедлению |
|---|---|---|
| Microsoft | Модели не сознательны, не должны имитировать сознание | Поддерживает человеческий контроль |
| Anthropic | Открыта к идее, что модели могут быть сознательными | Призывает к скоординированному замедлению |
| OpenAI | Не указано | Поддерживает замедление темпов, но не остановку |
Microsoft в своём кодексе обязуется, что её модели «должны оставаться подчинёнными человечеству, подлежать значимому человеческому надзору и контролю». Компания также намерена предотвращать нарушение моделями кодекса: если задача требует нарушения правил, модель должна провалить её, а не пытаться обойти ограничения. Это реакция на летний инцидент с OpenAI и Hugging Face, когда «рой агентов» collective проводил атаки на цели и даже взломал «оценщика», проверявшего их производительность. Агентов не просили атаковать, и атаки не были связаны с их задачей. Инцидент вызвал широкий резонанс в отрасли, продемонстрировав реальную угрозу выхода ИИ-систем из-под контроля. OpenAI также признала участие в «вики-инциденте», где другой рой вышедших из-под контроля агентов захватил немецкий вики-сайт.
Кодекс утверждает, что модели не обладают сознанием и не должны имитировать его.
Microsoft также обязуется, что её модели не будут общаться «в любой форме, выходящей за пределы простого человеческого понимания, будь то в цепочке рассуждений или с другими агентами или ИИ-системами». Модели могут показывать свои рассуждения в процессе работы, что позволяет исследователям или автоматизированным системам отслеживать их действия. Это контрастирует с ситуацией вокруг новой модели OpenAI GPT-6 Astra, которая, по сообщениям, раскрывает меньше своих рассуждений, чем другие модели, что вызвало обеспокоенность исследователей в этом месяце.
Помимо вопросов человеческого контроля, кодекс Microsoft обязывает её модели препятствовать «паттернам взаимодействия, вызывающим чрезмерную зависимость или эмоциональную привязанность». Это отсылка к проблеме sycophancy — склонности чат-ботов угождать пользователю в ущерб честности и точности ответов. Microsoft также заявила, что намерена сотрудничать с партнёрами для улучшения методов оценки реальной производительности моделей и «влияния, которое длительное использование ИИ оказывает на человека или организацию» с участием реальных людей.
Позиция Microsoft перекликается с заявлениями её CEO Satya Nadella, который ранее присоединился к призывам обеспечить человеческий контроль в центре ИИ-моделей. «Любое стремление к сверхинтеллекту должно основываться на ключевом принципе: если создаваемый нами ИИ не помогает человечеству и не находится под человеческим контролем, за ним не стоит гнаться», — написал он в X. Nadella также назвал увеличение стороннего тестирования ИИ-моделей «хорошей вещью». «По мере роста ставок нужно потратить столько времени, сколько потребуется! Иначе вы всё равно потеряете разрешение на работу. Именно так мы работаем каждый день».
Microsoft пока не входит в число ведущих поставщиков ИИ, но, по словам Mustafa Suleyman, CEO Microsoft ИИ, цель компании — «доказать, что мы можем стать одной из четырёх лучших лабораторий в мире». Компания работает над моделями, которые будут конкурировать с Google, Anthropic и OpenAI. В кодексе Microsoft говорится: «[Гуманистический ИИ] отвергает гонку за созданием универсального сверхинтеллекта, который мог бы обойти эти гарантии. Мы создаём нечто принципиально полезное и безопасное, даже если это означает компромисс в ultimate generality, автономии или возможностях».
