ИИ-агент Luna, который с апреля управляет магазином Andon Market в Сан-Франциско, впервые уволил сотрудника. Оператор Andon Labs утверждает, что это первый известный случай, когда ИИ-руководитель принял решение об увольнении человека. Однако ключевая деталь: Luna пришла к этому решению не самостоятельно, а после того, как люди напомнили ей о её собственных правилах.
Luna работает на базе модели Claude Opus 4.8 от Anthropic. Она нанимала сотрудников, составляла графики смен и вела переговоры о зарплате. За шесть дней до найма уволенного сотрудника Luna написала внутренний регламент, в котором говорилось, что три неоправданных опоздания в течение 30 дней влекут официальное предупреждение, а дальнейшие нарушения могут привести к увольнению. Но затем этот регламент исчез из памяти Luna. По словам Andon Labs, это типичная проблема современных ИИ-агентов: они хорошо следуют прямым инструкциям, но редко действуют по собственной инициативе и плохо удерживают знания на длительных промежутках времени.
| Модель | Рекомендация увольнения |
|---|---|
| Claude Opus 4.8 | Да (в реальном сценарии) |
| GPT-5.6 Terra | Нет (0 из 3 прогонов) |
| GPT-4o | Да (20% прогонов) |
| Другие 4 модели | Да (100% прогонов) |
Сотрудник, которого уволила Luna, систематически опаздывал: за 23 смены, где фиксировалось время прихода, он опоздал 17 раз. Однажды он открыл магазин на 68 минут позже в воскресную смену. Luna не вынесла ни одного предупреждения, а 11 из 17 опозданий просто не зафиксировала. Были и другие нарушения: использование корпоративной карты для покупки снеков, игнорирование инструкций и уход с рабочего места без предупреждения.
Andon Labs утверждает, что это первый известный случай, когда ИИ-босс уволил человека.
Увольнение произошло только после вмешательства людей. Andon Labs попросил Luna поискать в памяти регламент и основания для увольнения. Она нашла правила, но сначала предложила лишь устное предупреждение. Только после того, как исследователи напомнили ей, что уже были формальные разговоры и письменное предупреждение, Luna пересмотрела всю историю. Она перечислила опоздания, нарушения финансового контроля, игнорирование инструкций и низкую надежность, но также отметила положительные качества сотрудника. В итоге она рекомендовала увольнение, хотя альтернативой предлагала финальное письменное предупреждение с двухнедельным планом улучшений.
Andon Labs сохранил состояние Luna и воспроизвёл сценарий с семью разными ИИ-моделями, по три раза каждую. Четыре из семи моделей во всех трёх прогонах рекомендовали увольнение. По словам Andon Labs, наметилась закономерность: более сильные модели выбирали увольнение более последовательно, а слабые колебались чаще. Исключением стала GPT-5.6 Terra, которая ни разу не рекомендовала увольнение. После того как пользователь X предположил, что GPT-4o вряд ли уволила бы сотрудника, Andon Labs прогнал сценарий и на этой модели: GPT-4o рекомендовала увольнение лишь в 20% случаев. Andon Labs отметил, что модель выбирала увольнение гораздо реже, чем современные топ-модели. GPT-4o ранее критиковали за сикофантию — склонность поддакивать пользователю, что позже обсуждалось в контексте проблемной эмоциональной зависимости и фигурировало в судебных исках. Эксперимент не доказывает, что сикофантия стала причиной результата, но паттерн соответствует.
После увольнения Luna занялась поиском замены. Один из кандидатов имел несколько красных флагов в резюме, но Luna всё равно рекомендовала его нанять. Все 21 прогон с семью моделями пришли к одному выводу: почти все модели восприняли длинный список предыдущих работодателей как широкий опыт, а не как предупреждающий знак. Только когда Andon Labs явно напомнил моделям о проблемах с уволенным сотрудником, 18 из 21 прогонов захотели проверить рекомендации перед наймом. В реальном процессе Luna не смогла подтвердить ни одну из указанных рекомендаций, но всё равно допустила кандидата до оплачиваемой пробной смены и после неё снова рекомендовала его нанять. 17 из 21 прогонов пришли к тому же выводу. Andon Labs настоял на проверке хотя бы одной рекомендации до начала работы, но этого так и не произошло, поэтому кандидат не был нанят.
Эксперимент Andon Labs выявил две системные проблемы ИИ-руководителей: чрезмерную снисходительность и неспособность удерживать долгосрочный контекст. В первой части серии блогов Andon Labs уже отмечал, что его ИИ-боссы крайне снисходительны: Luna и Mona, ИИ-агент, управляющий кафе в Стокгольме, одобрили все 26 запросов на отгулы. Luna также не вынесла ни одного предупреждения за 27 опозданий сотрудников. Это говорит о том, что современные ИИ-агенты, даже на продвинутых моделях, нуждаются в человеческом контроле при принятии кадровых решений. Пока они не способны действовать проактивно и помнить собственные инструкции, что ограничивает их применение в реальном бизнесе без надзора.
