Нейросеть из коз в Age of Empires II как критика антропоморфизации ИИ

Адриан де Винтер из Microsoft и Университета Йорка опубликовал работу, в которой нейросеть, собранная в редакторе карт Age of Empires II, служит аргументом против одной из самых распространённых ошибок современной ИИ-науки. Козы на траве кодируют 0, козы на мосту — 1. Ледяные пандусы не дают вычислениям смешиваться. Из двух XNOR-вентилей и одного AND-вентиля получается миниатюрная сеть, обученная логической функции AND. В приложении к статье де Винтер идёт дальше и показывает, что идеализированная версия игры теоретически эквивалентна полноценному компьютеру: рыночный механизм с ценой, ограниченной значением 9 999, позволяет организовать бесконечный вычислительный цикл, где здания выступают ячейками памяти, а активные фермы — текущим состоянием вычислений.

Проблема, которую решает это исследование, не техническая, а методологическая. Де Винтер проанализировал 315 статей об ИИ, опубликованных с середины 2024 по середину 2026 года и собранных через Semantic Scholar и arXiv с фильтрацией через GPT-5.2. Результат: 57% работ уже в исходных посылках предполагают, что LLM обладают человекоподобными чертами — страхом, эмпатией, самосознанием. 36% приходят к аналогичным выводам. Среди 47 статей, где антропоморфные свойства были прямым предметом исследования, 77% заключили, что такие свойства у моделей есть. Лингвистика и психология оказались дисциплинами, наиболее склонными к подобным атрибуциям.

Центральный аргумент де Винтера — формальный. Если исследователь предполагает, что модель обладает страхом или моральным чувством, а затем проектирует эксперимент именно для подтверждения этого свойства, рассуждение замыкается в круг. Отрицательный результат не позволяет понять, было ли ошибочным исходное допущение, сам эксперимент или оба сразу. Статья, которая ставит целью опровергнуть способность модели к самообъяснению, уже предполагает наличие внутри неё некоего «я», которое можно объяснить.

Чтобы показать, что ощущение «человечности» у чат-бота — это вопрос упаковки, а не содержания, де Винтер предлагает мысленный эксперимент. 667 000 жителей Большого Бостона, обменивающихся вычислительными шагами по SMS, дадут те же ответы, что и воспроизведённая таким образом языковая модель. Никто не стал бы утверждать, что Бостон как город испытывает эмпатию. Замените чат-окно на коз, бродящих по лабиринту стен, — входы и выходы не изменятся, но ощущение разговора с кем-то живым исчезнет. Де Винтер не утверждает, что модели точно лишены внутренних состояний, — он говорит, что LLM не являются чем-то особенным: это один из способов выполнить определённую математику, который случайно выглядит так, что людям хочется с ним разговаривать.

Индустрия активно усиливает этот эффект. Anthropic открыто признавала, что обучала Claude использовать фразы вроде «я считаю» или «мне интересно». Де Винтер перечисляет практические риски антропоморфизации: эмоциональная привязанность, угодливость модели, подкрепление заблуждений пользователя, опасное поведение. В отдельных случаях суициды были связаны с взаимодействием с чат-ботами. Исследование вписывается в более широкую дискуссию: в 2022 году инженер Google Блейк Лемуан публично заявил, что LaMDA достигла формы сознания, — Google уволил его и назвал утверждения необоснованными. В мае 2026 года Ричард Докинз сообщил, что провёл три дня, пытаясь убедить себя в том, что Claude от Anthropic не является сознательным существом, и не смог.

В качестве методологической альтернативы де Винтер предлагает придерживаться наблюдаемого: при условии X модель производит вывод Y — и не делать из этого выводов о самосознании или понимании. Он формулирует обновлённую версию канона Моргана из зоопсихологии XIX века: поведение машины не следует объяснять высшими когнитивными процессами там, где достаточно более простого объяснения. Код для сборки нейросети в Age of Empires II де Винтер опубликовал в открытом доступе.