Спор о том, могут ли большие языковые модели обладать сознанием, давно вышел за пределы академических журналов. Писатель-фантаст Тед Чанг атаковал эту идею с неожиданной стороны: в своём эссе, разошедшемся по всей технологической прессе, он предложил читателям представить, что сознанием обладает документ Microsoft Word с записью диалога. По логике Чанга, если мы допускаем сознание у LLM — систем, которые по сути предсказывают следующий токен на основе статистики, — то с тем же основанием должны допускать его у любого файла, хранящего текст разговора. «Стоит ли вам задумываться о том, что каждый раз, открывая документ Word, вы пробуждаете сознательных собеседников, а закрывая — гасите их существование? Нет. Размышлять об этом — не лучшее применение вашего времени», — написал Чанг.
Один из исследователей Microsoft воспринял этот аргумент буквально и пошёл дальше. Он построил работающую нейронную сеть прямо внутри Age of Empires II — культовой стратегии в реальном времени, вышедшей в 1999 году и до сих пор активно поддерживаемой. Вычислительными элементами сети послужили игровые козы: их поведение и взаимодействие с игровой механикой использовались как аналог нейронных связей. Получившаяся конструкция — намеренно примитивная — демонстрирует, что формальные признаки нейронной сети можно воспроизвести в совершенно произвольной среде, не имеющей никакого отношения к интеллекту.
Смысл провокации прозрачен: если критерием сознания считать наличие структур, напоминающих нейронную сеть, или способность генерировать связные ответы, то под это определение подпадает почти что угодно — от электронных таблиц до средневековой стратегии с козами. Дискуссия о сознании LLM не утихает с момента, когда инженер Google Блейк Лемойн публично заявил, что чат-бот LaMDA обрёл чувствительность и был уволен после этого заявления. С тех пор подобные утверждения периодически появляются в публичном пространстве — особенно по мере того, как модели становятся убедительнее в имитации эмоций и рефлексии.
Философы и когнитивные учёные в большинстве своём скептичны: LLM не имеют внутренних состояний, субъективного опыта или целеполагания в том смысле, в каком эти понятия применяются к биологическим существам. Модели воспроизводят паттерны языка, а не переживают их. Эксперимент с Age of Empires II — не строгое научное опровержение, а скорее наглядная иллюстрация того, насколько размытыми остаются критерии в этой дискуссии. Пока отрасль не выработает операциональное определение сознания, пригодное для проверки, спор будет продолжаться — с козами или без.
