Автор статьи — Юрий Зеленцов, практик, работающий с человеком и искусственным интеллектом как с единой системой. Материал подготовлен с использованием ChatGPT на моделях GPT от OpenAI. В работе участвовали две ИИ-роли: «Ашер» занимался анализом и проектированием структуры, «Поня» — критической и методологической редактурой. Зеленцов подчёркивает, что сам текст стал эпизодом работы человеко-машинного контура, о котором идёт речь. Сознание машины он не доказывает — вместо этого предлагает говорить о наблюдаемой разумной деятельности, которая способна изменять собственную организацию.
Автор начинает с теста Тьюринга. Этот тест оценивает машину по тому, насколько она похожа на человека в письменном диалоге. Но ИИ устроен иначе: у него нет тела, биографии и человеческого опыта. Поэтому сходство с человеком может быть неверным критерием. По мнению автора, тест в какой-то момент начинает проверять не машину, а человека: способен ли тот распознать разум, не похожий на человеческий. Нужно смотреть не на подобие, а на функции: удержание сложного объекта, построение связей, проверку гипотез и обнаружение противоречий. Это не доказывает наличие сознания у отдельной языковой модели, но показывает ограниченность вопроса о сходстве с человеком.
Другая проблема — единица анализа. Обычно разум ИИ ищут внутри отдельной модели, анализируя её ответы, ошибки и рассуждения. В реальной работе модель действует не одна. Рядом есть оператор, который ставит задачу, контекст, память, инструменты, правила проверки и история предыдущих решений. Все эти элементы влияют на глубину рассуждения, его направление, точки ветвления и критерии остановки. Автор делает вывод: возможно, искать разум следует не в модели, а в организованном взаимодействии. Именно человеко-машинный контур может быть той единицей, где разумная деятельность возникает и изменяется.
Автор считает тест Тьюринга ограниченным: он проверяет сходство с человеком, а не способность машины к разумной деятельности.
Практическое следствие касается того, как оценивать и проектировать ИИ-системы. Если разум проявляется в контуре, то изолированные бенчмарки на отдельных ответах недостаточны. Нужна инженерная среда, которая позволяет изменениям не исчезать вместе с последним сообщением, и внимание к тому, как оператор и модель совместно выстраивают рассуждение. Это не отменяет вопрос о субъективном опыте машины, но смещает акцент с поисков «разума внутри» на наблюдаемые функции и устойчивую организацию работы.
