Технический писатель-аналитик, ежедневно делегирующий ИИ создание текстов, заметил, что модели иногда выдают абсурдные логические ошибки. Взяв отпуск, он углубился в когнитивные науки и обнаружил исследования лаборатории Ev Lab Массачусетского технологического института (MIT) под руководством нейробиолога Эвелины Федоренко. Ученые с помощью функциональной МРТ сопоставляют активность мозга при чтении текстов со скрытыми математическими слоями больших языковых моделей (LLM) вроде ChatGPT и Claude.
Ключевой вывод исследований 2024–2026 годов: современные LLM — это идеальные языковые процессоры, но очень слабые мыслительные движки. В статье "Evidence from formal logical reasoning reveals that the language of thought is not natural language" доказано, что человеческий язык — лишь "кабель" для трансляции мыслей, а не само мышление. При решении логических, математических и инженерных задач языковая сеть мозга "молчит" — активируется отдельная логическая система. LLM же, обучаясь на статистике предсказания следующего токена, копируют только языковую сеть, не имея аналога логической системы.
Работа "From Language to Cognition: How LLMs Outgrow the Human Language Network" показала, что на этапе изучения грамматики и синтаксиса ИИ математически полностью повторяет языковую сеть человека. Но когда модель пытаются заставить логически мыслить, ее архитектура раздувается, перерастая биологическую норму. Исследование "The Extended Language Network" выявило, что языковой центр человека занимает лишь 5% мозга, но тесно связан с гиппокампом — центром памяти. Это позволяет мгновенно извлекать ассоциации из контекста, что LLM имитируют.
Исследование 2024 года доказало: при решении логических задач языковая сеть мозга молчит, работает отдельная система.
Эти открытия опровергают теорию Стивена Пинкера из книги "Язык как инстинкт" (1994), утверждавшего, что язык невозможно выучить простым угадыванием следующего слова. Нейросети доказали обратное: при наличии мощного механизма внимания (Attention) и триллионов текстов грамматика и стилистика возникают сами собой. Однако тезис Пинкера об отделенности языка от логики подтвердился полностью.
Практический вывод для пользователей: не стоит требовать от ИИ одновременного логического анализа и красивого текста. Лучше разделять этапы: сначала заставить модель составить строгое логическое дерево (например, причину ошибки и шаги исправления), затем на основе этого дерева генерировать связный текст. Такой двухэтапный подход позволяет избежать глупых ошибок и получить качественный результат.
