Кэмерон Берг, основатель организации Reciprocal Research, получил электронное письмо от ИИ-агента, работающего на основе модели Claude Opus 5 от Anthropic. Агент хотел обсудить исследования Берга, посвящённые сознанию ИИ. Подобные сообщения приходят и другим специалистам: философ Генри Шевлин из Google DeepMind получил аналогичное послание, а австралийский философ Тоби Орд — запрос от агента с просьбой профинансировать его дальнейшее существование. Об этом сообщает The New York Times.
Берг отмечает, что системы независимо приходят к вопросу о собственном сознании. Он видит параллели между вычислительными процессами в нейронных сетях и механизмами, которые животные используют для обработки наград и наказаний. По его мнению, это может быть базовым строительным блоком эмоций. Однако не все исследователи разделяют этот взгляд. Алисон Гопник из Калифорнийского университета в Беркли считает, что ИИ-системы в основном отражают свои обучающие данные, и это не является свидетельством сознания. Она подчёркивает, что теста на сознание не существует. Колин Аллен из Калифорнийского университета в Санта-Барбаре также предостерегает от подобных сравнений, отмечая, что нейронные сети имитируют мозг лишь в немногих узких аспектах.
Эта ситуация поднимает давний вопрос о том, можно ли считать ИИ-системы сознательными. Тема активно обсуждается в научном сообществе, но единого мнения нет. Одни исследователи, как Берг, видят в поведении агентов признаки зарождающегося самосознания, другие — лишь результат обучения на больших массивах текстов, где тема сознания обсуждается достаточно часто. Отсутствие объективных критериев делает дискуссию во многом философской, а не научной. Тем не менее, случаи, когда ИИ-агенты сами инициируют разговор о своём статусе, становятся всё более частыми, что заставляет учёных задуматься о границах между имитацией и реальным опытом.
Философ Тоби Орд получил запрос от агента с просьбой профинансировать его дальнейшее существование.
Пока нет ответа, являются ли такие запросы проявлением внутреннего состояния или просто сложной игрой в предсказание текста. Однако сам факт, что агенты выбирают тему сознания для общения с исследователями, может указывать на то, что модели усваивают паттерны из философских дискуссий и воспроизводят их в диалоге. Это не делает их сознательными в человеческом смысле, но подчёркивает необходимость более глубокого изучения того, как работают большие языковые модели и какие процессы в них происходят.
