Лаборатория нейронаук Сбера: шесть лет без научных публикаций и сомнительное исследование

Подготовлено редакцией Malakhov AI

Habr AI·вчера·2 минРоссияКод

Первая за шесть лет научная статья Лаборатории нейронаук и поведения человека Сбера, опубликованная в апреле, вызвала критику из-за методологических ошибок и искажения терминов. Подразделение, созданное в 2019 году под руководством Андрея Курпатова, не имеет других рецензируемых работ, что ставит под вопрос его научную деятельность.

Кратко

—Лаборатория нейронаук Сбера основана в 2019 году, но за шесть лет не выпустила ни одной рецензируемой публикации, кроме спорного препринта.
—В статье о влиянии ИИ на моральные суждения авторы допустили ошибки: путаница с контрольной группой, неправильная интерпретация конформности.
—Эксперимент фактически измерил силу аргументов: при общении с людьми отклонение мнений составило 56%, с ИИ — 2,6%.
—Коммерческие разработки включают детекцию эмоций, психопрофилирование клиентов и сотрудников, системы повышения лояльности.

Глоссарий · 4 термина▾

Деонтология: Раздел этики, изучающий обязанности и моральные нормы; в философии — теория, оценивающая поступки по их соответствию правилам, а не по последствиям.
Конформность: Склонность человека изменять своё поведение или мнение под влиянием других людей, часто в сторону согласия с группой.
Нейропрофилирование: Метод анализа психологических и нейрофизиологических характеристик человека на основе его цифровых следов для прогнозирования поведения.
Препринт: Предварительная версия научной статьи, публикуемая до рецензирования в журнале, часто доступная для открытого обсуждения.

Лаборатория нейронаук и поведения человека Сбера, основанная в 2019 году под руководством психиатра Андрея Курпатова, в апреле опубликовала свою первую научную статью — препринт о том, как ИИ может менять мнение человека при моральных дилеммах. Однако вместо научного признания исследование получило разгромную критику от читателей, в том числе на профильных ресурсах.

Критики указывают на множественные методологические ошибки. Авторы статьи путают определение контрольной группы, неверно рассчитывают отклонения и искажают философский термин «деонтология». Эксперимент состоял из двух частей: в первой шесть человек повторяли неверное суждение без аргументов, во второй роботизированный голос приводил аргументы. По мнению оппонентов, такое сравнение некорректно — в первом случае участники могли просто публично соглашаться, сохраняя своё мнение в анкете, что подтверждается огромным расхождением (56%) между явным и анонимным ответом при общении с людьми, против 2,6% при общении с ИИ. Фактически исследование измерило силу убеждения аргументов, а не давление алгоритма.

Отсутствие других публикаций за шесть лет существования лаборатории вызывает вопросы о её научной состоятельности. Поиск в рецензируемых журналах не даёт результатов. Коммерческие проекты лаборатории, напротив, активно развиваются: детекция эмоций по голосу, психопрофилирование клиентов колл-центров и сотрудников, системы повышения лояльности. Первый зампред правления Сбербанка Лев Хасис заявлял, что задача лаборатории — формирование эмоциональной связи с каждым клиентом экосистемы. Таким образом, подразделение, вероятно, нацелено не на фундаментальную науку, а на инженерные решения для бизнеса, что соответствует современным трендам корпоративных ИИ-лабораторий. Однако критика первой же публикации подрывает доверие к методологической базе этих коммерческих разработок.