В последнее время общение с российскими банками наводит на мысль, что решения по вкладчикам все чаще принимают алгоритмы без участия человека. Это мировая тенденция, но подходы к автоматизации различаются. Международная классификация выделяет три уровня вовлеченности человека: Human-in-the-Loop (HITL), Human-on-the-Loop (HOTL) и Human-Out-of-the-Loop (HOOTL). В первом случае человек участвует в каждом цикле, во втором — контролирует систему сверху, в третьем — полностью исключен. Российские банки, судя по практике, тяготеют к HOOTL, что несет риски, которые уже осознали на Западе.
В Европе и США регуляторы жестко ограничивают автономию ИИ. Закон ЕС об ИИ (EU ИИ Act) в статье 14 прямо обязывает финансовые институты разрабатывать высокорисковые системы так, чтобы их могли контролировать физические лица. В HSBC и BNP Paribas ИИ считает кредитный балл, но при уровне уверенности ниже 95% заявка перенаправляется живому инспектору. HSBC создал ИИ Review Committee, который валидирует логику алгоритмов в спорных случаях. Опросы банка показывают, что 62% состоятельных европейских инвесторов требуют, чтобы за финальным решением стоял живой советник. В JPMorgan Chase действует директива SR 26-2 ФРС США, запрещающая принимать терминальные правовые решения без подписи комплаенс-офицера. ИИ здесь выполняет триаж, а система 'Ask David' имеет жестко зашитые 'шлюзы одобрения'. Разработчики Private Bank признают: когда на карту поставлены миллиарды, они не могут позволить себе неточность, поэтому ИИ консультируется с экспертами-людьми.
| Подход | Описание | Примеры |
|---|---|---|
| HITL | Человек участвует в каждом цикле | HSBC, BNP Paribas, JPMorgan Chase |
| HOTL | ИИ автономен, человек контролирует сверху | HSBC AML, SPD Bank |
| HOOTL | Человек исключен полностью | Ant Group, ICBC |
Противоположный подход демонстрирует Китай. Крупнейшие банки и финтех-гиганты, такие как Ant Group, Alipay и ICBC, внедрили концепцию '3-1-0': 3 минуты на подачу заявки, 1 секунда на решение алгоритма, 0 человеческих прикосновений. Система анализирует данные транзакций через платформы Alibaba/Taobao, социальные рейтинги и налоги. Человек не может вмешаться в одобрение кредита для мелкого предпринимателя. Однако даже в Китае есть исключения: SPD Bank при кредитовании средних технологических компаний сохраняет право вето человека, вмешиваясь при аномальном росте дефолтов в секторе.
В ЕС закон ИИ Act требует, чтобы высокорисковые ИИ-системы контролировались физическими лицами.
Почему полное исключение человека опасно? Во-первых, алгоритмы могут ошибаться, особенно в нестандартных ситуациях, и без человеческого контроля ошибка становится системной. Во-вторых, регуляторы в ЕС и США ужесточают требования, и банки с HOOTL рискуют попасть под санкции. В-третьих, доверие клиентов падает: 62% инвесторов HSBC не готовы полагаться только на алгоритм. Наконец, существует феномен 'цифровой амнезии': когда банк теряет экспертизу из-за того, что люди перестают участвовать в процессе, и в случае сбоя ИИ никто не может исправить ситуацию. Исследование Moody's Analytics 2025 года с участием 600 профессионалов показало: 84% считают контроль человека необходимым. Российским банкам стоит учесть этот опыт, прежде чем полностью исключать человека из принятия решений.
