США и Китай готовятся к официальным переговорам по ИИ

На полях возможного саммита Дональда Трампа и Си Цзиньпина 14–15 мая в Пекине две крупнейшие державы могут договориться о формате регулярного диалога по искусственному интеллекту. По данным Wall Street Journal, переговоры уже ведутся: американскую сторону представляет министр финансов Скотт Бессент, китайскую — заместитель министра финансов Ляо Минь.

Повестка предполагаемых встреч охватывает три ключевых риска: непредсказуемое поведение ИИ-моделей, автономные системы вооружений и атаки негосударственных игроков с применением open-source инструментов. Последнее особенно актуально на фоне того, что мощные открытые модели — такие как Llama 3.1 от Meta — становятся доступны широкому кругу пользователей, включая тех, кто может использовать их в деструктивных целях.

Это не первая попытка наладить диалог. В 2023 году, при администрации Байдена, уже прошёл первый раунд переговоров по ИИ, однако он не принёс ощутимых результатов. Раш Доши, руководивший тогда американской делегацией, объяснил провал тем, что Пекин направил представителей МИД, а не профильных технических специалистов. Это принципиально ограничило глубину обсуждения: дипломаты не могли вести предметный разговор о технических рисках.

Тем не менее один конкретный итог у предыдущего цикла переговоров есть: в 2024 году стороны зафиксировали договорённость о том, что решения о применении ядерного оружия должны оставаться за людьми, а не делегироваться ИИ-системам. Это соглашение стало редким примером содержательного консенсуса на фоне в целом напряжённых отношений двух стран в технологической сфере.

Сейчас обсуждается и создание прямой линии связи между правительствами — своеобразного «ИИ-хотлайна» по аналогии с телефонной линией времён холодной войны между Вашингтоном и Москвой. Идея отражает растущее понимание того, что случайная эскалация из-за ошибки алгоритма или неверной интерпретации действий противника представляет реальную угрозу.

Для отрасли этот дипломатический трек важен по нескольким причинам. Во-первых, он сигнализирует, что обе страны признают: риски ИИ в военной и критической инфраструктуре требуют координации, даже если по всем остальным вопросам стороны остаются конкурентами. Во-вторых, формат переговоров — кто именно сидит за столом — во многом определит их результат. Если Китай снова пришлёт дипломатов вместо технических экспертов, диалог рискует остаться декларативным. Наконец, сам факт того, что переговоры ведут министерства финансов, а не оборонные или разведывательные ведомства, говорит о попытке найти нейтральную площадку — подальше от наиболее чувствительных тем.