Мелани Сиссон из Brookings Institution и Цзян Тяньцзяо из Университета Фудань опубликовали набор предложений, ограничивающих применение ИИ в ядерной сфере. Документ появился накануне запланированной встречи Дональда Трампа и Си Цзиньпина 24 сентября. Авторы формулируют несколько «красных линий», которые, по их мнению, должны стать основой для совместных правил США и Китая.
Первое требование — запрет на автономный запуск ядерного оружия системами ИИ. Ни одна сторона не должна позволять алгоритмам принимать решение о применении ядерного арсенала без участия человека. Второе — запрет на атаки ИИ против систем ядерного командования. Третье — сохранение исключительного контроля человека над ИИ-кибератаками на стратегическую инфраструктуру. Кроме того, США и Китаю предлагается согласовать единое определение «человеческого контроля», чтобы избежать разночтений.
| Предложение | Содержание |
|---|---|
| Запрет на автономный запуск | ИИ не должен самостоятельно принимать решение о применении ядерного оружия |
| Запрет на атаки ИИ | ИИ не должен атаковать системы ядерного командования |
| Контроль человека над кибератаками | Человек сохраняет исключительный контроль над ИИ-кибератаками на стратегическую инфраструктуру |
| Общее определение | США и Китай должны согласовать единое понятие «человеческого контроля» |
| Горячая линия | Прямой канал связи для урегулирования инцидентов с участием ИИ |
Отдельная инициатива Цзян — горячая линия для инцидентов с участием ИИ. Если оборонительная ИИ-система автоматически отреагирует на подозрительную активность, другая сторона может воспринять это как атаку. Прямая линия связи позволила бы правительству оперативно пояснить, что инцидент был случайным, до того как ситуация выйдет из-под контроля. Предложения развивают договорённости, достигнутые Джо Байденом и Си Цзиньпином в ноябре 2024 года.
Человек должен сохранять полный контроль над ИИ-кибератаками на стратегическую инфраструктуру.
Тема ограничения ИИ в ядерной сфере поднимается не впервые. В 2021 году Национальная комиссия по искусственному интеллекту (NSCAI) призывала сохранить человеческий контроль над ядерным оружием. Однако обязывающих механизмов до сих пор не существует. Карла Фриман из Университета Джонса Хопкинса сомневается, что горячие линии будут работать: во время кризиса с китайским аэростатом в 2023 году Китай не ответил на звонок США.
Предложения Сиссон и Цзян носят рекомендательный характер и не имеют силы без политических решений на высшем уровне. Тем не менее они обозначают круг вопросов, которые, вероятно, будут обсуждаться на встрече Трампа и Си. Отсутствие обязывающих договорённостей оставляет открытым вопрос о том, как именно будет обеспечиваться человеческий контроль над ИИ в ядерной сфере.
