В четверг в Дамфрис-хаусе — поместье XVIII века в Эйршире, принадлежащем благотворительному фонду короля Карла III, — прошёл закрытый саммит по искусственному интеллекту. Среди гостей были генеральный директор Nvidia Дженсен Хуанг, финансовый директор OpenAI Сара Фрайар, Тino Куэльяр из Anthropic, отвечающий за глобальные вопросы, новый министр по делам ИИ Великобритании Канишка Нараянан и глава британской внешней разведки. Также присутствовал Паоло Бенанти, советник папы римского по вопросам ИИ.
Король выступил с речью, в которой обозначил двойственность технологии. «ИИ уже демонстрирует огромные возможности для улучшения и спасения жизни», — сказал он, приведя в пример медицину и науку. Однако, по его словам, те, кто создал эти технологии, всё чаще предупреждают, что ИИ рискует развить «тёмные способности, возможно, даже отнимать жизнь». Карл III призвал лидеров найти способ контролировать ИИ «пока не стало слишком поздно» и указал на необходимость учитывать «экзистенциальные опасности» попадания технологии в неверные руки. «Разве нам не нужны достаточные средства контроля, пока не стало слишком поздно?» — спросил он. В завершение король призвал собравшихся направить ИИ на службу человечеству, сообществу и природному миру, а также выстроить международное сотрудничество и консенсус.
| Участник | Роль |
|---|---|
| Дженсен Хуанг | Генеральный директор Nvidia |
| Сара Фрайар | Финансовый директор OpenAI |
| Тino Куэльяр | Руководитель глобальных вопросов Anthropic |
| Канишка Нараянан | Министр по делам ИИ Великобритании |
| Паоло Бенанти | Советник папы римского по ИИ |
Выступление короля примечательно тем, что британская королевская семья по конституционным причинам обычно избегает глубокого погружения в политические вопросы. ИИ сейчас — одна из самых острых тем в мире. Речь прозвучала через несколько дней после того, как исследователь из Anthropic уволился, написав в сети, что компании «гонятся за созданием машин, которые намного умнее любого человека», и что человечество «может не пережить это». Контекст усиливает и недавнее решение Anthropic закрыть доступ к моделям Fable и Mythos только для клиентов из США, что вызвало беспокойство в европейском технологическом сообществе и подняло тему суверенитета ИИ.
Карл III заявил, что ИИ «уже демонстрирует огромные возможности для улучшения и спасения жизни», но предупредил о «тёмных способностях» технологии.
Саммит проходит на фоне растущих разногласий в отрасли. В этом месяце Сэм Альтман (OpenAI), Илон Маск и Дарио Амодеи (Anthropic) призвали к замедлению развития ИИ. Дженсен Хуанг и президент Дональд Трамп быстро отвергли эти призывы. «Мы лидируем в ИИ по сравнению с Китаем, — заявил Трамп. — Мы самая продвинутая страна в мире, и, честно говоря, я хочу это сохранить, потому что кто выиграет в ИИ, тот выиграет во всём». Это показывает, насколько сложным стал вопрос, где сталкиваются интересы больших технологических компаний, политики и общества.
В течение последнего года OpenAI и Anthropic намекали на возможные крупные IPO, однако OpenAI недавно сообщила, что её планы по выходу на биржу в этом году застопорились из-за сохраняющихся опасений по поводу безопасности ИИ. Саммит у короля — не первое его выступление на тему ИИ: он говорил об этом в 2023 и 2024 годах. Нынешняя встреча особенно своевременна, поскольку ИИ продолжает доминировать в самых разных отраслях и дискуссиях. Карл III оставался на встрече около 20 минут, после чего покинул гостей, чтобы они могли обсудить вопросы между собой. Тino Куэльяр из Anthropic в комментарии сказал, что компания польщена участием в дискуссии и благодарна королю за то, что он «собрал лидеров отрасли и голоса со всего общества, чтобы обсудить роль ИИ на службе общественного блага».
