На конференции Ai4 в Лас-Вегасе, прошедшей на прошлой неделе, три ведущих исследователя искусственного интеллекта — нобелевский лауреат Джеффри Хинтон, генеральный директор World Labs Фэй-Фэй Ли и сооснователь Coursera Эндрю Нг — высказались в поддержку открытости в разработке ИИ. Их выступления прозвучали на фоне растущих опасений по поводу безопасности ИИ и дискуссий о том, стоит ли ограничивать распространение открытых моделей.
Основной темой обсуждения стало опасение, что несколько крупных компаний могут получить контроль над развитием ИИ, подобно тому как Apple и Google доминируют на рынке мобильных операционных систем. Нг выразил обеспокоенность, что такая монополизация замедлит инновации и ограничит доступ к технологии. «Я не хочу, чтобы были привратники, — заявил он. — Это ограничивает доступ всех нас к ИИ». В качестве решения он предложил поддерживать конкуренцию между множеством провайдеров и моделей, а не позволять нескольким игрокам доминировать.
Хинтон, однако, провел четкое различие между открытым исходным кодом и открытыми весами. Открытый исходный код позволяет любому проверить и модифицировать код, тогда как открытые веса — это публикация параметров обученной модели, которые можно использовать без глубокого понимания их работы. «Открытый исходный код — это здорово. Вы показываете людям код, и многие смотрят на строки и говорят: "О, здесь ошибка". Открытые веса — это когда вы обучаете большую модель и затем отдаете людям веса. Это совсем другое», — пояснил Хинтон. Он признал, что выступал против открытых весов, поскольку они позволяют злоумышленникам дообучать мощные модели для вредоносных целей, таких как кибератаки, с меньшими затратами.
Хинтон считает, что битва за закрытые модели уже проиграна: открытые веса стали неотъемлемой частью индустрии.
Тем не менее Хинтон признал, что открытые веса уже стали неотъемлемой частью индустрии. «Я думаю, эта битва проиграна. У нас уже есть открытые модели, и барьер, связанный со стоимостью обучения фундаментальных моделей, исчез. Слишком поздно», — сказал он. При этом он подчеркнул, что ИИ продолжит развиваться, что в целом позитивно, и отверг обвинения в «страхолюбии» в адрес тех, кто беспокоится о рисках.
Нг, напротив, сместил акцент на геополитический аспект. Он предупредил, что китайские открытые модели могут получить широкое распространение в Азии, Африке и развивающихся странах, что повлияет на восприятие идей демократии и прав человека миллиардами людей. «ИИ — это огромный источник мягкой силы. Китайские модели уже добились успеха в Африке, — отметил Нг. — Моя тревога в том, что из-за лоббирования в США и запугивания, создание открытого ИИ в Америке с трудом конкурирует с открытыми моделями из Китая». Он призвал поддерживать американскую конкурентоспособность и открытый исходный код.
Ли, в свою очередь, раскритиковала упрощенное противопоставление открытости и закрытости. «Опасно сводить это к дихотомии между полной открытостью и полной закрытостью, — заявила она. — В сложных программных и научных системах все гораздо нюансированнее». Она привела пример ядерной физики: научные статьи публикуются открыто, но уран регулируется, а лабораторные работы находятся где-то посередине. По ее мнению, разные уровни экосистемы могут иметь разную степень открытости, и это не обязательно выбор «все или ничего».
Выступления трех исследователей отражают более широкую дискуссию в отрасли о том, как балансировать инновации и безопасность. Открытые модели, такие как Llama от Meta или Mistral, уже широко используются, и их влияние на рынок ИИ трудно переоценить. Вопрос о том, должны ли правительства и компании ограничивать доступ к мощным ИИ-системам, остается открытым, и мнения ведущих экспертов разделились.
