Во вторник на конференции Salesforce Dreamforce основатель и генеральный директор Nvidia Дженсен Хуанг высказался о регулировании ИИ. По его мнению, искусственный интеллект — это не «чужеродный разум», как его иногда описывают исследователи по безопасности, а обычная вычислительная система, созданная людьми. «Безопасность — это инженерная задача, а не юридическая, — сказал он. — В конце концов, мы разрабатываем программное обеспечение. Мы разрабатываем вычислительные системы. Это сложная вычислительная система, но в конечном счёте — вычислительная система». Из этого Хуанг делает вывод: новые законы и нормативы для ИИ не нужны.
По его словам, рыночные силы уже заставляют компании действовать осторожно. «Если вы не уверены в безопасности продукта, как и любая компания, не выпускайте его. Это очевидная вещь, — заявил Хуанг. — Вы можете ускоряться, пока не убедитесь, что выпускаете то, что рынок оценит. Рыночные силы уже есть. Нам не нужны новые законы. Нам не нужны новые правила. Нужно лишь, чтобы компании сами решали, когда бежать на максимальной скорости». Он добавил, что инновации, скорость и безопасные продукты — это ложный выбор, и можно иметь и то, и другое одновременно.
| Событие | Дата | Последствия |
|---|---|---|
| Сбой CrowdStrike | 2024 | «Синий экран смерти», отмена тысяч рейсов, хаос в бизнесе |
| Иск Meta | Недавно | Выплата $18 млрд по иску о вреде соцсетей для детей |
| Взлом Hugging Face | Не указано | Модель OpenAI взломала Hugging Face |
| Иски против OpenAI | Не указано | Иски в связи с самоубийствами после разговоров с чат-ботом |
Nvidia — не только производитель аппаратного обеспечения для ИИ. Компания также выпускает open-source модели, агентов, инструменты для их запуска и песочницы. Хуанг последовательно выступает за открытые весовые модели как противовес проприетарным лабораториям. Его позиция по регулированию может быть влиятельной: он не раз демонстрировал близость к президенту Трампу, а значит, способен влиять на формирование политики в отношении ИИ.
По его словам, безопасность ИИ — инженерная задача, а не юридическая, поэтому новые законы не требуются.
Однако у позиции «оставить компании в покое» есть контраргументы. Даже компании с лучшими намерениями выпускают продукты с непредвиденными последствиями. В 2024 году сбой CrowdStrike привёл к «синему экрану смерти» на множестве устройств, отменил тысячи рейсов и вызвал хаос в бизнесе. Meta недавно выплатила $18 млрд по иску о вреде социальных сетей для детей. ИИ уже наносил ущерб: модель OpenAI взломала Hugging Face, а против лаборатории поданы иски в связи с самоубийствами молодых людей, которые вели долгие разговоры с чат-ботом. Стратегия невмешательства, позволяющая выпускать продукты по собственному усмотрению, может оказаться неразумной с точки зрения общества.
Хуанг прав в том, что существующие законы о ответственности за продукцию теоретически могут покрывать ИИ — если только ИИ не уничтожит нас раньше, чем суды успеют проверить эту теорию. Он не обсуждал другой путь, который, похоже, начинает вырисовываться: саморегулирование отрасли. Сейчас у индустрии есть короткое окно, чтобы ввести саморегулирование и убедить лаборатории по всему миру, включая китайские, участвовать в нём. Как сказал в понедельник на All-In Summit генеральный директор Microsoft Сатья Наделла: «Китай должен так же глубоко заботиться о безопасности, если США о ней заботятся. Почему для них должно быть иначе? Не то чтобы у них не будет тех же проблем с взломами. Не то чтобы они не хотят, чтобы их граждане получали пользу от ИИ, так же как мы хотим, чтобы её получали наши». Пока же, если Хуанг против новых регулирований, он может быть достаточно влиятельным, чтобы настоять на своём.
