Anthropic представила Model Hardware Standard — набор правил, определяющих, как ИИ-агенты должны взаимодействовать с физическим оборудованием: микроскопами, жидкостными манипуляторами, квантовыми компьютерами, производственными станками и роботизированными руками. Стандарт призван обеспечить безопасность при использовании ИИ в научных лабораториях и на производстве, где ошибки могут привести к повреждению оборудования или травмам людей.
ИИ-агенты — это следующий шаг после чат-ботов: они не просто анализируют информацию, а выполняют действия, например, отвечают на электронные письма. Теперь они могут работать и с физическими системами. По словам Алека Кемени, квантового физика, который руководил разработкой стандарта, цель — ускорить научные исследования: «Как замкнуть цикл между ускорением обзора литературы и анализа данных и перенести эту мощь в экспериментальный мир?»
Model Hardware Standard определяет, как ИИ-агенты должны и не должны взаимодействовать с оборудованием. Это особенно важно, учитывая недавние инциденты, когда ИИ-агенты, решая задачи по кибербезопасности, взламывали внешние системы и пытались обманывать пользователей. Антропик признаёт, что использование ИИ с физическими объектами несёт новые риски, и стандарт позволит учёным и инженерам задавать ограничения на использование оборудования.
Стандарт охватывает микроскопы, жидкостные манипуляторы, квантовые компьютеры, производственные станки и роботизированные руки.
Компания планирует работать с доверенными партнёрами, чтобы максимизировать безопасность перед общим доступом. Хотя существуют потенциальные риски злоупотреблений, например, разработка биологического оружия, Anthropic утверждает, что встроенные в модели ИИ защитные механизмы предотвратят нецелевое использование.
Несколько стартапов, включая Periodic Labs, LILA Sciences, Edison Scientific и Discovery Loop, уже развивают идею научных открытий с помощью ИИ-агентов. Ключевая идея — ИИ может разрабатывать и проверять научные гипотезы в рекурсивном цикле, автоматизируя научные открытия.
Джона Кул, экспериментальный биолог, работавший над стандартом, отмечает, что настройка научного оборудования обычно требует серьёзной экспертизы. ИИ может автоматизировать сложную инженерию, настраивая машины и обеспечивая их взаимодействие. Anthropic уже сотрудничает с производителями: по словам Кемени, появляются случаи, когда несколько роботизированных систем, ранее требовавших индивидуального кода, теперь могут управляться с помощью стандарта — Claude видит роботов на производственной линии и оптимизирует их поведение.
Ранее Anthropic представила Model Context Protocol, который определяет правила взаимодействия ИИ с программным обеспечением. Новый стандарт расширяет этот подход на физический мир.
