Украинская компания MacPaw, известная по CleanMyMac и подписке SetApp, объявила о партнерстве с Liquid ИИ. Стартап займется разработкой системы локального инференса Elix и локальной памяти для продуктов MacPaw, в том числе ИИ-ассистента Eney, представленного в прошлом году. Первой задачей станет создание версии Eney, которая работает непосредственно на устройстве пользователя, без обращения к облаку.
Локальный инференс означает, что модель ИИ выполняется на железе пользователя — это снижает задержки и убирает необходимость отправки данных на внешние серверы. По словам генерального директора Liquid ИИ Рамина Хасани, архитектура моделей компании подбирается под конкретное оборудование, что позволяет добиться эффективной работы прямо на устройстве. «Мы также строим стек кастомизации вокруг моделей: с помощью пользовательских данных модели могут улучшаться и адаптироваться с течением времени», — добавил он.
MacPaw намерена сделать технологию доступной разработчикам, чьи приложения распространяются через SetApp. Сервис, насчитывающий более 150 000 платных подписчиков, уже экспериментирует с кредитной моделью оплаты: пользователи получают определенное количество операций ИИ в зависимости от сложности задачи. Генеральный директор MacPaw Александ Косован отметил, что платформа также предоставит доступ к облачным моделям Google и других провайдеров, превращаясь в единую точку входа для разработчиков.
Ассистент Eney получит версию, работающую без облака, с сохранением приватности.
Партнерство происходит на фоне того, что Apple уже предлагает собственные встроенные модели для разработчиков. Однако, как утверждает Хасани, Liquid ИИ делает ставку на производительность для различных сценариев. Для MacPaw локальная обработка важна и с точки зрения приватности: пользователи смогут запускать ассистента и агентные сценарии без подключения к интернету, что расширяет возможности использования в офлайн-среде.
