Разработчик открытого инструмента для запуска ИИ-моделей на локальных компьютерах Ollama привлек $65 млн раунда Series B, который возглавила Theory Ventures. Предыдущий раунд Series A на $15 млн провела Benchmark при участии Питера Фентона. Всего за время существования компания привлекла $88 млн. Основанная в 2023 году Джеффом Морганом и Майклом Чиангом, Ollama позволяет разработчикам запускать open-weight модели на своих ПК за считанные минуты. По словам Моргана, сервисом ежемесячно пользуются более 8,9 млн разработчиков, он представлен в 85% компаний из списка Fortune 500. При этом штат компании насчитывает всего 14 человек.

Морган и Чианг ранее создали Docker Desktop — инструмент для контейнеризации приложений. Их предыдущий стартап Kitematic был куплен Docker. Как пояснил Морган, открытые модели, появившиеся в 2023 году, были ориентированы на исследователей, а не на программистов, и запускать их было сложно. Ollama, по его словам, сделала для ИИ то же, что Docker сделал для облачных приложений — абстрагировала конфигурацию оборудования. Инструмент позволяет загружать, запускать и управлять моделями локально, а также предоставляет доступ к более крупным моделям через облачный сервис (neocloud) с тарифами от бесплатного до $100 в месяц. Модель оплаты — за GPU-время, а не за токены.

Привлеченные средства, вероятно, пойдут на развитие облачного бизнеса и масштабирование команды. Основатели и инвесторы отказались обсуждать выручку и оценку компании. Однако Питер Фентон из Benchmark отметил, что способность создавать продукт, который становится массовым для разработчиков, — редкость. Переломным моментом он назвал январь, когда большие открытые модели начали выполнять агентные задачи, такие как написание кода. По мнению Фентона, каждое предприятие с высокими расходами на инференс заинтересовано в переходе на open-weight модели.

Инструмент позволяет разработчикам запускать open-weight модели на ПК за минуты

Image Credits:David Paul Morris / Ollama
Image Credits:David Paul Morris / Ollama · Источник: TechCrunch AI

Ollama работает на рынке, где уже есть конкуренты: Inferact (создатель vLLM), RadixArk (SGLang), а также альтернативы OpenClaw. Часть сообщества выражала недовольство тем, что компания фокусируется на платных услугах в ущерб бесплатному проекту. Морган парировал, что облачный сервис — это эволюция миссии: большие модели невозможно запустить локально, поэтому Ollama помогает найти для них вычислительные ресурсы. Фентон подчеркнул, что бесплатная десктопная версия не изменилась.