Диого Алмейда, соавтор ChatGPT, выпустил модель Jev без языка и галлюцинаций

Диого Алмейда помог создать ChatGPT и придумал метод RLHF — обучение с подкреплением на основе обратной связи от людей, который во многом определил нынешний облик языковых моделей. Но результат его разочаровал. «У нас в руках молния в бутылке, а пользы нет», — сказал он TechCrunch. По его мнению, проблема в том, что все четыре года отрасль оптимизировала модели под человеческий язык, а компьютерам нужен другой язык — машинный. Два года назад Алмейда ушёл из OpenAI и основал TypeSafe ИИ, чтобы решить эту задачу. На этой неделе компания выпустила трансформер Jev, который не является большой языковой моделью (LLM).

Jev не выдаёт текст. На выходе — вероятности, которые компания называет «калиброванными решениями». Пользователь заранее определяет возможные исходы, поэтому модель не может галлюцинировать: она выбирает из заданного набора. Это даёт три эффекта. Во-первых, выходные токены бесплатны, а входные измеряются миллиардами, а не миллионами, — то есть на порядки дешевле, чем у LLM. Во-вторых, модель работает быстрее. В-третьих, она возвращает честную вероятность, с которой можно работать дальше.

Разработчики отреагировали быстро: спрос был настолько высок, что компания на короткое время потеряла возможность обслуживать пользователей через API. Основная сфера применения Jev — автоматизация софта. Инженер Vercel Пранит Шарма рассказал, что его компания использовала OpenAI ChatGPT Luna 5.6 для классификатора проверки команд на безопасность. После замены Luna на Jev результаты стали приходить в 5–18 раз быстрее и точнее. Другой разработчик, CTO Bryo ИИ Нихил Мудхолкар, тестировал Jev против Gemini на классификации деловых писем. Gemini оказался чуть точнее, но в 10–20 раз дороже. Мудхолкара больше заинтересовали оценки уверенности Jev: «Это единственная модель, которая возвращает настоящую вероятность, что делает её идеальной для автоматизации рабочих процессов».

Jev может не только заменять LLM, но и дополнять их — например, проверять поведение агентов. Использовать агентов для слежки за агентами быстро становится дорого, но Jev, по мнению Алмейды, подходит для этого: он позволяет отслеживать трассировки LLM-агентов и предотвращать джейлбрейки. CTO Earendil Армин Ронахер, чья компания делает open-source-обвязку Pi, объясняет: «В конечном счёте это перекладывает проблему галлюцинаций на пользователя. Пользователь должен сказать: если пришло 50%, это орёл или решка, я это игнорирую. А если 95% — тогда можно что-то делать». Ещё один сценарий — маршрутизация моделей. Предсказать, какая модель нужна для конкретной задачи, полезно, но делать это через LLM дорого. Низкая цена и скорость Jev позволяют сортировать запросы в реальном времени.

Название модели отсылает к Уильяму Стэнли Джевонсу, экономисту XIX века, чей парадокс описывает, как падение стоимости товара ведёт к росту его потребления. Алмейда рассчитывает на то же: удешевление интеллекта приведёт к его массовому внедрению. «Мы думаем, что умный софт будет повсюду — эмерджентно и распределённо, скорее как ранний интернет, чем как мегаприложения, которые все пытаются строить», — говорит он.

Об архитектуре модели Алмейда говорит скупо; сторонние наблюдатели предполагают, что она построена поверх открытой LLM. Компания называет Jev «моделью Системы 1» — про интуицию, а не рассуждение, и заточенной под конкретную задачу. По словам Алмейды, Jev обучен исключительно на синтетических данных методом, который он называет «обучение с подкреплением на калиброванных решениях». «Мы сделали раннюю ставку на то, что будем создавать все свои данные, и это была одна из лучших ставок в моей жизни — лучше запуска, лучше RLHF, — сказал он. — Половина нашей компании — это лаборатория, которая владеет целой подобластью статистически понятных синтетических данных, и теперь это моя радость в жизни».

Пока Jev стоит особняком, но Ронахер ожидает появления конкурентов, как только польза модели станет очевидной. «Мы должны были увидеть это раньше, но, видимо, потому что LLM такие дешёвые и субсидируемые, креативность пока не требуется», — говорит он. TypeSafe планирует выпускать новые версии модели в других модальностях.