IBM выпустила семейство открытых языковых моделей Granite 4.2 в трех размерах: 3B, 8B и 30B параметров. Модели обучены с нуля на примерно 15 трлн токенов и поддерживают контекст до 512 000 токенов. Главная особенность — возможность переключаться между режимами «размышления» (thinking) и обычным (non-thinking), что позволяет контролировать вычислительные затраты в зависимости от сложности задачи. Для простых запросов предусмотрен режим «low-effort», который экономит ресурсы.
Версии 8B и 30B прошли дополнительное обучение, которое IBM называет «агентным RL» (agentic RL). В ходе этого этапа модели учатся использовать инструменты, писать и запускать код, а также искать информацию в интернете в реальных песочницах. Это приближает их к полноценным ИИ-агентам, способным выполнять многошаговые задачи. Все модели поддерживают вызов инструментов в формате OpenAI и работают на инференс-движках vLLM и SGLang.
По бенчмаркам на агентных задачах и использовании инструментов модель 30B показывает лучшие результаты среди всех трех. Однако точные цифры в источнике не приводятся, поэтому сравнивать с конкурентами сложно. Тем не менее, открытость моделей и лицензия Apache 2.0 позволяют разработчикам самостоятельно проверить их возможности.
Модели поддерживают контекст до 512 000 токенов и переключение между режимами «размышления» и обычным.
Отдельно IBM представила Granite Speech 5.0 Turbo CTC — модели распознавания речи с 470 млн параметров. По заявлению компании, они вдвое быстрее предыдущих лидеров Open ASR Leaderboard и могут транскрибировать три часа аудио за одну секунду. Это делает их привлекательными для задач реального времени, например, субтитров или голосовых ассистентов.
Все модели доступны под лицензией Apache 2.0 на Hugging Face, Ollama, GitHub и других платформах. Это означает, что их можно свободно использовать в коммерческих продуктах, что особенно важно для компаний, которые хотят развернуть ИИ на своей инфраструктуре без зависимости от проприетарных API.
Появление Granite 4.2 — часть тренда на открытые модели с агентными способностями. В отличие от проприетарных систем, таких как GPT-4o или Claude, открытые модели позволяют полностью контролировать данные и процесс обучения. Однако для достижения сопоставимого качества требуются значительные вычислительные ресурсы и экспертиза, что ограничивает их применение в небольших командах.
