Многоагентные системы (MAS) на базе больших языковых моделей (LLM) становятся стандартом для автоматизации сложных задач, но их поведение часто оказывается непредсказуемым. Инженер на Habr предлагает взглянуть на эту проблему через призму теории динамических систем, объясняя, почему даже идеально детерминированная LLM в последовательной цепочке агентов может давать сбои. Ключевая идея — рассматривать MAS как динамическую систему, где малые изменения на входе могут привести к значительному разбросу результатов, а настройки температуры и топ-выборки играют роль регуляторов устойчивости.
Автор вводит понятие «растяжение» — чувствительность системы к малым изменениям входа, аналогичную хаотическому поведению в динамических системах. Для количественной оценки предлагается использовать показатель Ляпунова, который измеряет среднюю скорость экспоненциального роста или затухания малых возмущений. Если максимальный показатель положителен, система хаотична; если отрицателен — устойчива. На практике вычислять показатель Ляпунова для LLM-пайплайна не нужно, но он помогает понять, в какую сторону изменять параметры системы.
Второе важное свойство — «складка»: каждый слой цепочки усредняет и обобщает информацию, сжимая семантическое пространство. Это приводит к тому, что система со временем «забывает» важные детали, например, зафиксированные в скилах переменные или IP-адреса. Автор предлагает эксперимент с инъекцией случайного шума в цепочку (API /dialog/external_noise), чтобы проверить, насколько быстро система подавляет посторонние сигналы. Если реакция затухает быстро, система обладает диссипативностью и склонна к «складке».
Практические выводы: для стабилизации MAS стоит обращать внимание на настройки температуры и топ-выборки. Низкая температура уменьшает случайность, но может усиливать «складку», а высокая — увеличивает «растяжение». Оптимальные значения зависят от конкретной задачи, но понимание этих свойств позволяет целенаправленно настраивать систему, а не действовать наощупь. Автор также отмечает, что правка промптов — это лишь временное решение, тогда как системный подход к конфигурации агентов дает более устойчивый результат.
