Современные системы многое помнят: действия пользователей, логи, тикеты, код, трассировки, алерты и ответы моделей. Однако одна вещь остаётся проблемной — смысл экспертного решения. Экспертное знание разбросано по множеству мест: часть живёт в головах людей, часть в обсуждениях, комментариях к коду и постмортемах. Когда системе требуется совет позже, ей приходится собирать прошлое по кускам — это долго и хрупко.

Что именно должна удерживать память, чтобы быть полезной? Недостаточно сохранить решение. Нужно фиксировать: кто принял решение, в какой области этому человеку доверяют, какие сигналы он использовал, какой был контекст, какие альтернативы рассматривались и почему решение было валидным именно тогда. То есть система должна помнить не только результат, но и смысл. Это гораздо сложнее хранения данных.

Риски памяти ИИ не ограничиваются галлюцинациями. Более тонкая проблема — устаревшее доверие. Система может помнить эксперта, который когда-то был прав для определённого типа решений, и продолжать считать его мнение авторитетным, даже если контекст изменился. Поэтому важны вопросы: может ли система помнить с контекстом, понимать, что память устарела, и спрашивать подтверждение, прежде чем перейти границу?

Возможно, правильная цель — не всезнающая система, а советчик. Хороший слой памяти должен вести себя как опытный помощник: помнить прошлые решения, распознавать паттерны, показывать похожие случаи, предупреждать, когда ситуация выходит за привычные рамки, и спрашивать подтверждение при низкой уверенности. Такая система реалистичнее, чем претендующая на абсолютное знание.

Реализуема ли эта идея? Уже существуют системы, умеющие хранить рабочий контекст, связывать похожие решения, переиспользовать паттерны и поднимать релевантную историю. Открытый вопрос — можно ли сделать это достаточно надёжным, чтобы реально помогать командам, не притворяясь, что человеческая экспертиза больше не нужна. Возможно, это сработает или провалится показательным образом — и в обоих случаях мы узнаем, какие виды экспертизы можно сохранять, а какие слишком зависят от контекста.

Главный вопрос: если софт сможет помнить смысл экспертных решений, станет ли он умнее — или просто будет увереннее ошибаться? Если ответ положительный, мы получим систему, накапливающую опыт, а не данные. Если отрицательный — хотя бы поймём, где проходят границы. А это тоже полезно.