Автор заметки на Habr описывает эксперимент с памятью ИИ-агента: в хранилище фактов лежат три карточки одного человека — инженер, руководитель группы, директор. Поиск по смыслу считает все три одинаково близкими, потому что тексты превращены в векторы, а близость измеряется косинусом угла между ними. На вопрос «кем человек работает» система может вернуть любую из трёх карточек, включая устаревшую, и модель уверенно скажет, что человек до сих пор инженер. Формально поиск отработал верно: карточка ближайшая. Фактически хранилище выдало галлюцинацию — не модель, а сам поиск.
Механика, на которой держится такая память, называется генерацией с опорой на поиск, или RAG. Идея в том, что перед ответом модель достаёт из хранилища несколько подходящих кусков текста и отвечает с их учётом. Под капотом это векторный поиск: каждый текст превращается в точку многомерного пространства смыслов, а векторная база данных быстро находит ближайшие точки. Автор видит здесь подмену: векторная база отвечает на вопрос «что похоже», а память агента должна отвечать на вопрос «что истинно сейчас». Похожесть и актуальность — разные оси, и пока они слиты, агент будет выдавать устаревшее знание с той же уверенностью, что и действующее.
| Разрешение противоречий, 400 случаев MQUAKE‑CF | Действующая версия | Устаревший факт | Выдуманный третий |
|---|---|---|---|
| Правило свежести (6 строк, без ИИ) | почти 100% | 0,0% | 0,0% |
| Векторный поиск + арбитр gemma3 (даты переданы) | 3,8% | 55,3% | 41,0% |
Из этого автор выводит три требования к памяти. Первое: версии нельзя затирать — старая и новая записи должны сосуществовать, иначе не ответить на вопрос «кем он был раньше». Второе: нужен механизм свежести, который мгновенно выбирает актуальную версию на нужный момент. Третье: время должно стать полноправной сущностью, а не ярлычком рядом с содержимым. Вместо RAG автор предлагает правило из шести строк, но код и цифры сознательно не даёт в начале: сначала показывает задачу, потом решение, и только потом числа, чтобы эксперимент можно было повторить самостоятельно.
Материал — это личный инженерный разбор на Habr, а не рецензируемое исследование. Его ценность не в окончательном решении, а в постановке проблемы: если память агента строится только на близости векторов, время остаётся за кадром. Для всех, кто собирает агентов на RAG, это повод проверить, на каком основании система выбирает факт.
