Главная проблема классических RAG-систем (Retrieval-Augmented Generation) долгое время оставалась незамеченной: при нарезке документа на чанки каждый фрагмент теряет контекст исходного документа. Например, предложение «Выручка компании выросла на 3%» из квартального отчёта ACME после chunking становится неотличимым от аналогичных фраз из других кварталов или компаний. Embedding-модель не может различить, к какому документу относится чанк, и точность поиска падает.
Техника Contextual Retrieval, предложенная Anthropic в сентябре 2024 года, решает эту проблему просто и эффективно: перед индексацией каждого чанка LLM (например, Claude Haiku) генерирует короткий контекстный префикс (50–100 токенов), описывающий, из какого документа и раздела взят фрагмент. Префикс добавляется в начало чанка, после чего вычисляется embedding и строится BM25-индекс. Тот же параграф с префиксом «Этот фрагмент из квартального финансового отчёта ACME Corporation за Q2 2024, раздел региональных показателей» значительно точнее соответствует запросу «выручка ACME Q2 2024».
| Метод | Failure rate | Улучшение относительно наивного RAG |
|---|---|---|
| Naive RAG (только embeddings) | 5.7% | — |
| Contextual Embeddings | 3.7% | 35% |
| Contextual Embeddings + Contextual BM25 | 2.9% | 49% |
| Contextual Embeddings + Contextual BM25 + Reranking | 1.9% | 67% |
Anthropic опубликовала бенчмарки на четырёх наборах данных (Codebase, Common Resources, FinancialDocs, Knowledge Base): наивный RAG с embeddings даёт failure rate 5.7% (проценты случаев, когда правильный документ не попал в топ-20 результатов). Добавление контекстного префикса только к embeddings снижает показатель до 3.7% (улучшение на 35%). Комбинация Contextual Embeddings + Contextual BM25 даёт 2.9% (улучшение на 49%), а с reranking — 1.9% (улучшение на 67%). Воспроизведение на юридических и технических корпусах в 2025–2026 годах показало ещё больший эффект — снижение failure rate до 70–80%.
Перед индексацией LLM генерирует для каждого чанка контекстный префикс (50–100 токенов), который добавляется к чанку перед вычислением embedding.
Стоимость техники — примерно 50 центов за тысячу чанков при использовании Claude Haiku (самой дешёвой модели Anthropic). Это делает внедрение доступным для большинства корпоративных сценариев. При этом у метода есть ограничения: он требует наличия полного текста документа на этапе индексации (что не всегда возможно для streaming-данных), увеличивает размер индекса, а качество префикса зависит от LLM. Для больших документов генерация контекста может быть дороже. Тем не менее, к середине 2026 года Contextual Retrieval стал стандартом в production-RAG, применяемым в подавляющем большинстве серьёзных корпоративных систем.
