Идея Andrej Karpathy о персональной wiki, построенной с помощью LLM, продолжает распространяться. На Хабре уже появлялись публикации на эту тему, включая сравнение LLM-wiki и RAG-систем. Однако большинство примеров опираются на Claude Code — инструмент, который доступен не всем. Автор новой статьи решил выяснить, можно ли собрать такую wiki с помощью более слабых моделей, например, локальной gemma4:26b через Ollama или gpt-5-mini через прокси-провайдера. Результатом стал пайплайн Wiki-assembler, описанный в деталях.
Первые две стратегии, которые автор опробовал, провалились. Первая предполагала, что агент последовательно читает тексты и держит в памяти весь wiki-контекст, обновляя элементы. Когда число элементов превысило десяток, значения полей начали исчезать — модель не справлялась с объёмом. Вторая стратегия использовала два агента: один создавал элементы из отдельных текстов, второй пытался интегрировать дубликаты. Интеграция оказалась слабой: контекст терялся, а элементы склеивались по случайному совпадению названий. Даже запрос аргументации не помог.
| Модель | Стоимость за 100 КБ | Скорость | Особенности |
|---|---|---|---|
| Claude Code | 3–4 доллара | Не указано | Базовая стратегия |
| gpt-5-mini | 1,1–1,3 доллара | Не указано | Завышает значимость терминов |
| gemma4:26b | Только электричество | 12 токенов/сек | Строга, но неструктурированный вывод |
Успешной оказалась третья стратегия, основанная на идее MapReduce. На первом шаге агент составляет аннотацию каждого исходного текста и выделяет ключевые термины, концепты и сущности. Получается структура «документ — список терминов». Затем список инвертируется: ключом становится термин, значением — список источников. Каждый термин проходит через LLM-судью, который оценивает его важность в контексте связанных текстов. Термины, прошедшие порог, получают структуру с именем, саммари, свойствами и темой. Связи между элементами образуются через общие источники. Финальный агент расставляет wiki-ссылки в саммари и списках свойств.
gpt-5-mini склонна завышать значимость терминов, из-за чего в схему добавлен LLM-судья.
Автор протестировал две модели. gpt-5-mini склонна завышать значимость терминов, что и привело к появлению LLM-судьи. Она также не всегда аккуратно расставляет ссылки второго типа, когда форма термина в тексте отличается от словарной. Иногда модель самовольно добавляет термины в список, но эта ошибка выявляется линтером. gemma4:26b, наоборот, строга в выделении терминов, но формулировки на русском могут быть кривыми, а в названиях появляются нечитаемые символы. Главная проблема — упрямое нежелание выдавать структурированный вывод, из-за чего пришлось делать сплит в коде агента.
По затратам: Claude Code собирает wiki за 3–4 доллара за 100 килобайт исходных текстов. Пайплайн на gpt-5-mini обходится в 1,1–1,3 доллара за тот же объём, в зависимости от провайдера. Gemma — это прежде всего время: при скорости 12 токенов в секунду пайплайн может занять весь день, зато стоимость — только электричество. Ориентир — 10–20 минут на одну страницу wiki.
Wiki-assembler — это python-пайплайн, состоящий из пяти этапов. Код доступен на GitHub, что позволяет воспроизвести процесс и адаптировать его под свои задачи. Автор отмечает, что даже слабые модели способны построить связную структуру, если правильно организовать процесс. Для тех, кто хочет попробовать, важно учитывать особенности каждой модели: gpt-5-mini требует судью, а gemma — терпения и дополнительной обработки вывода.
