Галлюцинации языковых моделей остаются одной из ключевых проблем их применения в бизнес-задачах. Архитектура авторегрессии заставляет модель выбирать статистически вероятное следующее слово, а не фактически правильное, что приводит к убедительным, но ложным утверждениям. Независимый эксперт Андрей Бирюков на Хабре описал трёхуровневую систему защиты, которая принудительно привязывает ИИ к фактам и учит модель добровольно отказываться от ответа при недостатке данных.
Первый контур — отказ от нарратива. Вместо просьбы «напиши ответ» промпт переводит модель в режим фактологического экстрактора: требуется заполнять строгую JSON-структуру с полями extracted_facts, logical_conclusions и missing_data. По заявлению автора, такой форматный подход снижает количество галлюцинаций примерно на 40% уже на старте, так как смещает распределение вероятностей модели с красивого текста на строгое заполнение ячеек.
Второй контур — шкала уверенности. В структуру добавляется поле uncertainty с критериями оценки: от 0,0 (низкая уверенность, основанная только на общих знаниях) до 1,0 (высокая – данные из нескольких источников контекста). Критическое правило: если по любому пункту уверенность ниже 0,7, модель обязана написать «Информация для однозначного ответа отсутствует». Автор называет это «красной кнопкой», которая легитимизирует отказ от ответа.
Третий контур — техника «адвокат дьявола». ИИ сначала генерирует ответ, а затем в отдельной сессии сам же проверяет его на противоречия, указывая слабые места. Этот приём использует способность модели находить ошибки в чужом тексте — так как она не может одновременно врать и проверять, разделение сессий позволяет выявить собственные неточности.
Методика описана как практический инструмент, но её эффективность не подтверждена независимыми тестами или бенчмарками. Автор не приводит количественных результатов за пределами собственных оценок. Тем не менее, предложенные приёмы (форматное ограничение, шкала уверенности, двойная проверка) широко используются в инженерных подходах к RAG и prompt engineering. Для внедрения потребуется интеграция с API моделью и написание кода для управления цепочкой промптов.
