RAG для чат-ботов: как избежать галлюцинаций AI

TL;DR: Главная проблема AI-чат-ботов в бизнесе — они выдумывают ответы. Клиенту или сотруднику называют несуществующие цены, неправильные сроки, выдуманные условия. В статье — как понять, что бот «врёт», и как сделать систему, которая честно говорит «не знаю» вместо выдумывания.

Что такое «галлюцинация» AI

AI-модель обучена на огромном объёме текста. Она умеет складывать слова в правдоподобные предложения. Но это не знание фактов, а статистическое предсказание.

Когда ваш сотрудник или клиент задаёт боту вопрос, модель пытается дать «правдоподобный» ответ — даже если у неё нет информации. Это называется галлюцинация.

Примеры галлюцинаций в бизнес-чат-ботах:

• Клиент спрашивает «сколько стоит услуга X» — бот называет цену, которой нет в прайсе
• Сотрудник спрашивает «какая у нас политика отпусков» — бот выдумывает несуществующий регламент
• Клиент спрашивает «есть ли у вас продукт Y» — бот подтверждает, хотя такого продукта нет
• Юрист спрашивает «есть ли в договоре пункт Z» — бот цитирует несуществующий пункт

Каждая такая галлюцинация — репутационный ущерб и потенциальный юридический риск.

Почему обычный ChatGPT не подходит бизнесу

ChatGPT, Claude, Gemini — универсальные модели. Они знают «всё понемногу», но:

1. Не знают ваши документы. Не читали ваши регламенты, прайсы, политики.
2. Не различают факт и вымысел. Если данных нет — придумают.
3. Не указывают источники. Сказали «цена 15 000 ₽» — проверить нельзя.
4. Обучены на данных до определённой даты. Ваши новые правила им неизвестны.

Поэтому бизнесу нужен другой подход: AI, который отвечает строго по вашим документам и цитирует источник.

Принцип «нет цитаты — нет ответа»

Правильный AI-ассистент для бизнеса работает по жёсткому правилу:

Если AI не нашёл в ваших документах релевантный фрагмент — он не отвечает на вопрос. Вместо этого — честное «не знаю» и передача вопроса человеку.

Как это выглядит на практике:

Вопрос пользователя: «Какая скидка для корпоративных клиентов?»

Плохой бот: «Для корпоративных клиентов действует скидка 15%» ← галлюцинация, такой скидки в прайсе нет

Правильный бот: «Я не нашёл в документах политику по корпоративным скидкам. Могу передать ваш вопрос менеджеру. Или вы хотите узнать про обычные скидки — они описаны в прайсе от 03.2026.»

Как проверить, что бот не галлюцинирует

При тестировании AI-бота задайте следующие вопросы:

Тест 1. Заведомо несуществующие факты

Спросите про услугу, которой у вас нет, или цену, которой нет в прайсе. Правильный бот скажет «не знаю» / «такой услуги нет в списке».

Плохой бот придумает ответ.

Тест 2. Наличие ссылок на источники

Правильный бот отвечает с цитатой: «Согласно регламенту "Политика скидок" от 15.01.2026, скидка 10% для корпоративных клиентов действует при заказе от 500 000 ₽.»

Плохой бот даёт ответ без источника.

Тест 3. Актуальность

Обновите документ → задайте боту тот же вопрос. Правильный бот отвечает по новой версии. Плохой — по старой.

Тест 4. Граница компетенций

Спросите что-то не по профилю — например, «как приготовить борщ» у бота HR-поддержки. Правильный бот скажет «это не моя область». Плохой — даст рецепт.

Что нужно для защиты от галлюцинаций

1. База знаний с актуальными документами

Бот отвечает только по тому, что есть в базе. Если документов нет — не отвечает.

2. Обязательное цитирование

Каждый ответ содержит ссылку на источник (документ, раздел, версия, дата).

3. Порог уверенности

Если бот не уверен в ответе, он отказывается, а не гадает.

4. Процесс обновления

Меняется документ — автоматически обновляется база. Иначе бот отвечает устаревшими данными.

5. Логирование и контроль

Все ответы бота сохраняются. Руководитель может проверить качество и корректировать.

Типичные ошибки в реальных проектах

Ошибка 1. «Обучим бота на наших документах»

Это распространённое заблуждение. Правильный подход — не обучать бота, а подключать к базе знаний (RAG). Обучение — дорого, сложно обновлять, не гарантирует точность.

Ошибка 2. «Уберём лишние документы, чтобы бот не путался»

Часто приводит к потере полезной информации. Правильно — не убирать, а размечать приоритеты и актуальность.

Ошибка 3. «Включим креативность — будет звучать естественней»

Креативность у бота = риск галлюцинаций. Для бизнеса нужна предсказуемость, а не креативность.

Ошибка 4. «Если бот не знает — пусть отправит в интернет»

Это открывает дверь для галлюцинаций из внешних источников. Правильно: «не знаю» → передача человеку.

Ошибка 5. «Проверим качество раз в квартал»

Поздно. Плохие ответы влияют на клиентов каждый день. Нужен ежедневный мониторинг первую неделю-две, потом еженедельный.

Реальные метрики качества

В наших проектах мы отслеживаем:

Важно: refusal rate 0% — это тревожный сигнал. Значит бот всегда отвечает, даже когда не знает. То есть выдумывает.

Что получает бизнес

Доверие клиентов

Клиент получает либо точный ответ с источником, либо честное «не знаю» — но никогда выдуманную информацию.

Снижение рисков

Нет ситуаций, когда бот пообещал клиенту то, что компания не может выполнить.

Экономия на поддержке

80% типовых вопросов закрываются ботом. Операторы занимаются сложными кейсами.

Контроль качества

Руководитель видит все ответы с источниками, может вмешаться и скорректировать.

FAQ

Можно ли полностью исключить галлюцинации? Можно свести к минимуму (ниже 1-2%) через принцип «нет цитаты — нет ответа». 100% гарантии не даёт никто, но ответственный подрядчик минимизирует риски.

Что делать, если в документах противоречия? На этапе подготовки мы фиксируем противоречия и предлагаем руководителю их устранить. Без этого бот будет давать разные ответы на один вопрос.

Как понять, что бот галлюцинирует, если документы большие? Первые 2 недели проводим ручную проверку каждого 10-го ответа. Дальше — автоматический мониторинг по метрикам качества.

Можно ли разрешить боту добавлять «от себя»? Не рекомендуем. Любая «самодеятельность» — риск галлюцинации. Лучше расширить базу знаний, чем разрешать боту домысливать.

Сколько стоит система с защитой от галлюцинаций? Пилот — от 9 900 ₽, продакшн — от 350 000 ₽. Защита от галлюцинаций — часть нашего стандарта, не доплата.

Что дальше

• AI-ассистенты для бизнеса: цены и тарифы
• Внедрение RAG: руководство для владельца
• AI по документам компании
• Как подготовить документы для AI-чат-бота
• HR-ассистент на базе AI — кейс внедрения RAG в HR
• Разработка бота для Telegram: цена от 9 900 ₽ — пилот
• Бесплатный AI-аудит за 10 минут — проверим готовность ваших документов