Все проекты

RAG-ассистент по базе знаний с передачей человеку

Production RAG-ассистент на знаниях бизнеса, с источниками и передачей человеку

Вместо того чтобы написать, что команда умеет делать RAG-системы, NekaSoft построил такую систему, которую можно проверить прямо сейчас: она отвечает по реальной базе знаний, показывает источники, отказывается от содержательного ответа, когда релевантной информации нет, позволяет проверить конвейер на собственных данных и передаёт диалог человеку.

RAG
семантический поиск
Источники
под каждым ответом
1 час
жизнь тестовых данных
Человек
передача диалога команде
RAG-ассистент по базе знаний с передачей человеку

Контекст

NekaSoft хотел показать возможности RAG не через описание технологии, а через реально работающий интерактивный продукт: живого ассистента, которого потенциальный клиент может расспросить прямо на сайте.

Посетитель может задать вопросы о NekaSoft, получить ответы из реальной базы знаний, увидеть использованные источники, добавить собственные тестовые данные и сразу проверить, как тот же RAG-конвейер работает с его информацией.

Продукт выполняет сразу три роли: демонстрирует RAG-компетенцию NekaSoft, служит реальным AI-интерфейсом к знаниям компании и работает интерактивной точкой контакта с потенциальными клиентами. Это production-демо: технологию проверяют, а не читают о ней.

За что отвечали мы

NekaSoft построил продукт целиком и продолжает его развивать.

1

Продукт и сценарии

  • Продуктовая концепция
  • Пользовательские сценарии
  • Структура базы знаний
  • Архитектура RAG
2

RAG-конвейер

  • Ingestion и индексация
  • Эмбеддинги и семантический поиск
  • AI-оркестрация и grounding
  • Логика отказа при недостаточном контексте
  • Отображение источников
3

Продуктовые возможности

  • Веб-интерфейс ассистента
  • Режим теста на собственных данных
  • Изоляция сессий
  • Автоматическое удаление временных данных
  • Human handoff с Telegram как каналом команды
4

Эксплуатация и развитие

  • Деплой
  • Автоматическая пересборка базы знаний из контента сайта
  • Дальнейшее развитие

Решение

Ассистент работает с отдельной индексированной базой знаний; собственная база NekaSoft охватывает типы проектов и типичные ситуации, кейсы портфолио, процесс работы, FAQ и факты о компании. На каждый вопрос система находит релевантные фрагменты, передаёт их модели и возвращает обоснованный ответ.

  • Семантический поиск по индексированной базе знаний
  • Ответы на основании найденного контекста, с показом источников
  • Честное поведение без ответа: если в базе нет релевантного, ассистент так и говорит, а не угадывает
  • Тест на своих данных: ваш текст проходит через тот же конвейер, изолированно внутри вашей сессии
  • Временные данные не попадают в постоянную базу и удаляются через час
  • Human handoff: диалог уходит в Telegram команды, ответ возвращается в тот же веб-чат
  • База знаний пересобирается автоматически из контента сайта при каждом деплое
  • Два работающих интерфейса: веб-ассистент на этом сайте и Telegram-демо @NekaSoftBot

Система спроектирована так, чтобы отвечать на основании найденного контекста и отказываться от содержательного ответа, когда его недостаточно. Та же архитектура подключается к сайтам, внутренним базам знаний, документам, CRM, базам данных и API и может работать в разных клиентских каналах.

Результат

NekaSoft получил production-демо RAG-системы, которое потенциальный заказчик может проверить лично.

  • Задать вопрос по реальной базе знаний и получить обоснованный ответ
  • Увидеть источники, на которых основан каждый ответ
  • Проверить поведение, когда ответа в базе нет
  • Добавить собственный тестовый контент и проверить поиск на нём
  • Передать диалог команде, не покидая чата
  • Та же архитектура применима для ассистентов продаж, поддержки, онбординга, внутренних знаний и регламентов

Статус продукта

Ассистент работает на этом сайте: чат в правом нижнем углу и страница AI-демо, где база знаний открыта для проверки.

@NekaSoftBot остаётся самостоятельным Telegram-демо той же RAG-концепции. NekaSoft продолжает развивать продукт.

Технологии

TypeScriptNode.jsNext.jsOpenAI APIСемантический поискTelegram Bot API

Веб-ассистент работает на Next.js и Node.js, OpenAI API используется для эмбеддингов и генерации ответов; семантический поиск идёт по индексированному корпусу, который автоматически пересобирается из контента сайта при каждом деплое. Telegram-демо построено на grammY, MongoDB и Telegram Bot API.

Хотите ассистента, который отвечает по знаниям вашего бизнеса, показывает источники и передаёт сложные диалоги вашей команде?