RAG asistent za bazu znanja sa predajom razgovora čoveku

Kontekst

NekaSoft je želeo da pokaže mogućnosti RAG-a ne kroz opis tehnologije, već kroz interaktivan proizvod koji zaista radi: živog asistenta koga potencijalni klijent može da ispita direktno na sajtu.

Posetilac može da postavi pitanja o NekaSoft-u, dobije odgovore iz stvarne baze znanja, vidi korišćene izvore, doda sopstvene test podatke i odmah proveri kako isti RAG proces radi sa njegovim informacijama.

Proizvod tako igra tri uloge odjednom: demonstrira RAG kompetenciju NekaSoft-a, služi kao stvarni AI interfejs ka znanju kompanije i radi kao interaktivna tačka kontakta sa potencijalnim klijentima. To je production demo: tehnologija se proverava, a ne čita o njoj.

Za šta smo bili odgovorni

NekaSoft je izgradio proizvod u celini i nastavlja da ga razvija.

Rešenje

Asistent radi sa posebnom indeksiranom bazom znanja; sopstvena baza NekaSoft-a obuhvata tipove projekata i tipične situacije, projekte iz portfolija, proces rada, FAQ i podatke o kompaniji. Za svako pitanje sistem pronalazi relevantne fragmente, prosleđuje ih modelu i vraća utemeljen odgovor.

• Semantička pretraga po indeksiranoj bazi znanja
• Odgovori zasnovani na pronađenom kontekstu, sa prikazom izvora
• Iskreno ponašanje bez odgovora: ako u bazi nema ničeg relevantnog, asistent to i kaže umesto da nagađa
• Test na svojim podacima: vaš tekst prolazi kroz isti proces, izolovano unutar vaše sesije
• Privremeni podaci ne ulaze u stalnu bazu i brišu se nakon sat vremena
• Human handoff: razgovor ide u Telegram tima, a odgovor se vraća u isti veb čet
• Baza znanja se automatski ponovo gradi iz sadržaja sajta pri svakom deployment-u
• Dva radna interfejsa: veb asistent na ovom sajtu i Telegram demo @NekaSoftBot

Sistem je projektovan da odgovara na osnovu pronađenog konteksta i da odustane od suštinskog odgovora kada ga nema dovoljno. Ista arhitektura se povezuje sa sajtovima, internim bazama znanja, dokumentima, CRM sistemima, bazama podataka i API-jima i može da radi u različitim klijentskim kanalima.

Rezultat

NekaSoft je dobio production demo RAG sistema koji potencijalni klijent može lično da proveri.

• Postavite pitanje nad stvarnom bazom znanja i dobijete utemeljen odgovor
• Vidite izvore na kojima je svaki odgovor zasnovan
• Proverite ponašanje kada odgovora u bazi nema
• Dodate sopstveni test sadržaj i proverite pretragu na njemu
• Predate razgovor timu bez napuštanja četa
• Ista arhitektura je primenljiva za asistente prodaje, podrške, onboardinga, internih znanja i procedura

Status proizvoda

Asistent radi na ovom sajtu: čet u donjem desnom uglu i stranica AI demo-a, gde je baza znanja otvorena za proveru.

@NekaSoftBot ostaje samostalan Telegram demo iste RAG koncepcije. NekaSoft nastavlja da razvija proizvod.

Tehnologije

Veb asistent radi na Next.js-u i Node.js-u, OpenAI API se koristi za embedding-e i generisanje odgovora; semantička pretraga ide po indeksiranom korpusu koji se automatski ponovo gradi iz sadržaja sajta pri svakom deployment-u. Telegram demo je izgrađen na grammY-ju, MongoDB-u i Telegram Bot API-ju.