RAG asistent za bazu znanja sa prebacivanjem razgovora na čoveka

Kontekst

NekaSoft je želeo da pokaže mogućnosti RAG-a ne kroz opis tehnologije, već kroz interaktivan proizvod koji zaista radi: živog asistenta koga potencijalni klijent može da isproba direktno na sajtu.

Posetilac može da postavi pitanja o NekaSoftu, dobije odgovore iz stvarne baze znanja, vidi korišćene izvore, doda sopstvene test podatke i odmah proveri kako isti RAG proces radi sa njegovim informacijama.

Proizvod tako igra tri uloge odjednom: pokazuje stručnost NekaSofta u RAG-u, služi kao stvarni AI interfejs ka znanju kompanije i radi kao interaktivna tačka kontakta sa potencijalnim klijentima. To je demo koji radi u produkciji: tehnologiju proveravate sami, umesto da o njoj čitate.

Za šta smo bili odgovorni

NekaSoft je izgradio proizvod u celini i nastavlja da ga razvija.

Rešenje

Asistent radi sa posebnom indeksiranom bazom znanja; sopstvena baza NekaSofta obuhvata tipove projekata i tipične situacije, projekte iz portfolija, proces rada, FAQ i podatke o kompaniji. Za svako pitanje sistem pronalazi relevantne fragmente, prosleđuje ih modelu i vraća utemeljen odgovor.

• Semantička pretraga po indeksiranoj bazi znanja
• Odgovori zasnovani na pronađenom kontekstu, sa prikazom izvora
• Iskreno „ne znam“ kada odgovora nema: ako u bazi nema ničeg relevantnog, asistent to i kaže umesto da nagađa
• Test na svojim podacima: vaš tekst prolazi kroz isti proces, izolovano unutar vaše sesije
• Privremeni podaci ne ulaze u stalnu bazu i brišu se nakon sat vremena
• Prebacivanje na čoveka: razgovor ide u Telegram tima, a odgovor se vraća u isti veb čet
• Baza znanja se automatski ponovo gradi iz sadržaja sajta pri svakom deployment-u
• Dva radna interfejsa: veb asistent na ovom sajtu i Telegram demo @NekaSoftBot

Sistem je projektovan da odgovara na osnovu pronađenog konteksta i da ne daje odgovor kada konteksta nema dovoljno. Ista arhitektura se povezuje sa sajtovima, internim bazama znanja, dokumentima, CRM sistemima, bazama podataka i API-jima i može da radi u različitim klijentskim kanalima.

Snimci ekrana

Rezultat

NekaSoft je dobio RAG demo koji radi u produkciji i koji potencijalni klijent može lično da proveri.

• Postavite pitanje asistentu i dobijte odgovor iz stvarne baze znanja
• Vidite izvore na kojima je svaki odgovor zasnovan
• Proverite ponašanje kada odgovora u bazi nema
• Dodajte sopstveni test sadržaj i proverite pretragu na njemu
• Prebacite razgovor na tim bez napuštanja četa
• Ista arhitektura je primenljiva za asistente prodaje, podrške, onboardinga, internih znanja i procedura

Status proizvoda

Asistent radi na ovom sajtu: čet u donjem desnom uglu i stranica AI demo-a, gde je baza znanja otvorena za proveru.

@NekaSoftBot ostaje samostalan Telegram demo iste RAG koncepcije. NekaSoft nastavlja da razvija proizvod.

Tehnologije

Veb asistent radi na Next.js-u i Node.js-u, OpenAI API se koristi za embedding-e i generisanje odgovora; semantička pretraga ide po indeksiranom korpusu koji se automatski ponovo gradi iz sadržaja sajta pri svakom deployment-u. Telegram demo je izgrađen na grammY-ju, MongoDB-u i Telegram Bot API-ju.