Kako AI asistent odgovara samo iz vaše baze znanja: RAG jednostavno objašnjen

Skoro svaki vlasnik firme o AI asistentu prvo pita isto: hoće li mojim klijentima reći nešto što ja nikad nisam rekao? To je pravo pitanje. Asistent koji izmisli cenu, pravilo ili radno vreme napravi više štete nego da asistenta uopšte nema.

Metod koji drži asistenta unutar vaših informacija obično se zove RAG, skraćeno od engleskog „retrieval-augmented generation“, odnosno odgovaranje uz pronalaženje izvora. Naziv zvuči tehnički, ali ideja je jednostavna, i ne morate biti tehnička osoba da procenite da li ga neki sistem dobro primenjuje. U ovom tekstu objašnjavamo kako radi, šta treba da se desi kada asistent ne zna odgovor i kako da pripremite informacije iz kojih odgovara.

Šta znači „odgovara samo iz baze znanja“

Jezički model sam po sebi odgovara iz onoga što je video tokom treniranja. Zna mnogo o svetu, a ništa pouzdano o vašoj firmi. Pitajte ga da li radite subotom i opet ćete dobiti samouverenu rečenicu, jer pravljenje rečenica je ono čime se bavi.

RAG menja njegov posao. Pre nego što model napiše ijednu reč, sistem pretraži vaše dokumente, pronađe nekoliko delova koji odgovaraju pitanju i preda modelu samo njih. Uputstvo je jasno: odgovori iz ovog materijala, a ako materijal ne pokriva pitanje, reci to. Model prestaje da se priseća i počinje da čita.

Baza znanja je jednostavno skup dokumenata koje sistem sme da čita. Vaš sajt, cenovnik, opisi usluga, pravila i beleške koje zaposleni drže pored telefona.

Kako radi, korak po korak

1. Stiže pitanje. Klijent piše: „Da li radite izbeljivanje zuba i koliko tretmana je potrebno?“
2. Sistem pretražuje vaše dokumente. Traži delove koji znače isto što i pitanje, ne samo one sa istim rečima. Pitanje o izbeljivanju može da se poklopi sa stranicom „Estetska stomatologija“.
3. Bira se nekoliko najboljih delova. Obično samo šačica, da model ne bi lutao po ostatku vaših fajlova.
4. Model piše odgovor iz tih delova. Ako u njima nema odgovora, rečeno mu je da to prizna umesto da popunjava prazninu.
5. Odgovor se proverava pre slanja. U dobro napravljenom sistemu pravila zapisana u kodu pregledaju odgovor pre nego što ga klijent vidi.

Neke podatke ne treba ni pretraživati. Radno vreme, praznici i usluge koje ne nudite retko se menjaju, a veoma su važni. Dobri sistemi ih drže kao stalna podešavanja koja idu uz svaki odgovor. Pretraga može da promaši deo teksta. Podešavanje ne može.

Šta se dešava kada ne zna

Ovo je deo koji odvaja koristan asistent od rizičnog. Svaka baza znanja ima rupe. Pravo pitanje je šta asistent radi kada stigne do granice onoga što zna.

Pogrešno ponašanje je nagađanje koje zvuči sigurno. Ispravno ponašanje ima tri dela: jasno reći da informacija nije dostupna, ponuditi čoveka i ne ostaviti klijenta da visi. U razgovoru to izgleda ovako:

Klijent: Mogu li da dođem na termin sa psom?

Asistent: Nemam informaciju o kućnim ljubimcima, pa ne bih da nagađam. Mogu da prosledim vaše pitanje timu, a oni će vam odgovoriti ovde. Da li vam to odgovara?

Klijent: Može, hvala.

Asistent: Prosleđeno, tim ima vaše pitanje. Mogu li u međuvremenu da vam pomognem oko nečeg drugog?

Primetite da se svaki odgovor završava nečim na šta klijent može da odgovori. U našim testovima 38% odgovora napisanih bez pomoći nije pozivalo klijenta da odgovori. Klijent koji nema šta da napiše jednostavno ode.

Pitanje na koje asistent nije znao odgovor korisno je i vama. Ako se ista rupa pojavi tri puta u nedelji, mesto joj je u bazi znanja. Popunite je jednom i svaki sledeći klijent dobija odgovor.

Zašto samo uputstvo nije dovoljno

Kada modelu kažete da odgovara samo iz datog materijala, to uglavnom radi. Ali „uglavnom“ nije dovoljno za nešto što noću razgovara sa vašim klijentima dok niko ne gleda.

Zato pažljivo napravljeni sistemi dodaju provere zapisane u kodu, koje se svaki put ponašaju isto. Evo nekoliko primera šta takve provere mogu da uhvate:

• Odgovor koji pominje cenu, a cene nema u vašim dokumentima.
• Medicinski, pravni ili finansijski savet koji vaša firma nikad nije zapisala.
• Obećanje popusta, povraćaja novca ili termina koje niko nije odobrio.
• Odgovor koji završava razgovor i klijentu ne ostavlja ništa na šta bi odgovorio.

Ako provera ne prođe, odgovor se ispravlja ili razgovor ide čoveku. Klijent nikad ne vidi lošu verziju.

Kako da pripremite bazu znanja: spisak za proveru

Za početak vam ne treba savršen dokument. Treba vam da prave stvari budu zapisane jednostavnim jezikom. Prođite kroz ovaj spisak sa osobom koja se najčešće javlja na telefon.

• Usluge koje nudite, uz opis od jedne rečenice za svaku. Izričito navedite i one koje ne nudite.
• Cene, ali samo ako želite da ih asistent navodi. Ako cena zavisi od pregleda ili ponude, napišite baš tu rečenicu.
• Radno vreme, praznici i adresa, uz parking i opis kako se pronalazi ulaz.
• Deset pitanja na koja odgovarate svaki dan, sa odgovorom koji zaista dajete, vašim rečima.
• Šta klijent treba da donese ili pripremi pre termina ili isporuke.
• Pravila: otkazivanje, kašnjenje, načini plaćanja, povraćaj.
• Šta uvek ide čoveku: žalbe, zahtevi za povraćaj novca, sva medicinska ili pravna pitanja, sve što se tiče podataka određenog klijenta.

Zatim izbacite ono što je zastarelo. Stari cenovnik zaboravljen u folderu najčešći je razlog zašto asistent daje pogrešan odgovor iz „svojih“ informacija. Sistem ne može da zna koji je od dva dokumenta aktuelan ako mu to ne kažete.

Lične podatke držite po strani. Imena klijenata, brojevi telefona i zdravstveni podaci ne pripadaju bazi znanja koju asistent čita da bi odgovarao nepoznatim ljudima.

Gde ide koja informacija

Kako da ostane tačna posle pokretanja

Neka baza znanja ima jednog vlasnika. Jednom nedeljno ta osoba odvoji petnaestak minuta za dve stvari: pitanja na koja asistent nije znao odgovor i sve što se u firmi promenilo. Nova usluga, nova cena, novi datumi praznika. Baza znanja koja se ovako održava postaje bolja svakog meseca, i za to ne treba inženjer.

Ako upoređujete ponuđače, postavite im četiri pitanja. Odakle asistent uzima odgovore? Šta radi kada odgovora nema u mojim dokumentima? Šta se proverava pre nego što odgovor ode? Da li se moji dokumenti čuvaju odvojeno od dokumenata drugih klijenata? Jasan odgovor na svako od njih govori više od bilo koje demonstracije.

Naš AI recepcioner radi upravo ovako. Odgovara samo iz vaših podataka, predaje timu kada je potreban čovek, a bazu znanja pravimo sa vašeg sajta i iz vaših beleški tokom postavljanja. O logici iza provera pročitajte tekst automatizacija po pravilima ili AI.