- Početna
- Vodiči
- AI agenti vodič
- RAG, vector search i embeddings
Oriphiel AI agenti vodič
RAG, vector search i embeddings
Kako agent dohvaća relevantne dokumente, FAQ, ponude i CRM bilješke kroz chunking, embeddings i semantičku pretragu.
Odgovor ukratko
RAG omogućuje da agent ne odgovara samo iz modelskog znanja, nego iz relevantnih internih dokumenata. Dokument se dijeli na chunkove, svaki chunk se pretvara u embedding vektor, upit se pretvara u vektor, a sustav dohvaća semantički najbliže isječke. Agent zatim odgovara uz kontekst koji je dohvaćen iz baze.
Ključne odluke
- RAG je dohvat konteksta, ne garancija točnog odgovora.
- Chunkovi moraju biti dovoljno mali za precizan dohvat i dovoljno veliki za smisao.
- Embeddings model i vector baza trebaju biti verzionirani.
- Agent treba vratiti koji izvori su korišteni kada je odluka važna.
Provedba korak po korak
Cilj ove lekcije je povezati agente s dokumentima bez punjenja prompta svime. Korake treba provoditi redom i svaki potvrditi prije širenja opsega.
Preporučeni redoslijed
- Pripremiti dokumente: FAQ, ponude, procedure, cjenike i pravila obrade leadova.
- Očistiti HTML, PDF ili DOCX tekst prije chunkinga.
- Spremiti chunk text, metadata, source URL, version i embedding.
- Kod upita dohvatiti top relevantne chunkove i filtrirati po dozvoli.
- Mjeriti jesu li dohvaćeni izvori stvarno pomogli odgovoru.
Praktičan primjer
Praktičan primjer za developere i content administratore: tim prvo provodi korak „Pripremiti dokumente: FAQ, ponude, procedure, cjenike i pravila obrade leadova.”, zatim provjerava „Potvrđena je ključna odluka: RAG je dohvat konteksta, ne garancija točnog odgovora.”. Odluka o nastavku ne donosi se prema dojmu, nego prema pokazatelju „Hit rate relevantnih chunkova.”.
Kontrolna lista prije nastavka
Ova provjera odvaja završenu implementaciju od postavke koja samo izgleda dovršeno.
Provjerite
- Potvrđena je ključna odluka: RAG je dohvat konteksta, ne garancija točnog odgovora.
- Testiran je prvi korak provedbe: Pripremiti dokumente: FAQ, ponude, procedure, cjenike i pravila obrade leadova.
- Dogovoreno je početno mjerenje: Hit rate relevantnih chunkova.
Najčešće pogreške i rizici
Rizike treba provjeriti prije povećanja prometa, automatizacije ili ovlasti sustava.
Na što treba paziti
- U vector bazu se ubace stari dokumenti bez verzije.
- Agent citira dokument koji korisnik ne smije vidjeti.
- Chunkovi su preveliki pa retrieval vraća šum.
- Nema fallbacka kada nema dovoljno relevantnog konteksta.
Mjerenje rezultata
Učinak se procjenjuje kroz mali skup metrika koje su povezane s ciljem lekcije i stvarnim poslovnim ishodom.
Metrike koje imaju smisla
- Hit rate relevantnih chunkova.
- Odgovori bez dovoljno konteksta.
- Broj dokumenata po verziji.
- Latencija retrievala.
- Korekcije zbog zastarjelog izvora.
Česta pitanja
Koji je prvi korak za temu „RAG, vector search i embeddings”?
Pripremiti dokumente: FAQ, ponude, procedure, cjenike i pravila obrade leadova. Prije nastavka potvrdite odluku: RAG je dohvat konteksta, ne garancija točnog odgovora.
Kako provjeriti da je provedba uspješna?
Potvrđena je ključna odluka: RAG je dohvat konteksta, ne garancija točnog odgovora. Nakon toga pratite metriku: Hit rate relevantnih chunkova..
Koju pogrešku treba prvo spriječiti?
U vector bazu se ubace stari dokumenti bez verzije. Problem ispravite prije automatizacije ili povećanja budžeta.
Službeni i stručni izvori
Sučelja, pravila i preporuke mogu se mijenjati. Prije produkcijske izmjene provjerite aktualnu dokumentaciju.
Primijenite lekciju na stvarni projekt
Pošaljite postojeću konfiguraciju, cilj i problem koji želite riješiti. Dobit ćete prijedlog sljedećeg tehničkog ili operativnog koraka.