- Početna
- Vodiči
- AI agenti vodič
- Kontekst, tokeni i ograničenja AI agenta
Oriphiel AI agenti vodič
Kontekst, tokeni i ograničenja AI agenta
Zašto agent ne smije dobiti sve podatke odjednom i kako se upravlja kontekstom, tokenima, sažimanjem i relevantnim dokumentima.
Odgovor ukratko
Agent radi samo s podacima koji su mu u trenutnom kontekstu ili koje može dohvatiti alatima. Kontekstni prozor ima limit, tokeni koštaju i previše šuma smanjuje kvalitetu odluke. Zato OpenClaw agent treba dobiti sažet CRM zapis, relevantne aktivnosti, dopuštene alate i eventualno RAG isječke, a ne cijelu bazu.
Ključne odluke
- Kontekst treba biti selektivan i reproducibilan.
- Dugi tekstovi se režu, sažimaju ili dohvaćaju kroz retrieval, ne ubacuju naslijepo.
- Sustav treba znati koliko tokena troši svaki tip zadatka.
- Sažetak memorije ne smije zamijeniti izvorne audit podatke.
Provedba korak po korak
Cilj ove lekcije je kontrolirati trošak i kvalitetu modelskog konteksta. Korake treba provoditi redom i svaki potvrditi prije širenja opsega.
Preporučeni redoslijed
- Definirati context builder za svaki agentov zadatak.
- Ograničiti broj zadnjih aktivnosti ili poruka koje ulaze u prompt.
- Za dokumente koristiti chunking, embeddings i dohvat relevantnih dijelova.
- Spremati token usage i latenciju po agent runu.
Praktičan primjer
Praktičan primjer za developere i administratore AI sustava: tim prvo provodi korak „Definirati context builder za svaki agentov zadatak.”, zatim provjerava „Potvrđena je ključna odluka: Kontekst treba biti selektivan i reproducibilan.”. Odluka o nastavku ne donosi se prema dojmu, nego prema pokazatelju „Prosječni ulazni i izlazni tokeni.”.
Kontrolna lista prije nastavka
Ova provjera odvaja završenu implementaciju od postavke koja samo izgleda dovršeno.
Provjerite
- Potvrđena je ključna odluka: Kontekst treba biti selektivan i reproducibilan.
- Testiran je prvi korak provedbe: Definirati context builder za svaki agentov zadatak.
- Dogovoreno je početno mjerenje: Prosječni ulazni i izlazni tokeni.
Najčešće pogreške i rizici
Rizike treba provjeriti prije povećanja prometa, automatizacije ili ovlasti sustava.
Na što treba paziti
- Agent dobije previše nerelevantnog teksta pa propusti važan signal.
- Sažeci se generiraju bez veze prema izvornom dokumentu.
- Trošak raste jer se cijeli CRM zapis šalje pri svakom koraku.
- Kontekst sadrži podatke za koje agent nema poslovnu potrebu.
Mjerenje rezultata
Učinak se procjenjuje kroz mali skup metrika koje su povezane s ciljem lekcije i stvarnim poslovnim ishodom.
Metrike koje imaju smisla
- Prosječni ulazni i izlazni tokeni.
- Broj dohvaćenih RAG isječaka.
- Latencija po context builderu.
- Greške zbog predugog konteksta.
- Kvaliteta odgovora nakon sažimanja.
Česta pitanja
Koji je prvi korak za temu „Kontekst, tokeni i ograničenja AI agenta”?
Definirati context builder za svaki agentov zadatak. Prije nastavka potvrdite odluku: Kontekst treba biti selektivan i reproducibilan.
Kako provjeriti da je provedba uspješna?
Potvrđena je ključna odluka: Kontekst treba biti selektivan i reproducibilan. Nakon toga pratite metriku: Prosječni ulazni i izlazni tokeni..
Koju pogrešku treba prvo spriječiti?
Agent dobije previše nerelevantnog teksta pa propusti važan signal. Problem ispravite prije automatizacije ili povećanja budžeta.
Službeni i stručni izvori
Sučelja, pravila i preporuke mogu se mijenjati. Prije produkcijske izmjene provjerite aktualnu dokumentaciju.
Primijenite lekciju na stvarni projekt
Pošaljite postojeću konfiguraciju, cilj i problem koji želite riješiti. Dobit ćete prijedlog sljedećeg tehničkog ili operativnog koraka.