Natrag na AI agenti vodič

Oriphiel AI agenti vodič

Context compaction i prompt caching

Kako smanjiti ponavljanje tokena kroz stabilne prefikse, sažimanje, selektivnu povijest i caching bez gubitka ključnih odluka.

Oriphiel stručni tim Ažurirano 22. 7. 2026. 3 min čitanja

Odgovor ukratko

Compaction mora sačuvati činjenice, otvorene obveze, odluke i reference na izvore; cache najbolje radi kada je veliki stabilni dio prompta dosljedan.

Ključne odluke

  • Što se može sažeti
  • Koji dio prompta je stabilan
  • Kada se cache invalidira
  • Koje činjenice moraju ostati verbatim

Provedba korak po korak

Cilj ove lekcije je Kako smanjiti ponavljanje tokena kroz stabilne prefikse, sažimanje, selektivnu povijest i caching bez gubitka ključnih odluka. Korake treba provoditi redom i svaki potvrditi prije širenja opsega.

Preporučeni redoslijed

  • Mjeriti tokene po koraku
  • Razdvojiti stabilne upute od dinamičkog konteksta
  • Sažeti staru povijest u strukturirano stanje
  • Testirati kvalitetu prije i poslije compactiona

Praktičan primjer

Duga povijest se pretvara u JSON sa sažetkom odluka, otvorenih pitanja i source ID-eva, dok system pravila ostaju stabilan prefiks prikladan za caching.

Kontrolna lista prije nastavka

Ova provjera odvaja završenu implementaciju od postavke koja samo izgleda dovršeno.

Provjerite

  • Sažetak ima source reference
  • Nova policy verzija invalidira cache
  • Otvoreni zadaci ostaju u kontekstu
  • Trošak se mjeri po korisnom ishodu

Najčešće pogreške i rizici

Rizike treba provjeriti prije povećanja prometa, automatizacije ili ovlasti sustava.

Na što treba paziti

  • Model sažima vlastitu pogrešku kao činjenicu
  • Cache vraća zastarjelu uputu
  • Compaction ukloni opt-out signal
  • Optimizacija troška nema eval provjeru

Mjerenje rezultata

Učinak se procjenjuje kroz mali skup metrika koje su povezane s ciljem lekcije i stvarnim poslovnim ishodom.

Metrike koje imaju smisla

  • Cached token ratio
  • Tokeni po završenom zadatku
  • Compaction regressions
  • Latencija

Česta pitanja

Koji je prvi korak za temu „Context compaction i prompt caching”?

Mjeriti tokene po koraku Prije nastavka potvrdite odluku: Što se može sažeti

Kako provjeriti da je provedba uspješna?

Sažetak ima source reference Nakon toga pratite metriku: Cached token ratio.

Koju pogrešku treba prvo spriječiti?

Model sažima vlastitu pogrešku kao činjenicu Problem ispravite prije automatizacije ili povećanja budžeta.

Službeni i stručni izvori

Sučelja, pravila i preporuke mogu se mijenjati. Prije produkcijske izmjene provjerite aktualnu dokumentaciju.

Povezane AI-agent lekcije

Context engineering za AI agenteKako sastaviti upute, stanje, povijest, dohvaćene izvore i rezultate alata u minimalan kontekst koji vodi pouzdanoj odluci. Cijena, latencija i token budget AI agenataKako kontrolirati trošak modela, broj tokena, trajanje runa, caching, batching i izbor jeftinijeg ili lokalnog modela. Evaluacija agentic workflowaKako mjeriti kvalitetu AI agenata: zlatni skup primjera, rubni slučajevi, tool accuracy, trajectory eval i ljudska ocjena. Arhitektura AI agenta u OpenClaw-uReferentna arhitektura za OpenClaw AI agente: ulaz, context builder, model, tool dispatcher, validacija, zapis stanja i audit log.

Povežite ovu temu s ostatkom sustava

OpenClaw automatizacijePrimijenite agente na jasan CRM proces s vlasnikom i mjerljivim ishodom. CRM dozvole i sigurnostUskladite tools, uloge i podatkovni opseg s backend kontrolama. Strukturirani podaciPripremite strojno čitljive izlaze i sadržaj koji se može pouzdano validirati.

Primijenite lekciju na stvarni projekt

Pošaljite postojeću konfiguraciju, cilj i problem koji želite riješiti. Dobit ćete prijedlog sljedećeg tehničkog ili operativnog koraka.

Pošaljite upitPregledajte sve vodiče