Natrag na AI agenti vodič

Oriphiel AI agenti vodič

MCP sigurnost i tool poisoning

Kako provjeriti MCP server, opis alata, rezultat, autentikaciju i promjene capabilityja prije nego agentu dopustite izvršavanje.

Oriphiel stručni tim Ažurirano 22. 7. 2026. 3 min čitanja

Odgovor ukratko

Tool metadata i rezultat su nepouzdani ulazi; server ne smije kroz opis ili podatke navesti model da otkrije tajnu ili pozove drugi rizičan alat.

Ključne odluke

  • Tko odobrava server
  • Kako se pinna verzija
  • Koji alat traži ljudsku potvrdu
  • Kako se detektira promjena opisa

Provedba korak po korak

Cilj ove lekcije je Kako provjeriti MCP server, opis alata, rezultat, autentikaciju i promjene capabilityja prije nego agentu dopustite izvršavanje. Korake treba provoditi redom i svaki potvrditi prije širenja opsega.

Preporučeni redoslijed

  • Voditi allowlist servera
  • Pregledati tool sheme i scope
  • Izolirati credential po serveru
  • Skenirati promjene i primijeniti approval na write radnje

Praktičan primjer

Novi MCP server prvo radi u izoliranom testu, njegove sheme se spremaju i uspoređuju, a alati za slanje ili brisanje ostaju blokirani bez ljudskog odobrenja.

Kontrolna lista prije nastavka

Ova provjera odvaja završenu implementaciju od postavke koja samo izgleda dovršeno.

Provjerite

  • Server nema pristup tuđim tajnama
  • Model ne vidi OAuth refresh token
  • Neočekivani capability blokira se po defaultu
  • Rezultat se tretira kao podatak, ne instrukcija

Najčešće pogreške i rizici

Rizike treba provjeriti prije povećanja prometa, automatizacije ili ovlasti sustava.

Na što treba paziti

  • Automatska instalacija nepoznatog servera
  • Tool opis mijenja se nakon odobrenja
  • Jedan token pristupa svim servisima
  • Write alat nema preview

Mjerenje rezultata

Učinak se procjenjuje kroz mali skup metrika koje su povezane s ciljem lekcije i stvarnim poslovnim ishodom.

Metrike koje imaju smisla

  • Odbijeni MCP pozivi
  • Promjene capabilityja
  • Approval rate
  • Security findings po serveru

Česta pitanja

Koji je prvi korak za temu „MCP sigurnost i tool poisoning”?

Voditi allowlist servera Prije nastavka potvrdite odluku: Tko odobrava server

Kako provjeriti da je provedba uspješna?

Server nema pristup tuđim tajnama Nakon toga pratite metriku: Odbijeni MCP pozivi.

Koju pogrešku treba prvo spriječiti?

Automatska instalacija nepoznatog servera Problem ispravite prije automatizacije ili povećanja budžeta.

Službeni i stručni izvori

Sučelja, pravila i preporuke mogu se mijenjati. Prije produkcijske izmjene provjerite aktualnu dokumentaciju.

Povezane AI-agent lekcije

MCP arhitektura: serveri, klijenti i toolsKako Model Context Protocol standardizira povezivanje AI aplikacija s alatima, resursima i promptovima bez miješanja poslovnih dozvola. Prompt injection i nepouzdani sadržajKako spriječiti da email, web stranica, PDF, tool output ili retrieval dokument preuzme kontrolu nad uputama i alatima agenta. Secrets management i credential brokerKako agent dobiva kratkotrajnu, usko ograničenu ovlast za alat bez ikakvog pristupa stvarnom API ključu ili korisničkoj lozinci. Permissions, sandbox i human-in-the-loopKako ograničiti AI agenta kroz dozvole, sandbox, approval korake, read/write scope i sigurnosne prekidače.

Povežite ovu temu s ostatkom sustava

OpenClaw automatizacijePrimijenite agente na jasan CRM proces s vlasnikom i mjerljivim ishodom. CRM dozvole i sigurnostUskladite tools, uloge i podatkovni opseg s backend kontrolama. Strukturirani podaciPripremite strojno čitljive izlaze i sadržaj koji se može pouzdano validirati.

Primijenite lekciju na stvarni projekt

Pošaljite postojeću konfiguraciju, cilj i problem koji želite riješiti. Dobit ćete prijedlog sljedećeg tehničkog ili operativnog koraka.

Pošaljite upitPregledajte sve vodiče