Mandat, policy och verkställighetskontroller för agenter måste ligga utanför modellen.
Modellen får föreslå och resonera, medan deterministiska lager avgör vad som får göras och registrerar vad som skedde.
Evidens för
Extern policykontroll, minsta privilegium och separerad verkställighet begränsar konsekvensen av felaktiga modellutdata.
RFC 9700: Best Current Practice for OAuth 2.0 Security · rfc-editor.org ↗MCP Tools specification · modelcontextprotocol.io ↗Defeating Prompt Injections by Design, CaMeL · arxiv.org ↗Extern policykontroll, minsta privilegium och separerad verkställighet begränsar konsekvensen av felaktiga modellutdata.
RFC 9700: Best Current Practice for OAuth 2.0 Security · rfc-editor.org ↗MCP Tools specification · modelcontextprotocol.io ↗Defeating Prompt Injections by Design, CaMeL · arxiv.org ↗Extern policykontroll, minsta privilegium och separerad verkställighet begränsar konsekvensen av felaktiga modellutdata.
RFC 9700: Best Current Practice for OAuth 2.0 Security · rfc-editor.org ↗MCP Tools specification · modelcontextprotocol.io ↗Defeating Prompt Injections by Design, CaMeL · arxiv.org ↗Evidens emot
För strikt extern kontroll kan skapa komplexitet och göra nyttiga arbetsflöden långsamma eller sköra.
RFC 9700: Best Current Practice for OAuth 2.0 Security · rfc-editor.org ↗MCP Tools specification · modelcontextprotocol.io ↗Defeating Prompt Injections by Design, CaMeL · arxiv.org ↗För strikt extern kontroll kan skapa komplexitet och göra nyttiga arbetsflöden långsamma eller sköra.
RFC 9700: Best Current Practice for OAuth 2.0 Security · rfc-editor.org ↗MCP Tools specification · modelcontextprotocol.io ↗Defeating Prompt Injections by Design, CaMeL · arxiv.org ↗Så kan påståendet falla
Påståendet försvagas om modellintern styrning ensam klarar adversariala tester med samma förutsägbarhet, spårbarhet och skadebegränsning som en extern kontrollpunkt.
Ett publicerat påstående är användbart bara så länge det fortfarande går att motbevisa.