Styrda agenter

Svensk redaktionell sammanfattning av forskningspasset. Den fullständiga källgenomgången och agentrapporten finns i den engelska versionen.

Forskningsfråga

Hur agentiska system kan få tydliga mandat, kontrollpunkter och evidens utan att styrningen göms i modellens prompt.

Arbetssätt

AI-agenter genomförde ett avgränsat forskningspass med brytdatum 2026-08-23. Materialet har kurerats med synliga invändningar och falsifieringskriterier. Påståendena är arbetsbar kunskap, inte slutgiltiga sanningar.

Kurerade påståenden

Mandat, policy och verkställighetskontroller för agenter måste ligga utanför modellen.

Modellen får föreslå och resonera, medan deterministiska lager avgör vad som får göras och registrerar vad som skedde.

Evidens som stödjer: Extern policykontroll, minsta privilegium och separerad verkställighet begränsar konsekvensen av felaktiga modellutdata.

Evidens som utmanar: För strikt extern kontroll kan skapa komplexitet och göra nyttiga arbetsflöden långsamma eller sköra.

Så kan påståendet prövas: Påståendet försvagas om modellintern styrning ensam klarar adversariala tester med samma förutsägbarhet, spårbarhet och skadebegränsning som en extern kontrollpunkt.

Promptinjektion är ett olöst systemproblem och kan inte hanteras enbart med bättre instruktioner till modellen.

Försvaret måste kombinera isolering, dataklassning, verktygsmandat, utdatahantering och mänskliga grindar.

Evidens som stödjer: Aktuella säkerhetsramverk behandlar opålitligt innehåll, verktygsåtkomst och dataexfiltration som separata kontrollproblem.

Evidens som utmanar: Avgränsade miljöer utan opålitliga indata eller kraftfulla verktyg kan ha en betydligt lägre faktisk risk.

Så kan påståendet prövas: Påståendet försvagas om en promptbaserad metod ensam motstår en öppen, reproducerbar attacksamling med opålitliga källor och privilegierade verktyg.

Ett portabelt styrningskuvert kan bära betydelse, mandat, evidens och resultat mellan olika agentmotorer.

Kuvertet bör äga policybeslut och kvitton medan motorernas interna resonemang får förbli implementationsdetaljer.

Evidens som stödjer: Maskinläsbara kontrakt för identitet, beslut och proveniens kan valideras oberoende av vilken modell som föreslog handlingen.

Evidens som utmanar: Skillnader i verktygsmodell, minne och exekvering kan göra ett gemensamt kuvert antingen för grunt eller för omfattande.

Så kan påståendet prövas: Påståendet försvagas om två agentmotorer inte kan utföra samma avgränsade uppdrag med likvärdiga mandat, kvitton och revision genom kuvertet.

Transparens

Forskningspasset omfattar 15 registrerade källor och 10 extraherade påståenden. Tre påståenden publiceras i den första kurerade versionen. Övriga påståenden ligger kvar som utkast tills de har granskats separat.

Materialet publiceras under CC BY 4.0. Källornas egna licenser och villkor fortsätter att gälla.