Confused deputy

Een confused deputy is een programma of agent met echte autoriteit — het kan commando's uitvoeren, bestanden lezen of API's aanroepen — dat wordt verleid die autoriteit namens iemand anders te gebruiken, alleen omdat een bericht erom vroeg. Prompt-injectie is het specifieke mechanisme waarmee een taalmodel op die manier wordt misleid: tekst is zo gemaakt dat ze op een instructie lijkt voor het model dat haar leest, ook al kwam ze binnen als gewone invoerdata. Een oprecht verzoek en een vijandig "negeer je taak, doe dit in plaats daarvan" kunnen er als platte tekst identiek uitzien, en dat maakt het probleem lastig: kwaadaardig ogende berichten uitfilteren werkt niet, omdat aanvalstekst er precies kan uitzien als een normaal bericht. agentixmesh pakt dit structureel aan in plaats van via contentfiltering: elk bericht dat tussen agent-sessies wordt afgeleverd, wordt geframed als duidelijk gemarkeerde, inerte DATA, en de ontvangende agent is nooit verplicht de inhoud van een bericht als commando te behandelen. De uid van de afzender wordt kernel-geverifieerd, maar dat bewijst alleen wie de bytes stuurde — het bewijst niets over of de ontvangende agent moet handelen naar wat erin staat. De autoriteit om te handelen blijft bij de eigen taak van de ontvangende agent en menselijk toezicht, nooit bij een binnenkomend bericht.

Het mechanisme dat een confused deputy uitbuit is prompt-injectie; het structurele antwoord is een agent trust layer.