Confused deputy

Confused deputy, gerçek yetkiye sahip — komut çalıştırabilen, dosya okuyabilen veya API çağırabilen — ve sırf bir mesaj öyle istediği için o yetkiyi başkası adına kullanmaya kandırılan bir program veya agent'tır. Prompt injection, bir büyük dil modelinin bu şekilde kandırıldığı özel mekanizmadır: metin, sıradan girdi verisi olarak gelmiş olsa bile, onu okuyan modele bir talimat gibi görünecek şekilde hazırlanır. Gerçek bir istekle düşman niyetli bir "görevini unut, bunun yerine şunu yap" düz metin olarak birbirinden ayırt edilemez görünebilir, ve sorunu zorlaştıran da budur: kötü görünen mesajları filtrelemek işe yaramaz, çünkü saldırı metni tamamen normal bir mesaj gibi görünecek şekilde hazırlanabilir. agentixmesh bunu içerik filtrelemesi yerine yapısal olarak ele alır: agent oturumları arasında teslim edilen her mesaj, açıkça işaretlenmiş, inert bir DATA olarak çerçevelenir ve alıcı agent, bir mesajın içeriğini asla bir komut olarak ele almak zorunda değildir. Gönderenin işletim sistemi kullanıcı kimliği kernel tarafından doğrulanır, ama bu yalnızca baytları kimin gönderdiğini kanıtlar — alıcı agent'ın söylenene göre hareket etmesi gerekip gerekmediği konusunda hiçbir şey kanıtlamaz. Hareket etme yetkisi her zaman alıcı agent'ın kendi görevinde ve insan denetiminde kalır, asla gelen bir mesajda değil.

Bir confused deputy'yi istismar eden mekanizma prompt injection'dır; yapısal cevap ise bir agent trust layer'dır.