Human gate

Human gate, bir güven sınırını aşan bir mesajın, metni alıcı agent'ın bağlamına hiç ulaşmadan önce bir kişinin incelemesi için alıkonduğu bir kontrol noktasıdır. Buradaki temel tasarım kararı, kapının neyi alıkoyduğudur: izin değil, gövdenin kendisi. Alıkonan bir mesaj, bir insan onu serbest bırakana kadar yalnızca yapısal metadata gösterir — kernel-doğrulamalı gönderen uid'i, mesaj uzunluğu, bir thread id, bir zaman damgası — ve asla metnini göstermez. Koruma, gövdeyi alıkoymaktır; teslim edilmiş metnin üzerine konan bir uyarı etiketi koruma değildir, çünkü düşman niyetli metni zaten okumuş olan bir dil modeli, ona zaten maruz kalmıştır. "Şüpheli olarak işaretle ve yine de teslim et" yaklaşımının bir savunma olarak başarısız olmasının nedeni budur: işaret, okumayı geri almaz. agentixmesh'te human gate, bir güven sınırını aşan her trafik için (örneğin OS kullanıcıları arasında) varsayılandır ve bu varsayılan bilinçli olarak otomatik teslimata düşürülemez — kolaylık, tam olarak güven sınırlarını aşındıran baskıdır. Gönderenin tanımı gereği kendiniz olduğu tek bir kullanıcının kendi oturumları içinde, mesajlar gate olmadan akar; gate'in sınırı, güvenin sınırıyla eşleşir.

Gate, sınırda prompt injection'a karşı koruma sağlar; tam model güven modeli & dürüst sınırlar altında açıklanır.