Asistan iş araçlarına bağlandığında öneri ve eylem ayrımı daha önemlidir. Sohbette mesaj yazmak onu müşteriye göndermek değildir; proje durumunu okumak değiştirmek değildir.
Sara Agent için her bağlantı belirli yetenek ve açık sorumluluk olmalı, uygulamanın tamamına genel erişim olmamalıdır.
Gereken işle başlayın
Önce eylemi tanımlayın: Rapor okumak, taslak oluşturmak veya onaylı talep kaydetmek. Sonra uygun araç ve izne bağlayın. Fazla yetkili genel bağlantı varsayılan olmamalıdır.
OWASP, Excessive Agency başlığında gereksiz yetenek, izin ve özerkliği dil modeli sistemleri için risk sayar. Bağlantı kalitesi yalnızca desteklenen eylem sayısıyla ölçülmemelidir. 1
Onay belirli eyleme ilişkin olmalıdır
Mesaj örneğinde kullanıcı alıcıyı ve gönderilecek metni bilmelidir. Taslak izni otomatik gönderme izni değildir. Onaydan sonraki önemli değişiklik yeniden inceleme gerektirebilir.
Bu önerilen tasarım modelidir. Belirli hizmette bulunması aktif bağlantıya, erişim politikasına ve dağıtımın uygulamasına bağlıdır.
Tahmin yerine araç sonucunu bildirin
Eylem talebinden sonra rapor aracın gerçek sonucuna dayanmalıdır. Hazırlandı, yürütmeye gönderildi ve başarıyla tamamlandı ayrı durumlardır. Belirsizlikte kesin başarı bildirilmemelidir.
Tekrarlanabilir eylemlerde çift kayıt veya gönderimi önlemeyi de öneriyoruz. Eksik yanıt, önce ne olduğunu kontrol etmeden aynı işi yeniden çalıştırmaya yol açmamalıdır.
Sara Agent için ölçüt, kullanıcının devrettiği yetkiyi ve gerçekte olanı bilmesidir. Daha fazla bağlantı, sorumluluk, erişim sınırı ve sonuç açık kaldığında değerlidir.
