Lorsqu’un assistant se connecte aux outils d’entreprise, la différence entre proposer et agir devient plus importante. Rédiger un message dans une conversation diffère de l’envoyer à un client ; lire l’état d’un projet diffère de le modifier.
Pour Sara Agent, chaque connexion doit représenter une capacité précise avec une responsabilité claire, pas un accès général à une application entière.
Commencer par la tâche nécessaire
Nous proposons d’abord de définir l’action : lire un rapport, rédiger un contenu ou enregistrer une demande approuvée. Puis il faut relier cette action à l’outil et à la permission adaptés. Les connexions larges avec des autorisations excessives ne devraient pas être le choix par défaut.
Dans sa présentation d’Excessive Agency, OWASP identifie les capacités, permissions et degrés d’autonomie inutiles comme des risques pour les systèmes à modèles de langage. La qualité d’une connexion ne doit donc pas se juger seulement au nombre d’actions qu’elle permet. 1
L’approbation doit viser une action précise
Dans un scénario illustratif de messagerie, l’utilisateur doit connaître le destinataire et le texte à envoyer. L’autorisation de rédiger ne doit pas automatiquement impliquer celle d’envoyer. Des modifications importantes après approbation peuvent nécessiter un nouvel examen.
Il s’agit d’un modèle de conception proposé. L’existence de ce processus dans un service donné dépend d’une connexion active, de la politique d’accès et de l’implémentation du déploiement.
Rapporter les résultats des outils plutôt que les deviner
Après une demande d’action, le rapport de l’agent doit s’appuyer sur le résultat réel de l’outil. Préparé, soumis pour exécution et terminé avec succès sont des états différents. Un résultat incertain ne doit pas être annoncé comme une réussite certaine.
Nous proposons aussi de prévoir la prévention des doublons pour les actions répétables. Une réponse incomplète ne doit pas entraîner une nouvelle exécution de la même tâche sans vérifier ce qui s’est passé.
Le développement de Sara Agent suit ce critère : les utilisateurs doivent savoir quelle autorité ils ont déléguée et ce qui s’est réellement produit. Davantage de connexions sont utiles lorsque la responsabilité, les limites d’accès et les résultats restent clairs.
