Quando un assistente si collega agli strumenti aziendali, la differenza tra suggerire e agire diventa più importante. Scrivere un messaggio in una conversazione è diverso dall’inviarlo a un cliente; leggere lo stato di un progetto è diverso dal modificarlo.
Per Sara Agent, ogni collegamento dovrebbe rappresentare una capacità specifica con una responsabilità chiara, non un accesso generale a un’intera applicazione.
Partire dal compito necessario
Proponiamo prima di definire l’azione: leggere un rapporto, redigere contenuti o registrare una richiesta approvata. Poi occorre associare quell’azione allo strumento e al permesso appropriati. Collegamenti ampi con autorità eccessiva non dovrebbero essere l’impostazione predefinita.
Nella trattazione di Excessive Agency, OWASP identifica capacità, autorizzazioni e autonomia non necessarie come rischi dei sistemi basati su modelli linguistici. La qualità di un collegamento non dovrebbe quindi essere giudicata soltanto dal numero di azioni supportate. 1
L’approvazione deve riguardare un’azione specifica
In uno scenario illustrativo di messaggistica, l’utente dovrebbe conoscere destinatario e testo da inviare. Il permesso di redigere non deve implicare automaticamente quello di inviare. Modifiche significative dopo l’approvazione possono richiedere un nuovo esame.
Questo è un modello progettuale proposto. L’esistenza di tale flusso in un servizio specifico dipende da una connessione attiva, dalla politica di accesso e dall’implementazione di quella installazione.
Riportare i risultati degli strumenti invece di indovinarli
Dopo una richiesta d’azione, il rapporto dell’agente deve basarsi sul risultato effettivo dello strumento. Preparato, inoltrato per l’esecuzione e completato con successo sono stati diversi. Risultati incerti non devono essere riportati come successi certi.
Proponiamo anche di considerare la prevenzione dei duplicati per le azioni ripetibili. Una risposta incompleta non dovrebbe portare a eseguire di nuovo lo stesso compito senza verificare cosa sia accaduto.
Lo sviluppo di Sara Agent segue questo criterio: gli utenti devono sapere quale autorità hanno delegato e cosa è realmente successo. Più collegamenti sono utili quando responsabilità, confini di accesso ed esiti restano chiari.
