Wenn ein Assistent mit Geschäftswerkzeugen verbunden wird, gewinnt der Unterschied zwischen Vorschlagen und Handeln an Bedeutung. Eine Nachricht im Gespräch zu schreiben ist etwas anderes, als sie einem Kunden zu senden; einen Projektstatus zu lesen ist etwas anderes, als ihn zu ändern.
Für Sara Agent sollte jede Verbindung eine bestimmte Fähigkeit mit klarer Verantwortlichkeit darstellen, keinen pauschalen Zugriff auf eine gesamte Anwendung.
Mit der erforderlichen Aufgabe beginnen
Wir empfehlen, zuerst die Aktion zu definieren: einen Bericht lesen, Inhalte entwerfen oder eine genehmigte Anfrage erfassen. Erst danach wird die Aktion dem geeigneten Werkzeug und der passenden Berechtigung zugeordnet. Weitreichende Verbindungen mit übermäßigen Befugnissen sollten nicht der Standard sein.
Unter dem Begriff Excessive Agency nennt OWASP unnötige Fähigkeiten, Rechte und Autonomie als Risiken für Sprachmodellsysteme. Die Qualität einer Verbindung sollte deshalb nicht nur an der Anzahl unterstützter Aktionen gemessen werden. 1
Eine Freigabe muss eine konkrete Aktion betreffen
In einem veranschaulichenden Nachrichtenszenario sollte der Nutzer Empfänger und zu sendenden Text kennen. Die Erlaubnis zum Entwerfen darf nicht automatisch als Sendeerlaubnis gelten. Wesentliche Änderungen nach einer Freigabe können eine erneute Prüfung erfordern.
Dies ist ein vorgeschlagenes Gestaltungsmuster. Ob ein solcher Ablauf in einem bestimmten Dienst vorhanden ist, hängt von einer aktiven Verbindung, der Zugriffsrichtlinie und der Umsetzung dieser Bereitstellung ab.
Werkzeugergebnisse melden statt raten
Nach einer Aktionsanfrage muss sich der Bericht des Agenten auf das tatsächliche Werkzeugergebnis stützen. Vorbereitet, zur Ausführung übergeben und erfolgreich abgeschlossen sind unterschiedliche Zustände. Unklare Ergebnisse dürfen nicht als sicherer Erfolg gemeldet werden.
Wir empfehlen außerdem, bei wiederholbaren Aktionen die Vermeidung von Duplikaten zu berücksichtigen. Eine unvollständige Antwort darf nicht dazu führen, dieselbe Aufgabe ohne Prüfung des Geschehenen erneut auszuführen.
Die Entwicklung von Sara Agent folgt diesem Kriterium: Nutzer sollen wissen, welche Befugnisse sie übertragen haben und was tatsächlich geschehen ist. Mehr Verbindungen sind wertvoll, wenn Verantwortlichkeit, Zugriffsgrenzen und Ergebnisse klar bleiben.
