Sara Agentとツールの接続：作業ごとに権限を定義する

業務ツールに助手を接続すると、提案と実行の違いがより重要になります。会話中の文章作成と顧客への送信、案件状態の読み取りと変更は別です。

Sara Agentの各接続は、アプリ全体への無制限アクセスではなく、責任が明確な特定の能力を表すべきです。

必要な作業から始める

報告を読む、内容を下書きする、承認済み依頼を記録するなど、まず操作を定義し、対応する道具と権限を結び付けることを勧めます。過大な権限を持つ広い接続を標準にすべきではありません。

OWASPはExcessive Agencyの説明で、不要な機能、権限、自律性を言語モデルシステムのリスクに挙げます。接続の品質を操作数だけで判断してはいけません。 1

承認は具体的な操作に対して行う

送信の例なら、利用者は宛先と送る文章を把握すべきです。下書きの許可から送信の許可を自動的に推定してはいけません。承認後の重要な変更には再確認が必要な場合があります。

これは提案する設計パターンです。特定のサービスに実装されているかは、接続の有効性、アクセス方針、配備先の実装に依存します。

推測ではなくツールの結果を報告する

操作依頼後の報告は、ツールの実際の結果に基づく必要があります。準備済み、実行依頼済み、正常完了は異なる状態で、不明な結果を確実な成功としてはいけません。

繰り返し可能な操作では重複防止も検討します。応答が不完全でも、何が起きたかを確認せず同じ作業を再実行すべきではありません。

Sara Agentの開発基準は、利用者が委ねた権限と実際の結果を理解できることです。接続の増加に価値があるのは、責任、アクセス境界、結果が明確に保たれる場合です。