도우미가 업무 도구와 연결되면 제안과 실행의 차이가 더 중요해집니다. 대화에서 메시지를 쓰는 것과 고객에게 보내는 것, 프로젝트 상태를 읽는 것과 바꾸는 것은 다릅니다.
Sara Agent의 각 연결은 앱 전체에 대한 포괄 접근이 아니라 책임이 명확한 구체적 능력을 나타내야 합니다.
필요한 작업부터 시작하세요
보고서 읽기, 콘텐츠 초안, 승인된 요청 기록처럼 동작을 먼저 정한 뒤 적절한 도구와 권한을 연결할 것을 권합니다. 과도한 권한을 가진 광범위한 연결을 기본으로 삼지 말아야 합니다.
OWASP는 Excessive Agency 설명에서 불필요한 기능·권한·자율성을 언어 모델 시스템의 위험으로 지적합니다. 따라서 연결 품질을 지원하는 동작 수만으로 판단해서는 안 됩니다. 1
승인은 구체적인 행동을 대상으로 해야 합니다
메시지 전송 예에서 사용자는 수신인과 보낼 문구를 알아야 합니다. 초안 허가가 자동으로 발송 허가를 뜻하면 안 됩니다. 승인 후 중요한 변경에는 재검토가 필요할 수 있습니다.
이는 제안 설계 패턴입니다. 특정 서비스에 이 흐름이 있는지는 활성 연결, 접근 정책, 해당 배포의 구현에 달려 있습니다.
추측 대신 도구 결과를 보고하세요
동작 요청 후 에이전트 보고는 도구의 실제 결과에 근거해야 합니다. 준비됨, 실행 요청됨, 성공적으로 완료됨은 다릅니다. 불분명한 결과를 확실한 성공으로 보고해서는 안 됩니다.
반복 가능한 동작에는 중복 방지도 고려할 것을 권합니다. 응답이 불완전하다고 무슨 일이 있었는지 확인 없이 같은 일을 재실행해서는 안 됩니다.
Sara Agent 개발의 기준은 사용자가 어떤 권한을 위임했고 실제로 무엇이 일어났는지 아는 것입니다. 책임, 접근 경계, 결과가 명확히 유지될 때 더 많은 연결이 가치 있습니다.
