При подключении помощника к деловым инструментам разница между предложением и действием особенно важна. Написать сообщение в разговоре — не то же, что отправить клиенту; прочитать состояние проекта — не то же, что изменить его.
Для Sara Agent каждое подключение должно представлять конкретную возможность с понятной ответственностью, а не общий доступ ко всему приложению.
Начните с нужной задачи
Сначала предлагаем определить действие: чтение отчёта, подготовку текста или запись утверждённого запроса. Затем подобрать инструмент и разрешение. Широкий доступ с избыточными полномочиями не должен быть вариантом по умолчанию.
В описании Excessive Agency OWASP указывает ненужные возможности, полномочия и автономию как риски систем языковых моделей. Поэтому качество подключения нельзя измерять одним количеством поддерживаемых действий. 1
Одобрение должно касаться конкретного действия
В примере с сообщением пользователь должен знать получателя и отправляемый текст. Разрешение подготовить черновик не означает разрешения отправить. Существенные изменения после одобрения могут требовать повторной проверки.
Это предлагаемый вариант конструкции. Наличие такого процесса в конкретном сервисе зависит от активного подключения, политики доступа и реализации развёртывания.
Сообщайте результаты инструментов, а не догадки
После запроса действия отчёт агента должен опираться на реальный результат инструмента. «Подготовлено», «передано на исполнение» и «успешно завершено» — разные состояния. Неясный результат нельзя объявлять несомненным успехом.
Для повторяемых действий также предлагаем предотвращать дублирование. Неполный ответ не должен вести к повторному выполнению без проверки того, что уже произошло.
Развитие Sara Agent следует критерию: пользователь понимает, какие полномочия передал и что случилось на самом деле. Больше подключений полезно, когда ответственность, границы доступа и результаты остаются ясными.
