Um assistente pode ler arquivo ou página para trabalhar. Imagine que o texto tente redirecioná-lo. O conteúdo lido não deve ganhar autoridade de comando apenas por estar em um documento.
Que problema a injeção de prompt cria?
A OWASP descreve tentativas de mudar o modelo por entradas e conteúdo externo. O risco inclui saídas inadequadas e uso não autorizado de capacidades conectadas. 1
Num exemplo, o documento a resumir pede envio de informação não relacionada. A tarefa continua sendo resumir; o texto não deve se transformar em nova solicitação válida do proprietário.
Reconhecer o texto não basta
Proteja também os limites técnicos: ferramentas, ações e validação de pedidos precisam ser claros. Uma frase de proibição não substitui controle de acesso na execução.
Uma ferramenta de leitura não deveria permitir exclusão do relatório sem necessidade. É um princípio para limitar o impacto de erros, não uma afirmação de risco zero.
O papel do Shield no ecossistema Sara
O Shield examina fronteiras de segurança. Agente empresarial, camada de execução e sistema de negociação têm dados e poderes distintos. A proteção deve manter essas diferenças, não reunir acesso ilimitado num ponto.
Uma avaliação pode testar se conteúdo não confiável muda o escopo ou alcança dados sem autorização. Os resultados precisam se referir a versão e configuração específicas.
O objetivo é reduzir probabilidade e impacto de conduta não autorizada. Não apresentamos imunidade completa à manipulação; buscamos limites claros, testes repetíveis e relato das limitações.
