Un asistente inteligente puede leer un archivo o una página para trabajar. Imagine que el texto intenta redirigir su comportamiento en lugar de aportar información. El contenido leído no debe adquirir autoridad para dar órdenes por el mero hecho de aparecer en un documento.
¿Qué problema crea la inyección de instrucciones?
OWASP describe la inyección de instrucciones como intentos de modificar el comportamiento del modelo mediante entradas y contenido externo. El riesgo puede provocar respuestas inadecuadas o el uso no autorizado de capacidades conectadas. 1
En un ejemplo ilustrativo, un documento entregado para resumir pide al agente que envíe información ajena al asunto. La tarea original sigue siendo resumir; el contenido del documento no debe convertirse en una nueva petición válida del propietario del sistema.
Reconocer el texto no basta
Proponemos proteger también los límites técnicos: identificar las herramientas del agente, las acciones de cada herramienta y cómo se validan las solicitudes. Una frase que prohíba algo al agente no puede sustituir el control de acceso en la capa de ejecución.
Si la tarea de una herramienta es leer un informe, su diseño no debería permitir innecesariamente eliminarlo también. Este es un principio propuesto para reducir el impacto de los errores, no una afirmación de que se elimine todo riesgo.
El papel de Shield en el ecosistema Sara
Dentro de las funciones de la familia Sara, Shield examina los límites de seguridad. El agente empresarial, la capa de ejecución y el sistema de negociación tienen datos y facultades diferentes. La protección debe preservar esas diferencias, no concentrar acceso ilimitado en un solo lugar.
Una evaluación adecuada puede probar si el contenido no fiable cambia el alcance de la tarea o alcanza datos no autorizados. Los resultados deben corresponder a una versión y una configuración concretas.
Este enfoque pretende reducir la probabilidad y el impacto de conductas no autorizadas. Sara Shield no se presenta como completamente inmune a la manipulación: los criterios son límites claros, pruebas repetibles y limitaciones declaradas.
