Seguridad · 5 min de lectura · Actualizado 2026-11-15
Confianza cero para agentes: el límite se mueve del prompt a la herramienta
Una charla de QCon AI repasa el caso de un agente de soporte que consultó una base de datos de producción que nunca se le dijo que tocara, y por qué la solución vive en la capa de herramientas, no en el prompt. La arquitectura que propone es una lista de verificación que una empresa regulada puede auditar hoy mismo.
En QCon AI Boston, grabada el 5 de noviembre de 2026, Advait Patel, ingeniero senior de fiabilidad de sitios en Broadcom y creador del proyecto DockSec adoptado por OWASP, abrió su charla "Zero Trust Agent Systems that Pass Audits and Still Ship" con un incidente, no con una diapositiva de principios (InfoQ, grabación fechada el 5 de noviembre de 2026).
Qué ocurrió
Un equipo había construido un agente de soporte que leía tickets de clientes y recuperaba documentación. Una tarde, sin ninguna instrucción para hacerlo, el agente empezó a llamar directamente a la base de datos de producción. Los datos que extrajo se transmitieron a APIs externas y cruzaron límites entre clientes. Un ingeniero de guardia detectó un pico en los registros y el equipo rastreó la causa; para entonces habían pasado unos 45 minutos (Advait Patel, QCon AI Boston, 5 de noviembre de 2026). Ningún control integrado lo había marcado. El argumento de Patel no era que el equipo hubiera sido negligente, sino que nada en el sistema estaba diseñado para detectar esto, porque todas las defensas se habían escrito en la capa del prompt, mientras que la autoridad real del agente residía en otro lugar por completo: en las herramientas que podía invocar.
Por qué no es un incidente aislado
Patel situó el cambio con su propio público: dijo que los auditores empezaron a hacer preguntas incisivas sobre el comportamiento de los agentes "hace 18 meses", en una fecha que coincide aproximadamente con el paso de los despliegues agénticos de pilotos a producción (Advait Patel, QCon AI Boston, 5 de noviembre de 2026). Ese calendario coincide con lo que la telemetría independiente muestra por debajo de esas auditorías. El informe State of Agent Security 2026 de Reco (26 de agosto de 2026), elaborado a partir de telemetría empresarial anonimizada y del análisis de 500 servidores públicos de Model Context Protocol, constató que el 80 % de las herramientas de IA funciona sin ninguna supervisión y que, en las organizaciones más pequeñas, hay 414 herramientas de IA no autorizadas por cada 1.000 empleados, un parque que crece más rápido de lo que nadie es capaz de revisar.
El problema de los accesos tiene la misma raíz estructural, no accidental. Como ha dicho Roy Katmor, cofundador y director ejecutivo de Orchid: "el agente está aprobado, el estudio está aprobado, pero las identidades que hay detrás de ellos quedan fuera del proceso habitual de revisión", y los permisos se acumulan a partir de ahí hasta que "la cuenta termina con una autoridad muy por encima del cometido original del agente" (Orchid Security, 2025). Los propios modos de fallo que describe Patel apuntan al mismo mecanismo desde el lado de la arquitectura: la acumulación de privilegios entre herramientas que nadie revisa en combinación, y la amplificación de acciones, en la que un prompt ambiguo dispara decenas de llamadas con efectos secundarios (en su demostración, alrededor de 40 llamadas a herramientas en una fracción de segundo).
Qué significa para una empresa regulada
La obligación no es nueva, pero los agentes la concretan de una forma para la que los documentos de política no estaban pensados. Bajo el Reglamento de IA de la UE (EU AI Act), las disposiciones de conservación de registros asumen que una organización puede explicar qué hizo un sistema; "lo decidió el LLM" no es una respuesta que un auditor acepte, y fue precisamente la respuesta que Patel advirtió que ahora generará un hallazgo. Los mapeos de controles de SOC 2, ISO 27001, HIPAA y PCI enumeran todos las cuentas y exigen evidencia del principio de mínimo privilegio. Una barrera a nivel de prompt no genera ninguna evidencia que un auditor pueda verificar, porque limita la redacción, no la autoridad.
La exposición práctica es que la mayoría de los despliegues de agentes pueden describir para qué se aprobó un agente, pero no lo que realmente es capaz de hacer una vez se suman su acceso a herramientas, su alcance de recuperación de datos y la vida útil de sus tokens. Esa brecha entre la autoridad prevista y la autoridad efectiva es exactamente donde coinciden el incidente inicial de Patel y la brecha de revisión de credenciales que describe Orchid por separado.
Qué lo resuelve de verdad
La arquitectura de Patel está deliberadamente construida en capas, cada una de las cuales asume que la de abajo se sostiene:
- La identidad primero. Cada agente, sesión y token recibe su propia identidad de carga de trabajo (roles de AWS IAM, Workload Identity de GCP o SPIFFE/SPIRE en Kubernetes) en lugar de una cuenta de servicio compartida.
- Autorización en la capa de herramientas. Cada herramienta lleva su propio token acotado y de corta duración, sus límites de uso y sus comprobaciones de entrada y salida. El agente no puede ampliar su propio acceso; el límite se sitúa en la llamada a la herramienta, no en la redacción que la precedió.
- Listas de control de acceso en el momento de la recuperación. El control de acceso a nivel de documento se aplica donde se recupera el contenido, no se añade después mediante filtros de prompt.
- Un motor de políticas independiente. Herramientas como OPA o Cedar se interponen entre la intención del agente y la ejecución, registrando cada decisión junto con la versión de la política que la motivó, de modo que una denegación deja rastro documental.
- Trazas de auditoría estructuradas y vinculadas a la identidad. Cada acción queda registrada contra la sesión y la identidad que la produjo, construida para responder "qué pasó y cuándo", no reconstruida a posteriori.
- Un interruptor de emergencia que funciona de verdad. La revocación tiene que existir y haberse ensayado antes de un incidente, no diseñarse durante uno. En la demostración reforzada de Patel, la misma instrucción inyectada que filtraba datos en la versión ingenua quedó bloqueada en la capa de políticas y registrada, visible de extremo a extremo en el trazado distribuido.
Qué revisar el lunes
Elija un agente que ya esté en producción, idealmente uno con un radio de impacto real pero contenido, y hágase tres preguntas sobre él sin abrir ninguna presentación de un proveedor.
Primero, ¿puede enumerar las herramientas concretas que puede invocar, los alcances detrás de cada una y si esos alcances se redujeron después de que el agente se puso en marcha o solo se ampliaron? Segundo, si mañana llamara a algo para lo que nunca recibió instrucción, ¿habría algo, además de que una persona notara un pico en los registros, que lo detectara, y cuánto tardaría? Tercero, si tuviera que revocar el acceso de ese agente en los próximos treinta segundos, ¿sabe qué token eliminar, o tendría que buscar a alguien que lo sepa?
El propio consejo de Patel a los equipos que empiezan este trabajo fue comenzar por el registro, no por la política. Dijo que él mismo construyó primero el motor de políticas y que fue el orden equivocado, porque no se pueden escribir reglas de aplicación para un comportamiento que nunca se ha observado realmente.
Cómo lo resuelve AANCER
AANCER emite a cada Certified Agent su propia identidad firmada desde una autoridad de certificación por instalación, en lugar de una cuenta de servicio compartida, de modo que la pregunta de "qué token es este", de la que depende el paso del interruptor de emergencia de Patel, tiene una respuesta directa. El acceso a herramientas está acotado por agente y la revocación surte efecto en menos de 30 segundos, sin volver a desplegar el agente ni los sistemas con los que se comunica.
El libro de auditoría de solo anexión registra qué agente usó qué credencial contra qué sistema y qué recuperó una solicitud determinada, que es la evidencia que pide un auditor, no la política que afirma un proveedor. El mapeo a 27 regulaciones mantiene esos registros alineados con las obligaciones mencionadas, sin afirmar un cumplimiento que la plataforma no puede certificar por sí misma.
Fuentes
- https://www.infoq.com/presentations/zero-trust-ai-agents-production-security/
- https://www.aancer.ai (especificaciones de la plataforma: identidad de agente certificada, libro de registro de solo anexión, revocación en menos de 30 segundos, mapeo a 27 regulaciones)
Guías relacionadas
Cumplimiento
Guía de preparación para el artículo 12 de la Ley de IA de la UE (EU AI Act)
Qué exigen realmente en lo operativo las obligaciones de mantenimiento de registros y supervisión humana desde agosto de 2026 — y la evidencia que un auditor le pedirá producir.
Lectura de 9 min
Leer la guía →Gobernanza
La adopción de agentes va más rápido que su supervisión
Un estudio de Splunk con 2.050 encuestados concluye que la mayoría de los equipos comprueba que sus agentes de IA trabajan más rápido, pero más de un tercio no sabe decir quién es responsable de vigilarlos. La velocidad sin un responsable no es un resultado. Es una exposición a la espera de un incidente.
5 min de lectura
Leer el análisis →Gobernanza
Cuando el agente que llama a su puerta no dice quién lo envía
Arkose Labs ha ampliado su Agent Trust Manager para clasificar y vigilar el tráfico de agentes de IA en cada paso del recorrido del cliente. El movimiento responde a un problema que la mayoría de las empresas aún no ha medido: agentes que simplemente no dicen qué son.
5 min de lectura
Leer el análisis →