La adopción acelerada de inteligencia artificial dentro de los equipos de ciberseguridad plantea una pregunta que muchas organizaciones todavía no han resuelto de forma sistemática: ¿cuánta autoridad debe otorgarse a un agente de IA para que actúe por su cuenta, y en qué momento debe intervenir una persona? Este artículo, escrito por Lenny Zeltser, propone una respuesta estructurada a través de la Security Autonomy Matrix, una tabla de decisión pensada para registrar, de forma explícita y auditable, el nivel de autonomía que cada organización otorga a sus agentes de seguridad automatizados.

El punto de partida es una distinción poco intuitiva pero central en el argumento: no toda acción de un agente de IA conlleva el mismo riesgo. Por eso el modelo separa cinco clases de acción (lectura, escritura, envío, gasto y eliminación) y asigna a cada una un nivel de autonomía independiente, que va desde L0 (una persona realiza todo el trabajo) hasta L4 (el agente actúa por su cuenta y solo se audita después). Un mismo agente puede, por ejemplo, leer registros de manera completamente autónoma mientras que cualquier eliminación de datos requiere aprobación previa de una persona. Esta separación por tipo de acción, sostiene el autor, resulta más operativa que asignar un único nivel de confianza al agente en su conjunto, ya que refleja con mayor precisión el costo real de un error y la posibilidad de deshacerlo.

El artículo dedica una parte considerable a resolver casos ambiguos de clasificación, como diferenciar entre aislar un equipo de la red (una acción reversible, clasificada como escritura) y eliminar un proceso o poner en cuarentena un archivo (acciones que se consideran eliminación porque solo pueden revertirse mediante una copia previamente guardada). También aborda cómo tratar acciones combinadas que abarcan varias clases a la vez, y advierte sobre el riesgo particular que representa la inyección de instrucciones maliciosas ocultas en contenido no confiable, como correos electrónicos o páginas web, que un agente podría procesar sin la debida supervisión.

Más allá del marco conceptual, el documento ofrece una guía práctica de implementación en cinco etapas, desde registrar las autorizaciones actuales hasta ir promoviendo o revocando niveles de autonomía a medida que se acumula evidencia del desempeño del agente, siguiendo una lógica similar a la de la responsabilidad gradual que se otorga a un médico residente conforme adquiere experiencia. El artículo insiste en que toda autorización debe tener fecha de vencimiento y en que cada fila de la matriz necesita reforzarse mediante controles técnicos reales, no solo mediante políticas escritas que no se traducen en configuraciones efectivas dentro de las herramientas utilizadas. Para profesionales del sector energético colombiano que evalúan la incorporación de agentes de inteligencia artificial en la protección de infraestructura crítica y redes eléctricas inteligentes, este marco ofrece un método replicable para tomar y documentar decisiones de gobernanza sobre la autonomía de la IA en operaciones sensibles, un aspecto cada vez más relevante a medida que estas tecnologías se integran en la operación de sistemas eléctricos y de telecomunicaciones.

Para leer más ingrese a:

https://zeltser.com/media/docs/security-autonomy-matrix.pdf

https://zeltser.com/security-autonomy-matrix