Qué ha pasado
El 29 de octubre el Centro Criptológico Nacional (CCN), dependiente del CNI, publicó la guía CCN-STIC-2011, llamada «Metodología de Evaluación de Seguridad de Productos – Inteligencia Artificial» (ESP-IA). Incluye la metodología y dos anexos: una plantilla de Declaración de Seguridad y otra de Informe Técnico de Evaluación.
El documento parte de una idea: las evaluaciones de seguridad tradicionales no cubren fallos que solo tienen los productos con IA, ligados a cómo el sistema aprende, interpreta instrucciones, retiene información o ejecuta acciones. Entre las amenazas que contempla están la evasión de decisiones, la inyección de instrucciones, el envenenamiento de datos, la extracción del modelo, la fuga de información protegida, el agotamiento de recursos y el mal uso de herramientas por parte de sistemas con agentes.
El proceso tiene dos pasos. El fabricante describe la arquitectura de su producto y rellena un cuestionario sobre las capacidades de su IA; una matriz de aplicabilidad determina entonces cuáles de los 27 requisitos debe cumplir. Después, un laboratorio acreditado y autorizado por el CCN verifica cada requisito aplicable y hace pruebas de penetración adicionales, tomando como referencia la OWASP AI Testing Guide.
Por qué importa
Hasta ahora, una empresa española que quisiera comparar la seguridad de dos productos con IA tenía que fiarse de lo que decía cada fabricante. La guía propone un marco común, con el mismo lenguaje para fabricantes, laboratorios y organismos que compran, y eso sirve de lista de preguntas para cualquier contrato.
Dos principios de la guía son especialmente útiles para el día a día: supervisión humana antes de ejecutar acciones críticas o irreversibles, y trazabilidad suficiente para reconstruir después qué hizo la IA. Son las mismas ideas que ya aparecen en el Reglamento de IA y en las guías de AESIA, ahora con un método de comprobación detrás.
Un matiz: la nota publicada por el CCN no explica cómo encaja esta guía con el Esquema Nacional de Seguridad ni con el Reglamento de IA, así que conviene confirmar con el propio CCN si tus clientes o tu sector van a pedirla.
Qué significa para tu empresa
- Si compras productos con IA para un organismo público o una empresa regulada, pide a tus proveedores si han evaluado o piensan evaluar su producto con la guía CCN-STIC-2011.
- Usa las amenazas de la lista (inyección de instrucciones, fuga de datos, mal uso de herramientas) como checklist en tus próximas peticiones de oferta.
- Si tienes agentes con acceso a tus sistemas, comprueba que cualquier acción crítica o irreversible exige aprobación humana y que queda un registro.
- Si desarrollas producto con IA, guarda desde ya la documentación de arquitectura y pruebas: te servirá si un cliente te la pide.
Sigue aprendiendo
Fuentes
Texto generado con inteligencia artificial (Claude, de Anthropic) a partir de las fuentes citadas. Comprueba la información antes de tomar decisiones. Cómo usamos la IA