El CCN desarrolla una metodología de evaluación de seguridad de productos con inteligencia artificial

La guía contempla amenazas como la evasión de decisiones, la inyección de instrucciones, el envenenamiento, la extracción del modelo, la fuga de información protegida, el agotamiento de recursos y el uso indebido de herramientas y acciones por parte de sistemas agénticos.

También incorpora dos principios esenciales: la supervisión humana antes de ejecutar acciones críticas o irreversibles y la trazabilidad necesaria para reconstruir posteriormente la actuación de la IA.

La evaluación se adapta a las características de cada producto. El fabricante describe su arquitectura y responde a un cuestionario sobre las capacidades de la IA; a partir de esta información, una matriz de aplicabilidad determina cuáles de los 27 requisitos previstos debe cumplir.

Un laboratorio acreditado y autorizado por el CCN verifica cada requisito aplicable y realiza pruebas de penetración adicionales, tomando como referencia la OWASP AI Testing Guide y las técnicas de ataque más actuales.