El Centro Criptológico Nacional (CCN) del Centro Nacional de Inteligencia (CNI) ha elaborado un informe a partir de los resultados del cuestionario de autoevaluación de IA ofensiva disponible desde el mes de julio en INÉS , su herramienta de Gobernanza que permite elaborar un Pla de Acción que cuenta con un total un total de 53 iniciativas priorizadas en 4 bloques para mejorar la preparación de sus sistemas y evitar incidentes derivados de la IA ofensiva.
De los 618 organismos que han participado, públicos y privados, que han obtenido una nota media de 47,5 puntos sobre 100 en su grado de preparación frente a las amenazas potenciadas por inteligencia artificial, que corresponde a un nivel de madurez inicial, se desprende que ninguna entidad alcance los 95 puntos que corresponderían a un nivel adecuado de preparación. Las principales deficiencias se concentran en las capacidades de protección, gobernanza, identificación y gestión de riesgos y cultura de ciberseguridad.
Para cerrar estas brechas, el informe facilita a los organismos la elaboración de un Plan de Acción con iniciativas priorizadas en 4 bloques, que comienzan por las 18 iniciativas de aplicación inmediata. Su aplicación debe ajustarse en función de los riesgos, la categoría de seguridad, la criticidad de los sistemas y las necesidades de cada entidad. Las actuaciones más relevantes, vinculadas a las medidas del anexo II del ENS, son las siguientes:
- Mantenimiento y actualización de sistemas: reforzar el parcheo de vulnerabilidades, especialmente las conocidas y explotadas activamente, conforme a la medida op.exp.4. del ENS.
- Gestión de identidades y accesos: fortalecer los mecanismos de autenticación, priorizando la autenticación multifactor resistente al phishing, y revisar los permisos conforme a la familia op.acc.
- Protección de aplicaciones: reforzar los controles de desarrollo seguro y las pruebas de aceptación y puesta en servicio (mp.sw.1 y mp.sw.2), para evitar el despliegue de aplicaciones con vulnerabilidades graves.
- Cadena de suministro y componentes de IA: mejorar la gestión de proveedores (op.ext.1 y op.ext.3) y la adquisición de componentes (op.pl.3), incorporando inventarios SBOM que permitan identificar dependencias de software, modelos, plugins y skills. La adopción de la IA introduce una dependencia crítica de terceros, por lo que saber qué componentes de IA forman parte del ecosistema de la entidad es vital para cumplir con el control de contratación y acuerdos de nivel de servicio (op.ext.1) y asegurar la integridad de la infraestructura.
- Vigilancia y detección: adaptar la monitorización a las técnicas de ataque potenciadas por IA y reforzar la vigilancia de seguridad, en particular mediante op.mon.1 y op.mon.3.
- Continuidad y recuperación: actualizar y probar los planes de contingencia y continuidad, conforme a la familia op.cont, y reforzar la protección de las copias de seguridad.
- Gobernanza y análisis de riesgos: integrar las amenazas específicas de la IA ofensiva en los procesos de análisis y tratamiento de riesgos.
El análisis ha tomado como referencia la guía de Buenas Prácticas frente al modelo de IA ofensiva (CCN-CERT BP/36) publicada por el propio CCN en junio de este año. En él, se concluye que el ENS constituye un marco de referencia válido para abordar las principales brechas identificadas, ya que ofrece una estructura común de principios, requisitos y medidas para prevenir, detectar, responder y recuperarse de incidentes. Sus medidas permiten organizar buena parte de las actuaciones recomendadas, de acuerdo con la categoría del sistema y los riesgos aplicables.