ENISA publica 4 informes sobre los retos más trascendentales de la inteligencia artificial

Els desenvolupaments recents en els sistemes d'Inteligencia Artificial (IA) han cridat l'atenció del món sobre els aspectes més importants de la ciberseguretat associats amb ells. La conferència ENISA AI Cybersecurity Conference  va tenir com a objectiu proporcionar una plataforma perquè la comunitat en general comparteixi les seves experiències i discuteixi els desafiaments i oportunitats. Va promoure la cooperació dins de la comunitat de ciberseguretat de la IA per reflexionar sobre la proposta d'un reglament de la UE sobre IA. La proposta podria permetre que la UE es converteixi en pionera en la regulació de la IA.

Les preguntes clau

Els 4 panells de la Conferència  celebrada ahir, van abordar els desafiaments tècnics de ciberseguretat dels chatbots de IA, les necessitats de recerca i innovació i les consideracions de seguretat per a la certificació de ciberseguretat dels sistemes de IA. Recolzar als responsables polítics, incloses les autoritats nacionals, amb orientació sobre les millors pràctiques i els casos dels usuaris, al mateix temps que promou les normes en tota la UE, li brinda a la UE l'oportunitat de liderar a nivell mundial en la creació d'una IA segura/segura i segura/segura. Els discursos d'oradors d'alt nivell es van centrar en la IA generativa, en la perspectiva legal i política de la propera Llei de IA i en les mesures ja preses per l'Agència Alemanya de Ciberseguretat, BSI.

Sobre els nous informes de IA i seguretat

1. Establir bones pràctiques de ciberseguretat per la IA: El informe se erige como un marco escalable para guiar a las autoridades nacionales de ciberseguridad (NCA) y la comunidad de IA para asegurar los sistemas, operaciones y procesos de IA. El marco consta de tres capas (bases de ciberseguridad, ciberseguridad específica de IA y ciberseguridad específica del sector para IA) y tiene como objetivo proporcionar un enfoque paso a paso sobre el seguimiento de buenas prácticas de ciberseguridad para garantizar la confiabilidad de los sistemas de IA.

2. Ciberseguretat i privadesa en IA: dos casos de uso: previsión de demandas en redes eléctricas y diagnóstico por imagen médica Ambos informes describen las amenazas a la ciberseguridad y la privacidad, así como las vulnerabilidades que pueden explotarse en cada caso de uso. El análisis se centró en las amenazas y vulnerabilidades relacionadas con el aprendizaje automático, teniendo en cuenta consideraciones más amplias de IA. Sin embargo, el enfoque del trabajo está en los temas de privacidad, ya que estos se han convertido en uno de los desafíos más importantes que enfrenta la sociedad actual. La seguridad y la privacidad están íntimamente relacionadas, y ambas son igualmente importantes, se debe encontrar un equilibrio para cumplir con los requisitos relacionados. El informe revela, sin embargo, que los esfuerzos para optimizar la seguridad y la privacidad a menudo pueden realizarse a expensas del rendimiento del sistema.

3. Investigación en IA i ciberseguretat: L'informe identifica 5 necessitats de recerca clau per seguir investigant sobre IA per a la ciberseguretat i sobre com assegurar la IA per a futurs desenvolupaments de polítiques i iniciatives de finançament de la UE. Aquestes necessitats inclouen el desenvolupament d'eines de proves de penetració per identificar vulnerabilitats de seguretat o el desenvolupament de marcs estandarditzats per avaluar la privadesa i la confidencialitat, entre uns altres.

4. Informe sobre el Públic objectiu. Entitats públiques o privades, inclosa la comunitat de ciberseguretat i privadesa: per recolzar l'anàlisi de riscos, la identificació d'amenaces a la ciberseguretat i la privadesa i la selecció dels controls de seguretat i privadesa més adequats; Comunitat tècnica de IA, experts en ciberseguretat i privadesa de IA i experts en IA interessats ​​a desenvolupar solucions segures/segures i agregar seguretat i privadesa per disseny a les seves solucions

Més informació

A continuació es detallen documents sobre ENISA, sobre la Conferència en si i altres relacionats, que poden ser d'utilitat. 

• Multilayer framework for good cybersecurity practices for AI  – ENISA report 2023
• Cybersecurity and privacy in AI – Forecasting demand on electricity grids  – ENISA report 2023
• Cybersecurity and privacy in AI – Medical imaging diagnosi  – ENISA report 2023
• Artificial Intelligence and Cybersecurity Research  – ENISA report 2023
• Cybersecurity of AI and standardisation  – ENISA report March 2023
• Mind the Gap in Standardisation of Cybersecurity for Artificial Intelligence – ENISA Press Release
• Securing Machine Learning Algorithms –  ENISA report 2021
• ENISA topic – Artificial Intelligence
• The proposal AI Act
• The proposal Cyber Resilience Act

Font original de la notícia