ENISA publica 4 informes sobre els reptes més transcendentals de la intel·ligència artificial

Els desenvolupaments recents en els sistemes d'Intel·ligència Artificial (IA) han cridat l'atenció del món sobre els aspectes més importants de la ciberseguretat associats amb ells. La conferència ENISA AI Cybersecurity Conference  va tenir com a objectiu proporcionar una plataforma perquè la comunitat en general comparteixi les seves experiències i discuteixi els desafiaments i oportunitats. Va promoure la cooperació dins de la comunitat de ciberseguretat de la IA per reflexionar sobre la proposta d'un reglament de la UE sobre IA. La proposta podria permetre que la UE es converteixi en pionera en la regulació de la IA.

Les preguntes clau

Els 4 panells de la Conferència  celebrada ahir, van abordar els desafiaments tècnics de ciberseguretat dels chatbots de IA, les necessitats de recerca i innovació i les consideracions de seguretat per a la certificació de ciberseguretat dels sistemes de IA. Recolzar als responsables polítics, incloses les autoritats nacionals, amb orientació sobre les millors pràctiques i els casos dels usuaris, al mateix temps que promou les normes en tota la UE, li brinda a la UE l'oportunitat de liderar a nivell mundial en la creació d'una IA segura/segura i segura/segura. Els discursos d'oradors d'alt nivell es van centrar en la IA generativa, en la perspectiva legal i política de la propera Llei de IA i en les mesures ja preses per l'Agència Alemanya de Ciberseguretat, BSI.

Sobre els nous informes de IA i seguretat

1. Establir bones pràctiques de ciberseguretat per la IA: L'informe s'erigeix com un marc escalable per guiar a les autoritats nacionals de ciberseguretat (NCA) i la comunitat de IA per assegurar els sistemes, operacions i processos de IA. El marc consta de tres capes (bases de ciberseguretat, ciberseguretat específica de IA i ciberseguretat específica del sector per IA) i té com a objectiu proporcionar un enfocament pas a pas sobre el seguiment de bones pràctiques de ciberseguretat per garantir la confiabilitat dels sistemes de IA.

2. Ciberseguretat i privadesa en IA: dos casos d'ús: previsió de demandes en xarxes elèctriques i diagnòstic per imatge mèdica Tots dos informes descriuen les amenaces a la ciberseguretat i la privadesa, així com les vulnerabilitats que poden explotar-se en cada cas d'ús. L'anàlisi es va centrar en les amenaces i vulnerabilitats relacionades amb l'aprenentatge automàtic, tenint en compte consideracions més àmplies de IA. No obstant això, l'enfocament del treball està en els temes de privadesa, ja que aquests s'han convertit en un dels desafiaments més importants que enfronta la societat actual. La seguretat i la privadesa estan íntimament relacionades, i ambdues són igualment importants, s'ha de trobar un equilibri per complir amb els requisits relacionats. L'informe revela, no obstant això, que els esforços per optimitzar la seguretat i la privadesa sovint poden realitzar-se a costa del rendiment del sistema.

3. Recerca en IA i ciberseguretat: L'informe identifica 5 necessitats de recerca clau per seguir investigant sobre IA per a la ciberseguretat i sobre com assegurar la IA per a futurs desenvolupaments de polítiques i iniciatives de finançament de la UE. Aquestes necessitats inclouen el desenvolupament d'eines de proves de penetració per identificar vulnerabilitats de seguretat o el desenvolupament de marcs estandarditzats per avaluar la privadesa i la confidencialitat, entre uns altres.

4. Informe sobre el Públic objectiu. Entitats públiques o privades, inclosa la comunitat de ciberseguretat i privadesa: per recolzar l'anàlisi de riscos, la identificació d'amenaces a la ciberseguretat i la privadesa i la selecció dels controls de seguretat i privadesa més adequats; Comunitat tècnica de IA, experts en ciberseguretat i privadesa de IA i experts en IA interessats ​​a desenvolupar solucions segures/segures i agregar seguretat i privadesa per disseny a les seves solucions

Més informació

A continuació es detallen documents sobre ENISA, sobre la Conferència en si i altres relacionats, que poden ser d'utilitat. 

• Multilayer framework for good cybersecurity practices for AI  – ENISA report 2023
• Cybersecurity and privacy in AI – Forecasting demand on electricity grids  – ENISA report 2023
• Cybersecurity and privacy in AI – Medical imaging diagnosi  – ENISA report 2023
• Artificial Intelligence and Cybersecurity Research  – ENISA report 2023
• Cybersecurity of AI and standardisation  – ENISA report March 2023
• Mind the Gap in Standardisation of Cybersecurity for Artificial Intelligence – ENISA Press Release
• Securing Machine Learning Algorithms –  ENISA report 2021
• ENISA topic – Artificial Intelligence
• The proposal AI Act
• The proposal Cyber Resilience Act

Font original de la notícia