ENISA publica 4 informes sobre els reptes més transcendentals de la intel·ligència artificial

Els desenvolupaments recents en els sistemes d'Inteligencia Artificial (IA) han cridat l'atenció del món sobre els aspectes més importants de la ciberseguretat associats amb ells. La conferència ENISA AI Cybersecurity Conference  va tindre com a objectiu proporcionar una plataforma perquè la comunitat en general compartisca les seues experiències i discutisca els desafiaments i oportunitats. Va promoure la cooperació dins de la comunitat de ciberseguretat de la IA per a reflexionar sobre la proposta d'un reglament de la UE sobre IA. La proposta podria permetre que la UE es convertisca en pionera en la regulació de la IA.

Les preguntes clau

Els 4 panells de la Conferència  celebrada ahir, van abordar els desafiaments tècnics de ciberseguretat dels chatbots de IA, les necessitats d'investigació i innovació i les consideracions de seguretat per a la certificació de ciberseguretat dels sistemes de IA. Recolzar als responsables polítics, incloses les autoritats nacionals, amb orientació sobre les millors pràctiques i els casos dels usuaris, al mateix temps que promou les normes en tota la UE, li brinda a la UE l'oportunitat de liderar a nivell mundial en la creació d'una IA segura i confiable. Els discursos d'oradors d'alt nivell es van centrar en la IA generativa, en la perspectiva legal i política de la pròxima Llei de IA i en les mesures ja preses per l'Agència Alemanya de Ciberseguretat, BSI.

Sobre els nous informes de IA i seguretat

1. Establir bones pràctiques de ciberseguretat per a la IA: L'informe s'erigix com un marc escalable per a guiar a les autoritats nacionals de ciberseguretat (NCA) i la comunitat de IA per a assegurar els sistemes, operacions i processos de IA. El marc consta de tres capes (bases de ciberseguretat, ciberseguretat específica de IA i ciberseguretat específica del sector per a IA) i té com a objectiu proporcionar un enfocament pas a pas sobre el seguiment de bones pràctiques de ciberseguretat per a garantir la confiabilitat dels sistemes de IA.

2. Ciberseguretat i privacitat en IA: dos casos d'ús: previsió de demandes en xarxes elèctriques i diagnòstic per imatge mèdica Ambos informes descriuen les amenaces a la ciberseguretat i la privacitat, així com les vulnerabilitats que poden explotar-se en cada cas d'ús. L'anàlisi es va centrar en les amenaces i vulnerabilitats relacionades amb l'aprenentatge automàtic, tenint en compte consideracions més àmplies de IA. No obstant açò, l'enfocament del treball està en els temes de privacitat, ja que estos s'han convertit en un dels desafiaments més importants que enfronta la societat actual. La seguretat i la privacitat estan íntimament relacionades, i les dos són igualment importants, s'ha de trobar un equilibri per a complir amb els requisits relacionats. L'informe revela, no obstant açò, que els esforços per a optimitzar la seguretat i la privacitat sovint poden realitzar-se a costa del rendiment del sistema.

3. Investigación en IA i ciberseguretat: L'informe identifica 5 necessitats d'investigació clau per a seguir investigant sobre IA per a la ciberseguretat i sobre com assegurar la IA per a futurs desenvolupaments de polítiques i iniciatives de finançament de la UE. Aquestes necessitats inclouen el desenvolupament de ferramentes de proves de penetració per a identificar vulnerabilitats de seguretat o el desenvolupament de marcs estandarditzats per a avaluar la privacitat i la confidencialitat, entre uns altres.

4. Informe sobre el Públic objectiu. Entitats públiques o privades, inclosa la comunitat de ciberseguretat i privacitat: per a recolzar l'anàlisi de riscos, la identificació d'amenaces a la ciberseguretat i la privacitat i la selecció dels controls de seguretat i privacitat més adequats; Comunitat tècnica de IA, experts en ciberseguretat i privacitat de IA i experts en IA interessats ​​a desenvolupar solucions segures i agregar seguretat i privacitat per disseny a les seues solucions

Més informació

A continuació es detallen documents sobre ENISA, sobre la Conferència en si i altres relacionats, que poden ser d'utilitat. 

• Multilayer framework for good cybersecurity practices for AI  – ENISA report 2023
• Cybersecurity and privacy in AI – Forecasting demand on electricity grids  – ENISA report 2023
• Cybersecurity and privacy in AI – Medical imaging diagnosi  – ENISA report 2023
• Artificial Intelligence and Cybersecurity Research  – ENISA report 2023
• Cybersecurity of AI and standardisation  – ENISA report March 2023
• Mind the Gap in Standardisation of Cybersecurity for Artificial Intelligence – ENISA Press Release
• Securing Machine Learning Algorithms –  ENISA report 2021
• ENISA topic – Artificial Intelligence
• The proposal AI Act
• The proposal Cyber Resilience Act

Font original de la notícia