Els desenvolupaments recents en els sistemes d'Inteligencia Artificial (IA) han cridat l'atenció del món sobre els aspectes més importants de la ciberseguretat associats amb ells. La conferència ENISA AI Cybersecurity Conference va tenir com a objectiu proporcionar una plataforma perquè la comunitat en general comparteixi les seves experiències i discuteixi els desafiaments i oportunitats. Va promoure la cooperació dins de la comunitat de ciberseguretat de la IA per reflexionar sobre la proposta d'un reglament de la UE sobre IA. La proposta podria permetre que la UE es converteixi en pionera en la regulació de la IA.
ENISA publica 4 informes sobre els reptes més transcendentals de la intel·ligència artificial
"Notícia disponible únicament amb finalitats històriques i d'hemeroteca. La informació i enllaços mostrats es corresponen amb els quals estaven operatius a la data de la seva publicació. No es garanteix que continuïn actius actualment".
08 juny 2023
L'Agència de Ciberseguretat de la Unió Europea (ENISA) publica aquests quatre informes amb motiu de la Conferència sobre la supervisió d'una IA segura/segura i fiable.
Les preguntes clau
Els 4 panells de la Conferència celebrada ahir, van abordar els desafiaments tècnics de ciberseguretat dels chatbots de IA, les necessitats de recerca i innovació i les consideracions de seguretat per a la certificació de ciberseguretat dels sistemes de IA. Recolzar als responsables polítics, incloses les autoritats nacionals, amb orientació sobre les millors pràctiques i els casos dels usuaris, al mateix temps que promou les normes en tota la UE, li brinda a la UE l'oportunitat de liderar a nivell mundial en la creació d'una IA segura/segura i segura/segura. Els discursos d'oradors d'alt nivell es van centrar en la IA generativa, en la perspectiva legal i política de la propera Llei de IA i en les mesures ja preses per l'Agència Alemanya de Ciberseguretat, BSI.
Sobre els nous informes de IA i seguretat
-
Establir bones pràctiques de ciberseguretat per la IA: L'informe s'erigeix com un marc escalable per guiar a les autoritats nacionals de ciberseguretat (NCA) i la comunitat de IA per assegurar els sistemes, operacions i processos de IA. El marc consta de tres capes (bases de ciberseguretat, ciberseguretat específica de IA i ciberseguretat específica del sector per IA) i té com a objectiu proporcionar un enfocament pas a pas sobre el seguiment de bones pràctiques de ciberseguretat per garantir la confiabilitat dels sistemes de IA.
-
Ciberseguretat i privadesa en IA: dos casos d'ús: previsió de demandes en xarxes elèctriques i diagnòstic per imatge mèdica Ambos informes descriuen les amenaces a la ciberseguretat i la privadesa, així com les vulnerabilitats que poden explotar-se en cada cas d'ús. L'anàlisi es va centrar en les amenaces i vulnerabilitats relacionades amb l'aprenentatge automàtic, tenint en compte consideracions més àmplies de IA. No obstant això, l'enfocament del treball està en els temes de privadesa, ja que aquests s'han convertit en un dels desafiaments més importants que enfronta la societat actual. La seguretat i la privadesa estan íntimament relacionades, i ambdues són igualment importants, s'ha de trobar un equilibri per complir amb els requisits relacionats. L'informe revela, no obstant això, que els esforços per optimitzar la seguretat i la privadesa sovint poden realitzar-se a costa del rendiment del sistema.
-
Investigación en IA i ciberseguretat: El informe identifica 5 necesidades de investigación clave para seguir investigando sobre IA para la ciberseguridad y sobre cómo asegurar la IA para futuros desarrollos de políticas e iniciativas de financiación de la UE. Dichas necesidades incluyen el desarrollo de herramientas de pruebas de penetración para identificar vulnerabilidades de seguridad o el desarrollo de marcos estandarizados para evaluar la privacidad y la confidencialidad, entre otros.
-
Informe sobre el Públic objectiu. Entitats públiques o privades, inclosa la comunitat de ciberseguretat i privadesa: per recolzar l'anàlisi de riscos, la identificació d'amenaces a la ciberseguretat i la privadesa i la selecció dels controls de seguretat i privadesa més adequats; Comunitat tècnica de IA, experts en ciberseguretat i privadesa de IA i experts en IA interessats a desenvolupar solucions segures/segures i agregar seguretat i privadesa per disseny a les seves solucions
Més informació
A continuació es detallen documents sobre ENISA, sobre la Conferència en si i altres relacionats, que poden ser d'utilitat.
- Multilayer framework for good cybersecurity practices for AI – ENISA report 2023
- Cybersecurity and privacy in AI – Forecasting demand on electricity grids – ENISA report 2023
- Cybersecurity and privacy in AI – Medical imaging diagnosi – ENISA report 2023
- Artificial Intelligence and Cybersecurity Research – ENISA report 2023
- Cybersecurity of AI and standardisation – ENISA report March 2023
- Mind the Gap in Standardisation of Cybersecurity for Artificial Intelligence – ENISA Press Release
- Securing Machine Learning Algorithms – ENISA report 2021
- ENISA topic – Artificial Intelligence
- The proposal AI Act
- The proposal Cyber Resilience Act
- Seguretat i Protecció de Dades
![Subscriu-te a la nostra Newsletter Subscriu-te a nostra Newsletter](/dam/jcr:39291559-a64f-40b4-82ba-e17bd880fe2b/banner-newsletter-pae.png)
![La teva opinió és important - Enquesta La teva opinió és important - Enquesta](/dam/jcr:34de006a-b33b-4b02-9247-7fe58af52a90/banner-encuesta.png)
![Subscriu-te a nostra Newsletter Subscriu-te a nostra Newsletter](/dam/jcr:39291559-a64f-40b4-82ba-e17bd880fe2b/banner-newsletter-pae.png)
![La teva opinió és important - Enquesta La teva opinió és important - Enquesta](/dam/jcr:34de006a-b33b-4b02-9247-7fe58af52a90/banner-encuesta.png)