ENISA publica 4 informes sobre os retos máis transcendentais da intelixencia artificial

Os desenvolvementos recentes nos sistemas de Intelixencia Artificial (IA) chamaron a atención do mundo sobre os aspectos máis importantes da ciberseguridade asociados con eles. A conferencia ENISA AI Cybersecurity Conference  tivo como obxectivo proporcionar unha plataforma para que a comunidade en xeral comparta as súas experiencias e discuta os desafíos e oportunidades. Promoveu a cooperación dentro da comunidade de ciberseguridade da IA para reflexionar sobre a proposta dun regulamento da UE sobre IA. A proposta podería permitir que a UE se converta en pioneira na regulación da IA.

As preguntas crave

Os 4 paneis da Conferencia  celebrada onte, abordaron os desafíos técnicos de ciberseguridade dos chatbots de IA, as necesidades de investigación e innovación e as consideracións de seguridade para a certificación de ciberseguridade dos sistemas de IA. Apoiar aos responsables políticos, incluídas as autoridades nacionais, con orientación sobre as mellores prácticas e os casos dos usuarios, ao mesmo tempo que promove as normas en toda a UE, bríndalle á UE a oportunidade de liderar a nivel mundial na creación dunha IA segura e confiable. Os discursos de oradores de alto nivel centráronse na IA generativa, na perspectiva legal e política da próxima Lei de IA e nas medidas xa tomadas pola Axencia Alemá de Ciberseguridade, BSI.

Acerca dos novos informes de IA e seguridade

1. Establecer boas prácticas de ciberseguridade para a IA: O informe eríxese como un marco escalable para guiar ás autoridades nacionais de ciberseguridade (NCA) e a comunidade de IA para asegurar os sistemas, operacións e procesos de IA. O marco consta de tres capas (bases de ciberseguridade, ciberseguridade específica de IA e ciberseguridade específica do sector para IA) e ten como obxectivo proporcionar un enfoque paso a paso sobre o seguimento de boas prácticas de ciberseguridade para garantir a confiabilidad dos sistemas de IA.

2. Ciberseguridade e privacidade en IA: dous casos de uso: previsión de demandas en redes eléctricas e diagnóstico por imaxe médica Ambos os informes describen as ameazas á ciberseguridade e a privacidade, así como as vulnerabilidades que poden explotarse en cada caso de uso. A análise centrouse nas ameazas e vulnerabilidades relacionadas coa aprendizaxe automática, tendo en conta consideracións máis amplas de IA. Con todo, o enfoque do traballo está nos temas de privacidade, xa que estes convertéronse nun dos desafíos máis importantes que enfronta a sociedade actual. A seguridade e a privacidade están intimamente relacionadas, e ambas son igualmente importantes, débese atopar un equilibrio para cumprir cos requisitos relacionados. O informe revela, con todo, que os esforzos para optimizar a seguridade e a privacidade a miúdo poden realizarse a expensas do rendemento do sistema.

3. Investigación en IA e ciberseguridade: O informe identifica 5 necesidades de investigación crave para seguir investigando sobre IA para a ciberseguridade e sobre como asegurar a IA para futuros desenvolvementos de políticas e iniciativas de financiamento da UE. Ditas necesidades inclúen o desenvolvemento de ferramentas de probas de penetración para identificar vulnerabilidades de seguridade ou o desenvolvemento de marcos estandarizados para avaliar a privacidade e a confidencialidade, entre outros.

4. Informe sobre o Público obxectivo. Entidades públicas o privadas, incluida la comunidad de ciberseguridad y privacidad: para respaldar el análisis de riesgos, la identificación de amenazas a la ciberseguridad y la privacidad y la selección de los controles de seguridad y privacidad más adecuados; Comunidad técnica de IA, expertos en ciberseguridad y privacidad de IA y expertos en IA interesados ​​en desarrollar soluciones seguras y agregar seguridad y privacidad por diseño a sus soluciones

Máis información

A seguir detállanse documentos sobre ENISA, sobre a Conferencia en si e outros relacionados, que poden ser de utilidade. 

• Multilayer framework for good cybersecurity practices for AI  – ENISA report 2023
• Cybersecurity and privacy in AI – Forecasting demand on electricity grids  – ENISA report 2023
• Cybersecurity and privacy in AI – Medical imaging diagnose  – ENISA report 2023
• Artificial Intelligence and Cybersecurity Research  – ENISA report 2023
• Cybersecurity of AI and standardisation  – ENISA report March 2023
• Mind the Gap in Standardisation of Cybersecurity for Artificial Intelligence – ENISA Press Release
• Securing Machine Learning Algorithms –  ENISA report 2021
• ENISA topic – Artificial Intelligence
• The proposal AI Act
• The proposal Cyber Resilience Act

Fonte orixinal da noticia