Os días 20 e 21 de novembro de 2024, os institutos de seguridade da IA e as oficinas gobernamentais de Australia, Canadá, a Comisión Europea, Francia, Xapón, Kenia, a República de Corea, Singapura, o Reino Unido e os Estados Unidos reuniranse en San Francisco para a primeira reunión da Rede Internacional de Institutos de Seguridade da IA.
Baseándose na Declaración de intencións de Seúl cara á cooperación internacional en materia de ciencia de seguridade da IA, publicada durante o Cume de IA de Seúl o 21 de maio de 2024, esta iniciativa marca o inicio dunha nova fase de colaboración internacional en materia de seguridade da IA.
A Rede reúne a organizacións técnicas dedicadas a promover a seguridade da IA, axudar aos gobernos e ás sociedades a comprender mellor os riscos que expoñen os sistemas avanzados de IA e propor solucións para mitigalos. Os membros da Rede tamén destacan na Declaración de misión
que “a cooperación internacional para promover a seguridade, a protección, a inclusión e a confianza en materia de IA é vital para abordar estes riscos, impulsar a innovación responsable e ampliar o acceso aos beneficios da IA en todo o mundo”.
Ademais de abordar os posibles danos, os institutos e oficinas involucrados guiarán o desenvolvemento e a implementación responsables de sistemas de IA.
Obxectivos e prioridades da rede
A Rede Internacional de Institutos de Seguridade da IA servirá como foro de colaboración, reunindo a expertos técnicos para abordar os riscos de seguridade da IA e as mellores prácticas. Recoñecendo a importancia da diversidade cultural e lingüística, a Rede traballará para lograr unha comprensión unificada dos riscos de seguridade da IA e as estratexias de mitigación.
Centrarase en catro áreas prioritarias:
- Investigación : colaborar coa comunidade científica para avanzar na investigación sobre os riscos e as capacidades dos sistemas de IA avanzados, compartindo ao mesmo tempo achados crave para fortalecer a ciencia da seguridade da IA.
- Probas : desenvolver e compartir as mellores prácticas para probar sistemas de IA avanzados, incluída a realización de exercicios de proba conxuntos e o intercambio de coñecementos das avaliacións nacionais, segundo corresponda.
- Orientación : Facilitar enfoques compartidos para interpretar os resultados das probas para sistemas de IA avanzados para garantir respostas consistentes e efectivas.
- Inclusión : involucrar a socios e partes interesadas nas rexións en todas as etapas de desenvolvemento, compartindo información e ferramentas técnicas de formas accesibles para ampliar a participación na ciencia da seguridade da IA.
Un compromiso coa cooperación global
A través desta rede, os membros comprométense a promover a aliñación internacional en materia de investigación, probas e orientación sobre seguridade da IA. Ao fomentar a colaboración técnica e a inclusión, o seu obxectivo é garantir que os beneficios da innovación en IA segura e confiable compártanse amplamente, o que permitirá á humanidade aproveitar ao máximo o potencial da IA.
