Los días 20 y 21 de noviembre de 2024, los institutos de seguridad de la IA y las oficinas gubernamentales de Australia, Canadá, la Comisión Europea, Francia, Japón, Kenia, la República de Corea, Singapur, el Reino Unido y los Estados Unidos se reunirán en San Francisco para la primera reunión de la Red Internacional de Institutos de Seguridad de la IA.
Baseándose na Declaración de intencións de Seúl cara á cooperación internacional en materia de ciencia de seguridade da IA, publicada durante o Cume de IA de Seúl o 21 de maio de 2024, esta iniciativa marca o inicio dunha nova fase de colaboración internacional en materia de seguridade da IA.
A Rede reúne a organizacións técnicas dedicadas a promover a seguridade da IA, axudar aos gobernos e ás sociedades a comprender mellor os riscos que expoñen os sistemas avanzados de IA e propor solucións para mitigalos. Os membros da Rede tamén destacan na Declaración de misión
que “a cooperación internacional para promover a seguridade, a protección, a inclusión e a confianza en materia de IA é vital para abordar estes riscos, impulsar a innovación responsable e ampliar o acceso aos beneficios da IA en todo o mundo”.
Ademais de abordar os posibles danos, os institutos e oficinas involucrados guiarán o desenvolvemento e a implementación responsables de sistemas de IA.
Obxectivos e prioridades da rede
A Rede Internacional de Institutos de Seguridade da IA servirá como foro de colaboración, reunindo a expertos técnicos para abordar os riscos de seguridade da IA e as mellores prácticas. Recoñecendo a importancia da diversidade cultural e lingüística, a Rede traballará para lograr unha comprensión unificada dos riscos de seguridade da IA e as estratexias de mitigación.
Centrarase en catro áreas prioritarias:
- Investigación : colaborar coa comunidade científica para avanzar na investigación sobre os riscos e as capacidades dos sistemas de IA avanzados, compartindo ao mesmo tempo achados crave para fortalecer a ciencia da seguridade da IA.
- Probas : desenvolver e compartir as mellores prácticas para probar sistemas de IA avanzados, incluída a realización de exercicios de proba conxuntos e o intercambio de coñecementos das avaliacións nacionais, segundo corresponda.
- Orientación : Facilitar enfoques compartidos para interpretar os resultados das probas para sistemas de IA avanzados para garantir respostas consistentes e efectivas.
- Inclusión : involucrar a socios e partes interesadas nas rexións en todas as etapas de desenvolvemento, compartindo información e ferramentas técnicas de formas accesibles para ampliar a participación na ciencia da seguridade da IA.
Un compromiso coa cooperación global
A través desta rede, os membros comprométense a promover a aliñación internacional en materia de investigación, probas e orientación sobre seguridade da IA. Ao fomentar a colaboración técnica e a inclusión, o seu obxectivo é garantir que os beneficios da innovación en IA segura e confiable compártanse amplamente, o que permitirá á humanidade aproveitar ao máximo o potencial da IA.
