Los días 20 y 21 de noviembre de 2024, los institutos de seguridad de la IA y las oficinas gubernamentales de Australia, Canadá, la Comisión Europea, Francia, Japón, Kenia, la República de Corea, Singapur, el Reino Unido y los Estados Unidos se reunirán en San Francisco para la primera reunión de la Red Internacional de Institutos de Seguridad de la IA.
Basándose en la Declaración de intenciones de Seúl hacia la cooperación internacional en materia de ciencia de seguridad de la IA, publicada durante la Cumbre de IA de Seúl el 21 de mayo de 2024, esta iniciativa marca el inicio de una nueva fase de colaboración internacional en materia de seguridad de la IA.
La Red reúne a organizaciones técnicas dedicadas a promover la seguridad de la IA, ayudar a los gobiernos y a las sociedades a comprender mejor los riesgos que plantean los sistemas avanzados de IA y proponer soluciones para mitigarlos. Los miembros de la Red también destacan en su Declaración de misión
que “la cooperación internacional para promover la seguridad, la protección, la inclusión y la confianza en materia de IA es vital para abordar estos riesgos, impulsar la innovación responsable y ampliar el acceso a los beneficios de la IA en todo el mundo”.
Además de abordar los posibles daños, los institutos y oficinas involucrados guiarán el desarrollo y la implementación responsables de sistemas de IA.
Objetivos y prioridades de la red
La Red Internacional de Institutos de Seguridad de la IA servirá como foro de colaboración, reuniendo a expertos técnicos para abordar los riesgos de seguridad de la IA y las mejores prácticas. Reconociendo la importancia de la diversidad cultural y lingüística, la Red trabajará para lograr una comprensión unificada de los riesgos de seguridad de la IA y las estrategias de mitigación.
Se centrará en cuatro áreas prioritarias:
- Investigación : colaborar con la comunidad científica para avanzar en la investigación sobre los riesgos y las capacidades de los sistemas de IA avanzados, compartiendo al mismo tiempo hallazgos clave para fortalecer la ciencia de la seguridad de la IA.
- Pruebas : desarrollar y compartir las mejores prácticas para probar sistemas de IA avanzados, incluida la realización de ejercicios de prueba conjuntos y el intercambio de conocimientos de las evaluaciones nacionales, según corresponda.
- Orientación : Facilitar enfoques compartidos para interpretar los resultados de las pruebas para sistemas de IA avanzados para garantizar respuestas consistentes y efectivas.
- Inclusión : involucrar a socios y partes interesadas en las regiones en todas las etapas de desarrollo, compartiendo información y herramientas técnicas de formas accesibles para ampliar la participación en la ciencia de la seguridad de la IA.
Un compromiso con la cooperación global
A través de esta red, los miembros se comprometen a promover la alineación internacional en materia de investigación, pruebas y orientación sobre seguridad de la IA. Al fomentar la colaboración técnica y la inclusión, su objetivo es garantizar que los beneficios de la innovación en IA segura y confiable se compartan ampliamente, lo que permitirá a la humanidad aprovechar al máximo el potencial de la IA.
