Els dies 20 i 21 de novembre de 2024, els instituts de seguretat de la IA i les oficines governamentals d'Austràlia, Canadà, la Comissió Europea, França, Japó, Kenya, la República de Corea, Singapur, el Regne Unit i els Estats Units es reuniran en Sant Francisco per a la primera reunió de la Xarxa Internacional d'Instituts de Seguretat de la IA.
Basándose en la Declaración de intenciones de Seúl hacia la cooperación internacional en materia de ciencia de seguridad de la IA, publicada durante la Cumbre de IA de Seúl el 21 de mayo de 2024, esta iniciativa marca el inicio de una nueva fase de colaboración internacional en materia de seguridad de la IA.
La Xarxa reuneix a organitzacions tècniques dedicades a promoure la seguretat de la IA, ajudar als governs i a les societats a comprendre millor els riscos que plantegen els sistemes avançats de IA i proposar solucions per mitigar-los. Els membres de la Xarxa també destaquen a Declaració de missió
que “la cooperación internacional para promover la seguridad, la protección, la inclusión y la confianza en materia de IA es vital para abordar estos riesgos, impulsar la innovación responsable y ampliar el acceso a los beneficios de la IA en todo el mundo”.
A més d'abordar els possibles danys, els instituts i oficines involucrats guiaran el desenvolupament i la implementació responsables de sistemes de IA.
Objectius i prioritats de la xarxa
La Red Internacional de Institutos de Seguridad de la IA servirá como foro de colaboración, reuniendo a expertos técnicos para abordar los riesgos de seguridad de la IA y las mejores prácticas. Reconociendo la importancia de la diversidad cultural y lingüística, la Red trabajará para lograr una comprensión unificada de los riesgos de seguridad de la IA y las estrategias de mitigación.
Se centrarà en quatre àrees prioritàries:
- Recerca : col·laborar amb la comunitat científica per avançar en la recerca sobre els riscos i les capacitats dels sistemes de IA avançats, compartint al mateix temps troballes clau per enfortir la ciència de la seguretat de la IA.
- Proves : desenvolupar i compartir les millors pràctiques per provar sistemes de IA avançats, inclosa la realització d'exercicis de prova conjunts i l'intercanvi de coneixements de les avaluacions nacionals, segons correspongui.
- Orientació : Facilitar enfocaments compartits per interpretar els resultats de les proves per a sistemes de IA avançats per garantir respostes consistents i efectives.
- Inclusió : involucrar a socis i parts interessades a les regions en totes les etapes de desenvolupament, compartint informació i eines tècniques de formes accessibles per ampliar la participació en la ciència de la seguretat de la IA.
Un compromís amb la cooperació global
A través d'aquesta xarxa, els membres es comprometen a promoure l'alineació internacional en matèria de recerca, proves i orientació sobre seguretat de la IA. En fomentar la col·laboració tècnica i la inclusió, el seu objectiu és garantir que els beneficis de la innovació en IA segura/segura i segura/segura es comparteixin àmpliament, la qual cosa permetrà a la humanitat aprofitar al màxim el potencial de la IA.
