Els dies 20 i 21 de novembre de 2024, els instituts de seguretat de la IA i les oficines governamentals d'Austràlia, Canadà, la Comissió Europea, França, Japó, Kenya, la República de Corea, Singapur, el Regne Unit i els Estats Units es reuniran en Sant Francisco per a la primera reunió de la Xarxa Internacional d'Instituts de Seguretat de la IA.
Basant-se en la Declaració d'intencions de Seül cap a la cooperació internacional en matèria de ciència de seguretat de la IA, publicada durant el Cim de IA de Seül el 21 de maig de 2024, esta iniciativa marca l'inici d'una nova fase de col·laboració internacional en matèria de seguretat de la IA.
La Xarxa reunix a organitzacions tècniques dedicades a promoure la seguretat de la IA, ajudar als governs i a les societats a comprendre millor els riscos que plantegen els sistemes avançats de IA i proposar solucions per a mitigar-los. Els membres de la Xarxa també destaquen en Declaració de missió
que “la cooperació internacional per a promoure la seguretat, la protecció, la inclusió i la confiança en matèria de IA és vital per a abordar estos riscos, impulsar la innovació responsable i ampliar l'accés als beneficis de la IA a tot el món”.
A més d'abordar els possibles danys, els instituts i oficines involucrats guiaran el desenvolupament i la implementació responsables de sistemes de IA.
Objectius i prioritats de la xarxa
La Xarxa Internacional d'Instituts de Seguretat de la IA servirà com a fòrum de col·laboració, reunint a experts tècnics per a abordar els riscos de seguretat de la IA i les millors pràctiques. Reconeixent la importància de la diversitat cultural i lingüística, la Xarxa treballarà per a aconseguir una comprensió unificada dels riscos de seguretat de la IA i les estratègies de mitigació.
Se centrarà en quatre àrees prioritàries:
- Investigació : col·laborar amb la comunitat científica per a avançar en la investigació sobre els riscos i les capacitats dels sistemes de IA avançats, compartint al mateix temps troballes clau per a enfortir la ciència de la seguretat de la IA.
- Proves : desenvolupar i compartir les millors pràctiques per a provar sistemes de IA avançats, inclosa la realització d'exercicis de prova conjunts i l'intercanvi de coneixements de les avaluacions nacionals, segons corresponga.
- Orientació : Facilitar enfocaments compartits per a interpretar els resultats de les proves per a sistemes de IA avançats per a garantir respostes consistents i efectives.
- Inclusión : involucrar a socis i parts interessades en les regions en totes les etapes de desenvolupament, compartint informació i ferramentes tècniques de formes accessibles per a ampliar la participació en la ciència de la seguretat de la IA.
Un compromís amb la cooperació global
A través d'esta xarxa, els membres es comprometen a promoure l'alineació internacional en matèria d'investigació, proves i orientació sobre seguretat de la IA. En fomentar la col·laboració tècnica i la inclusió, el seu objectiu és garantir que els beneficis de la innovació en IA segura i confiable es compartisquen àmpliament, la qual cosa permetrà a la humanitat aprofitar al màxim el potencial de la IA.
