El Consejo Asesor Internacional de Inteligencia Artificial presentó el “Manifiesto de Madrid por una IA responsable”

El Consejo Asesor Internacional de Inteligencia Artificial ha presentado este jueves el Manifiesto de Madrid por una IA responsable  (disponible también en inglés ), donde defiende el rol legítimo de las democracias "en la configuración, la gobernanza y la supervisión de la Inteligencia Artificial, de modo que sus beneficios, oportunidades y capacidades sean compartidas globalmente y estén alineadas con los derechos humanos y los valores democráticos”.

"La  autorregulación de esta tecnología no es suficiente", ya que “no puede asegurar que se desarrolla en línea con el interés público”, advierte el Manifiesto, elaborado por un grupo de diez expertos internacionales de reconocido prestigio en áreas como la tecnología, la ética, la economía, la sociología, la gobernanza digital y las ciencias cognitivas en respuesta al mandato que el Consejo de Ministros les encomendó en 2024 para que formularan recomendaciones estratégicas y propuestas para el desarrollo de la política española en materia de IA.

En su manifiesto, el Consejo Asesor advierte de que "en la era digital el colonialismo adopta nuevas formas. Ya no se limita a dominar a las personas, sino que se apropia de los datos, transformando la vida personal en información susceptible de explotación. La libertad en la era digital no es solo una cuestión de índole interior, sino también un asunto de interés público". Por eso, añade, la IA "debe desarrollarse y gobernarse al servicio de la dignidad humana, la democracia, la justicia social y la prosperidad compartida, combinando competitividad e innovación con mecanismos de transparencia, trazabilidad, supervisión humana y rendición de cuentas".

Los expertos aseguran que la IA puede ofrecer “oportunidades genuinas de progreso si está diseñada e implementada correctamente” en ámbitos como la ciencia, la salud y la educación y que, por ello, “merece la pena desarrollarla adecuadamente”. Pero advierten de que “el poder sobre la IA se está concentrando en pocas manos” y que esto genera “desafíos fundamentales para la gobernanza democrática, la equidad económica y la soberanía tecnológica”.

Así, advierten de que “la IA es mucho más que una carrera por construir el mejor modelo; es una carrera por construir la sociedad más capaz de aprovechar la IA y beneficiarse de ella”.

El Consejo Asesor deja claro que “los derechos fundamentales deben integrarse en el desarrollo, el despliegue y la implementación de los sistemas de IA” de tal modo que se diseñen con, entre otros objetivos, promover la igualdad, la inclusión y la no discriminación, respetar la privacidad y los datos de los usuarios, y garantizar la seguridad y la protección de los menores.

Sobre este último asunto, consideran que “la protección de los menores no es una restricción de la innovación, es la condición que legitima la innovación”. Por ello, recuerdan a los desarrolladores de la IA que “los intereses” de los niños y adolescentes “deben guiar el diseño, desarrollo y despliegue de la IA” y que estos sistemas “deberían someterse a una evaluación independiente antes de ser desplegados con el fin de garantizar altos estándares de seguridad, protección y rendición de cuentas".

Además, los expertos señalan la soberanía digital como “una condición necesaria para la democracia”, ya que permite a las sociedades democráticas “gobernar infraestructuras digitales críticas de acuerdo con sus leyes, valores y prioridades colectivas”. “En la era digital, la soberanía no es aislamiento, sino autonomía, resiliencia y democracia", sostienen.

Es más, para los integrantes de este organismo, la soberanía digital “se construye mediante la apertura y la cooperación". "Implica garantizar que las personas y las instituciones mantengan un control efectivo sobre los datos, sistemas y servicios de los que dependen, y que la IA refleje la diversidad lingüística, cultural y territorial de las sociedades a las que sirve", agregan.

El Consejo considera que las capacidades públicas son “la piedra angular de la soberanía digital” y que las sociedades democráticas deben “mantener unas robustas capacidades públicas en toda la cadena de valor de la IA para asegurar que las infraestructuras tecnológicas críticas permanezcan sujetas a la supervisión democrática y respondan al interés público”.  

Inciden también en que la IA debe generar "prosperidad, conocimiento y bienestar para las generaciones presentes y futuras, promoviendo un uso más eficiente e inteligente de los recursos" y "apoyando un desarrollo territorial equilibrado".

En su manifiesto, los integrantes del Consejo también hacen un llamamiento a la responsabilidad y la transparencia de los responsables detrás de los sistemas de IA, ya que “las sociedades digitales confiables necesitan infraestructuras de identidad interoperables que permitan identificar quién actúa, en nombre de quién lo hace y con qué autoridad”. “Los agentes de IA deben poder ser identificados de manera única y sus acciones deben ser atribuibles, mientras que la responsabilidad por dichas acciones debe recaer siempre en personas físicas o jurídicas responsables”, aseveran.

Por ello, reclaman que la responsabilidad por los daños causados ​​por los sistemas de IA recaiga en “quienes los desarrollan y despliegan”. “Cuando sistemas de alto riesgo causen daños, la carga de la prueba debe trasladarse a los desarrolladores y responsables del despliegue, las personas afectadas deben poder reclamar una reparación de forma colectiva y se debe proteger a quienes denuncien riesgos o irregularidades desde el interior de las organizaciones", enumeran.

En cuanto a los modelos frontera y sistemas de IA agénticos, los expertos instan a que se sometan a una "evaluación independiente antes de su despliegue", garantizando a los evaluadores acceso a los modelos, a la documentación sobre los datos de entrenamiento y a los registros de incidentes. "Las autoridades públicas —y no solo los operadores— deben tener la facultad de suspender o retirar cualquier sistema cuyo comportamiento escape al control humano efectivo", zanjan.

El Manifiesto está suscrito por los miembros del Consejo Asesor Internacional de Inteligencia Artificial: Manuel Castells, Luciano Floridi, Paul S. Adlr, Jeroen van den Hoven, Francesca Bria, Carissa Véliz, Vint Cerf, Erika Staël von Holstein, Kate Crawford, Niklas Lundblad y Jerome A. Feldman. Todos ellos han participado desde el miércoles en una nueva reunión en Madrid del Consejo Asesor, inaugurada por la secretaria de Estado de Digitalización e IA y clausurada por el ministro para la Transformación Digital y de la Función Pública.

Fuente original de la noticia