La Vicepresidenta de Valores y Transparencia de la Comisión Europea, ha firmado el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho en nombre de la Unión Europea. Esto se hizo durante la conferencia informal de Ministros de Justicia de los Estados miembros del Consejo de Europa en Vilnius, Lituania. Este Convenio es el primer instrumento internacional jurídicamente vinculante sobre inteligencia artificial. Es plenamente compatible con el Derecho de la Unión en general, y con la Ley de IA de la
La
- Un enfoque en la IA centrada en el ser humano, coherente con los derechos humanos, la democracia y el Estado de derecho;
- Un enfoque basado en el riesgo
- Principios clave para una IA fiable (por ejemplo, transparencia, solidez, seguridad, gobernanza y protección de datos)
- Transparencia en los contenidos generados por IA y en las interacciones con los sistemas de IA
- Fortalecimiento de la documentación, la rendición de cuentas y los recursos
- Apoyo a la innovación segura a través de sandboxes regulatorios
- Obligaciones de gestión de riesgos
- Obligaciones de documentación
- Mecanismos de supervisión para la supervisión de las actividades de IA
Esto es vital para proporcionar un marco eficaz a nivel internacional para abordar los riesgos que plantea la IA para los derechos humanos, la democracia y el Estado de derecho.
Como tal, el Convenio establece un enfoque común para garantizar que las actividades dentro del ciclo de vida de los sistemas de IA sean compatibles con los derechos humanos, la democracia y el Estado de Derecho, al tiempo que permiten la innovación y la confianza. El Convenio abarca los sistemas de IA que puedan interferir con los derechos humanos, la democracia y el Estado de Derecho antes mencionados, siguiendo un enfoque diferenciado y basado en el riesgo.
Los principios y las obligaciones previstos en el Convenio se aplicarán a las actividades dentro del ciclo de vida de los sistemas de IA emprendidas por autoridades públicas o agentes privados que actúen en su nombre. En lo que respecta a los actores del sector privado, si bien aún deben abordar los riesgos y los impactos de los sistemas de IA de una manera que se alinee con los objetivos de la Convención, tienen la opción de aplicar directamente las obligaciones de la Convención o implementar medidas alternativas apropiadas.
La Convención incluye exenciones para la investigación y el desarrollo, así como para la seguridad nacional. Está abierto a la adhesión de los miembros del Consejo de Europa, la UE y otros terceros países de todo el mundo.
El Convenio se aplicará en la UE mediante la Ley de IA, que contiene normas generalmente plenamente armonizadas para la comercialización, la puesta en servicio y el uso de sistemas de IA, complementadas con otros acervos pertinentes de la Unión, cuando proceda.
Próximos pasos
Esta firma expresa la intención de la UE de convertirse en Parte del Convenio. A continuación, la Comisión Europea elaborará una propuesta de decisión del Consejo para la celebración del Convenio. El Parlamento Europeo también debería dar su aprobación.
Fondo
Las negociaciones sobre el Convenio comenzaron en septiembre de 2022 bajo los auspicios del Comité de Inteligencia Artificial (CAI) establecido por el Consejo de Europa en Estrasburgo. Las negociaciones incluyeron a la Comisión Europea, que negoció en nombre de la UE, otros Estados miembros del Consejo de Europa, la Santa Sede, los EE. UU., Canadá, México, Japón, Israel, Australia, Argentina, Perú, Uruguay y Costa Rica. Las aportaciones de 68 representantes internacionales de la sociedad civil, el mundo académico, la industria y otras organizaciones internacionales garantizaron un enfoque integral e inclusivo.