El Reglament té per objecte establir un mercat interior harmonitzat per la IA en la UE, fomentant l'adopció d'aquesta tecnologia i creant un entorn propici per a la innovació i la inversió.
La Llei Europea d'Intel·ligència Artificial (Llei de IA) introdueix una definició prospectiva de IA, basada en la seguretat dels productes i en un enfocament basat en el risc en la UE:
- Risc mínim: La majoria dels sistemes de IA, com els sistemes de recomanació basats en IA i els filtres de correu no desitjat, entren en aquesta categoria. Aquests sistemes no s'enfronten a obligacions en virtut de la Llei de IA a causa del seu risc mínim per als drets i la seguretat dels ciutadans. Les empreses poden adoptar voluntàriament codis de conducta addicionals.
- Risc específic de transparència: Els sistemes de IA, com els chatbots, han de revelar clarament als usuaris que estan interactuant amb una màquina. Determinats continguts generats per IA, incloses les ultrafalsificaciones, han d'etiquetar-se com a tals, i els usuaris han de ser informats quan s'utilitzin sistemes de categorització biomètrica o reconeixement d'emocions. A més, els proveïdors hauran de dissenyar sistemes de manera que els continguts sintètics d'àudio, vídeo, text i imatges estiguin marcats en un format llegible per màquina i detectables com generats o manipulats artificialment.
- Risc alt: Els sistemes deIA considerats d'alt risc estaran obligats a complir requisits estrictes, inclosos els sistemes de reducció del risc, l'alta qualitat dels conjunts de dades, el registre de l'activitat, la documentació detallada, una informació clara per a l'usuari, la supervisió humana i un alt nivell de solidesa, precisió i ciberseguretat. Els espais controlats de proves facilitaran la innovació responsable i el desenvolupament de sistemes de IA conformes. Aquests sistemes de IA d'alt risc inclouen, per exemple, els sistemes de IA utilitzats per a la contractació o per avaluar si algú té dret a obtenir un préstec o a gestionar robots autònoms.
- Risc inacceptable: Es prohibiran els sistemes deIA que es considerin una clara amenaça per als drets fonamentals de les persones. Això inclou els sistemes o aplicacions de IA que manipulen el comportament humà per eludir la lliure voluntat dels usuaris, com les joguines que utilitzen assistència vocal que fomenten el comportament perillós dels menors, els sistemes que permeten la «puntuació social» per part de governs o empreses, i determinades aplicacions de l'actuació policial predictiva. A més, es prohibiran alguns usos de sistemes biomètrics, per exemple, els sistemes de reconeixement d'emocions utilitzats en el lloc de treball i alguns sistemes per categoritzar a les persones o la identificació biomètrica remota en temps real amb finalitats policials en espais d'accés públic (amb limitades excepcions).
Per complementar aquest sistema, la Llei de IA també introdueix normes per als denominats models de IA d'ús general, que són models de IA de gran capacitat dissenyats per dur a terme una àmplia varietat de tasques, com la generació de textos similars als humans. Els models de IA d'ús general s'utilitzen cada vegada més com a components d'aplicacions de IA. La Llei de IA garantirà la transparència al llarg de la cadena de valor i abordarà els possibles riscos sistèmics dels models més capaços.
Aplicació i execució de les normes de IA
Els Estats membres tenen de termini fins al 2 d'agost de 2025 per designar a les autoritats nacionals competents, que supervisaran l'aplicació de les normes aplicables als sistemes de IA i duran a terme activitats de vigilància del mercat. La Oficina de IA de la Comissió serà el principal organisme d'aplicació de la Llei de IA a escala de la UE, així com l'autoritat responsable de l'aplicació de les normes relatives als models de IA d'ús general.
Tres òrgans consultius recolzaran l'aplicació de les normes. El Comitè Europeu d'Intel·ligència Artificial garantirà una aplicació uniforme de la Llei de IA en tots els Estats membres de la UE i actuarà com a principal òrgan de cooperació entre la Comissió i els Estats membres. Un grup científic d'experts independents oferirà assessorament tècnic i aportacions sobre l'aplicació de la normativa. En particular, aquest panell pot emetre alertes a l'Oficina de IA sobre els riscos associats als models de IA d'ús general. L'Oficina de IA també pot rebre orientació de un fòrum consultiu compost per un conjunt divers de parts interessades.
S'imposarà una multa a les empreses que no compleixin les normes. Les multes podrien ascendir fins al 7 % del volum de negocis anual mundial per infraccions d'aplicacions prohibides de IA, fins al 3 % per incompliment d'altres obligacions i fins a l'1,5 % pel subministrament d'informació incorrecta.
Etapes següents
La majoria de les normes de la Llei de IA començaran a aplicar-se el 2 d'agost de 2026. No obstant això, les prohibicions dels sistemes de IA que es consideri que presenten un risc inacceptable s'aplicaran ja al cap de sis mesos, mentre que les normes per als denominats models de IA d'ús general s'aplicaran al cap de 12 mesos.
Per superar el període transitori abans de la seva plena aplicació, la Comissió ha engegat el Pacte sobre la IA . Aquesta iniciativa convida als desenvolupadors de IA a adoptar voluntàriament les obligacions clau de la Llei de IA abans dels terminis legals.
La Comissió també està elaborant directrius per definir i detallar com ha d'aplicar-se la Llei d'Intel·ligència Artificial i facilitar instruments de corregulación com a normes i codis de pràctiques. La Comissió va obrir una convocatòria de manifestacions d'interès per participar en l'elaboració del primer Codi de bones pràctiques per la IA d'ús general, així com una consulta multilateral que va brindar a totes les parts interessades l'oportunitat d'expressar la seva opinió sobre el primer Codi de bones pràctiques en virtut de la Llei de IA.
Antecedents
El 9 de desembre de 2023, la Comissió va acollir amb satisfacció l'acord polític sobre la Llei de IA. El 24 de gener de 2024 , la Comissió va engegar un paquet de mesures per recolzar a les empreses emergents i a les pimes europees en el desenvolupament d'una IA fiable. El 29 de maig de 2024, la Comissió va donar a conèixer l'Oficina de IA . El 9 de juliol de 2024 va entrar en vigor el Reglament de l'Empresa Comuna EuroHPC modificat , la qual cosa permet la creació de fàbriques de IA. Això permet l'ús de superordenadores de IA específics per a l'entrenament de models de IA d'ús general (GPAI).
La contínua recerca independent i basada en dades contrastades realitzada pel Centre Comú de Recerca (JRC) ha estat fonamental per configurar les polítiques de la UE en matèria de IA i garantir la seva aplicació efectiva.
