Como ya explicamos en un comentario previo , en materia de inteligencia artificial (IA), la propuesta de la Comisión presta una especial atención al impacto de la reforma en la protección de datos personales,perspectiva previamente analizada por el EDPB en 2024 . En concreto, la Comisión intenta reforzar la seguridad jurídica introduciendo reglas específicas sobre el uso del interés legítimo para entrenar y operar determinados sistemas de IA. El interés legítimo es la base que permitiría a una empresa o entidad entrenar o mejorar un sistema de IA con datos personales, como responsable del tratamiento, sin necesidad de consentimiento de su titular, cuando dicho tratamiento sea necesario para un fin legítimo (por ejemplo, mejorar un modelo, detectar abusos, garantizar una mayor seguridad, optimizar un servicio…), siempre que no deban prevalecer los derechos de las personas titulares de la información y, adicionalmente, se respeten ciertas garantías .
Además, la propuesta añade una excepción adicional para los casos en que aparezcan de forma incidental o residual categorías especiales de datos del artículo 9 RGPD en el ciclo de vida de esos sistemas. Según el apartado 5 que se pretende añadir a dicho precepto:
«se aplicarán las medidas organizativas y técnicas adecuadas para evitar la recogida y, de otro modo, el tratamiento de categorías especiales de datos personales. Cuando, a pesar de la aplicación de dichas medidas, el responsable del tratamiento detecte categorías especiales de datos personales en los conjuntos de datos utilizados para el entrenamiento, la prueba o la validación, o en el sistema o modelo de IA, eliminará dichos datos. Si la supresión de dichos datos requiere un esfuerzo desproporcionado, el responsable del tratamiento protegerá en cualquier caso eficazmente y sin demora indebida dichos datos a fin de que no puedan utilizarse para producir resultados, ni puedan ser divulgados o de cualquier otra forma puestos a disposición de terceros».
En concreto, con la referencia al carácter incidental se trataría de hacer frente a aquellos supuestos en que se traten datos personales de esta singular naturaleza sin ser un objetivo deliberado, es decir, sin que se haya buscado ni pretendido incluirlos: sería el caso, por ejemplo, de un dataset para IA de reconocimiento de imágenes si aparece de forma imprevista una foto que revele orientación sexual o creencias políticas. Siguiendo con el ejemplo, así sucedería si el objetivo fuera identificar objetos, no personas ni rasgos sensibles, pero dentro de miles de fotos, apareciera una imagen en la que alguien lleva una camiseta con un lema político o aparece una pareja del mismo sexo besándose, lo que podría revelar orientación sexual. En este caso, aunque no se pretendiera tratar datos sensibles, sin embargo, las imágenes se han procesado sin pretenderlo de manera deliberada; pero debería impedirse que se divulguen o puedan aparecer indirectamente con ocasión del uso de la herramienta de IA.
Por su parte, el tratamiento residual se refiere a la posibilidad de que, por razones técnicas inevitables, en los modelos de IA puedan quedar “trazas” de los datos sensibles durante todo el ciclo de vida del sistema, incluso tras aplicar filtros de anonimización. Así podría suceder, por ejemplo, al entrenar un chatbot de atención al cliente con conversaciones reales donde haya menciones a problemas médicos en contextos triviales que no constituyan una consulta médica en sentido estricto.
El dictamen reconoce que, en la práctica, pueden darse tratamientos residuales difíciles de evitar, pero reclama una redacción mucho más estricta y ligada a salvaguardas efectivas a lo largo de toda la vida del sistema. Asimismo, recuerda que ya existen criterios interpretativos adecuados para enmarcar su uso en contextos de IA sin necesidad de añadir una cláusula específica, que podría interpretarse como una habilitación legal de carácter general para entrenar modelos siempre que exista un contrato o un interés comercial abstracto. En este sentido, la recomendación del dictamen es que, si se mantiene la referencia, se acompañe de requisitos claros de evaluación de impacto, documentación y derecho de oposición reforzado. Se trata, en definitiva, de evitar que la reforma acabe consolidando una autorización general para tratar categorías especiales de datos bajo la etiqueta de “incidental” o “residual”.
Finalmente, por lo que se refiere a los tratamientos automatizados de datos personales —impliquen o no el uso de herramientas de IA—, el dictamen propone mantener el principio de prohibición como regla general que la Comisión intenta eliminar. Admite, eso sí, la existencia de un conjunto de excepciones tasadas en las que la automatización pueda estar justificada. Se trata, en definitiva, de evitar que la nueva regulación parezca ofrecer una autorización general simplemente porque exista un contrato con el interesado, aunque la automatización no sea realmente necesaria para ejecutarlo.