La Ley de Servicios Digitales impone requisitos de gestión de riesgos para las empresas designadas por la Comisión Europea como Plataformas en línea muy grandes y Motores de búsqueda en línea muy grandes. Bajo este marco, las plataformas designadas deberán identificar, analizar y mitigar una amplia gama de riesgos sistémicos en sus plataformas, que van desde cómo el contenido ilegal y la desinformación pueden amplificarse a través de sus servicios hasta el impacto en la libertad de expresión o la libertad de los medios. Del mismo modo, se deben evaluar y mitigar los riesgos específicos en torno a la violencia de género en línea y la protección de los menores en línea y su salud mental. Los planes de mitigación de riesgos de las plataformas y motores de búsqueda designados estarán sujetos a una auditoría y supervisión independientes por parte de la Comisión Europea.
ECAT proporcionará a la Comisión experiencia técnica y científica interna para garantizar que los sistemas algorítmicos utilizados por las plataformas en línea muy grandes y los motores de búsqueda en línea muy grandes cumplan con los requisitos de gestión de riesgos, mitigación y transparencia en la DSA. Esto incluye, entre otras tareas, la realización de análisis técnicos y evaluaciones de algoritmos . Un equipo interdisciplinario de científicos de datos, expertos en inteligencia artificial, científicos sociales y expertos legales combinará su experiencia para evaluar su funcionamiento y proponer mejores prácticas para mitigar su impacto. Esto será crucial para asegurar el análisis exhaustivo de los informes de transparencia y autoevaluación de riesgos presentados por las empresas designadas, y para realizar inspecciones a sus sistemas cuando lo requiera la Comisión.
Esta misión no podría lograrse sin una adecuada capacidad de investigación y prospectiva , que también son inherentes al enfoque de ECAT. Los investigadores del JRC aprovecharán y avanzarán aún más en su larga experiencia en el campo de la Inteligencia Artificial (IA), que ya ha sido fundamental en la preparación de otras normas importantes como la Ley de IA, el Plan Coordinado sobre IA y su revisión de 2021. Los investigadores de ECAT no solo se centrarán en identificar y abordar los riesgos sistémicos derivados de las plataformas en línea muy grandes y los motores de búsqueda en línea muy grandes, sino que también investigarán el impacto social a largo plazo de los algoritmos.
