El Panel Científico de IA de la UE se reúne a raíz de los últimos incidentes en este campo

El 9 de octubre de 2026, Henna Virkkunen, vicepresidenta ejecutiva de Soberanía Tecnológica, Seguridad y Democracia, y Seán Ó hÉigeartaigh, presidente del Panel Científico de IA, convocaron una reunión especial.

La reunión del Panel Científico de IA tuvo como objetivo informar las acciones de la Comisión, a la luz de los recientes incidentes de pérdida de control y los avances técnicos relacionados con la monitorización de los modelos y la auto-mejora recursiva. El presidente también presentó recomendaciones clave para el trabajo de la Oficina de IA.

El panel ha estado investigando incidentes recientes de pérdida de control. El presidente y el vicepresidente presentaron la información disponible hasta la fecha sobre estos incidentes y destacaron lo que aún desconocemos. El panel ha colaborado con la Oficina de IA en la elaboración de un conjunto de preguntas para las empresas que desarrollaron los modelos involucrados. La Oficina de IA ya ha solicitado y recibido informes de incidentes graves y ha enviado solicitudes de información sobre prácticas de seguridad. Partiendo de estos esfuerzos, la Comisión enviará solicitudes de información con las preguntas combinadas del panel y la Oficina de IA para profundizar en la investigación de estos incidentes.

El presidente presentó evidencia relacionada con la posibilidad de la auto-mejora recursiva de la IA y los riesgos asociados. El panel también debatió los avances recientes en técnicas de entrenamiento que reducen la monitorización de los modelos y sus implicaciones para futuros incidentes y la mitigación de riesgos.

El presidente y el vicepresidente del panel presentaron recomendaciones clave al Vicepresidente Ejecutivo y a la Oficina de IA en relación con la seguridad de la IA de vanguardia. En particular, recomiendan lo siguiente:

• garantizar la gobernanza del riesgo que plantean los modelos internos durante las actividades de desarrollo y la implementación para las pruebas;
• reforzar las capacidades de la UE relacionadas con la detección, evaluación e investigación de incidentes de esta naturaleza (por ejemplo, mediante un grupo de trabajo, preparando las bases técnicas y procedimentales para futuras investigaciones);
• establecer una iniciativa internacional para facilitar el intercambio de información y los requisitos comunes para los desarrolladores de IA de vanguardia, así como la respuesta y prevención conjuntas ante crisis;
• Garantizar un mayor control de las técnicas y arquitecturas de capacitación que reducen la capacidad de supervisión, dados los riesgos que presentan.

Fuente original de la noticia