Mesa de debate | Cómo diseñar modelos confiables, seguros y responsables que cumplan las especificaciones y normativas industriales

Representantes de UNE, Vicomtech, el Centro Tecnológico del Notariado y SERNAUTO analizan los desafíos y estrategias para desplegar inteligencia artificial confiable en sectores regulados

La última mesa de debate del AMETIC AI Summit 2025 abordó uno de los aspectos clave para la adopción responsable de la inteligencia artificial en el tejido industrial: cómo diseñar e implementar modelos confiables, seguros y éticos que cumplan con los marcos regulatorios y las normativas técnicas vigentes. El diálogo fue moderado por Antonio Cimorra, director de comisiones de AMETIC, y reunió a expertos de distintos sectores regulados y organismos normalizadores.

Abrió la conversación Cecilia Medina, responsable de Innovación y Talento en SERNAUTO, quien trasladó el enfoque del sector de automoción, uno de los más exigentes en términos de seguridad, trazabilidad y regulación. Explicó cómo la IA se está aplicando tanto en el diseño de producto (vehículos cada vez más definidos por software) como en procesos de producción. En producto, destacó el papel de la IA en sistemas ADAS (conducción asistida), conectividad, personalización de la experiencia del conductor y comandos por voz. En producción, la visión artificial, el mantenimiento predictivo o la optimización logística permiten mejoras de eficiencia y calidad. Medina subrayó que en un contexto internacional cada vez más competitivo, estas tecnologías son esenciales para evitar la deslocalización y mantener la competitividad del sector en Europa.

Desde una perspectiva tecnológica, Fátima Saiz, directora de desarrollo de Vicomtech Bilbao, compartió los retos que afrontan centros de investigación aplicada al desarrollar soluciones industriales basadas en IA. Subrayó la presión por entregar productos robustos, operativos 24/7 y adaptados al entorno real, cumpliendo al mismo tiempo con normativasde trazabilidad, explicabilidad y gobernanza de datos. Saiz hizo hincapié en la necesidad de adoptar herramientas quegaranticen el control completo del ciclo de vida del modelo, desde los datos hasta el despliegue, así como en la validación y simulación con IA generativa y datos sintéticos. Llamó a trabajar con todos los agentes del ecosistema —industria, academia, regulación y administración— para cerrar la brecha entre innovación y cumplimiento.

Enric Hernández, director de Seguridad e Innovación del Centro Tecnológico del Notariado, aportó la visión deuna institución tradicional que ha sabido apostar decididamente por la digitalización. Con una inversión acumulada de más de 140 millones de euros y 350 profesionales en plantilla, su centro tecnológico ha liderado iniciativas como el protocolo notarial electrónico, la firma digital para todos los notarios y el intercambio automatizado de información estructurada con las administraciones públicas. En el ámbito de la IA, trabajan en la extracción automatizada de datos relevantes de escrituras (con más de 500.000.000 de ítems al año) y en asistentes basados en IA generativa que ayudan en tareas jurídicas y administrativas. Hernández defendió unenfoque garantista, especialmente en sectores como el notarial, donde la privacidad, la fiabilidad jurídica y la seguridad son esenciales. Afirmó con rotundidad que la tecnología debe estar siempre al servicio de las personas.

Desde el ámbito normativo, José Antonio Jiménez, coordinador de Digitalización de UNE, explicó el papel central que juegan los estándares técnicos en el despliegue de la inteligencia artificial confiable. Recordó que el nuevoReglamento Europeo de Inteligencia Artificial (RIA) ya ha entrado en vigor y establece distintos niveles de riesgo para los sistemas de IA. Los sistemas de “alto riesgo” (por ejemplo, los que afectan a la salud, la seguridad o los derechos fundamentales) deberán demostrar su conformidad mediante estándares armonizados. Jiménez detalló que la Comisión Europea ya ha encargado la creación de normas para 10 áreas críticas, y que UNE, como organismo nacional de normalización, está trabajando con expertos para su desarrollo. Además, destacó la reciente publicaciónde la UNE-ISO/IEC 42001, norma que proporciona un marco de gestión para implantar IA de forma estructurada en las organizaciones. También anunció que se está finalizando una especificación española para medir la eficiencia energética, huella de carbono y consumo de agua de sistemas de IA, en el marco del Programa Nacional de Algoritmos Verdes impulsado por la Secretaría de Estado de Digitalización.

Durante la segunda ronda de intervenciones, los participantes coincidieron en la necesidad de herramientas de trazabilidad que permitan auditar todo el ciclo de vida de un sistema de IA. Saiz defendió la creación de pipelines sectoriales adaptados a cada industria y enfatizó la importancia de romper la “caja negra” de los modelos para ganar confianza. Hernández subrayó que la IA debe adoptarse con rigor en sectores sensibles y denunció las iniciativas que intentan delegar tareas críticas —como decisiones jurídicas— a agentes totalmente autónomos. Jiménez destacó que la sostenibilidad ambiental de la IA será objeto de regulación y normalización, y explicó que UNE ya está desarrollando una guía para medir indicadores clave como el consumo energético. Finalmente, Medina remarcó que la excesiva carga normativa o ambigüedad en definiciones como "alto riesgo" puede frenar la innovación y la competitividad en sectores como el de la automoción, y pidió marcos más ágiles y adaptados al contexto industrial.

En el cierre de la mesa, se pidió a cada ponente un titular:

●      José Antonio Jiménez (UNE): “Si tienes un reto con la IA, busca si ya existe un estándar: probablemente alguien ya ha tenido ese problema”.

●      Enric Hernández (Centro Tecnológico del Notariado): “IA, sí; pero siempre al servicio de las personas”.

●      Fátima Saiz (Vicomtech): “La IA debe verse como una aliada para aportar innovación, y las regulacionescomo una oportunidad, no como una amenaza.”

●      Cecilia Medina (SERNAUTO): “Aplicar inteligencia para que el sector de la automoción sea competitivo y no se quede atrás.”

Con esta mesa concluyeron las sesiones del AMETIC AI Summit 2025, dando paso a la ceremonia de entrega de los Premios de Inteligencia Artificial.