La jornada inaugural del ValgrAI Scientific Council Forum reúne en la UPV a expertos internacionales, jóvenes investigadores y empresas punteras para reflexionar sobre los retos éticos, científicos y sociales de la IA
La Facultad de Bellas Artes de la Universitat Politècnica de València (UPV) ha acogido hoy la apertura del IV ValgrAI Scientific Council Forum (VSCF), evento anual, que impulsa el diálogo entre ciencia, empresa e instituciones para analizar el presente y futuro de la inteligencia artificial. Organizado por la Fundación ValgrAI, el foro ha reunido a más de 300 asistentes en una jornada multidisciplinar que ha puesto el foco en la aplicación responsable, transparente y transformadora de la IA.
La bienvenida institucional ha corrido a cargo de Ana Cidad, Directora Gerente de ValgrAI; Vicent Botti, Director General; y Inma Romero , Directora del Área de Biblioteca, Documentación y Ciencia Abierta de la Universitat Politècnica de València. Los tres han coincidido en destacar el compromiso de ValgrAI con una inteligencia artificial que no solo avance en lo técnico, sino que también sirva para mejorar la vida de las personas y los entornos que habitan.
La primera keynote de la jornada ha sido impartida por el investigador de ValgrAI, UPV y la University of Cambridge José Hernández Orallo, una de las voces más autorizadas en el campo de la evaluación de la inteligencia artificial. En su ponencia, titulada «AI Evaluation with Explanatory and Predictive Power», el investigador de la UPV ha subrayado la necesidad de superar las métricas tradicionales —basadas en aciertos o benchmarks estáticos— para avanzar hacia sistemas de evaluación que expliquen el rendimiento de los modelos, predigan su comportamiento en situaciones nuevas y permitan compararlos de forma robusta con capacidades humanas.
Hernández Orallo ha presentado herramientas como DeLeAn y ADeLe, que permiten analizar de forma más granular las habilidades cognitivas que exhibe una IA, y entender qué tipo de generalización realiza. Esta perspectiva no solo es crucial para diseñar sistemas más seguros y eficaces, sino también para construir una IA más comprensible y auditable. “Debemos dejar de preguntar simplemente si un sistema acierta y empezar a preguntarnos por qué lo hace”, ha concluido.
El futuro de la Inteligencia Artificial
El bloque titulado “The Future of AI: ValgrAI Researchers” ha sido uno de los momentos más estimulantes de la jornada, con la participación de diez investigadores pre y postdoctorales de las universidades valencianas, que han compartido proyectos punteros con alto impacto social, muchos de ellos desarrollados en colaboración con centros médicos, educativos e industriales. Estas intervenciones han demostrado cómo el ecosistema ValgrAI está formando a una nueva generación de científicos con una mirada aplicada, rigurosa y comprometida.
Behzad Mehrbakhsh (UPV) ha abierto el bloque con su estudio sobre el «Contamination Budget», un modelo teórico que analiza cómo distintos niveles de ruido o contaminación en los datos de entrenamiento afectan el rendimiento de los modelos de IA. Su investigación propone un marco de evaluación que permite entender los compromisos entre amplitud, profundidad y dificultad en los sistemas de aprendizaje. Lucía Gómez (HealthTech-UPV) ha presentado un sistema de detección multimodal de depresión mediante análisis de voz, lenguaje y expresiones faciales en conversaciones simuladas con humanos virtuales. Su propuesta demuestra cómo la IA puede ayudar a detectar estados emocionales complejos de forma no invasiva y personalizada. Salvador López Barajas (UJI) ha compartido los avances de su investigación en robótica submarina, titulada «From Perception to Grasp», donde aplica inteligencia artificial para que robots autónomos puedan detectar, reconocer y manipular objetos bajo el agua. Un reto técnico clave para sectores como la exploración oceánica, el mantenimiento de infraestructuras o la conservación ambiental.
Por otro lado, Carlos S. Galindo (VRAIN-UPV) ha presentado una solución eficiente para la extracción automática de contenido principal y comentarios en páginas web heterogéneas, basada en análisis estructural del DOM. Su algoritmo supera a otros métodos existentes en velocidad y precisión, siendo de gran utilidad para alimentar modelos de lenguaje o sistemas de curación de datos. Vicente Quiles (UMH) ha impresionado con NeuroRunner, un videojuego neurorehabilitador controlado por la mente, desarrollado mediante una interfaz cerebro-máquina basada en señales EEG. Su uso permite personalizar el tratamiento cognitivo y físico en pacientes con lesiones neurológicas, haciendo la rehabilitación más accesible y motivadora; y Carlos Aliaga Torró (VRAIN-UPV) ha presentado AMAIA-EPO, una arquitectura adaptativa multimodal con agentes inteligentes para la optimización del proceso educativo. El sistema actúa como un asistente pedagógico que analiza las interacciones del alumnado y ajusta los recursos didácticos en tiempo real, reforzando así la personalización del aprendizaje.
Asimismo, Sergio Gómez (PHRLT-UPV) ha introducido un toolkit en Python para la evaluación automatizada de modelos de lenguaje (LLMs), desarrollado dentro del proyecto ARCHER. La herramienta estandariza procesos de benchmarking, mejora la transparencia y permite comparar el rendimiento de modelos en tareas complejas de forma reproducible. Ana Sierra García (HealthTech-UPV) ha mostrado los resultados de un estudio pionero sobre la actividad eléctrica y metabólica cerebral durante la imaginación motora, tanto en personas sanas como en pacientes con conciencia alterada. Mediante el uso combinado de EEG y fNIRS, su sistema permite explorar nuevas vías para el diagnóstico neurológico sin necesidad de respuestas motoras, y Sandra Goizueta Berheide (HealthTech-UPV) ha expuesto un proyecto de evaluación de la conciencia encubierta en pacientes con daño cerebral severo, utilizando IA para analizar las respuestas fisiológicas ante estímulos emocionales personalizados. Su método permite detectar señales de actividad cognitiva que escapan a las pruebas clínicas convencionales.
Rodrigo Barriga Porras (HealthTech-UPV) ha cerrado el bloque con un estudio retrospectivo que emplea machine learning para predecir el nivel de independencia funcional de pacientes con daño cerebral traumático o ictus. A partir de variables recogidas en los primeros seis meses de rehabilitación, su modelo permite anticipar con alta precisión los resultados a largo plazo y planificar tratamientos personalizados.
Tras ellos ha llegado el turno de las empresas que han puesto de relevancia sus casos de éxito en la aplicación de la IA. Este bloque ha evidenciado la madurez creciente de la IA aplicada en sectores clave para la economía y el bienestar social.
Luis Búrdalo, en representación de S2 Grupo, ha ofrecido una ponencia en la que ha advertido sobre el incremento de las amenazas digitales en un contexto donde la IA puede ser tanto parte del problema como de la solución. Ha presentado cómo S2 Grupo utiliza IA para detectar ciberataques en tiempo real, automatizar la respuesta a incidentes y fortalecer la resiliencia de infraestructuras críticas mediante plataformas como GLORIA o CARMEN. Recalcó que, pese al poder de la IA, el factor humano sigue siendo esencial.
Manuel Herranz, CEO de Pangeanic, ha defendido un modelo de IA más democrático y sostenible en su ponencia “La IA que funciona: pequeños modelos para grandes problemas”. Frente a la tendencia dominante hacia grandes modelos centralizados, Pangeanic apuesta por Small Language Models (SLMs) entrenados para tareas concretas, que ofrecen mejor rendimiento energético, autonomía tecnológica y mayor privacidad.
Desde Nunsys Group, Katherin Orozco ha presentado NARRATE: Intelligent Manufacturing Custodian, una plataforma que convierte a las fábricas en organismos inteligentes capaces de adaptarse en tiempo real a cambios en la demanda, interrupciones logísticas o emergencias. Esta solución combina IA, big data, gemelos digitales e IoT para mejorar la resiliencia, sostenibilidad y eficiencia energética de la industria europea. Casos de uso en sectores como semiconductores o fabricación aditiva ilustraron su potencial.
En el ámbito de la gestión del agua, Cristina Baixauli, de Hidraqua, ha demostrado cómo la IA ya está siendo usada en operaciones críticas para optimizar procesos y reducir el impacto ambiental. Su ponencia, “Inteligencia artificial al servicio de la sostenibilidad en la gestión del agua”, abordó desde modelos predictivos para anticipar turbidez o fugas, hasta sistemas de visión artificial para detectar residuos sólidos o alertas de intrusiones marinas en depuradoras costeras.
José Vicente Cercós, de Idrica, ha presentado el proyecto “De datos a decisiones”, basado en la plataforma Xylem Vue powered by GoAigua. Esta solución integra datos en tiempo real de sensores, SCADA y GIS para ofrecer predicciones avanzadas, análisis prescriptivos y toma de decisiones automatizada en todo el ciclo del agua. Cercós destacó cómo este enfoque está permitiendo reducir pérdidas, evitar inundaciones y anticipar escenarios críticos con alta precisión.
Por último, Pablo Fernández , responsable de innovación de Baleària, ha expuesto el compromiso de la naviera con la transformación digital sostenible y ha detallado cómo aplican IA en la optimización de rutas, predicción del consumo energético, control de emisiones y mantenimiento preventivo, así como en el desarrollo de gemelos digitales para sus buques. También ha presentado el IA Lab de Baleària como un ecosistema de innovación abierta que involucra a universidades y centros de investigación.
Gottlob cierra la jornada con un “psicoanálisis” de ChatGPT
La segunda ponencia magistral de la jornada ha sido ofrecida por el prestigioso investigador Georg Gottlob (Universidad de Oxford y Universidad de Calabria), quien ha expuesto una visión crítica, pero constructiva, de los modelos de lenguaje generativo como ChatGPT, bajo el provocador título «Psychoanalysis (and Therapy) of ChatGPT».
Gottlob ha mostrado cómo estos modelos, pese a su asombrosa capacidad lingüística, presentan errores sistemáticos, sesgos no detectados y una tendencia a “alucinar” información, inventando hechos o referencias. Ha cuestionado la ciega confianza que a veces se deposita en estos sistemas y ha presentado una solución: Chat2Data, un sistema de agentes inteligentes que descompone tareas complejas en subtareas verificables, con mecanismos internos de revisión, validación cruzada y trazabilidad. Un enfoque que busca hacer compatibles los avances de la IA con la exigencia de veracidad y control en entornos científicos, jurídicos o administrativos.
La jornada ha finalizado con una mesa redonda moderada por Ramon López de Mantaras (CSIC), en la que han participado figuras internacionales como Carme Torras , (CSIC) Tom Dietterich (Oregón State University y el propio Gottlob. En este espacio se ha debatido sobre los retos científicos, éticos y sociales que plantea la IA, desde la transparencia en la investigación hasta la necesidad de una gobernanza sólida y democrática de estas tecnologías.
ValgrAI (Valencian Graduate School and Research Network of Artificial Intelligence) es una fundación sin ánimo de lucro formada por la Generalitat Valenciana, las cinco universidades públicas de la Comunitat Valenciana (UV, UPV, UA, UJI y UMH) y empresas del sector que coordina el estudio y la investigación en Inteligencia artificial en la Comunitat Valenciana para responder a las necesidades tecnológicas de las compañías y promover la creación de nuevo talento en inteligencia artificial, renovando así el modelo productivo de la Comunitat Valenciana.
El proyecto busca cooperación entre los generadores de conocimiento (docentes e investigadores), empresas y sectores productivos interesados en esta tecnología, con el objetivo de convertir a la Comunitat Valenciana en un polo de excelencia en las tecnologías de Inteligencia Artificial.
