Un grupo de destacados científicos, designados por las redes europeas de academias que integran SAPEA (siglas de Science Advice for Policy by European Academies), presenta hoy un nuevo informe sobre el papel de la inteligencia artificial en la gestión de emergencias y crisis. El informe se entrega a Maciej Popowski, director general de la DG ECHO (Protección Civil y Operaciones de Ayuda Humanitaria Europeas) de la Comisión Europea.
Informe Inteligencia Artificial en la Gestión de Emergencias y Crisis de SAPEA
El Mecanismo de Asesoramiento Científico proporciona pruebas científicas independientes y recomendaciones de política a las instituciones europeas. Los científicos desempeñan un papel crucial en orientar las políticas de la Unión Europea, especialmente en ámbitos como la IA en la gestión de emergencias y crisis, donde la coordinación intersectorial en toda Europa es esencial.
La Inteligencia Artificial ofrece un potencial significativo para mejorar la gestión de emergencias y crisis en determinadas situaciones. Adoptando una perspectiva sociotécnica, el informe sostiene que las herramientas de IA deben respetar la dignidad humana, la transparencia y la responsabilidad, al tiempo que cumplen las normas europeas de seguridad y ética. Se requiere un seguimiento cuidadoso para garantizar el cumplimiento de los marcos legales, evitar sesgos algorítmicos y mantener un control humano significativo.
La evidencia sugiere que la IA funciona mejor en tareas estandarizadas e intensivas en datos, típicas de desastres frecuentes como inundaciones, incendios forestales y sequías. Destaca en tareas de monitorización repetitiva importantes para los sistemas de alerta temprana y puede procesar redes sociales y evaluar daños a escalas y velocidades fuera del alcance de los analistas humanos. Sin embargo, la IA no se adapta bien a la interpretación de contextos muy heterogéneos o situaciones nuevas para las que faltan datos de entrenamiento adecuados. Además, las decisiones y dilemas con una fuerte carga moral no deberían delegarse en una herramienta de IA.
El desarrollo y la implementación de indicadores de referencia, directrices prácticas, códigos de conducta y entornos de pruebas controlados y seguros para la IA en la gestión de crisis permitirían testar la IA bajo supervisión y con control ético antes de su despliegue completo.
Un nuevo marco europeo de preparación de datos para la gestión de crisis, con normas comunes y protocolos de intercambio acordados, podría ayudar a cubrir lagunas de datos y promover la armonización entre Estados miembros, facilitando el entrenamiento de IA a escala europea adaptada a los contextos pertinentes de la UE, y contribuyendo a disponer de mejores herramientas europeas de gestión de crisis.
“Las crisis traspasan fronteras, pero los datos se gestionan a nivel nacional, siguiendo estándares diferentes. Esta diversidad puede provocar fragmentación en el panorama de datos que la IA no puede superar fácilmente. La preparación de los datos es un paso importante para conectar estos sistemas de datos, que proporcionan la base necesaria para que la IA ofrezca un apoyo eficaz a la toma de decisiones en la gestión de crisis europeas”, explicó la profesora Tina Comes, presidenta del grupo de trabajo de SAPEA sobre Inteligencia Artificial en la Gestión de Emergencias y Crisis.
Cuándo utilizar la IA para la gestión de crisis y cuándo optar por vías alternativas (Figura 6. Informe sobre Inteligencia Artificial en la Gestión de Emergencias y Crisis)
La investigadora del IDAEA-CSIC, Marta López Saavedra, participó como experta invitada en el taller “The Role and Use of Artificial Intelligence for Crisis Management”, organizado en apoyo al Scientific Advice Mechanism (SAM) de la Comisión Europea. Las conclusiones de este taller han contribuido a la elaboración de un informe de síntesis de pruebas, preliminar al informe de SAPEA para la DG ECHO.
Para la Dra. Saavedra, miembro del Servicio de Evaluación y Gestión de Riesgos Naturales (NRAMS) del IDAEA-CSIC, especializado en la evaluación y la gestión de riesgos naturales mediante tecnología avanzada:
“Este informe es especialmente valioso porque ayuda a aclarar, con un lenguaje accesible, qué puede aportar realmente la inteligencia artificial en situaciones de crisis y qué precauciones deben tomarse para usarla de forma segura. Ofrece una guía clara para entender para qué tipos de tareas resulta útil la IA, qué tipo de datos necesita, cómo debe evaluarse y por qué siempre es imprescindible mantener la supervisión humana”.
“Este trabajo aporta una base sólida para tomar decisiones informadas: explica las oportunidades, señala las limitaciones reales y propone medidas prácticas para que cualquier herramienta de IA se utilice de manera responsable, ética y alineada con la protección de las personas. En un momento en el que las crisis son cada vez más complejas, disponer de un marco así es fundamental para fortalecer la anticipación, la coordinación y la resiliencia”, añade la investigadora.
Más noticias
