La IA en sanidad: riesgos que deben vigilar los gestores en España

La inteligencia artificial (IA) está transformando la investigación médica, la organización de los hospitales y la gestión de los recursos sanitarios. Sin embargo, su incorporación también plantea desafíos relacionados con la seguridad de los pacientes, la calidad de los datos, la equidad y la dependencia tecnológica.

Julio Mayol, director científico de la Fundación para la Investigación Biomédica del Hospital Clínico San Carlos, ha advertido de que estos riesgos deben ocupar un lugar prioritario en la agenda de los responsables sanitarios. Sus declaraciones se produjeron durante la conferencia "Inteligencia Artificial en Salud y Soberanía Estratégica: ¿hacia dónde vamos?", celebrada en el XVII Encuentro Global de Parlamentarios de la Sanidad.

Los principales riesgos de aplicar inteligencia artificial en sanidad

La incorporación de herramientas de IA en hospitales y administraciones puede facilitar numerosas tareas, pero su uso debe estar acompañado de evaluaciones rigurosas. En el ámbito clínico, los resultados de estos sistemas pueden influir en decisiones que afectan directamente a los pacientes.

Por este motivo, Mayol destacó varios aspectos que los gestores deben considerar antes de integrar estas tecnologías en los servicios sanitarios.

Validación y fiabilidad de los sistemas

Una herramienta de inteligencia artificial no debe considerarse fiable únicamente porque pueda procesar grandes cantidades de información o generar respuestas rápidamente. Es necesario comprobar que funciona correctamente, que sus resultados son consistentes y que resulta adecuada para las personas y las situaciones en las que se utilizará.

La evaluación debe tener en cuenta el contexto clínico, la calidad de la información empleada y las consecuencias de posibles errores. También es importante mantener una supervisión humana, especialmente cuando la tecnología participa en decisiones relevantes para la salud.

Equidad y calidad de los datos

Los datos utilizados para desarrollar y entrenar sistemas de IA condicionan sus resultados. Si la información no representa adecuadamente a los diferentes grupos de pacientes, existe el riesgo de que la herramienta funcione peor en determinadas poblaciones.

Por ello, los responsables sanitarios deben revisar la representatividad de los datos, identificar posibles sesgos y comprobar que las soluciones no aumentan las desigualdades en el acceso o la calidad de la atención médica.

Seguridad, ciberseguridad y responsabilidades

El tratamiento de información sanitaria requiere medidas sólidas para proteger la privacidad de los pacientes y evitar accesos no autorizados. La seguridad digital debe formar parte de la planificación desde el inicio, no incorporarse únicamente cuando aparece un problema.

Además, las instituciones necesitan establecer quién supervisa los sistemas, cómo se investigan los errores y qué responsabilidades corresponden a cada parte cuando una decisión apoyada por inteligencia artificial produce consecuencias negativas.

La dependencia tecnológica, un desafío estratégico para España

Otro de los asuntos señalados por Mayol es la dependencia de proveedores externos. La inteligencia artificial no se limita a un programa informático: requiere modelos, centros de datos, chips, energía e infraestructuras capaces de procesar y almacenar información.

Esta realidad plantea un desafío para España y Europa, que deben valorar hasta qué punto pueden desarrollar, mantener y controlar sus propias capacidades tecnológicas. Depender excesivamente de terceros puede reducir la autonomía de los sistemas sanitarios y limitar su capacidad para tomar decisiones estratégicas.

Para el especialista, disponer de datos no es suficiente. También hacen falta profesionales preparados, recursos tecnológicos y capacidad para utilizar esa información de forma segura y responsable.

Cómo puede ayudar la IA a mejorar la gestión sanitaria

Pese a los riesgos, la inteligencia artificial ofrece oportunidades para mejorar la eficiencia de los servicios de salud. Su aplicación puede ayudar a anticipar necesidades, optimizar recursos y reducir tareas administrativas que consumen tiempo de los profesionales.

Predicción de la demanda y organización hospitalaria

Los sistemas de IA pueden contribuir a estimar la demanda asistencial, organizar el uso de quirófanos y mejorar la planificación de suministros. También pueden facilitar tareas como la codificación clínica, la facturación y el análisis de escenarios antes de introducir cambios en las políticas sanitarias.

Estas aplicaciones pueden apoyar las decisiones de los gestores, siempre que sus recomendaciones se evalúen y se adapten a las necesidades reales de cada centro.

Avances en investigación biomédica

En investigación, la IA puede facilitar el análisis de publicaciones científicas, la formulación de nuevas hipótesis y la identificación de posibles dianas terapéuticas. También puede contribuir a diseñar ensayos clínicos más eficientes y desarrollar modelos digitales para estudiar enfermedades.

Estas herramientas pueden acelerar determinadas fases del trabajo científico, aunque sus resultados deben someterse a comprobaciones y métodos de validación adecuados antes de trasladarse a la práctica médica.

La prioridad: mejorar el trabajo de los profesionales

Mayol defendió que la incorporación de tecnología debe servir para mejorar la actividad sanitaria, no para aumentar la carga de trabajo. Uno de los beneficios esperados es reducir las tareas repetitivas y administrativas para que médicos y otros profesionales puedan dedicar más tiempo a analizar los casos y atender a los pacientes.

Para alcanzar ese objetivo, los sistemas deben integrarse de forma útil en los procesos asistenciales y acompañarse de formación. La tecnología por sí sola no garantiza una mejora: su valor depende de cómo se implemente, de las necesidades que resuelva y de los resultados que se puedan demostrar.

España y Europa necesitan una estrategia de IA sanitaria

El debate sobre la inteligencia artificial en sanidad va más allá de incorporar nuevas herramientas a los hospitales. También implica definir reglas de gobernanza, proteger los datos, formar a los profesionales y garantizar que las instituciones mantengan capacidad de decisión sobre las tecnologías que utilizan.

El reto de los gestores sanitarios consiste en equilibrar innovación y precaución. Antes de adoptar una solución, deben valorar su seguridad, su eficacia, su impacto en la equidad y su sostenibilidad, además de establecer mecanismos para supervisarla de forma continua.

La conclusión planteada por Mayol es que estos asuntos deben abordarse desde ahora. El desarrollo de la inteligencia artificial puede ofrecer oportunidades importantes para el sistema sanitario, pero sus beneficios dependerán de una implantación responsable, con garantías y orientada a mejorar la atención a las personas.

¿Cuáles son los principales riesgos de la IA en sanidad?

Entre los principales riesgos se encuentran los errores de los sistemas, los sesgos en los datos, las desigualdades, los problemas de ciberseguridad, la falta de claridad sobre las responsabilidades y la dependencia tecnológica.

¿Por qué es importante validar la inteligencia artificial médica?

La validación permite comprobar si una herramienta funciona de manera fiable en el contexto en el que se utilizará y si sus resultados son adecuados para los pacientes y los profesionales sanitarios.

¿Cómo puede ayudar la IA a los hospitales?

Puede apoyar la planificación de la demanda, la organización de quirófanos, la gestión de suministros, las tareas administrativas y distintas fases de la investigación biomédica.

¿La inteligencia artificial puede sustituir a los médicos?

La IA puede servir como herramienta de apoyo, pero no elimina la necesidad de supervisión profesional, criterio clínico y evaluación de las circunstancias particulares de cada paciente.

¿Qué deben hacer los gestores sanitarios antes de implantar IA?

Deben evaluar la utilidad y fiabilidad de la herramienta, revisar la calidad de los datos, proteger la información, definir responsabilidades, formar al personal y establecer mecanismos de supervisión.