• Editorial
• Publicado: 19 Marzo 2024

Cómo apoyar la transición a la atención médica impulsada por IA

Medicina de la naturaleza volume 30, pages609–610 (2024)Citar este artículo

• 21k Accesos
• 61 Altmétrico
• Métricasdetails

Para que los sistemas de salud sean más sostenibles a largo plazo, hay que incentivar la inteligencia artificial (IA) y las tecnologías digitales que se basan en pruebas cuidadosas y validación en el mundo real.

En un futuro no muy lejano, la población mundial parecerá mucho más vieja de lo que solía ser. Un informe reciente de la OMS¹ Se estima que 1 de cada 6 personas tendrá más de 60 años en 2030. Los sistemas de salud de los países de ingresos altos ya están experimentando la presión de los cambios demográficos, ya que una población en edad de trabajar cada vez menor necesita atender a una población que envejece cada vez más. Aunque la esperanza de vida ha aumentado constantemente en los últimos 20 años en la mayoría de los países, la esperanza de vida saludable no ha crecido al mismo ritmo.

En este contexto, los gobiernos y otras fuerzas sociales están dirigiendo su atención a las herramientas digitales y computacionales que pueden reducir el costo de los sistemas de salud actuales sin comprometer los estándares de atención, posiblemente incluso aumentando su alcance y calidad. Estudios recientes^2,3,4 han ofrecido una visión de cómo podría ser el futuro, mostrando que los algoritmos de visión por computadora pueden actuar de manera efectiva como “ojos” adicionales en la detección del cáncer de mama, aumentando la precisión de la detección de casos.

Confiamos en que esta transición a la atención sanitaria “impulsada por la IA” se produzca y que tenga el potencial de aportar un bien público generalizado. Al mismo tiempo, creemos que estos beneficios se materializarán de manera más constante y rápida con estudios clínicos cuidadosamente diseñados y la implementación basada en evidencia de algoritmos y dispositivos de IA en el mundo real. Estamos ansiosos por apoyar a los investigadores y médicos en este esfuerzo y la implementación clínica seguirá siendo una de nuestras principales prioridades para el contenido de medicina digital.

El potencial transformador de la IA no está exento de riesgos. Las preguntas de cómo deben evaluarse las intervenciones de IA o cuándo una intervención está lista para el horario estelar aún están abiertas. En este sentido, el hecho de que los reguladores se esfuercen por mantenerse al día con el ritmo de las innovaciones tecnológicas en este campo no ayuda. En la actualidad, las herramientas digitales y computacionales todavía se encuentran en la zona gris de los dispositivos médicos, para los que a menudo no se requiere una evaluación clínica prospectiva. Los temores sobre el uso dañino de la IA, en particular la introducción de sesgos algorítmicos que podrían sesgar o impedir que alguien reciba la atención adecuada, son reales y podrían ser catastróficos si se amplían. Contratiempos evitables como estos solo ralentizarían la adopción de herramientas de IA en la clínica y, en última instancia, aumentarían sus costos a largo plazo. Entonces, ¿cuál es el camino a seguir para aprovechar el inmenso potencial de la IA?

En primer lugar, las pruebas prospectivas y la validación son cruciales. Existe una amplia evidencia de que los modelos de IA tienen problemas de generalización, lo que significa que una herramienta de IA entrenada en un conjunto de datos puede no ofrecer predicciones precisas cuando se expone a nuevos datos. Por ejemplo, una revisión metodológica de los cientos de modelos de aprendizaje automático desarrollados para la detección de COVID-19⁵ A lo largo de la pandemia se puso de manifiesto que la gran mayoría de ellos eran problemáticos debido a la insuficiencia del tamaño de las muestras, a la ausencia de validación externa y a una evaluación inadecuada del desempeño. Los modelos de IA también tienden a tener un rendimiento muy diferente entre los subgrupos de población, lo que suele favorecer al mayoritario, del que han visto la mayor cantidad de datos. Eso puede resultar en peores resultados para los grupos subrepresentados. Pero incluso un modelo llamado perfecto debe probarse en su entorno previsto, especialmente cuando se supone que la herramienta actúa junto con un usuario humano.

En segundo lugar, hay poca comprensión de cómo la IA interactúa con los humanos dentro de un contexto sanitario. Por ejemplo, en un estudio reciente⁶, que presenta los resultados de un ensayo silencioso de un algoritmo para predecir la hidronefrosis obstructiva en niños en función de sus ecografías renales, los usuarios expuestos a la herramienta cambiaron su comportamiento de toma de decisiones clínicas en función de sus expectativas de los resultados del modelo, aprendiendo efectivamente del modelo. Esto es especialmente relevante con el advenimiento de grandes modelos de lenguaje cada vez más poderosos, como ChatGPT y los modelos básicos, cuyo comportamiento es comparativamente menos predecible o interpretable, en general.

En tercer lugar, la evaluación de las herramientas y dispositivos de IA no debe basarse únicamente en mediciones operativas, como si la herramienta aumenta la productividad de los médicos o del sistema sanitario en general. Aunque estos son resultados importantes en la búsqueda general de un sistema de salud más sostenible, la evaluación de cualquier modelo debe tener en cuenta también los beneficios reales y los daños potenciales para el individuo o la población en el extremo del otro usuario.

Por último, existe el riesgo de que la IA aumente aún más o cree nuevas disparidades en la salud. El despliegue de las herramientas más avanzadas depende de un sistema de infraestructura digital que simplemente no está presente en la mayoría de los países. A medida que se diseñen y lleven a cabo nuevos estudios, será importante considerar la viabilidad de la implementación de una intervención de IA donde más se necesite, incluidos los entornos con recursos limitados. Por ejemplo, el uso generalizado de teléfonos inteligentes en los países de bajos ingresos hace que las intervenciones digitales basadas en aplicaciones sean una forma relativamente fácil de brindar asistencia y apoyo sanitarios distribuidos incluso en áreas remotas. Los estudios ya han demostrado el potencial de estas aplicaciones para el apoyo remoto al aborto autoadministrado⁷ y la administración de antibióticos⁸.

Muchos de estos puntos se reflejan ahora en la declaración de la IA Responsable para la Atención Sanitaria Social y Ética (RAISE)⁹, un esfuerzo basado en el consenso, organizado por el Departamento de Informática Biomédica de la Facultad de Medicina de Harvard, en el que participan muchas partes interesadas clave en la transición a la atención sanitaria impulsada por la IA. También queremos que estos principios se reflejen con mayor frecuencia en el diseño de los estudios que publicamos.

En ese sentido, alentamos la presentación de nuevas investigaciones que aporten pruebas sólidas para respaldar la implementación de la IA en la atención médica, particularmente en entornos con recursos limitados, ya sea a través de ensayos clínicos, estudios observacionales prospectivos o implementación en el mundo real e investigación rentable. Invitamos a nuestros autores a seguir colaborando con nosotros para defender la investigación que aborde estas lagunas y proponga la IA como herramienta de democratización de la atención sanitaria.

Referencias

1. Organización Mundial de la Salud. Envejecimiento y Salud; https://go.nature.com/3v0P5P8 (2022).
2. Ng, A. Y. et al. Nat. Med. 29, 3044–3049 (2023).Artículo CAS PubMed (en inglés) PubMed Central Google Académico 
3. Lång, K. et al. Lancet Oncol. 24, 936–944 (2023).Artículo PubMed (en inglés) Google Académico 
4. Dembrower, K. et al. Lancet Digital Health 5, E703–E711 (2023).Artículo CAS PubMed (en inglés) Google Académico 
5. Wynants, L. et al. BMJ 369, m1328 (2020).Artículo PubMed (en inglés) PubMed Central Google Académico 
6. Kwong, J. C. C. et al. New Engl. J. Med. https://doi.org/10.1056/AIcs2300004 (2024).Artículo Google Académico 
7. Endler, M. et al. Lancet 400, 670–679 (2022).Artículo PubMed (en inglés) Google Académico 
8. Tan, R. et al. Nat. Med. 30, 76–84 (2024).Artículo CAS PubMed (en inglés) Google Académico 
9. Goldberg, C. B. et al. Nat. Med. https://doi.org/10.1038/s41591-024-02853-7 (2024).Artículo PubMed (en inglés) Google Académico