Tan típico en estas fechas como el turrón y las luces de Navidad, ya está aquí el ranking de riesgos tecnológicos para los pacientes que cada año, desde hace 18, el Instituto ECRI, de Estados Unidos, publica para alertar a los sistemas sanitarios de todo el mundo. Gracias a una combinación de investigación en sus propios laboratorios, entrevistas con profesionales técnicos que trabajan en el ámbito sanitario, observación, análisis de incidentes y revisión de la literatura ECRI crea un 'top' ordenando los resultados en función de su frecuencia, gravedad, extensión y, por supuesto, la posibilidad de ser prevenidos.
Y este año, como no podía ser de otra manera, encabeza la tecnología que ha irrumpido en el mundo sanitario con más fuerza en los últimos años, la que copa foros y titulares, la que parece solución a buen número de problemas del sector... la inteligencia artificial (IA).
Tranquilos, no es la IA en sí misma la que supone un peligro, sino su dieta. Todos los desarrollos de inteligencia artificial se alimentan de bases de datos, y es esa alimentación la que puede poner en riesgo sus resultados.
"La IA ofrece la promesa de aumentar la eficiencia y precisión de los diagnósticos médicos, tratamientos y servicios, mejorando idealmente los resultados clínicos, reduciendo los costes y minimizando las disparidades en salud. Sin embargo, las mejoras no están garantizadas y existe un potencial de daño prevenible", dice el informe de ECRI.
Así, los sesgos presentes en los datos utilizados para entrenar el modelo de IA, o los desajustes entre esos datos y la población objetivo, "pueden dar lugar a resultados de salud desiguales o respuestas inapropiadas". Además, recuerda ECRI, en ocasiones los sistemas de IA producen alucinaciones (respuestas falsas o engañosas) y muestran cambios en el rendimiento con el tiempo debido a factores como el desajuste de los datos y la fragilidad del propio modelo de IA, es decir, su "incapacidad de adaptarse adecuadamente cuando se enfrenta a condiciones novedosas".
Además, las soluciones de IA pueden generar "resultados decepcionantes si las organizaciones tienen expectativas poco realistas, no definen metas, no proporcionan una gobernanza y supervisión adecuadas, o no preparan adecuadamente sus datos para ser utilizados por la aplicación de IA".
¿La conclusión? Confiar demasiado en un modelo de IA y no examinar adecuadamente sus resultados puede llevar a decisiones inapropiadas en el cuidado del paciente. "La IA ofrece un enorme valor potencial como herramienta avanzada para asistir a los clínicos y al personal de salud, pero solo si la toma de decisiones humana sigue siendo el núcleo del proceso de atención. Prevenir daños requiere una consideración cuidadosa al incorporar cualquier solución de IA en las operaciones de atención médica o en la práctica clínica".
via Noticias de diariomedico.... https://ift.tt/KmofYUA
No hay comentarios:
Publicar un comentario