Expertos opinan sobre la transparencia y confianza en sistemas de apoyo a decisiones clínicas basados en IA para el diagnóstico de radiografías de tórax

Qué problema aborda

La integración de los sistemas de apoyo a decisiones clínicas basados en IA en la práctica clínica ha crecido rápidamente, especialmente en el ámbito de la imagenología médica. Sin embargo, la implementación efectiva de estos sistemas se ve obstaculizada por la falta de comprensión sobre cómo los usuarios finales y los desarrolladores perciben la transparencia y la confianza en estos sistemas.

Qué hicieron los autores

Los autores realizaron un estudio cualitativo mediante entrevistas semiestructuradas con 21 expertos, incluidos 11 radiólogos y 10 expertos en IA con experiencia en AI-CDSS. El análisis de los datos se llevó a cabo de manera temática para identificar factores que influyen en la comunicación transparente y la confianza en estos sistemas.

Qué encontraron

Se identificaron tres temas principales: la perspectiva de transparencia y confianza, la interfaz de usuario y los modelos mentales de los usuarios. Los hallazgos indican que la confianza se desarrolla a través de un proceso dinámico de calibración que involucra el uso repetido, ciclos de retroalimentación y alineación con los modelos mentales de los clínicos, y no solo a través de la precisión algorítmica. Además, se encontraron discrepancias significativas entre el diseño de la transparencia por parte de los desarrolladores y la interpretación de las salidas de IA por parte de los clínicos.

Limitaciones

El texto disponible no detalla las limitaciones del estudio.

Lectura final

Este estudio subraya la importancia de la transparencia y la confianza en el diseño de sistemas de apoyo a decisiones clínicas basados en IA, sugiriendo que la comunicación clara y el diseño de interfaces deben alinearse con el conocimiento y las actitudes de los usuarios para facilitar una interacción eficaz entre humanos y máquinas. La comprensión de estos aspectos es crucial para la adopción exitosa de la IA en la práctica clínica.