Balancing innovation and ethics: responsible governance of artificial intelligence hallucinations in healthcare

Qué problema aborda

El uso creciente de la inteligencia artificial generativa en el sector salud promete mejorar la eficiencia en el soporte clínico, la gestión de la salud y la comunicación entre médicos y pacientes. Sin embargo, esta tecnología tiene una tendencia a "alucinar", es decir, a generar información médica que, aunque parece plausible, es falsa. Esto plantea riesgos éticos significativos en entornos médicos de alto riesgo.

Qué hicieron los autores

Los autores del artículo, Du M y Zhan N, se enfocaron en dos preguntas clave: cuáles son los riesgos éticos distintivos que crean las alucinaciones de la inteligencia artificial médica y qué mecanismos de gobernanza pueden responder a estos desafíos. Utilizando los cuatro principios de la ética biomédica como herramienta analítica, identificaron varios caminos de riesgo asociados con estas alucinaciones.

Qué encontraron

Los autores identificaron cuatro vías de riesgo:

1. Debilitamiento del consentimiento informado.
2. Erosión de la confianza entre el médico y el paciente.
3. Daño a la vida y la salud.
4. Asignación injusta de responsabilidades.

Para abordar estos riesgos, introdujeron el concepto de investigación e innovación responsable (RRI), desarrollando un marco de gobernanza que incluye anticipación, inclusión, reflexividad y capacidad de respuesta.

Lectura final

Este artículo resalta la necesidad de integrar principios éticos biomédicos con herramientas de gobernanza RRI en el contexto de la inteligencia artificial médica. Al desarrollar una matriz de gobernanza que abarca el desarrollo tecnológico, la aplicación clínica y la supervisión regulatoria, se ofrece un camino operativo para avanzar hacia una inteligencia artificial médica que no solo sea técnicamente viable, sino también éticamente confiable.