Prácticas éticas en el uso de la inteligencia artificial en la salud mental

Qué problema aborda

El diseño de tecnologías de IA para la salud mental ha crecido rápidamente, pero la investigación previa se ha centrado en las perspectivas de los profesionales dentro de etapas terapéuticas aisladas. Esto ha llevado a una comprensión limitada de cómo los profesionales ven el papel de la IA a lo largo del proceso terapéutico completo, lo que plantea riesgos en la confianza y adopción de estas herramientas, así como preocupaciones éticas significativas, especialmente en el diagnóstico.

Qué hicieron los autores

Los autores llevaron a cabo entrevistas semiestructuradas con 18 profesionales de la salud mental para explorar cómo la IA podría apoyar o obstaculizar la práctica terapéutica en las etapas de evaluación, diagnóstico y tratamiento. Los datos se analizaron temáticamente y los desafíos éticos se organizaron utilizando cuatro principios biomédicos. El estudio recibió la aprobación del Comité de Ética Institucional de la Universidad de Lancaster.

Qué encontraron

Los resultados indican que los profesionales identifican roles valiosos para la IA en la evaluación clínica y el tratamiento, pero muestran resistencia hacia el uso de IA para diagnósticos autónomos, considerándolo la etapa más ética y sensible. La IA se percibe como un apoyo que valida el juicio clínico en lugar de reemplazarlo. Las preocupaciones éticas se agruparon en torno a la validez de los datos, la inclusividad, la privacidad, la transparencia y la explicabilidad. Con base en estos hallazgos, se proponen cuatro direcciones de diseño: (1) centros de evaluación clínica habilitados por IA para analizar datos multimodales de pacientes; (2) herramientas basadas en procesamiento de lenguaje natural para comprender mejor las experiencias vividas por los pacientes; (3) nuevos modelos de confianza para decisiones diagnósticas asistidas por IA; y (4) sistemas de apoyo a la salud mental personalizados y adaptativos que mantengan la asociación humano-IA.

Limitaciones

El texto disponible no detalla las limitaciones del estudio.

Lectura final

Este estudio proporciona una comprensión específica de las perspectivas de los profesionales sobre el uso de la IA en la salud mental y enmarca sistemáticamente los desafíos éticos, ofreciendo directrices de diseño que podrían guiar el desarrollo de prácticas de salud mental informadas éticamente y que fomenten la confianza en el uso de la IA.