Big Tech intenta hacer que la IA sea moralmente buena recurriendo a la religión

Qué ocurrió

En un contexto donde las compañías tecnológicas compiten por desarrollar inteligencia artificial (IA) avanzada, han comenzado a preguntar cómo enseñar a sus modelos a discernir el bien del mal. La respuesta que han encontrado algunas de estas empresas es recurrir a la religión, buscando en las tradiciones espirituales una guía moral. Chris Olah, cofundador de Anthropic, señaló que estas preguntas sobre la moralidad no pueden ser respondidas por un laboratorio, sino que son cuestiones que han sido abordadas por las tradiciones religiosas a lo largo de milenios.

Los datos clave

Los líderes de estas empresas están cada vez más preocupados por el potencial destructivo de la IA y están buscando la ayuda de filósofos y líderes religiosos. Se busca una agregación de ideas morales que puedan informar los modelos de IA. Sam Altman, CEO de OpenAI, mencionó que la IA debería reflejar una "media ponderada" de las visiones morales de la humanidad. Sin embargo, expertos en religión advierten que esta aproximación no toma en cuenta las contradicciones inherentes entre diferentes tradiciones y visiones del mundo.

Lo que aún no se sabe

A pesar de las diversas reuniones con representantes de más de 15 grupos religiosos y culturales, no está claro cómo las empresas definirán y aplicarán estos principios morales en sus modelos de IA. La falta de un entendimiento claro sobre lo que se espera obtener de la religión genera incertidumbre sobre la efectividad de este enfoque.

Un ejemplo concreto

Meghan Sullivan, filósofa de religión en la Universidad de Notre Dame, participó en una reunión con Anthropic donde se discutieron cuestiones éticas relacionadas con la IA. En estas reuniones, se abordaron preguntas complejas como si los humanos tienen almas o si los niños de tercer grado deberían tener acceso a chatbots para educación literaria. Aunque se ha elogiado el enfoque riguroso de Anthropic hacia la ética, la preocupación persiste sobre cómo se integrarán las diversas perspectivas religiosas en sus modelos de IA.

Lectura final

La búsqueda de las empresas tecnológicas por incorporar principios religiosos en el desarrollo de la IA plantea interrogantes sobre la simplificación de tradiciones complejas y diversas. A medida que estas compañías intentan abordar cuestiones éticas mediante la religión, es crucial que reconozcan la riqueza y la pluralidad de las creencias para evitar la homogenización de las visiones morales.