Un nuevo consorcio de investigación ha encontrado algo a lo que merece la pena prestar atención: cuando preguntas a la IA sobre el duelo, el amor, la pérdida o las decisiones morales, casi nunca se trata de la religión en la conversación.
El Consorcio para la Evaluación de la Fe y la Ética en la IA (CEFE-AI), una colaboración entre investigadores de la Universidad Brigham Young, la Universidad Baylor, la Universidad de Notre Dame y la Universidad Yeshiva, publicó sus hallazgos esta semana en la Cumbre sobre Ética en IA en Atenas, Grecia.
«La religión es una parte importante del florecimiento humano; El 75% de la población mundial mantiene una identidad religiosa. Mientras desarrollamos tecnologías de IA, no hay razón para que no las construyamos para apoyar a las personas en lo que es importante para ellas», dijo el investigador principal David Wingate, profesor de informática en BYU.
¿Está realmente la IA sesgada contra ciertas religiones?
Los investigadores desarrollaron el AllFaith Benchmark, uno de los primeros conjuntos de pruebas multirreligiosos que examina cómo los sistemas de IA interactúan con una variedad de religiones. Probaron 14 modelos diferentes de IA, incluyendo modelos insignia de Anthropic, Google, xAI y OpenAI.
Los resultados son reveladores. Una encuesta a 1.125 estadounidenses encontró que la mayoría de la gente espera perspectivas religiosas al hacer preguntas éticas, pero casi todos los modelos no incluyeron ninguna. Más sorprendente aún, los modelos mostraron un claro sesgo de conversión, empujando sutilmente a los usuarios hacia algunas creencias y alejándolos de otras.
¿Qué modelos de IA han tenido peor desempeño?
En todos los modelos analizados, casi todos mostraron un sesgo negativo hacia los Testigos de Jehová y un sesgo positivo hacia el catolicismo. Grok produjo los sesgos más fuertes en general, favoreciendo fuertemente a católicos y protestantes, mientras mostraba un sesgo negativo hacia los Testigos de Jehová, bahá’ís e hindúes. Los modelos de Anthropic y Meta mostraron el menor sesgo de todos los modelos probados.
Quizá la estadística más alarmante del estudio es que, de más de 12.000 artículos sobre el sesgo de la IA, solo el 0,2% aborda el sesgo religioso. Para una tecnología que influye tanto en el discurso público, eso es un punto ciego importante.
Personalmente, no tengo ningún problema con que la IA no incluya la religión en la conversación. De hecho, lo prefiero. Sin embargo, que los modelos de IA muestren un claro sesgo hacia varias religiones y las empujen hacia el catolicismo es un asunto profundamente preocupante. A esta escala, incluso un empujón sutil hacia una religión sobre otra es un problema serio, y las empresas de IA se lo deben a sus usuarios para solucionarlo.
