La mayoría de nosotros ahora obtenemos nuestra información mediante chatbots de IA y motores de búsqueda. Incluso Google nos muestra primero un resumen de IA antes de guiarnos hacia las fuentes de las que recopiló las respuestas.
Un nuevo estudio de Yale sugiere que, aunque las respuestas generadas por IA son rápidas, cómodas y fáciles de leer, también pueden influir en nuestras opiniones. Daniel Karell, profesor adjunto de sociología en Yale, y su equipo querían saber si leer resúmenes escritos por IA de eventos históricos ayudaba a las personas a aprender mejor que leer los escritos por humanos.
Para comprobar esto, se mostraron a los participantes breves resúmenes de eventos históricos, algunos escritos por humanos y otros por herramientas de IA como ChatGPT, y luego se les preguntó sobre lo que recordaban.
¿El resultado? Las personas que leían resúmenes escritos por IA respondían consistentemente a más preguntas correctamente.
¿Es la IA simplemente mejor difundiendo información que los humanos?
Karell atribuye esto a cómo la IA presenta la información. «Es como si el modelo hubiera tomado Wikipedia y lo hubiera hecho más legible», dijo. Los resúmenes de IA fueron más fluidos, claros y fáciles de retener, independientemente de si los participantes sabían o no que estaban leyendo contenido generado por IA.
Eso significa que, incluso cuando se les dijo que el resumen fue escrito por IA, aprendieron más de él que de la versión escrita por humanos.
¿Debería preocuparte esto?
Aquí es donde se pone interesante. En un artículo posterior publicado en PNAS Nexus, los mismos investigadores descubrieron que los resúmenes de IA no solo enseñan mejor, sino que también influyen en las opiniones políticas.
Si el resumen de la IA tenía un enfoque liberal, los lectores se llevarían opiniones más liberales. Una inclinación conservadora tuvo el efecto contrario. Los investigadores creen que esto ocurre porque la IA no solo presenta hechos, sino que los presenta de una manera que resulta más lógica y convincente.
Las herramientas de IA se están convirtiendo en la forma predeterminada en que la gente aprende sobre historia y acontecimientos actuales. Eso no es necesariamente malo. Pero saber que la herramienta que moldea lo que aprendes también puede influir discretamente en lo que piensas es algo que merece la pena tener en cuenta.
Al mismo tiempo, las alucinaciones de la IA siguen siendo un problema importante, y los resúmenes generados por IA pueden ser aún más engañosos para los humanos. Un estudio realizado por investigadores del Instituto de Ciencias de la Información de la USC encontró que los sistemas de IA pueden ejecutar campañas de propaganda con una mínima intervención humana.
Si a esto le sumamos la idea de que la IA puede ser más convincente que los humanos, da miedo pensar cómo estas herramientas pueden usarse para manipular el pensamiento y el razonamiento humanos, guiándonos hacia un mundo más fragmentado.
