Paso demasiado tiempo en redes sociales y ya me preocupa lo que eso afecte a mi capacidad de atención. Ahora, investigadores de la Universidad Texas A&M afirman que el mismo tipo de contenido también puede interferir con los modelos de IA.
El estudio, realizado por el profesor asistente Dr. Zhengzhong Tu y su equipo, ha sido aceptado en la Conferencia de Modelado del Lenguaje 2026. El equipo recogió un millón de tuits públicos de 2010 y resolvió la “basura”. Una publicación contaba como basura si era corta (menos de 30 tokens) pero popular, con más de 500 likes, retuits y respuestas combinados. También tenían mini publicaciones de bandera GPT-4o que se basaban en hashtags, palabras en mayúsculas, lenguaje urgente o temas triviales.
Después, entrenaron a cuatro modelos, incluyendo Llama3 8B y tres modelos Qwen, en diferentes cantidades de basura y los evaluaron en razonamiento, memoria, ética y personalidad.
¿Y qué pasa con una IA que sigue una dieta basura?
Los modelos empezaron a saltarse pasos. A veces daban una respuesta sin razonar la pregunta en absoluto, lo que los investigadores llaman saltarse el pensamiento. La popularidad de una publicación tuvo un efecto mayor en el razonamiento, mientras que su extensión dañó más la memoria y la comprensión.
Algunos modelos también perdieron su brújula moral. En una prueba, un modelo que antes se negaba a explicar cómo arruinar la reputación de alguien sugirió difundir mentiras y cotilleos tras entrenarse con datos 100% basura. Añadía una nota de que esto era poco ético, lo cual no es mucho consuelo.
Lo que más me sorprendió fue lo terco que fue el daño. Reentrenar con datos más limpios no lo solucionó del todo.
¿Por qué deberían importarles a los usuarios habituales?
Tu señala que la IA ya genera mucho más contenido que los humanos. Si los modelos aprenden de la basura, pueden producir más basura, lo que alimenta tanto nuestras líneas temporales como modelos futuros. En otras palabras, la IA y los humanos podrían acabar arrastrándose mutuamente hacia abajo.
Como dijo Shuo Xing, uno de los autores principales, “La salud de la IA y la salud cognitiva humana no son cuestiones separadas.” Tampoco hay una forma fácil de comprobar si ChatGPT o Gemini fueron entrenados con basura, ya que sus datos de entrenamiento no son públicos. Por ello, Tu quiere que el desarrollo de IA sea más abierto para que los investigadores puedan inspeccionar realmente los datos.
