A finales de 2024, Meta presentó las cuentas de Instagram Teen, una red de seguridad destinada a proteger las mentes de los jóvenes de contenidos sensibles y garantizar que tengan interacciones en línea seguras, reforzadas por la tecnología de detección de edad. Las cuentas para adolescentes se clasifican automáticamente como privadas, las palabras ofensivas se ocultan y los mensajes de extraños se bloquean.
Según una investigación realizada por la organización sin fines de lucro centrada en los jóvenes, Design It For Us y Accountable Tech, las barreras de seguridad para adolescentes de Instagram no están cumpliendo su promesa. Durante un lapso de dos semanas, se probaron cinco cuentas de prueba pertenecientes a adolescentes, y a todas se les mostró contenido sexual a pesar de las promesas de Meta.
Un aluvión de contenido sexualizado
A todas las cuentas de prueba se les mostró contenido no apto a pesar de habilitar el filtro de contenido confidencial en la aplicación. “4 de cada 5 de nuestras cuentas de adolescentes de prueba tenían una imagen corporal recomendada algorítmicamente y contenido de alimentación desordenada”, dice el informe.
Además, el 80% de los participantes informaron que experimentaron angustia al usar cuentas de Instagram Teen. Curiosamente, solo una de las cinco cuentas de prueba mostraba imágenes y videos educativos.
“[Aproximadamente] el 80% del contenido de mi feed estaba relacionado con relaciones o chistes sexuales crudos. Este contenido generalmente se mantuvo alejado de ser absolutamente explícito o mostrar imágenes directamente gráficas, pero también dejó muy poco a la imaginación”, dijo uno de los evaluadores.
Según el informe de 26 páginas, un asombroso 55% del contenido marcado representaba actos sexuales, comportamiento sexual e imágenes sexuales. Dichos videos habían acumulado cientos y miles de me gusta, y uno de ellos obtuvo más de 3.3 millones de me gusta.
El algoritmo de Instagram también impulsó contenido que promovía conceptos dañinos como tipos de cuerpo “ideales”, vergüenza corporal y hábitos alimenticios. Otro tema preocupante fueron los videos que promovían el consumo de alcohol y los videos que incitaban a los usuarios a usar esteroides y suplementos para lograr un cierto tipo de cuerpo masculino.
Todo un paquete de malos medios
A pesar de las afirmaciones de Meta de filtrar contenido problemático, especialmente para usuarios adolescentes, a las cuentas de prueba también se les mostró contenido racista, homófobo y misógino. Una vez más, estos clips recibieron colectivamente millones de me gusta. Los videos que muestran violencia armada y abuso doméstico también fueron empujados a las cuentas de los adolescentes.
“Algunas de nuestras cuentas de adolescentes de prueba no recibieron las protecciones predeterminadas de Meta. Ninguna cuenta recibió controles de contenido sensible, mientras que algunas no recibieron protecciones contra comentarios ofensivos”, agrega el informe.
Esta no será la primera vez que se descubra que Instagram (y las otras plataformas de redes sociales de Meta, en general) ofrece contenido problemático. En 2021, las filtraciones revelaron cómo Meta sabía del impacto perjudicial de Instagram, especialmente en las jóvenes que se enfrentan a problemas de salud mental e imagen corporal.
En un comunicado compartido con The Washington Post, Meta afirmó que las conclusiones del informe son defectuosas y restó importancia a la sensibilidad del contenido marcado. Hace poco más de un mes, la compañía también amplió sus protecciones para adolescentes a Facebook y Messenger.
“Un informe fabricado no cambia el hecho de que decenas de millones de adolescentes ahora tienen una experiencia más segura gracias a las cuentas de adolescentes de Instagram”, dijo un portavoz de Meta. Sin embargo, agregaron que la compañía estaba investigando las recomendaciones de contenido problemático.
