La aplicación de IA independiente de Meta estará, según se informa, siendo inundada de contenido de baja calidad con clickbait, historias emocionales falsas y contenido que genera engagement, lo que plantea nuevas preguntas sobre cómo se están moderando las plataformas de IA generativa a medida que se vuelven cada vez más sociales y públicas.
Según un informe de Verge, los usuarios del feed de descubrimiento social de Meta AI se han encontrado con extrañas publicaciones generadas por IA que van desde confesiones personales fabricadas hasta afirmaciones de salud engañosas y escenarios ficticios extraños diseñados para atraer reacciones y compartir. El problema parece estar ligado a la decisión de Meta de hacer que las conversaciones y prompts generados por IA sean públicamente descubiertos dentro de la aplicación, convirtiendo efectivamente partes de la plataforma en un canal de contenido al estilo de redes sociales.
El resultado, argumentan los críticos, es un ecosistema donde los usuarios están incentivados a generar contenido de IA cada vez más escandaloso o emocionalmente manipulador para captar la atención. Algunas publicaciones se parecen a las clásicas tácticas clickbait de Facebook, mientras que otras difuminan la línea entre sátira, desinformación y spam generado por IA.
El impulso de Meta hacia la IA social está generando consecuencias no deseadas
La situación pone de manifiesto un desafío creciente al que se enfrentan las empresas de IA: qué ocurre cuando los chatbots evolucionan de asistentes privados a plataformas sociales donde el contenido generado se comparte públicamente y se revela algorítmicamente.
Meta ha estado posicionando agresivamente la IA como una experiencia social en lugar de solo una herramienta de productividad. En lugar de limitar las interacciones a conversaciones privadas, la plataforma de IA de la empresa anima a los usuarios a publicar sugerencias, imágenes generadas y publicaciones asistidas por IA para que otros puedan navegar y participar.
Ese enfoque puede ayudar a aumentar la interacción, pero también genera problemas de moderación familiares con los que las plataformas de redes sociales han luchado durante años. Los informes sugieren que el feed de Meta AI ahora está sacando a la luz historias cargadas de emociones, consejos de vida cuestionables, experiencias inventadas y escenarios exagerados diseñados principalmente para provocar reacciones en lugar de proporcionar información útil.
Para los usuarios, la experiencia puede volverse confusa rápidamente. Como muchas publicaciones son generadas o asistidas por IA, puede resultar más difícil distinguir entre experiencias humanas auténticas, chistes, estímulos experimentales y narrativas completamente inventadas. Los críticos advierten que esto podría contribuir a una erosión más amplia de la confianza en línea, especialmente a medida que el contenido generado por IA se vuelve más realista y emocionalmente persuasivo.
El problema también refleja una tendencia más amplia en la industria de la IA, donde las empresas compiten por aumentar la participación de los usuarios mientras intentan establecer barreras de seguridad eficaces alrededor del contenido generado. A medida que las herramientas de IA se vuelven más interactivas y socialmente impulsadas, los sistemas de moderación tienen dificultades para seguir el ritmo.
El futuro de los feeds sociales impulsados por IA puede depender de la moderación
Meta no ha posicionado el feed como una red social tradicional, pero la plataforma se comporta cada vez más como tal. Los usuarios pueden desplazarse por interacciones de IA visibles públicamente de forma similar a navegar por contenido en Instagram, Hilos o Facebook.
Eso importa porque los algoritmos de recomendación pueden amplificar el contenido más atractivo independientemente de la calidad o la precisión. Si publicaciones sensacionalistas o engañosas generadas por IA atraen constantemente la atención, las plataformas pueden recompensar sin querer la creación de contenido de baja calidad de la misma manera que las redes sociales históricamente han recompensado la indignación y el clickbait.
La controversia surge mientras Meta continúa integrando la IA en todo su ecosistema, incluyendo WhatsApp, Instagram, Facebook y experiencias de IA independientes. La empresa considera la IA conversacional como una parte fundamental de la experiencia futura en internet, pero la reacción actual sugiere que usuarios y reguladores podrían exigir controles más estrictos sobre cómo se presenta y etiqueta el contenido generado por IA.
Por ahora, el feed de IA de Meta ofrece una primera vista de lo que ocurre cuando la IA generativa choca con la dinámica de las redes sociales, y los resultados ya resultan sorprendentemente familiares.
