Skip to main content

Así es como Facebook decide qué países necesitan protección en su plataforma

Los documentos sobre Facebook filtrados en fechas recientes por la exempleada Frances Haugen revelaron una serie de conductas cuestionables de la compañía, las cuales tienen que ver con la seguridad de los usuarios y su lucha por ser relevante para una audiencia más joven a pesar de que sus servicios le hagan un daño a la sociedad.

Uno de los aspectos revelados que más ha llamado la atención es la variación en la moderación del contenido en la plataforma que se les entrega a cada país. Esta depende de los criterios de Facebook, no son públicos y tampoco están sujetos a una revisión externa.

En una conferencia llamada Civic Summit desarrollada a fines de 2019, el grupo de empleados de Facebook a cargo de prevenir daños en la plataforma definieron dónde invertirían recursos para brindar mayor protección en torno a las próximas elecciones globales, y para ello la compañía clasificó a los países en distintos niveles según su prioridad.

Facebook
Imagen utilizada con permiso del titular de los derechos de autor

Brasil, India y Estados Unidos fueron colocados en el “nivel cero”, el cual corresponde a la máxima prioridad. Para ese nivel Facebook estableció unas “salas de guerra” (o “centros de operaciones mejorados”, como también le llama la compañía), que servían para monitorear la plataforma de manera continua, paneles para analizar la actividad en la plataforma y alertas para los funcionarios electorales locales sobre los problemas encontrados.

Alemania, Indonesia, Irán, Israel e Italia fueron asignados al nivel uno; estos países tendrían recursos similares al “nivel cero”. Sin embargo, para el cumplimiento de las reglas de Facebook y para las alertas fuera del periodo directamente alrededor de las elecciones recibirían menos recursos.

En el nivel dos se agregaron 22 países; en este caso Facebook no utilizaría las “salas de guerra”.

Finalmente, en el nivel tres colocaron al resto de los países. Facebook revisaría el material relacionado con las elecciones solo si los moderadores de contenido se reenviaban, de lo contrario no intervendría.

El sistema fue descrito en las relevaciones hechas a la Comisión de Bolsa y Valores y fueron entregadas al Congreso de forma redactada por el asesor legal de Frances Haugen. Esta versión también fue obtenida por medios como The Verge.

Frances Haugen
Imagen utilizada con permiso del titular de los derechos de autor

Facebook ha sido foco de críticas con relación a la moderación del contenido desde hace años, tanto por parte de activistas y legisladores como usuarios de todo el mundo. Pero ahora, con los documentos entregados, se ha podido ver con detalle dónde la red social ofrece atención con estándares más altos.

Como vemos, en el país de origen de Facebook, Estados Unidos, y otros países considerados de alto riesgo en términos de violencia política o inestabilidad social, la compañía de Mark Zuckerberg ofrece servicios mejorados que han sido diseñados para proteger el discurso público.

Estos servicios incluyen traducir la plataforma y sus estándares comunitarios a los idiomas oficiales, desarrollar clasificadores con inteligencia artificial (IA) para detectar discursos de odio y desinformación en esos idiomas, y reunir equipos de empleados para analizar el contenido viral y responder rápidamente a las falsas alarmas y la incitación a la violencia las 24 horas del día.

Por otro lado, tenemos países como Etiopía, donde probablemente ni siquiera se traduzcan los estándares comunitarios de la compañía a sus idiomas oficiales, tampoco se tengan disponibles los clasificadores con IA que detectan discursos de odio, un grupo de gente que se encargue de la verificación de hechos o las “salas de guerra”.

Si Facebook fuera una compañía pequeña, esta asignación de recursos no sería tan controvertida, pero como se trata de una empresa tan grande y clave en el discurso cívico estas disparidades son preocupantes.

Algunas disparidades incluyen que Facebook no ha ofrecido clasificadores de información falsa en países como Myanmar, Pakistán y Etiopía (los cuales fueron designados como de mayor riesgo en 2020), ni tampoco clasificadores de discursos de odio en este último país, que se encuentra en medio de un sangriento conflicto civil desde hace un año.

Por otro lado, hasta diciembre del año pasado el esfuerzo por colocar a expertos en idiomas solo tuvo éxito en seis de los diez países del nivel uno y en ninguno de los países de nivel dos.

Facebook: la publicación más vista fue una noticia falsa sobre COVID-19
Getty Images.

De acuerdo con Miranda Sissons, directora de las políticas de derechos humanos en Facebook, esa asignación de recursos refleja las mejores prácticas sugeridas por las Naciones Unidas en sus Principios Rectores sobre Empresas y Derechos Humanos.

Esos principios requieren que las empresas consideren el impacto de su trabajo en los derechos humanos y trabajen para mitigar cualquier problema en función de su gravedad mediante soluciones efectivas para ellos.

Sissons, quien ha tenido una larga carrera como activista de derechos humanos y diplomática, se unió a Facebook en 2019, justo en el año en que la compañía comenzó a desarrollar su estrategia sobre los “países en riesgo”.

Los “ARC” (at-risk countries), como lo abrevia Facebook, son regiones donde la cohesión social disminuye y los servicios de Facebook pueden amplificar el incentivo a la violencia, considerando la magnitud y popularidad de la plataforma a nivel mundial.

Por otro lado, Sissons dice que los estándares de la comunidad de la empresa y las herramientas de moderación de contenido con IA se traducirán a los idiomas de todos los países donde opera la red social, idealmente. Mientras que las Naciones Unidas tiene soporte para seis idiomas oficiales, Facebook tiene hablantes nativos que moderan publicaciones en más de 70.

Sissons también afirma que incluso en los países con recursos limitados por los niveles de Facebook el sistema de la plataforma escanea indicios de inestabilidad política u otros riesgos de violencia para que la empresa pueda adaptarse.

Imagen utilizada con permiso del titular de los derechos de autor

Sin embargo, algunos proyectos, como la formación de nuevos clasificadores de incitación al odio, son costosos y toma muchos meses desarrollarlos. Por esa razón, los empleados a cargo de la moderación se han visto limitados en los países de alto riesgo.

Una nota de la compañía titulada “manejar el discurso hostil en países en riesgo de manera sostenible” decía que el apoyo a estos “tiene un alto costo para el equipo en términos de respuesta a la crisis”.

“En los últimos meses, se nos ha pedido que combatamos por las elecciones en India, enfrentamientos violentos en Bangladesh y protestas en Pakistán”, agregó la compañía.

Esta también mencionaba que después de que un país es designado como “prioridad”, por lo general se necesita un año para construir clasificadores de incitación al odio y mejorar la aplicación. Pero no todo llega a ser prioridad.

“Deberíamos priorizar la construcción de clasificadores para países con violencia continua en lugar de violencia temporal. Para el último caso, deberíamos ampararnos en las herramientas de respuesta rápida”.

El sistema de moderación de Facebook y su clasificación de países puede ser confuso y maniobrado, incluso para los trabajadores. Pero como dice The Verge, un gran contingente de trabajadores dentro de la empresa trata de controlar los peores abusos de la plataforma por medio de las herramientas a su alcance, mientras se enfrentan a presiones externas sobre las que no tienen control.

Karina Tapia
Redes sociales (Facebook, Instagram, TikTok), videojuegos y las últimas tendencias del internet y la industria tecnológica…
Novedades de WhatsApp: todo lo que llega en 2025
WhatsApp 3d. Novedades WhatsApp

WhatsApp sigue innovando con funciones que constantemente aparecen en sus versiones beta. Gracias a WABetaInfo, una fuente confiable para conocer las últimas actualizaciones, ya tenemos un vistazo de lo que llegará a la app en 2025. Aquí te contamos las novedades de WhatsApp basadas en las versiones beta.
Iconos de colores para grupos y comunidades

¿Te aburre que los íconos de grupos y contactos sin foto sean siempre grises? WhatsApp está trabajando en un cambio que promete hacerlos mucho más agradables visualmente. En una futura actualización, esos iconos recibirán colores, lo que hará más fácil distinguir entre chats y comunidades de un solo vistazo. Esta función será especialmente útil para aquellos grupos o contactos que no tienen foto, ya que asociarás un color específico con cada uno.

Leer más
Resumen del año de Duolingo 2024: cómo encontrar el tuyo ahora mismo
duolingo resumen 2024

¿Eres un usuario habitual de Duolingo? ¡Tenemos noticias emocionantes para ti! Una vez más, la popular aplicación de aprendizaje de idiomas ofrece su Duolingo Year in Review.

A medida que el año llega a su fin, es el momento perfecto para reflexionar sobre los últimos 12 meses. Muchas aplicaciones han creado funciones especiales que le permiten mirar hacia atrás y ver qué le interactuó a lo largo del año. Por ejemplo, Spotify Wrapped y Apple Music Replay te muestran tus canciones y álbumes favoritos, mientras que Reddit Recap revela qué secciones de la aplicación visitaste con más frecuencia.

Leer más
Meta admite errores groseros en la moderación de contenido
Facebook celular

El máximo ejecutivo de Meta, Nick Clegg, reconoció que hay un problema mayúsculo con Meta, y es que la moderación de contenido está fallando.
El presidente de asuntos globales de Meta, dijo a los periodistas el lunes que las "tasas de error de moderación de la compañía siguen siendo demasiado altas" y se comprometió a "mejorar la precisión y exactitud con la que actuamos según nuestras reglas".
"Sabemos que al hacer cumplir nuestras políticas, nuestras tasas de error siguen siendo demasiado altas, lo que se interpone en el camino de la libertad de expresión que nos propusimos permitir", dijo Clegg durante una llamada de prensa a la que asistí. "Con demasiada frecuencia, el contenido inofensivo se elimina o se restringe, y demasiadas personas son penalizadas injustamente".
Clegg además reconoció que uno de los periodos más difíciles de moderación de contenido, fue para la pandemia de COVID-19.

"Teníamos reglas muy estrictas para eliminar grandes volúmenes de contenido durante la pandemia", dijo Clegg. "Nadie durante la pandemia sabía cómo se iba a desarrollar la pandemia, así que esto es realmente sabiduría en retrospectiva. Pero en retrospectiva, sentimos que nos excedimos un poco. Somos muy conscientes porque los usuarios alzaron la voz, con razón, y se quejaron de que a veces aplicamos demasiado y cometemos errores y eliminamos o restringimos contenido inocuo o inocente".

Leer más