Skip to main content

Así es como Facebook decide qué países necesitan protección en su plataforma

Los documentos sobre Facebook filtrados en fechas recientes por la exempleada Frances Haugen revelaron una serie de conductas cuestionables de la compañía, las cuales tienen que ver con la seguridad de los usuarios y su lucha por ser relevante para una audiencia más joven a pesar de que sus servicios le hagan un daño a la sociedad.

Uno de los aspectos revelados que más ha llamado la atención es la variación en la moderación del contenido en la plataforma que se les entrega a cada país. Esta depende de los criterios de Facebook, no son públicos y tampoco están sujetos a una revisión externa.

En una conferencia llamada Civic Summit desarrollada a fines de 2019, el grupo de empleados de Facebook a cargo de prevenir daños en la plataforma definieron dónde invertirían recursos para brindar mayor protección en torno a las próximas elecciones globales, y para ello la compañía clasificó a los países en distintos niveles según su prioridad.

Facebook

Brasil, India y Estados Unidos fueron colocados en el “nivel cero”, el cual corresponde a la máxima prioridad. Para ese nivel Facebook estableció unas “salas de guerra” (o “centros de operaciones mejorados”, como también le llama la compañía), que servían para monitorear la plataforma de manera continua, paneles para analizar la actividad en la plataforma y alertas para los funcionarios electorales locales sobre los problemas encontrados.

Alemania, Indonesia, Irán, Israel e Italia fueron asignados al nivel uno; estos países tendrían recursos similares al “nivel cero”. Sin embargo, para el cumplimiento de las reglas de Facebook y para las alertas fuera del periodo directamente alrededor de las elecciones recibirían menos recursos.

En el nivel dos se agregaron 22 países; en este caso Facebook no utilizaría las “salas de guerra”.

Finalmente, en el nivel tres colocaron al resto de los países. Facebook revisaría el material relacionado con las elecciones solo si los moderadores de contenido se reenviaban, de lo contrario no intervendría.

El sistema fue descrito en las relevaciones hechas a la Comisión de Bolsa y Valores y fueron entregadas al Congreso de forma redactada por el asesor legal de Frances Haugen. Esta versión también fue obtenida por medios como The Verge.

Frances Haugen

Facebook ha sido foco de críticas con relación a la moderación del contenido desde hace años, tanto por parte de activistas y legisladores como usuarios de todo el mundo. Pero ahora, con los documentos entregados, se ha podido ver con detalle dónde la red social ofrece atención con estándares más altos.

Como vemos, en el país de origen de Facebook, Estados Unidos, y otros países considerados de alto riesgo en términos de violencia política o inestabilidad social, la compañía de Mark Zuckerberg ofrece servicios mejorados que han sido diseñados para proteger el discurso público.

Estos servicios incluyen traducir la plataforma y sus estándares comunitarios a los idiomas oficiales, desarrollar clasificadores con inteligencia artificial (IA) para detectar discursos de odio y desinformación en esos idiomas, y reunir equipos de empleados para analizar el contenido viral y responder rápidamente a las falsas alarmas y la incitación a la violencia las 24 horas del día.

Por otro lado, tenemos países como Etiopía, donde probablemente ni siquiera se traduzcan los estándares comunitarios de la compañía a sus idiomas oficiales, tampoco se tengan disponibles los clasificadores con IA que detectan discursos de odio, un grupo de gente que se encargue de la verificación de hechos o las “salas de guerra”.

Si Facebook fuera una compañía pequeña, esta asignación de recursos no sería tan controvertida, pero como se trata de una empresa tan grande y clave en el discurso cívico estas disparidades son preocupantes.

Algunas disparidades incluyen que Facebook no ha ofrecido clasificadores de información falsa en países como Myanmar, Pakistán y Etiopía (los cuales fueron designados como de mayor riesgo en 2020), ni tampoco clasificadores de discursos de odio en este último país, que se encuentra en medio de un sangriento conflicto civil desde hace un año.

Por otro lado, hasta diciembre del año pasado el esfuerzo por colocar a expertos en idiomas solo tuvo éxito en seis de los diez países del nivel uno y en ninguno de los países de nivel dos.

Facebook: la publicación más vista fue una noticia falsa sobre COVID-19
Getty Images.

De acuerdo con Miranda Sissons, directora de las políticas de derechos humanos en Facebook, esa asignación de recursos refleja las mejores prácticas sugeridas por las Naciones Unidas en sus Principios Rectores sobre Empresas y Derechos Humanos.

Esos principios requieren que las empresas consideren el impacto de su trabajo en los derechos humanos y trabajen para mitigar cualquier problema en función de su gravedad mediante soluciones efectivas para ellos.

Sissons, quien ha tenido una larga carrera como activista de derechos humanos y diplomática, se unió a Facebook en 2019, justo en el año en que la compañía comenzó a desarrollar su estrategia sobre los “países en riesgo”.

Los “ARC” (at-risk countries), como lo abrevia Facebook, son regiones donde la cohesión social disminuye y los servicios de Facebook pueden amplificar el incentivo a la violencia, considerando la magnitud y popularidad de la plataforma a nivel mundial.

Por otro lado, Sissons dice que los estándares de la comunidad de la empresa y las herramientas de moderación de contenido con IA se traducirán a los idiomas de todos los países donde opera la red social, idealmente. Mientras que las Naciones Unidas tiene soporte para seis idiomas oficiales, Facebook tiene hablantes nativos que moderan publicaciones en más de 70.

Sissons también afirma que incluso en los países con recursos limitados por los niveles de Facebook el sistema de la plataforma escanea indicios de inestabilidad política u otros riesgos de violencia para que la empresa pueda adaptarse.

Sin embargo, algunos proyectos, como la formación de nuevos clasificadores de incitación al odio, son costosos y toma muchos meses desarrollarlos. Por esa razón, los empleados a cargo de la moderación se han visto limitados en los países de alto riesgo.

Una nota de la compañía titulada “manejar el discurso hostil en países en riesgo de manera sostenible” decía que el apoyo a estos “tiene un alto costo para el equipo en términos de respuesta a la crisis”.

“En los últimos meses, se nos ha pedido que combatamos por las elecciones en India, enfrentamientos violentos en Bangladesh y protestas en Pakistán”, agregó la compañía.

Esta también mencionaba que después de que un país es designado como “prioridad”, por lo general se necesita un año para construir clasificadores de incitación al odio y mejorar la aplicación. Pero no todo llega a ser prioridad.

“Deberíamos priorizar la construcción de clasificadores para países con violencia continua en lugar de violencia temporal. Para el último caso, deberíamos ampararnos en las herramientas de respuesta rápida”.

El sistema de moderación de Facebook y su clasificación de países puede ser confuso y maniobrado, incluso para los trabajadores. Pero como dice The Verge, un gran contingente de trabajadores dentro de la empresa trata de controlar los peores abusos de la plataforma por medio de las herramientas a su alcance, mientras se enfrentan a presiones externas sobre las que no tienen control.

Recomendaciones del editor

Karina Tapia
Redes sociales (Facebook, Instagram, TikTok), videojuegos y las últimas tendencias del internet y la industria tecnológica…
TikTok tiene nueva letra, una fuente con bautismo propio
tiktok letra nueva fuente sans

Una innovación realizó TikTok en su fuente, una nueva letra que espera mejorar la experiencia de usuario y que ha bautizado de manera muy autorreferente como TikTok Sans.

"Diseñado para reflejar nuestra diversa comunidad de creadores, visionarios y narradores, TikTok Sans complementa la personalidad de nuestra plataforma, desde nuestras raíces en el entretenimiento hasta la inclusión y la autoexpresión. Creada en colaboración con Grilli Type, una reconocida fundición tipográfica internacional, esta tipografía versátil tiene como objetivo mejorar aún más la autoexpresión creativa. El tipo de letra TikTok Sans se introduce globalmente a través de los puntos de contacto de la aplicación y de la marca para garantizar una experiencia óptima y consistente en todos nuestros productos y todos los canales de marca", sostienen en una publicación en su blog.

Leer más
Cuáles son las mejores plataformas para comprar y vender NFT
Cuáles son las mejores plataformas para comprar y vender NFT.

Siempre han existido coleccionistas, y los tiempos actuales no son una excepción, a pesar de todos los cambios que hace apenas unas décadas atrás nadie podía imaginar. El coleccionismo como tal hoy no solo se remite a cuadros, esculturas, láminas de álbum o demás objetos tangibles. El primer tuit de la historia, el GIF de un gato con una tostada o el video viral Charlie bit my finger han sido rematados como token no fungibles (NFT, por sus siglas en inglés), uno de los últimos fenómenos surgidos en torno a las criptomonedas. ¿Interesado en esta nueva forma de coleccionismo? En esta guía te explicamos cuáles son las mejores plataformas para comprar y vender NFT en la actualidad.
Para empezar: ¿qué son los NFT?
Los NFT son las versiones modernas de las tarjetas coleccionables del pasado. Se llaman token no fungibles, porque son unidades de criptomonedas únicas que no se pueden replicar. Y como se trata de objetos digitales exclusivos, algún día podrían llegar a valer millones de dólares.

Los token se crean como bloques únicos y exclusivos en la cadena de la plataforma elegida por el vendedor. Esta cadena también almacena la propiedad del archivo. Aunque hay distintas alternativas, la mayoría de las transacciones se realizan con ether, la criptomoneda nativa de la red Ethereum.
Las mejores plataformas para comprar y vender NFT
Mintable

Leer más
Youtube ahora tendrá anuncios de 30 segundos que no podrás omitir
youtube anuncios 30 segundos no puedes omitir rachit tank vlzakbs5afg unsplash

Seguramente eres de aquellos que cuando aparece el aviso publicitario en Youtube corres a apretar el botoncito que dice OMITIR, y posiblemente lo hagas 2 veces, ya que los comerciales suelen durar 15 segundos y se dan en tandas de a dos. Sin embargo, eso acaba ahora, ya que como se anunció en el evento YouTube Brandcast el miércoles, pronto agregará anuncios de 30 segundos que no se pueden omitir al contenido de mayor rendimiento visto en televisores conectados.

YouTube dice que los espectadores verán un solo anuncio de 30 segundos en lugar de dos anuncios consecutivos de 15 segundos, aunque eso no significa que esos anuncios más cortos desaparecerán por completo. Los anuncios de 30 segundos estarán disponibles para los anunciantes a través de YouTube Select, una plataforma publicitaria curada que se dirige al cinco por ciento superior del contenido de YouTube. YouTube afirma que el 70 por ciento de las impresiones de YouTube Select provienen de televisores, lo que la convierte en la plataforma ideal para anuncios más largos.

Leer más