Skip to main content

IA de Facebook apenas elimina 5 por ciento del contenido que incita al odio

Facebook intenta por todas las vías sacudirse de las acusaciones de su exfuncionaria Frances Haugen, que afirmó en una entrevista que la compañía no se preocupa por la seguridad de sus usuarios.

Un nuevo artículo publicado por The Wall Street Journal señala que Facebook está consciente de que su inteligencia artificial (IA) apenas es capaz de eliminar una parte mínima del contenido que incita al odio en su plataforma.

Según el artículo, esto pasa porque los algoritmos no pueden detectar o diferenciar una gran variedad de contenidos, como discursos racistas, accidentes de tránsito y videos grabados en primera persona.

Facebook explicó que ha logrado reducir con éxito el discurso de odio en la red social casi en 50 por ciento en los últimos tres años.

De acuerdo con Guy Rosen, vicepresidente de integridad de Facebook, esto se debe en gran parte a los sistemas de IA “mejorados y ampliados”.

Sin embargo, en la publicación de The Wall Street Journal algunos empleados de la empresa comentan que la utilización de tecnologías apenas elimina entre 3 y 5 por ciento del contenido violento o que incita al odio.

Según los documentos a los que tuvo acceso el medio, Facebook prescindió de parte del equipo humano que se encargaba de detectar las noticias falsas o los discursos de odio. Al mismo tiempo, llevaron a cabo varias medidas que le permitieron disminuir este tipo de contenidos, tarea que le atribuyeron al uso de inteligencia artificial.

Así, de acuerdo con lo confirmado por la empresa, el contenido que no cumple con las normas de la red social, pero que tampoco es detectado por la IA, se muestra con menos frecuencia, y no se elimina.

Para responder al artículo de WSJ, Rosen asegura que “centrarse solo en la eliminación de contenido es la forma incorrecta de ver cómo Facebook lucha contra el discurso de odio”.

Recomendaciones del editor

Felipe Sasso
Ex escritor de Digital Trends en Español
Felipe Sasso es periodista y escritor. Desde temprana edad manifestó una importante inquietud hacia la escritura y las…
Elon Musk regala el ticket azul premium en X a usuarios con más de 2.500 seguidores
La aplicación X (Twitter).

Un pequeño caramelo les está regalando a los usuarios de X (ex Twitter) el magnate Elon Musk, ya que está entregando el famoso ticket azul de verificación y por ende cuentas Premium, a quienes superen la cantidad de 2.500 seguidores.

Varios usuarios de X informaron el miércoles haber visto la conocida marca de verificación azul "Verificado" junto a sus identificadores a pesar de no pagar por ninguno de los dos niveles de suscripción de pago de X. Musk anunció la semana pasada que las cuentas X con más de 2.500 "seguidores suscriptores verificados" recibirían una membresía Premium gratuita; mientras que las cuentas con más de 5,000 recibirían una membresía Premium Plus gratuita.

Leer más
El eclipse solar se convierte en un enjambre de conspiraciones en TikTok
Eclipse solar.

El próximo lunes 8 de abril, millones de personas en todo el mundo tendrán la oportunidad de presenciar un evento celestial extraordinario: un eclipse solar total. Sin embargo, mientras algunos se preparan para maravillarse ante este espectáculo cósmico, otros están tejiendo teorías conspirativas y propagando temores infundados sobre el supuesto “fin del mundo” que acompañará al eclipse en TikTok y YouTube.

Una de las afirmaciones más difundidas en línea es la idea de que el eclipse solar pasará sobre varios pueblos llamados Nínive, tanto en Estados Unidos como en Canadá. Esta teoría, apoyada por algunos influencers en las redes sociales, con algunos mencionando seis, siete e incluso ocho pueblos, sugiere que este fenómeno es una señal siniestra del fin del mundo, recordando la historia bíblica de la ciudad de Nínive. Los TikTokers incluso han generado mapas que pretenden mostrar el camino de la totalidad que recorre estas ciudades.

Leer más
Afírmate Instagram: TikTok Notes ya sería una realidad
TikTok Notes

Los rumores parece que se están haciendo realidad, ya que TikTok viene trabajando hace un tiempo en una aplicación para compartir exclusivamente fotos, y que sería una copia de Instagram.

Es una aplicación separada de la plataforma de videos y sería una opción adicional en las cuentas de la gente que ya tiene la app principal.

Leer más