Skip to main content

Facebook suspende su IA de sugerencias por sesgos racistas

Facebook desactivó la función de recomendaciones basada en inteligencia artificial luego de que se sucediera un grave incidente racista. De acuerdo con The New York Times, el sistema catalogó un video del periódico británico Daily Mail en el que aparecían personas afrodescendientes como contenido de “primates”.

En específico, la red social mostraba en la grabación un mensaje automático en el que preguntaba al usuario si quería ver más videos de primates.

Darci Groves, una exempleada del conglomerado de redes sociales, dio la señal de alarma al tuitear sobre el error y compartir una captura de pantalla la semana pasada.

Um. This “keep seeing” prompt is unacceptable, @Facebook. And despite the video being more than a year old, a friend got this prompt yesterday. Friends at FB, please escalate. This is egregious. pic.twitter.com/vEHdnvF8ui

— Darci Groves (@tweetsbydarci) September 2, 2021

De acuerdo con el medio fuente, la red social desactivó el sistema de inteligencia artificial y remarcó que el mensaje no fue introducido por ningún empleado, sino que todo fue obra de la IA.

Respecto a lo ocurrido, la plataforma realiza una investigación y no volverá a activar el sistema hasta asegurarse de que el problema no ocurra de nuevo.

“Nos disculpamos con cualquiera que haya visto estas recomendaciones ofensivas”, dijo la compañía en un comunicado. “Deshabilitamos toda la función de recomendación de temas tan pronto como nos dimos cuenta de que esto estaba pasando para así poder investigar la causa y evitar que suceda de nuevo”, añadió.

No es la primera vez que ocurre un incidente de corte racista y en el que un sistema de inteligencia artificial está involucrado. En 2015, el algoritmo de Google Fotos cometió el grave error de clasificar imágenes de personas negras como parte de la categoría “gorilas”.

Google aún no consigue solucionar este error y la única solución que ha implementado es eliminar dicha categoría junto a otras relacionada con primates para que no se repita algo similar.

Recomendaciones del editor

Érika García
Ex escritor de Digital Trends en Español
Érika García es una editora especializada en nuevas tecnologías y comunicación. Ha trabajado en diferentes medios en…
Agencia latina demandará a Facebook por uso indebido de su logo
La imagen muestra al CEO de Facebook, Mark Zuckerberg.

La agencia de comunicaciones y marketing digital MileniumGroup informó que iniciará acciones legales en Estados Unidos contra Meta (Facebook) por el uso indebido de su logo.

La compañía asegura que tiene campañas en la televisión de Argentina desde hace más de dos semanas donde el logo de la M ha figurado “en forma prominente, mucho antes del anuncio de Facebook”.

Leer más
IA de Facebook apenas elimina 5 por ciento del contenido que incita al odio
L aimagen muestra a adherentes al ex presidente Donald Trump frente al Capitolio de Estados Unidos.

Facebook intenta por todas las vías sacudirse de las acusaciones de su exfuncionaria Frances Haugen, que afirmó en una entrevista que la compañía no se preocupa por la seguridad de sus usuarios.

Un nuevo artículo publicado por The Wall Street Journal señala que Facebook está consciente de que su inteligencia artificial (IA) apenas es capaz de eliminar una parte mínima del contenido que incita al odio en su plataforma.

Leer más
Ego4D: el proyecto de Facebook para controlar tus movimientos con IA
IA

En medio de semanas de intensa controversia, Facebook no detiene su arsenal de innovaciones y este 14 de octubre anunció Ego4D, un proyecto de inteligencia artificial (IA) que permitirá controlar la interacción de las personas con su entorno, recordar movimientos y procesos cotidianos.

“La IA generalmente aprende de fotos y videos capturados en tercera persona, pero la IA de próxima generación tendrá que aprender de los videos que muestran el mundo desde el centro de la acción. Entender el mundo desde este punto de vista podría desbloquear una nueva era de experiencias inmersivas, ya que dispositivos como las gafas de realidad aumentada (AR) y los auriculares de realidad virtual (VR) se vuelven tan útiles en la vida cotidiana como los teléfonos inteligentes”, comentan en el departamento de desarrollo e innovación.

Leer más