Skip to main content

Facebook suspende su IA de sugerencias por sesgos racistas

Facebook desactivó la función de recomendaciones basada en inteligencia artificial luego de que se sucediera un grave incidente racista. De acuerdo con The New York Times, el sistema catalogó un video del periódico británico Daily Mail en el que aparecían personas afrodescendientes como contenido de “primates”.

En específico, la red social mostraba en la grabación un mensaje automático en el que preguntaba al usuario si quería ver más videos de primates.

Darci Groves, una exempleada del conglomerado de redes sociales, dio la señal de alarma al tuitear sobre el error y compartir una captura de pantalla la semana pasada.

Um. This “keep seeing” prompt is unacceptable, @Facebook. And despite the video being more than a year old, a friend got this prompt yesterday. Friends at FB, please escalate. This is egregious. pic.twitter.com/vEHdnvF8ui

— Darci Groves (@tweetsbydarci) September 2, 2021

De acuerdo con el medio fuente, la red social desactivó el sistema de inteligencia artificial y remarcó que el mensaje no fue introducido por ningún empleado, sino que todo fue obra de la IA.

Respecto a lo ocurrido, la plataforma realiza una investigación y no volverá a activar el sistema hasta asegurarse de que el problema no ocurra de nuevo.

“Nos disculpamos con cualquiera que haya visto estas recomendaciones ofensivas”, dijo la compañía en un comunicado. “Deshabilitamos toda la función de recomendación de temas tan pronto como nos dimos cuenta de que esto estaba pasando para así poder investigar la causa y evitar que suceda de nuevo”, añadió.

No es la primera vez que ocurre un incidente de corte racista y en el que un sistema de inteligencia artificial está involucrado. En 2015, el algoritmo de Google Fotos cometió el grave error de clasificar imágenes de personas negras como parte de la categoría “gorilas”.

Google aún no consigue solucionar este error y la única solución que ha implementado es eliminar dicha categoría junto a otras relacionada con primates para que no se repita algo similar.

Recomendaciones del editor

Érika García
Ex escritor de Digital Trends en Español
Érika García es una editora especializada en nuevas tecnologías y comunicación. Ha trabajado en diferentes medios en…
Todo por el Fútbol: datos de partidos y jugadores mediante IA
El futbolista argentino Lionel Messi.

El fútbol es el deporte más popular del mundo. Por lo mismo, es mucha la cantidad de información que existe en torno a los futbolistas y a los partidos que se disputan en todos los estadios del planeta.

En este escenario sobrecargado de datos, la tecnología siempre puede ser de ayuda. Así lo entendió el equipo detrás de Todo por el Fútbol, una plataforma que se dedica a recolectar y analizar datos e información de distintos eventos vinculados a este deporte.

Leer más
Esta IA puede crear en automático tráileres de películas
ia crear automaticamente traileres peliculas cine

Un equipo de investigadores de la Universidad de Edimburgo desarrolló un modelo de inteligencia artificial (IA) que es capaz de crear en automático tráileres de películas.

Esta IA utiliza dos redes neuronales de manera independiente que pueden realizar diferentes trabajos. Así, el sistema es capaz de analizar el audio y video de la película para detectar escenas importantes que podrían resultar interesantes para los espectadores.

Leer más
Nvidia anuncia su nueva computadora de IA para robots
nvidia computadora ia robots jetson orin

Nvidia lanza una nueva versión de su computadora de inteligencia artificial para robots llamada Jetson AGX Orin, que tiene una potencia seis veces mayor que la de su antecesora, la Jetson AGX Xavier.

La AGX Orin es una computadora capaz de ejecutar hasta 200 billones de operaciones por segundo, pero siempre con un consumo energético eficiente que la hace ideal no solo para robots, sino también para entornos industriales, médicos o incluso para vehículos autónomos como drones o similares.

Leer más