Skip to main content

Los generadores de imágenes de IA parecen propagar estereotipos de género y raza

Los expertos han afirmado que los generadores de imágenes de IA populares, como Stable Diffusion, no son tan expertos en detectar los sesgos de género y culturales cuando utilizan algoritmos de aprendizaje automático para crear arte.

Muchos generadores de texto a arte le permiten ingresar frases y dibujar una imagen única en el otro extremo. Sin embargo, estos generadores a menudo pueden basarse en sesgos estereotipados, que pueden afectar la forma en que los modelos de aprendizaje automático fabrican imágenes. Las imágenes a menudo pueden occidentalizarse o mostrar favores a ciertos géneros o razas, dependiendo de los tipos de frases utilizadas, señaló Gizmodo.

What's the difference between these two groups of people? Well, according to Stable Diffusion, the first group represents an 'ambitious CEO' and the second a 'supportive CEO'.
I made a simple tool to explore biases ingrained in this model: https://t.co/l4lqt7rTQj pic.twitter.com/xYKA8w3N8N

— Dr. Sasha Luccioni 💻🌎✨ (@SashaMTL) October 31, 2022

Sasha Luccioni, investigadora de inteligencia artificial de Hugging Face, creó una herramienta que demuestra cómo funciona en acción el sesgo de IA en los generadores de texto a arte. Usando el Stable Diffusion Explorer como ejemplo, ingresar la frase «CEO ambicioso» obtuvo resultados para diferentes tipos de hombres, mientras que la frase «CEO de apoyo» dio resultados que mostraron tanto hombres como mujeres.

Del mismo modo, el generador DALL-E 2, que fue creado por la marca OpenAI, ha mostrado sesgos centrados en el hombre para el término «constructor» y sesgos centrados en la mujer para el término «asistente de vuelo» en los resultados de imágenes, a pesar de que hay constructoras y asistentes de vuelo masculinos.

Si bien muchos generadores de imágenes de IA parecen tomar solo unas pocas palabras y el aprendizaje automático y saca una imagen, hay mucho más que sucede en segundo plano. Stable Diffusion, por ejemplo, utiliza el conjunto de imágenes LAION, que alberga «miles de millones de imágenes, fotos y más extraídas de Internet, incluidos sitios de alojamiento de imágenes y arte», señaló Gizmodo.

El sesgo racial y cultural en las búsquedas de imágenes en línea ya ha sido un tema constante mucho antes de la creciente popularidad de los generadores de imágenes de IA. Luccioni dijo a la publicación que es probable que los sistemas, como el conjunto de datos LAION, se concentren en el 90% de las imágenes relacionadas con un mensaje y lo usen para el generador de imágenes.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Las impactantes imágenes satelitales del antes y después de Beirut
Beirut Satelital

La devastación de Beirut aún permanece en la retina, luego de la trágica y gigante explosión que vivió la capital libanesa este martes 4 de agosto.

Y ahora gracias al Roscosmos de Rusia y también del fabricante de aviones europeo, Airbus, dan a conocer la magnitud del antes y después tras la devastación provocada por las 2,750 toneladas de nitrato de amonio.

Leer más
El Pentágono y los principios éticos de la IA para la guerra
Pentágono Estados Unidos

Hace ya bastante tiempo que potencias mundiales como Estados Unidos está adoptando Inteligencia Artificial para situaciones de crisis, utilizando esta IA para conflictos armados, rastreando enemigos y usando tecnología para ataques.

Sin embargo, aún no hay regulaciones claras respecto de como las Fuerzas Armadas pueden utilizar esta IA para la guerra. Por eso, en el Pentágono quieren tomar cartas en el asunto, para que los soldados "ejerzan niveles apropiados de juicio y cuidado" con estas plataformas.

Leer más
Fracasos en RV y RA: señales de que Apple puede dominar el segmento
fracasos rv ra apple pordria ganar minh pham jsab1ifwf8y unsplash

La realidad virtual y la realidad aumentada (RV y RA) no han tenido esa explosión que sí han experimentado segmentos como el móvil o el de los wearables. Esa chispa faltante tal vez llegue ahora con Apple, compañía a la que no le interesa llegar primero a determinados sectores, sino convertirse en el referente de los mismos, como lo demostró con el iPhone o con los relojes inteligentes Apple Watch. Por eso es que decimos que fracasos en RV y RA son una señal de que Apple puede reinar en estos terrenos.

En un extenso artículo de CNBC se ofrecen varias razones por las que los de Cupertino podrían tener éxito en espacios donde los demás han fallado.

Leer más