Skip to main content

Los generadores de imágenes de IA parecen propagar estereotipos de género y raza

Los expertos han afirmado que los generadores de imágenes de IA populares, como Stable Diffusion, no son tan expertos en detectar los sesgos de género y culturales cuando utilizan algoritmos de aprendizaje automático para crear arte.

Muchos generadores de texto a arte le permiten ingresar frases y dibujar una imagen única en el otro extremo. Sin embargo, estos generadores a menudo pueden basarse en sesgos estereotipados, que pueden afectar la forma en que los modelos de aprendizaje automático fabrican imágenes. Las imágenes a menudo pueden occidentalizarse o mostrar favores a ciertos géneros o razas, dependiendo de los tipos de frases utilizadas, señaló Gizmodo.

Vídeos Relacionados

What's the difference between these two groups of people? Well, according to Stable Diffusion, the first group represents an 'ambitious CEO' and the second a 'supportive CEO'.
I made a simple tool to explore biases ingrained in this model: https://t.co/l4lqt7rTQj pic.twitter.com/xYKA8w3N8N

— Dr. Sasha Luccioni 💻🌎✨ (@SashaMTL) October 31, 2022

Sasha Luccioni, investigadora de inteligencia artificial de Hugging Face, creó una herramienta que demuestra cómo funciona en acción el sesgo de IA en los generadores de texto a arte. Usando el Stable Diffusion Explorer como ejemplo, ingresar la frase «CEO ambicioso» obtuvo resultados para diferentes tipos de hombres, mientras que la frase «CEO de apoyo» dio resultados que mostraron tanto hombres como mujeres.

Del mismo modo, el generador DALL-E 2, que fue creado por la marca OpenAI, ha mostrado sesgos centrados en el hombre para el término «constructor» y sesgos centrados en la mujer para el término «asistente de vuelo» en los resultados de imágenes, a pesar de que hay constructoras y asistentes de vuelo masculinos.

Si bien muchos generadores de imágenes de IA parecen tomar solo unas pocas palabras y el aprendizaje automático y saca una imagen, hay mucho más que sucede en segundo plano. Stable Diffusion, por ejemplo, utiliza el conjunto de imágenes LAION, que alberga «miles de millones de imágenes, fotos y más extraídas de Internet, incluidos sitios de alojamiento de imágenes y arte», señaló Gizmodo.

El sesgo racial y cultural en las búsquedas de imágenes en línea ya ha sido un tema constante mucho antes de la creciente popularidad de los generadores de imágenes de IA. Luccioni dijo a la publicación que es probable que los sistemas, como el conjunto de datos LAION, se concentren en el 90% de las imágenes relacionadas con un mensaje y lo usen para el generador de imágenes.

Recomendaciones del editor

GPT-4: todos los rumores sobre la próxima versión de ChatGPT
gpt 4 chatgpt todo lo que sabemos

ChatGPT 4 está llegando, y los rumores sugieren que podría traer mejoras masivas a las ya increíblemente impresionantes habilidades lingüísticas de ChatGPT de OpenAI.

Para ser claros, es poco probable que ChatGPT 4 sea el nombre del próximo producto de OpenAI, pero tomamos un poco de licencia creativa y combinamos el nombre ChatGPT con el modelo mejorado de IA que lo impulsará en el futuro, GPT-4. Profundicemos en GPT-4, cómo funciona ChatGPT ahora y cuándo OpenAI podría lanzar su próxima actualización importante.
¿Qué es GPT-4?
Una caricatura de Midjourney donde un robot conversa con una mujer usando una computadora portátil. Renderizado a mitad de viaje solicitado por Tracey Truly
GPT-4 es un nuevo modelo de lenguaje creado por OpenAI que puede generar texto similar al habla humana. Avanzará la tecnología utilizada por ChatGPT, que se basa en GPT-3.5. GPT es el acrónimo de Generative Pre-trained Transformer, una tecnología de aprendizaje profundo que utiliza redes neuronales artificiales para escribir como un humano.

Leer más
TikTok limita a solo 60 minutos el uso de los menores en la app
tiktok 60 minutos menores aplicacion ea186b3de552093190fb039ab926b762

Este 1 de marzo, TikTok actualizó ciertas funciones de privacidad y uso en la aplicación, sobre todo para los menores de 18 años.

"Estamos mejorando nuestra herramienta de tiempo de pantalla con más opciones personalizadas, introduciendo nuevas configuraciones predeterminadas para cuentas de adolescentes y expandiendo Family Pairing con más controles parentales", sostuvo Cormac Keenan, Jefe de Confianza y Seguridad de la red social.

Leer más
Mark Zuckerberg dice que Meta está construyendo ‘personas de IA’
mark zuckerberg nuevos graficos meta tras criticas horizon worlds

Con la industria tecnológica centrándose cada vez más en productos de IA generativa siguiendo el torbellino de interés en el chatbot ChatGPT de OpenAI, Meta está dispuesto a asegurarse de que todos sepan que también está tomando un gran interés en el espacio.

En una publicación en línea el lunes, el jefe de Meta, Mark Zuckerberg, dijo que la compañía está reuniendo a sus equipos actuales de inteligencia artificial para crear un solo grupo en un movimiento diseñado para "impulsar nuestro trabajo en esta área".

Leer más