Un problema mayúsculo ha debido enfrentar Google en las últimas horas por causa de la generación de imágenes de su IA, Gemini.
Todo después que el generador pusiera imágenes de los soldados alemanes de la Segunda Guerra Mundial y a los vikingos como personas de color.
La compañía de tecnología dijo que dejaría de generar imágenes de personas con el modelo Gemini después de que los usuarios de las redes sociales publicaran ejemplos de imágenes generadas por la herramienta que representaban a algunas figuras históricas, incluidos los papas y los padres fundadores de Estados Unidos, en una variedad de etnias y géneros.
“Ya estamos trabajando para abordar los problemas recientes con la función de generación de imágenes de Gemini. Mientras hacemos esto, vamos a pausar la generación de imágenes de las personas y pronto volveremos a lanzar una versión mejorada”, dijo Google en un comunicado.
Jack Krawczyk, director senior del equipo Gemini de Google, admitió el miércoles que el generador de imágenes del modelo necesitaba ajustes.
“Estamos trabajando para mejorar este tipo de representaciones de inmediato”, dijo. “La generación de imágenes de IA de Gemini genera una amplia gama de personas. Y eso es generalmente algo bueno porque la gente de todo el mundo lo usa. Pero aquí no está dando en el blanco”.
We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ
— News from Google (@NewsFromGoogle) February 22, 2024
Krawczyk agregó en un comunicado en X que los principios de IA de Google comprometieron sus herramientas de generación de imágenes a “reflejar nuestra base global de usuarios”. Agregó que Google continuaría haciendo esto para las solicitudes de imágenes “abiertas”, como “una persona paseando a un perro”, pero reconoció que las solicitudes de respuesta con un sesgo histórico necesitaban más trabajo.
“Los contextos históricos tienen más matices y los ajustaremos aún más para adaptarnos a eso”, dijo.
https://twitter.com/JackK/status/1760334258722250785?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1760334258722250785%7Ctwgr%5E4b4c197edef2eed2593880900086bd11ceb687da%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.theguardian.com%2Ftechnology%2F2024%2Ffeb%2F22%2Fgoogle-pauses-ai-generated-images-of-people-after-ethnicity-criticism
