Skip to main content

No más sesgos: IA de Google elimina etiquetas de género

Las calificaciones de “mujer” y “hombre” se acabaron para la inteligencia artificial (IA) de Google, en particular en lo que respecta a la interfaz de programación de aplicaciones (API por su sigla en inglés) Cloud Vision.

Pensada en desarrolladores, la herramienta adjunta etiquetas a las fotografías para identificar los contenidos, entre ellas el género cuando en las imágenes detecta que hay personas.

Entre otros elementos, Cloud Vision “puede detectar caras, puntos de referencia, logotipos de marcas e incluso contenido explícito”, informó Business Insider.

El medio reveló que Google notificó de su decisión a los desarrolladores a través de un correo electrónico. En lugar de las etiquetas de género, clasificará a cualquier ser humano simplemente como «persona».

¿Cuál fue la razón? Simple: Google asumió que no es posible inferir el género de alguien únicamente a partir de su apariencia y que, por lo demás, dicha denominación puede trasgredir sus normas éticas. “Evite crear o reforzar sesgos injustos», reza el Principio #2.

Business Insider subrayó que el sesgo en la IA es un tema “ampliamente discutido”, respecto del cual los investigadores han manifestado su preocupación, pues datos defectuosos pueden exacerbar o crear suposiciones injustas.

“Un ejemplo son los algoritmos de reconocimiento facial que identifican erróneamente a las personas de color con más frecuencia que las personas blancas”, graficó el medio.

La medida fue calificada como «muy positiva» por Frederike Kaltheuner, experta en sesgo de inteligencia artificial y quien colabora con Mozilla en temas de política tecnológica. Según reflexionó, “cada vez que se clasifica automáticamente a las personas, ya sea por su género u orientación sexual, debes decidir qué categorías usas en primer lugar, y eso acarrea muchas suposiciones”.

«Clasificar a las personas como hombres o mujeres supone que el género es binario. Cualquiera que no se ajuste automáticamente se clasificará de manera errónea y se generará un error. Por lo tanto, se trata de algo más que un prejuicio: el género de una persona no puede inferirse por apariencia. Cualquier sistema de IA que lo haya intentado hacer eso inevitablemente confundirá a las personas», comentó a la misma publicación.

Citados por Business Insider, Google reconoce en sus principios de IA que los algoritmos y los conjuntos de datos pueden reforzar el sesgo: «Buscaremos evitar impactos injustos en las personas, particularmente aquellas relacionadas con características sensibles como raza, origen étnico, género, nacionalidad, ingresos, orientación sexual, capacidad y creencia política o religiosa».

Recomendaciones del editor

Juan José Castillo
Ex escritor de Digital Trends en Español
Juan José se ha desempeñado por cerca de dos décadas como periodista en medios de comunicación e instituciones públicas…
Los descubrimientos que harás en Google Maps gracias a la IA
como desactivar apps de rastreo close up of female hands holding cellphone with google maps navigation app searchig for direc

Este 1 de febrero, Google anunció que con la asistencia de IA generativa tendrá nuevas funciones en Google Maps, para guías, búsqueda de lugares y recomendaciones de panoramas.

"Solo tienes que decir lo que buscas y nuestros modelos de idiomas grandes (LLM) analizarán la información detallada de Maps sobre más de 250 millones de lugares y la información fiable de nuestra comunidad de más de 300 millones de colaboradores para hacer sugerencias rápidas sobre dónde ir", comenta Google en una publicación de blog.

Leer más
Google Chrome se llena de funciones de IA
google chrome funciones ia

Buscar en Google
¿Cansado de oír hablar de IA? Bueno, prepárate. Google ahora está agregando IA generativa integrada directamente en su navegador web Chrome.

En un nuevo anuncio, la compañía reveló que Chrome recibirá tres nuevas incorporaciones que aprovecharán la inteligencia artificial para simplificar la organización de pestañas, permitir temas personalizados y, lo que es más importante, incluso ayudar a los usuarios a redactar contenido en la web en cualquier lugar donde exista un campo de texto vacío.
Asistencia de escritura impulsada por IA
Buscar en Google
Si le resulta difícil expresarse con confianza en Internet, esta función podría ser la solución que ha estado buscando. La actualización de Chrome del próximo mes introducirá una función experimental impulsada por IA que ha sido diseñada para ayudar a los usuarios a crear contenido bien escrito en cualquier lugar de Internet.

Leer más
4 predicciones apocalípticas sobre la IA que están ocurriendo ahora mismo
cuatro predicciones apocalipticas ia que estan ocurriendo 0e2bb377 4ee7 4cff b9a4 2e2861edd5db

Como si la amenaza climática, la creciente desigualdad o los conflictos armados de gran escala y la eterna amenaza de las armas nucleares no fuera suficiente para sentirse ansioso, el 30 de mayo de 2023 un grupo de investigadores y ejecutivos de alto nivel alertaron que la inteligencia artificial se está convirtiendo en una amenaza con la capacidad de extinguirnos.

“Mitigar los riesgos de la extinción por la inteligencia artificial debería ser una prioridad global junto a otros riesgos de nivel socioglobal, como las pandemias o la guerra nuclear”, señaló el Centro para la Seguridad en Inteligencia Artificial y más de 350 abajofirmantes, entre los que destaca Sam Altman, el CEO de OpenAI —la empresa detrás de ChatGPT—, y Demis Hassabis, jefe de Google DeepMind.

Leer más