Skip to main content

No más sesgos: IA de Google elimina etiquetas de género

Las calificaciones de “mujer” y “hombre” se acabaron para la inteligencia artificial (IA) de Google, en particular en lo que respecta a la interfaz de programación de aplicaciones (API por su sigla en inglés) Cloud Vision.

Pensada en desarrolladores, la herramienta adjunta etiquetas a las fotografías para identificar los contenidos, entre ellas el género cuando en las imágenes detecta que hay personas.

Entre otros elementos, Cloud Vision “puede detectar caras, puntos de referencia, logotipos de marcas e incluso contenido explícito”, informó Business Insider.

El medio reveló que Google notificó de su decisión a los desarrolladores a través de un correo electrónico. En lugar de las etiquetas de género, clasificará a cualquier ser humano simplemente como «persona».

¿Cuál fue la razón? Simple: Google asumió que no es posible inferir el género de alguien únicamente a partir de su apariencia y que, por lo demás, dicha denominación puede trasgredir sus normas éticas. “Evite crear o reforzar sesgos injustos», reza el Principio #2.

Business Insider subrayó que el sesgo en la IA es un tema “ampliamente discutido”, respecto del cual los investigadores han manifestado su preocupación, pues datos defectuosos pueden exacerbar o crear suposiciones injustas.

“Un ejemplo son los algoritmos de reconocimiento facial que identifican erróneamente a las personas de color con más frecuencia que las personas blancas”, graficó el medio.

La medida fue calificada como «muy positiva» por Frederike Kaltheuner, experta en sesgo de inteligencia artificial y quien colabora con Mozilla en temas de política tecnológica. Según reflexionó, “cada vez que se clasifica automáticamente a las personas, ya sea por su género u orientación sexual, debes decidir qué categorías usas en primer lugar, y eso acarrea muchas suposiciones”.

«Clasificar a las personas como hombres o mujeres supone que el género es binario. Cualquiera que no se ajuste automáticamente se clasificará de manera errónea y se generará un error. Por lo tanto, se trata de algo más que un prejuicio: el género de una persona no puede inferirse por apariencia. Cualquier sistema de IA que lo haya intentado hacer eso inevitablemente confundirá a las personas», comentó a la misma publicación.

Citados por Business Insider, Google reconoce en sus principios de IA que los algoritmos y los conjuntos de datos pueden reforzar el sesgo: «Buscaremos evitar impactos injustos en las personas, particularmente aquellas relacionadas con características sensibles como raza, origen étnico, género, nacionalidad, ingresos, orientación sexual, capacidad y creencia política o religiosa».

Recomendaciones del editor

Juan José Castillo
Ex escritor de Digital Trends en Español
Juan José se ha desempeñado por cerca de dos décadas como periodista en medios de comunicación e instituciones públicas…
Google eliminó más de 5 mil millones de anuncios maliciosos
google informe seguridad anuncios 2022 brett jordan b j4ljbam5u unsplash

Las personas y las empresas depositan una enorme confianza en Google cuando usan los productos de la compañía. Es por eso que la compañía de Mountain View presenta su Informe anual de seguridad de anuncios para mostrar cómo se trabajó en 2022 para evitar el uso malicioso de los servicios de publicidad en línea, y lanza por primera vez su Centro de Transparencia de Anuncios, que acerca de manera más fácil y práctica información sobre los anunciantes que hacen uso de sus plataformas. 

Los principales resultados de 2022 
En el Informe anual de seguridad de anuncios de Google (también conocido como Ads Safety Report) comparte que -durante 2022- la compañía incorporó o actualizó 29 políticas para anunciantes y editores. Esto, por ejemplo, incluyó ampliar sus protecciones para adolescentes y fortalecer sus políticas de anuncios electorales.

Leer más
Elon Musk le da duro a Bill Gates: su entendimiento de la IA es limitado
elon musk contra bill gates inteligencia artificial

Un dardo muy venenoso es el que lanzó Elon Musk a Bill Gates este 27 de marzo, ya que el fundador de Tesla y principal accionista de Twitter, cuestionó los conocimientos del hombre detrás de Microsoft en relación a la inteligencia artificial.

En un tuit, Musk aprovechó de comentar la opinión que dio Gates en su blog personal sobre la IA.

Leer más
Google anuncia herramientas IA para su plataforma Workspace
Pantalla de inicio de Google Cloud con iconos de todas sus aplicaciones

Este 14 de marzo, el director ejecutivo de Google Cloud, Thomas Kurian, dio a conocer las novedades de Google en la implementación de herramientas IA para Workspace.

"Los desarrolladores y las empresas ahora pueden probar nuevas API y productos que hacen que sea fácil, seguro y escalable comenzar a construir con los mejores modelos de IA de Google a través de Google Cloud y un nuevo entorno de creación de prototipos llamado MakerSuite", sostuvo Kurian.

Leer más