Skip to main content

No más sesgos: IA de Google elimina etiquetas de género

Las calificaciones de “mujer” y “hombre” se acabaron para la inteligencia artificial (IA) de Google, en particular en lo que respecta a la interfaz de programación de aplicaciones (API por su sigla en inglés) Cloud Vision.

Pensada en desarrolladores, la herramienta adjunta etiquetas a las fotografías para identificar los contenidos, entre ellas el género cuando en las imágenes detecta que hay personas.

Entre otros elementos, Cloud Vision “puede detectar caras, puntos de referencia, logotipos de marcas e incluso contenido explícito”, informó Business Insider.

El medio reveló que Google notificó de su decisión a los desarrolladores a través de un correo electrónico. En lugar de las etiquetas de género, clasificará a cualquier ser humano simplemente como «persona».

¿Cuál fue la razón? Simple: Google asumió que no es posible inferir el género de alguien únicamente a partir de su apariencia y que, por lo demás, dicha denominación puede trasgredir sus normas éticas. “Evite crear o reforzar sesgos injustos», reza el Principio #2.

Business Insider subrayó que el sesgo en la IA es un tema “ampliamente discutido”, respecto del cual los investigadores han manifestado su preocupación, pues datos defectuosos pueden exacerbar o crear suposiciones injustas.

“Un ejemplo son los algoritmos de reconocimiento facial que identifican erróneamente a las personas de color con más frecuencia que las personas blancas”, graficó el medio.

La medida fue calificada como «muy positiva» por Frederike Kaltheuner, experta en sesgo de inteligencia artificial y quien colabora con Mozilla en temas de política tecnológica. Según reflexionó, “cada vez que se clasifica automáticamente a las personas, ya sea por su género u orientación sexual, debes decidir qué categorías usas en primer lugar, y eso acarrea muchas suposiciones”.

«Clasificar a las personas como hombres o mujeres supone que el género es binario. Cualquiera que no se ajuste automáticamente se clasificará de manera errónea y se generará un error. Por lo tanto, se trata de algo más que un prejuicio: el género de una persona no puede inferirse por apariencia. Cualquier sistema de IA que lo haya intentado hacer eso inevitablemente confundirá a las personas», comentó a la misma publicación.

Citados por Business Insider, Google reconoce en sus principios de IA que los algoritmos y los conjuntos de datos pueden reforzar el sesgo: «Buscaremos evitar impactos injustos en las personas, particularmente aquellas relacionadas con características sensibles como raza, origen étnico, género, nacionalidad, ingresos, orientación sexual, capacidad y creencia política o religiosa».

Recomendaciones del editor

Juan José Castillo
Ex escritor de Digital Trends en Español
Juan José se ha desempeñado por cerca de dos décadas como periodista en medios de comunicación e instituciones públicas…
Google Cloud presenta nuevas soluciones de IA generativa
google cloud presenta soluciones ia generativa

En el marco del evento Next ‘23,  Google Cloud anunció una serie de innovaciones entre ellas: la disponibilidad de PaLM 2 en español a través de Vertex AI para todos sus clientes, acceso a Duet AI en Workspace para todos los usuarios y la próxima disponibilidad general de Duet AI otros productos de Google Cloud antes de final del año.  Así mismo, presenta una serie de innovaciones en otras áreas, nuevos casos de uso con clientes y partners para acercar a diferentes tipos de empresas, negocios y usuarios los beneficios de la inteligencia artificial generativa y tecnologías de la nube.

“En Google Cloud contamos con un extenso camino recorrido integrando la inteligencia artificial a nuestras soluciones y productos. Hoy, marca un nuevo hito en ese camino y es muy emocionante pensar las posibilidades que se abren a partir de estas innovaciones. En América Latina, la nube es un democratizador que permite que organizaciones de todos los tamaños e industrias accedan a tecnologías de punta, como la IA generativa, para acelerar sus capacidades digitales.” expresa Eduardo López, presidente de Google Cloud para Latinoamérica.
Entrena modelos de IA desde una sola plataforma
El avance de la inteligencia artificial y su revolucionario alcance hacen que la infraestructura deba ser cada vez más sofisticada y con mejores capacidades. En este sentido, Google Cloud anuncia avances clave para sus clientes como Cloud TPUv5e. Un acelerador escalable, versátil y de mayor eficiencia en costo beneficio para ofrecer una plataforma para ejecutar inferencias y entrenamiento de inteligencia artificial a gran escala. En comparación con Cloud TPU v4, proporciona una mejora de hasta 2 veces en el rendimiento del entrenamiento por dólar y una mejora de hasta 2,5 veces en el rendimiento por dólar.
Aplicaciones de inteligencia artificial: ahora en español con Vertex AI
En línea con la infraestructura de primer nivel que ofrece Google Cloud, la plataforma Vertex AI permite crear, desplegar y escalar modelos de aprendizaje automático. A través de esta plataforma los clientes tienen acceso a más de 100 modelos básicos, incluidos código abierto, códigos de terceros y  modelos específicos, como Sec-PaLM 2 para ciberseguridad y Med-PaLM 2 para la industria de salud. A partir de hoy PaLM 2  en español  estará disponible de manera general para todos los clientes de Google Cloud.

Leer más
Google Calendar arregló uno de sus errores más irritantes
google calendar arreglo error

Si desea combinar Google Calendar con su cuenta de Microsoft Outlook, tenemos buenas noticias: Google finalmente ha solucionado un problema que ha estado plagando los dos servicios durante demasiado tiempo.

Anteriormente, si organizaba una reunión en Outlook, con frecuencia descubría que su nombre faltaba en la lista de asistentes de Google Calendar. Esto obviamente sería confuso para otros usuarios, ya que parecería que no planeaba presentarse a una reunión que se sabía que estaba organizando.
DT
Sin embargo, Google acaba de anunciar en el blog de su compañía que el problema se ha solucionado y que su nombre debería comenzar a aparecer donde debe estar. Según el gigante de las búsquedas, no necesita realizar ninguna acción para aprovechar este remedio (ya sea que sea un administrador o un usuario final), ya que los cambios deberían realizarse automáticamente.

Leer más
Google Bard podría ser tu nuevo entrenador de vida de IA
google entreno bard con datos chatgpt traslada el trabajo de assistant a pfyylu

Las herramientas generativas de inteligencia artificial (IA) como ChatGPT han tenido una mala reputación recientemente, pero Google aparentemente está tratando de ofrecer algo más positivo con su próximo proyecto: una IA que puede ofrecer consejos útiles para la vida a las personas que atraviesan tiempos difíciles.

Si se cree en un nuevo informe de The New York Times, Google ha estado probando su tecnología de inteligencia artificial con al menos 21 tareas diferentes, incluidos "consejos de vida, ideas, instrucciones de planificación y consejos de tutoría". El trabajo abarca escenarios profesionales y personales que los usuarios pueden encontrar.
Mojahid Mottakin / Unsplash
Es el resultado de que Google fusionó su laboratorio de investigación DeepMind con su equipo Brain AI y es "indicativo de la urgencia del esfuerzo de Google para impulsarse al frente del paquete de IA", señala el informe.

Leer más