Skip to main content

No más sesgos: IA de Google elimina etiquetas de género

Las calificaciones de “mujer” y “hombre” se acabaron para la inteligencia artificial (IA) de Google, en particular en lo que respecta a la interfaz de programación de aplicaciones (API por su sigla en inglés) Cloud Vision.

Pensada en desarrolladores, la herramienta adjunta etiquetas a las fotografías para identificar los contenidos, entre ellas el género cuando en las imágenes detecta que hay personas.

Recommended Videos

Entre otros elementos, Cloud Vision “puede detectar caras, puntos de referencia, logotipos de marcas e incluso contenido explícito”, informó Business Insider.

El medio reveló que Google notificó de su decisión a los desarrolladores a través de un correo electrónico. En lugar de las etiquetas de género, clasificará a cualquier ser humano simplemente como «persona».

¿Cuál fue la razón? Simple: Google asumió que no es posible inferir el género de alguien únicamente a partir de su apariencia y que, por lo demás, dicha denominación puede trasgredir sus normas éticas. “Evite crear o reforzar sesgos injustos», reza el Principio #2.

Business Insider subrayó que el sesgo en la IA es un tema “ampliamente discutido”, respecto del cual los investigadores han manifestado su preocupación, pues datos defectuosos pueden exacerbar o crear suposiciones injustas.

“Un ejemplo son los algoritmos de reconocimiento facial que identifican erróneamente a las personas de color con más frecuencia que las personas blancas”, graficó el medio.

La medida fue calificada como «muy positiva» por Frederike Kaltheuner, experta en sesgo de inteligencia artificial y quien colabora con Mozilla en temas de política tecnológica. Según reflexionó, “cada vez que se clasifica automáticamente a las personas, ya sea por su género u orientación sexual, debes decidir qué categorías usas en primer lugar, y eso acarrea muchas suposiciones”.

«Clasificar a las personas como hombres o mujeres supone que el género es binario. Cualquiera que no se ajuste automáticamente se clasificará de manera errónea y se generará un error. Por lo tanto, se trata de algo más que un prejuicio: el género de una persona no puede inferirse por apariencia. Cualquier sistema de IA que lo haya intentado hacer eso inevitablemente confundirá a las personas», comentó a la misma publicación.

Citados por Business Insider, Google reconoce en sus principios de IA que los algoritmos y los conjuntos de datos pueden reforzar el sesgo: «Buscaremos evitar impactos injustos en las personas, particularmente aquellas relacionadas con características sensibles como raza, origen étnico, género, nacionalidad, ingresos, orientación sexual, capacidad y creencia política o religiosa».

Juan José Castillo
Ex escritor de Digital Trends en Español
Juan José se ha desempeñado por cerca de dos décadas como periodista en medios de comunicación e instituciones públicas…
Los celulares con Google Chrome tendrán una IA que los defenderá de estafas
Estafa Chrome

El navegador Chrome de Google ha ofrecido un amplio conjunto de funciones de privacidad y seguridad desde hace un tiempo. Tomemos, por ejemplo, la navegación segura mejorada, que se introdujo en 2020. Protege a los usuarios contra sitios web y archivos inseguros mediante la detección de amenazas en tiempo real.

Tres años más tarde, Google lo cambió de un modo opt-in a un protocolo de seguridad predeterminado para proteger a los usuarios contra ataques de phishing, malas extensiones y descargas maliciosas. Ahora, la compañía está desplegando su Gemini Nano AI para proteger a los usuarios de teléfonos inteligentes contra posibles estafas en línea, especialmente aquellas que se esconden como una advertencia de seguridad tecnológica en las páginas web.

Leer más
El cambio de Apple a la búsqueda con IA podría ser un gran golpe para Google
Apple IA noticias

Apple está estudiando el uso de la búsqueda con IA como parte integrada de su navegador Safari, algo que podría dañar seriamente el control que Google tiene actualmente sobre las búsquedas en línea.

La noticia proviene de un informe publicado por Bloomberg que dice que Apple está "buscando activamente" remodelar el navegador Safari. La idea es centrarse en el uso de motores de búsqueda impulsados por IA.

Leer más
Gboard de Google pronto podría obtener un generador de memes impulsado por IA
Memes

Los memes se han vuelto increíblemente populares, y Google está desarrollando un generador de memes impulsado por IA para facilitar la creación de memes a través de Gboard. Sin embargo, esta próxima herramienta, conocida internamente como "Meme Studio", se ha enfrentado a las críticas de Android Authority, que fue la primera en informar sobre ella.

Según el informe, la nueva función ofrece a los usuarios dos opciones para crear memes: "personalizado" y "generar". La opción "personalizada" permite a los usuarios elegir una imagen base entre las miles disponibles y agregar sus propios subtítulos. Google parece estar automatizando el proceso de encontrar y etiquetar estas imágenes base.

Leer más