Skip to main content

No más sesgos: IA de Google elimina etiquetas de género

Las calificaciones de “mujer” y “hombre” se acabaron para la inteligencia artificial (IA) de Google, en particular en lo que respecta a la interfaz de programación de aplicaciones (API por su sigla en inglés) Cloud Vision.

Pensada en desarrolladores, la herramienta adjunta etiquetas a las fotografías para identificar los contenidos, entre ellas el género cuando en las imágenes detecta que hay personas.

Recommended Videos

Entre otros elementos, Cloud Vision “puede detectar caras, puntos de referencia, logotipos de marcas e incluso contenido explícito”, informó Business Insider.

El medio reveló que Google notificó de su decisión a los desarrolladores a través de un correo electrónico. En lugar de las etiquetas de género, clasificará a cualquier ser humano simplemente como «persona».

¿Cuál fue la razón? Simple: Google asumió que no es posible inferir el género de alguien únicamente a partir de su apariencia y que, por lo demás, dicha denominación puede trasgredir sus normas éticas. “Evite crear o reforzar sesgos injustos», reza el Principio #2.

Business Insider subrayó que el sesgo en la IA es un tema “ampliamente discutido”, respecto del cual los investigadores han manifestado su preocupación, pues datos defectuosos pueden exacerbar o crear suposiciones injustas.

“Un ejemplo son los algoritmos de reconocimiento facial que identifican erróneamente a las personas de color con más frecuencia que las personas blancas”, graficó el medio.

La medida fue calificada como «muy positiva» por Frederike Kaltheuner, experta en sesgo de inteligencia artificial y quien colabora con Mozilla en temas de política tecnológica. Según reflexionó, “cada vez que se clasifica automáticamente a las personas, ya sea por su género u orientación sexual, debes decidir qué categorías usas en primer lugar, y eso acarrea muchas suposiciones”.

«Clasificar a las personas como hombres o mujeres supone que el género es binario. Cualquiera que no se ajuste automáticamente se clasificará de manera errónea y se generará un error. Por lo tanto, se trata de algo más que un prejuicio: el género de una persona no puede inferirse por apariencia. Cualquier sistema de IA que lo haya intentado hacer eso inevitablemente confundirá a las personas», comentó a la misma publicación.

Citados por Business Insider, Google reconoce en sus principios de IA que los algoritmos y los conjuntos de datos pueden reforzar el sesgo: «Buscaremos evitar impactos injustos en las personas, particularmente aquellas relacionadas con características sensibles como raza, origen étnico, género, nacionalidad, ingresos, orientación sexual, capacidad y creencia política o religiosa».

Juan José Castillo
Ex escritor de Digital Trends en Español
Juan José se ha desempeñado por cerca de dos décadas como periodista en medios de comunicación e instituciones públicas…
Google te invita a cursos gratuitos para hablarle a los chatbots de IA
cosas increibles que puedes hacer con google gemini advanced advance

Una de las necesidades actuales en la comunicación de internet, es manejar bien el lenguaje de los chatbots de IA, y para eso, Google está ofreciendo un curso gratuito (con certificado final de pago), para poder hablar con estas inteligencias.

Llamado el "curso Google Prompting Essentials", el programa está diseñado para ayudar a los estudiantes a "descubrir cómo inducir (IA) de manera efectiva en cinco sencillos pasos y hacer que la IA trabaje para ellos, sin necesidad de experiencia".

Leer más
Google: AI Overviews ahora se encuentra disponible más de 100 países
funcion night sight google pixel 3 ai mem3 598x250 c

Google anunció la expansión de su función de resultados con inteligencia artificial «AI Overviews» dentro de su motor de búsqueda, llevándola a más de 100 países y territorios. Con esta ampliación de territorios  se estima alcanzar a más de mil millones de usuarios mensuales.

Como parte de esta actualización, también se amplió la compatibilidad de idiomas en general. Si estás en cualquier país, ahora puedes obtener una “Visión general creada por IA” en cualquiera de los idiomas que actualmente están disponibles, incluidos el español, el portugués, el inglés, el hindi, el indonesio y el japonés.

Leer más
Meta no quiere depender más de Google: va por su propio buscador
Mark Zuckerberg Meta

Meta quiere hacer una súper integración en sus plataformas, ya que la compañía de Mark Zuckerberg estaría ideando su propio buscador, para no depender más de resultados de Google y Microsoft.

De acuerdo con The Information, un grupo de ingenieros de Meta están desarrollando un motor de búsqueda. Lejos de ofrecerse como una alternativa a Google o Bing, la compañía planea utilizarlo para su chatbot de inteligencia artificial. El propósito del nuevo buscador de Meta sería rastrear la web para proporcionar respuestas conversacionales a quienes utilicen su IA en aplicaciones como WhatsApp, Messenger o Instagram.

Leer más