Skip to main content

¿Son Siri y Alexa racistas en la identificación de palabras?

Un importante estudio de la Universidad de Stanford detectó que varios de los más importantes sistemas de reconocimiento de voz del mundo, Amazon, Apple, Google, IBM y Microsoft cometen muchos más errores con los usuarios negros que con los blancos.

Según esta investigación, el sesgo racial se nota en la disparidad de admisión de palabras pronunciadas para entrenar la inteligencia artificial del sistema.

Los promedios en las cinco compañías que se testaron muestran que los sistemas identificaron erróneamente las palabras de las personas blancas aproximadamente el 19 por ciento de las veces. Para los negros, esta cifra saltó al 35 por ciento. Alrededor del dos por ciento del audio de las personas blancas se consideró ilegible, mientras que esto aumentó al 20 por ciento para las personas negras.

Según manifiestan en el estudio, «existe la preocupación de que los sistemas de reconocimiento de voz adolecen de prejuicios raciales, un problema que recientemente ha salido a la luz en varias otras aplicaciones avanzadas de aprendizaje automático, como el reconocimiento facial, natural procesamiento del lenguaje, publicidad en línea y predicción de riesgos en la justicia penal, atención médica y servicios para niños. Aquí, evaluamos las disparidades raciales en cinco herramientas comerciales de voz a texto, desarrolladas por Amazon, Apple, Google, IBM y Microsoft, que potencian algunas de las aplicaciones más populares de la tecnología de reconocimiento de voz».

Imagen utilizada con permiso del titular de los derechos de autor

La única compañía que contestó a la investigación de Stanford fue Google, que afirmó que «hemos estado trabajando en el desafío de reconocer con precisión las variaciones del habla durante varios años, y continuaremos haciéndolo».

La conclusión de la investigación es demoledora en lo que tiene que ver con la discriminación contra la población negra.

«Las brechas de rendimiento que hemos documentado sugieren que es considerablemente más difícil para los afroamericanos beneficiarse del uso cada vez más extendido de la tecnología de reconocimiento de voz, desde asistentes virtuales en teléfonos móviles hasta computación manos libres para personas con discapacidades físicas. Estas disparidades también pueden dañar activamente a las comunidades afroamericanas cuando, por ejemplo, los empleadores utilizan el software de reconocimiento de voz para evaluar automáticamente las entrevistas con los candidatos o las agencias de justicia penal para transcribir automáticamente los procedimientos judiciales», señala el estudio.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
El Galaxy Home Mini de Samsung y la Surface Duo se muestran en video
Home Mini y Surface Duo

Nuevos videos están desnudando dos de los dispositivos que debutarán en los próximos días y meses en 2020: Se trata del Galaxy Home Mini de Samsung por un lado y el plegable de Microsoft, Surface Duo.

En el caso del parlante inteligente de la marca coreana, la filtración fue realizada por el destacado especialista Max Weinbach de XDA-Developers.

Leer más
¿Quieres trabajar en McDonald’s? Pídeselo a Alexa o al Asistente de Google
McDonald's retira fuentes de servicio de sodas por COVID-19

Desde conocer el estado del clima hasta comprar artículos online, pasando por la capacidad de responder algunas preguntas insólitas y también divertidas, el Asistente de Google y Amazon Alexa se han transformado en herramientas clave de nuestra vida diaria. Tanto es así que, a partir de ahora, también podrás tener la oportunidad de trabajar en McDonald's con su ayuda.

¿Cómo será posible eso? La firma de comida rápida ha lanzado su función McDonald's Apply Thru, el primer proceso de solicitud de empleo activado por voz del mundo. Solo debes decir: "Hey, Alexa (o Google), ayúdame a conseguir un trabajo en McDonald's". Después, el dispositivo preguntará por tu nombre, ubicación y el tipo de empleo que deseas, tras lo cual recibirás un mensaje de texto con un enlace para finalizar la postulación en el sitio web McHire.

Leer más
Estos son los planes de Apple para mejorar la inteligencia artificial de Siri
siri reconoce voz apple

A medida que la competencia entre los asistentes inteligentes continúa día a día, tratando de ofrecer más habilidades y utilidades, parece que Apple está enfocando sus esfuerzos en transformar a Siri en un asistente multicultural y multilingüe con inteligencia artificial avanzada, y que se convierta en la mejor alternativa no solo para los seguidores de su marca sino para los usuarios en general.

La compañía anunció que planea contratar a 2,000 empleados más para su nuevo campus en Seattle, y un número significativo de esos trabajos parecen estar enfocados en mejorar a Siri y desarrollar inteligencia artificial más avanzada.

Leer más