Confirman sesgo en algoritmo de Twitter: prefiere rostros de piel clara

Twitter compartió los resultados de un concurso para encontrar el sesgo en el algoritmo que usa para recortar las imágenes.

Los resultados demostraron lo advertido por los propios usuarios hace algunos meses: el algoritmo utilizado por la plataforma favorece los rostros de personas de piel clara y jóvenes.

El concurso fue lanzado por Twitter como una forma de mejorar su polémico algoritmo de recorte de imágenes, el que fue desactivado en marzo luego de que se comprobara que favorecía algunos rostros sobre otros.

En la convocatoria animaba a los usuarios y a los hackers a que ayudaran a descubrir los potenciales daños que se pudieran generar.

De acuerdo con la compañía, los ganadores aportaron una “perspectiva novedosa para afrontar el problema de los daños no intencionados” y las vías de explotación que podrían existir en el algoritmo.

Uno de los ganadores del concurso mostró que el algoritmo “amplifica los sesgos del mundo real y las expectativas de belleza”, lo que evidenciaría las preferencias por los rostros de personas con la piel clara, cálida y suave, en especial aquellos que son más jóvenes y femeninos.

Otro de los seleccionados demostró que el algoritmo perpetuaba la marginación de ciertos grupos sociales, como los más adultos y las personas que viven con alguna discapacidad, quienes quedaban excluidos del recorte de fotos.

Si bien los resultados arrojados por el concurso pueden parecer desalentadores, demuestran la importancia y necesidad de que las compañías puedan abrir sus sistemas al público para que ayuden a luchar contra estos sesgos.

Recomendaciones del editor