Twitter compartió los resultados de un concurso para encontrar el sesgo en el algoritmo que usa para recortar las imágenes.
Los resultados demostraron lo advertido por los propios usuarios hace algunos meses: el algoritmo utilizado por la plataforma favorece los rostros de personas de piel clara y jóvenes.
El concurso fue lanzado por Twitter como una forma de mejorar su polémico algoritmo de recorte de imágenes, el que fue desactivado en marzo luego de que se comprobara que favorecía algunos rostros sobre otros.
En la convocatoria animaba a los usuarios y a los hackers a que ayudaran a descubrir los potenciales daños que se pudieran generar.
De acuerdo con la compañía, los ganadores aportaron una “perspectiva novedosa para afrontar el problema de los daños no intencionados” y las vías de explotación que podrían existir en el algoritmo.
Uno de los ganadores del concurso mostró que el algoritmo “amplifica los sesgos del mundo real y las expectativas de belleza”, lo que evidenciaría las preferencias por los rostros de personas con la piel clara, cálida y suave, en especial aquellos que son más jóvenes y femeninos.
Otro de los seleccionados demostró que el algoritmo perpetuaba la marginación de ciertos grupos sociales, como los más adultos y las personas que viven con alguna discapacidad, quienes quedaban excluidos del recorte de fotos.
Si bien los resultados arrojados por el concurso pueden parecer desalentadores, demuestran la importancia y necesidad de que las compañías puedan abrir sus sistemas al público para que ayuden a luchar contra estos sesgos.
Recomendaciones del editor
- Cómo activar el modo oscuro de Facebook en iOS y Android
- Elon Musk comenzó a cortar cabezas de periodistas en Twitter por criticarlo
- Elon Musk quiere eliminar para siempre a los suplantadores de identidad en Twitter
- Las altas temperaturas aumentan discurso de odio en redes sociales
- El botón de edición de Twitter ya está en prueba y así se ve
