Cuando el trabajador de construcción publicó una fotografía en su sitio de trabajo junto a una pala mecánica, diciendo “buenos días” en árabe, la función de traducción de Facebook convirtió la frase al hebreo «atácalos», y al inglés «lastímalos». Aunque esta obviamente no fue su intención, ni sabía lo que el sistema traductor había publicado, el joven fue inmediatamente localizado, arrestado e interrogado.
Según el periódico israelí Haaretz, el hombre fue arrestado cuando la policía israelí vio el mensaje en auto-traducción la semana pasada debajo de una foto del hombre apoyado contra una excavadora, disfrutando de lo que parece ser un café y un cigarrillo en una construcción en Cisjordania cerca de Jerusalén. La confusión provino del sistema al identificar erróneamente una palabra árabe similar que significa «lastimar».
La traducción incorrecta hizo que la publicación fuera señalada y reportada, notificando a las autoridades locales que también usan algoritmos para identificar posibles amenazas. La policía respondió inmediatamente, pues según las autoridades, las excavadoras han sido utilizadas en ataques terroristas como vehículos para atropellar a sus víctimas.
Después de hacer las averiguaciones respectivas y que oficiales de habla árabe lean la publicación original, la policía se dio cuenta del error y el hombre fue liberado después de unas horas.
En una declaración, Facebook se disculpó por el error. La compañía dice que, aunque los algoritmos de auto-traducción mejoran todos los días, las interpretaciones erróneas ocurren ocasionalmente. Facebook dijo que está trabajando para evitar que el error vuelva a suceder.
La inteligencia artificial es el motor que está detrás de la función de traducción de Facebook; cuando la compañía cambió por completo a su propio sistema el año pasado, el software manejó alrededor de 2 mil millones de traducciones al día en 40 idiomas. Las opciones adicionales permiten a los usuarios reportar malas traducciones y calificar el texto traducido.
La red social usa algoritmos diferentes para monitorear las publicaciones, pero una serie de eventos recientes han hecho que la plataforma prometa una supervisión más humana del proceso en los sistemas de monitoreo. A principios del 2017, la compañía dijo que agregaría 3,000 moderadores humanos, con el objetivo de revisar las publicaciones marcadas por usuarios por violar los estándares de la comunidad.
