Por qué YouTube bloqueó video de ajedrez por incitar al odio

Antonio Radić es un jugador de ajedrez de Croacia y presentador de uno de los canales de YouTube más populares del mundo sobre este deporte, con más de un millón de suscriptores.

Por lo mismo, sorprendió que en junio de 2020, mientras entrevistaba al gran maestro Hikaru Nakamura, la transmisión se cortara de manera repentina.

Lo más escandaloso del video fue una discusión sobre la defensa india del rey, la popular jugada de apertura el juego.

Sin embargo, según la historia que recoge Wired, el video fue removido por incluir contenido “dañino y peligroso”. Radić, en tanto, fue bloqueado durante 24 horas por violar las pautas de la comunidad de YouTube.

Qué es lo que ocurrió

Un tablero con las piezas de ajedrez caídas
Unsplash

YouTube se limitó a señalar que la eliminación del video había sido un error.

Sin embargo, un estudio de la Universidad Carnegie Mellon sugiere que el incidente refleja las deficiencias que aún tienen los programas de inteligencia artificial diseñados para detectar discursos de odio o desinformación.

Ashique KhudaBukhsh, un científico especializado en inteligencia artificial y jugador de ajedrez, quiso averiguar si el algoritmo de YouTube confundió la jerga de este deporte con discursos de odio.

De esta forma, los investigadores quisieron probar que el uso de palabras como “negras”, “blancas” o “ataque” podrían tener diferentes significados, dependiendo del contexto, especialmente en el ajedrez.

Entrenó dos versiones de un modelo de lenguaje llamado BERT, una con mensajes del sitio web racista de extrema derecha Stormfront y la otra con datos de Twitter.

Probaron ambos algoritmos con el texto y los comentarios de 8,818 videos de ajedrez, y descubrieron las dos versiones de BERT marcaron alrededor del 1 por ciento como discurso de odio.

Sin embargo, más del 80 por ciento de los casos se trató de falsos positivos. Leídos en el contexto del ajedrez, decir que las blancas atacan a las negras, no sería un lenguaje racista.

“Sin un humano al tanto, confiar en las predicciones de los clasificadores estándar en las discusiones de ajedrez puede ser engañoso”, afirmó KhudaBukhsh.

Recomendaciones del editor