Skip to main content

Por qué YouTube bloqueó video de ajedrez por incitar al odio

Antonio Radić es un jugador de ajedrez de Croacia y presentador de uno de los canales de YouTube más populares del mundo sobre este deporte, con más de un millón de suscriptores.

Por lo mismo, sorprendió que en junio de 2020, mientras entrevistaba al gran maestro Hikaru Nakamura, la transmisión se cortara de manera repentina.

Lo más escandaloso del video fue una discusión sobre la defensa india del rey, la popular jugada de apertura el juego.

Sin embargo, según la historia que recoge Wired, el video fue removido por incluir contenido “dañino y peligroso”. Radić, en tanto, fue bloqueado durante 24 horas por violar las pautas de la comunidad de YouTube.

Qué es lo que ocurrió

Un tablero con las piezas de ajedrez caídas
Unsplash

YouTube se limitó a señalar que la eliminación del video había sido un error.

Sin embargo, un estudio de la Universidad Carnegie Mellon sugiere que el incidente refleja las deficiencias que aún tienen los programas de inteligencia artificial diseñados para detectar discursos de odio o desinformación.

Ashique KhudaBukhsh, un científico especializado en inteligencia artificial y jugador de ajedrez, quiso averiguar si el algoritmo de YouTube confundió la jerga de este deporte con discursos de odio.

De esta forma, los investigadores quisieron probar que el uso de palabras como “negras”, “blancas” o “ataque” podrían tener diferentes significados, dependiendo del contexto, especialmente en el ajedrez.

Entrenó dos versiones de un modelo de lenguaje llamado BERT, una con mensajes del sitio web racista de extrema derecha Stormfront y la otra con datos de Twitter.

Probaron ambos algoritmos con el texto y los comentarios de 8,818 videos de ajedrez, y descubrieron las dos versiones de BERT marcaron alrededor del 1 por ciento como discurso de odio.

Sin embargo, más del 80 por ciento de los casos se trató de falsos positivos. Leídos en el contexto del ajedrez, decir que las blancas atacan a las negras, no sería un lenguaje racista.

“Sin un humano al tanto, confiar en las predicciones de los clasificadores estándar en las discusiones de ajedrez puede ser engañoso”, afirmó KhudaBukhsh.

Recomendaciones del editor

Rodrigo Orellana
Ex escritor de Digital Trends en Español
Twitter, Facebook, Instagram, WhatsApp, Telegram, criptomonedas, metaverso, son algunos de los temas que aborda el periodista…
Esta IA toca un solo de bajo infinito en YouTube
Dos especialistas en aprendizaje automatizado crearon una inteligencia artificial que lleva días tocando el bajo

Dos desarrolladores especialistas en aprendizaje automatizado y fanáticos del death metal crearon una inteligencia artificial que lleva días improvisando un solo de bajo de manera ininterrumpida, tanto que lo hace desde el pasado 13 de diciembre.

Conocidos con el nombre de Dadabots, los desarrolladores CJ Carr y Zack Zukowski explican en YouTube que el solo de bajo fue creado con una red neuronal recurrente que entrenaron con una sesión de bajo de dos horas de un músico fallecido llamado Adam Neely.

Leer más
Una app coloca tu rostro en una escena de cine o en un video famoso
aplicacion coloca rostro escena video apostolos vamvouras rnoslaw80b8 unsplash

Los videos deepfakes se han vuelto virales entre los seguidores de YouTube.

La tecnología que superpone la cara de un personaje conocido sobre el rostro de otro famoso, con una precisión y nitidez impresionantes, es una de las últimas tendencias en internet.

Leer más
YouTube les da donde les duele a los supremacistas blancos
YouTube les da donde les duele a los supremacistas blancos

La eliminación de más de 25,000 canales de extremistas de derecha y racistas ha efectuado YouTube, argumentando que promovían discursos de odio.

"Después de actualizar nuestras pautas para abordar mejor el contenido supremacista, certificamos un aumento de cinco veces en la supresión de videos ", explicó la firma a través de un comunicado.

Leer más