Skip to main content

Por qué YouTube bloqueó video de ajedrez por incitar al odio

Antonio Radić es un jugador de ajedrez de Croacia y presentador de uno de los canales de YouTube más populares del mundo sobre este deporte, con más de un millón de suscriptores.

Por lo mismo, sorprendió que en junio de 2020, mientras entrevistaba al gran maestro Hikaru Nakamura, la transmisión se cortara de manera repentina.

Recommended Videos

Lo más escandaloso del video fue una discusión sobre la defensa india del rey, la popular jugada de apertura el juego.

Sin embargo, según la historia que recoge Wired, el video fue removido por incluir contenido “dañino y peligroso”. Radić, en tanto, fue bloqueado durante 24 horas por violar las pautas de la comunidad de YouTube.

Qué es lo que ocurrió

Un tablero con las piezas de ajedrez caídas
Unsplash

YouTube se limitó a señalar que la eliminación del video había sido un error.

Sin embargo, un estudio de la Universidad Carnegie Mellon sugiere que el incidente refleja las deficiencias que aún tienen los programas de inteligencia artificial diseñados para detectar discursos de odio o desinformación.

Ashique KhudaBukhsh, un científico especializado en inteligencia artificial y jugador de ajedrez, quiso averiguar si el algoritmo de YouTube confundió la jerga de este deporte con discursos de odio.

De esta forma, los investigadores quisieron probar que el uso de palabras como “negras”, “blancas” o “ataque” podrían tener diferentes significados, dependiendo del contexto, especialmente en el ajedrez.

Entrenó dos versiones de un modelo de lenguaje llamado BERT, una con mensajes del sitio web racista de extrema derecha Stormfront y la otra con datos de Twitter.

Probaron ambos algoritmos con el texto y los comentarios de 8,818 videos de ajedrez, y descubrieron las dos versiones de BERT marcaron alrededor del 1 por ciento como discurso de odio.

Sin embargo, más del 80 por ciento de los casos se trató de falsos positivos. Leídos en el contexto del ajedrez, decir que las blancas atacan a las negras, no sería un lenguaje racista.

“Sin un humano al tanto, confiar en las predicciones de los clasificadores estándar en las discusiones de ajedrez puede ser engañoso”, afirmó KhudaBukhsh.

Rodrigo Orellana
Ex escritor de Digital Trends en Español
Twitter, Facebook, Instagram, WhatsApp, Telegram, criptomonedas, metaverso, son algunos de los temas que aborda el periodista…
Crean método para detectar párkinson mediante videos tipo selfie
Apple desarrollará renovado sistema en las selfies grupales

Quizá no todas las personas sean partidarias de las autofotos, pero estas podrían tener un mejor uso, ya que un grupo de científicos diseñó un método que permite saber si una persona desarrollaría la enfermedad de Parkinson mediante en análisis de videos tipo selfie.

Este método se basa en el estudio de las microexpresiones faciales obtenidas a partir de clips proporcionados por las personas en un sitio web destinado a ello. A los usuarios se les pidió grabarse con tres expresiones (sonrisa, sorpresa y enojo) y una neutral. Luego, un algoritmo de aprendizaje automático analizó el movimiento de los músculos de la cara y lo comparó con datos conocidos.

Leer más
IA de Facebook apenas elimina 5 por ciento del contenido que incita al odio
L aimagen muestra a adherentes al ex presidente Donald Trump frente al Capitolio de Estados Unidos.

Facebook intenta por todas las vías sacudirse de las acusaciones de su exfuncionaria Frances Haugen, que afirmó en una entrevista que la compañía no se preocupa por la seguridad de sus usuarios.

Un nuevo artículo publicado por The Wall Street Journal señala que Facebook está consciente de que su inteligencia artificial (IA) apenas es capaz de eliminar una parte mínima del contenido que incita al odio en su plataforma.

Leer más
YouTube prueba la descarga de videos desde la versión web
Computadora mostrando imagen de YouTube para activar el modo imagen en imagen

YouTube se mantiene como el sitio más importante y popular para reproducir videos. Su catálogo es tan generoso que muchos usuarios descargan parte del contenido que ofrece.

El problema es que, para esto, era necesario recurrir a sitios de internet que no siempre eran los más seguros.

Leer más