La inteligencia artificial detecta mensajes de odio incluso con el uso de códigos

inteligencia artificial mensajes odio redes sociales hatespeech 640x0
Los trolls racistas utilizan con frecuencia palabras-código como insultos. Pero existe un algoritmo inteligente, diseñado para saber lo que están diciendo.

Cualquier persona que haya tenido un sitio web bloqueado por su filtro de Internet sabe que los programas diseñados para bloquear ciertas piezas de contenido a menudo pueden dar problemas.

Una de las razones de esto es que las búsquedas de palabras clave pueden resultar herramientas demasiado contundentes para tratar con algo tan complejo y en constante evolución como el lenguaje.

Esto es particularmente cierto cuando se trata de encontrar palabras clave odiosas en las redes sociales.

Por ejemplo, el año pasado Alphabet publicó un algoritmo diseñado para filtrar palabras racistas, sólo para los trolls que comenzaron a sustituir el nombre de los productos de Google por insultos raciales.

Sin embargo, un nuevo algoritmo, desarrollado por investigadores de la Universidad de Rochester, cree que el problema se ha resquebrajado.

Analizando los comentarios en Twitter se han podido distinguir frases como “gas the Skypes” (un sustituto de “Judios”) y “I hate Skype” (“Odio Skype”) con un impresionante 80% de precisión.

“Hemos desarrollado un algoritmo de análisis de datos inteligente para seguir los códigos de odio en constante evolución que están diseñados para evadir la detección”, explica a Digital Trends el profesor Jiebo Luo, coautor del artículo.

“Empezamos con un conjunto de códigos de odio conocidos, recuperamos los mensajes de odio que contienen estos códigos, [y] construimos un modelo de lenguaje usando técnicas de aprendizaje automático para reconocer mensajes de odio. En base a esto, hacemos dos cosas: [en primer lugar], usando el modelo de lenguaje detectamos mensajes de odio en curso que pueden contener nuevos códigos de odio, y [en segundo lugar] usamos mensajes de odio detectados para identificar a los propagadores de odio cuyos nuevos mensajes se usan para descubrir nuevos códigos de odio”, matiza Luo.

Se trata de saber qué palabras se correlacionan con otras, descubriendo así cuando una palabra del soporte se está utilizando para algo más, agregando contexto. Claro que estos pueden ser cambiados también, pero hay un límite de palabras que un troll puede cambiar antes de hacer su declaración original totalmente ininteligible.

En conclusión, se trata de un uso muy inteligente del aprendizaje automático. Sí, los límites de lo que está bien decir online todavía están siendo elaborados. Pero cuando se trata de detener a la gente con retórica odiosa, herramientas como ésta van mucho más allá de búsquedas de palabras clave simples.

“Esperamos obtener más datos para hacer nuestro modelo más robusto y preciso”, subraya Luo. “En última instancia, esperamos que las principales plataformas de redes sociales, como Twitter, Facebook y otras, puedan adoptar nuestra tecnología, que se describe en este documento, y probablemente estará más desarrollada para ofrecer una mayor precisión. Nuestro esfuerzo continuo es utilizar la ciencia de los datos para el bien social “.

Telefonía celular

¡Cuidado! Estas apps maliciosas de Google Play están robando monedas digitales

Si estás en el mercado de las criptomonedas, deberías ser más cuidadoso que nunca. Varias aplicaciones fraudulentas fueron descubiertas en Google Play Store. Te explicamos cuáles son y qué debes hacer.
Casa inteligente

¡La espera ha terminado! Finalmente Microsoft lleva su servicio de Skype a los dispositivos habilitados con Alexa

¡Buenas noticias para los usuarios de dispositivos con Alexa! Microsoft está trayendo su servicio de llamadas de Skype a los dispositivos habilitados para Alexa de Amazon más pronto de lo que imaginábamos.
Tendencias

Nuevos productos tecnológicos llegan al mercado ¡y tal vez alguno podría ser ideal para ti!

Las campañas crowdfunding no se detienen nunca, y cada semana nos ofrecen innovadores productos con lo último en tecnología. Esta semana conocemos un nuevo Dron Selfie, un cargador inalámbrico invisible y una base móvil para tu…
Cine en casa

¿No quieres pagar por ver películas en internet? ¡Todo es posible!

Si ya viste la mayoría de las películas buenas en tu servicio de streaming, te presentamos los mejores sitios en Internet para encontrar una variedad de películas y producciones gratuitas.
Telefonía celular

La app de Tumblr sigue desaparecida de la App Store ¿por qué?

¿Dónde está la aplicación Tumblr para iOS? Ha desaparecido de forma fulminante de la App Store y no hay una explicación clara, salvo que sus desarrolladores hablan de "un problema" y que lo están solucionando...
Telefonía celular

Así es como T-Mobile está combatiendo las llamadas automáticas o fraudulentas

Si es un cliente de T-Mobile puede que hayas notado que algunas de tus llamadas entrantes ahora están siendo marcadas como "Scam Likely". Te explicamos de qué se trata y cómo puedes protegerte.
Autos

Lamborghini transforma el Urus en un multipropósito de competición

El primer vehículo familiar de Lamborghini estrena una versión deportiva que participará en una nueva serie automovilística a partir de 2020. La edición ST-X del Urus es considerablemente más liviana y estilizada.
Computación

¿Tienes problemas con iCloud después de instalar Windows Update? No eres el único

Un gran número de usuarios están reportando que no pueden ingresar ni utilizar sus cuentas de iCloud luego de haber instalado Windows 10 October 2018 Update. Te explicamos qué está haciendo la compañía.
Autos

El DBX irá donde ningún Aston Martin ha podido llegar antes

Tal como Bentley y Rolls-Royce, Aston Martin ha dado su brazo a torcer con la fiebre de los SUV. El DBX se encuentra sometido a duras pruebas, que incluyen sesiones en el Medio Oriente y el asfalto de Nürburgring.
Autos

Ford y Walmart quieren saber qué esperamos del servicio a domicilio autónomo

Con presupuestos ajustados, reducción de costos y reestructuraciones a la orden del día, los fabricantes de carros y los minoristas se han planteado construir servicios de reparto a la medida de sus clientes.
Autos

Toyota estrena tres versiones del RAV4 y hubo un preferido

El modelo más vendido de Toyota en Estados Unidos viene en 2019 equipado de un potente paquete de seguridad y confort, y está disponible desde $25,500 con motor gasolinero, además de una versión híbrida.
Telefonía celular

Apple lo confirma: tiene un equipo que, a pie mejorará su app de Mapas

Apple quiere asegurarse que Mapas, su aplicación de navegación y cartografía sea "la mejor" del mercado, según palabras de Eddy Cue, y para ello ha incorporado un equipo que captura datos que va a pie por diversas localidades de…
Tendencias

Te presentamos a Ginger, un simpático robot mesero

¿Te gustaría ordenar tu pedido en un restaurant utilizando una pantalla táctil en tu mesa, y que un robot te traiga la comida que ordenaste? Te presentamos a Ginger, el simpático robot mesero.
Fotografía

¡Que no te quiten los créditos! Aprende a crear marcas de agua para tus fotos

Aunque muchas veces nos parezca poco estético, lo cierto es que las marcas de agua para fotos son una excelente opción cuando quieres protegerlas o hacerle saber al mundo quién es "el artista". Te explicamos a continuación como…