Skip to main content

La inteligencia artificial detecta mensajes de odio incluso con el uso de códigos

inteligencia artificial mensajes odio redes sociales hatespeech 640x0
Los trolls racistas utilizan con frecuencia palabras-código como insultos. Pero existe un algoritmo inteligente, diseñado para saber lo que están diciendo.

Cualquier persona que haya tenido un sitio web bloqueado por su filtro de Internet sabe que los programas diseñados para bloquear ciertas piezas de contenido a menudo pueden dar problemas.

Vídeos Relacionados

Una de las razones de esto es que las búsquedas de palabras clave pueden resultar herramientas demasiado contundentes para tratar con algo tan complejo y en constante evolución como el lenguaje.

Esto es particularmente cierto cuando se trata de encontrar palabras clave odiosas en las redes sociales.

Por ejemplo, el año pasado Alphabet publicó un algoritmo diseñado para filtrar palabras racistas, sólo para los trolls que comenzaron a sustituir el nombre de los productos de Google por insultos raciales.

Sin embargo, un nuevo algoritmo, desarrollado por investigadores de la Universidad de Rochester, cree que el problema se ha resquebrajado.

Analizando los comentarios en Twitter se han podido distinguir frases como «gas the Skypes» (un sustituto de «Judios») y «I hate Skype» (“Odio Skype”) con un impresionante 80% de precisión.

«Hemos desarrollado un algoritmo de análisis de datos inteligente para seguir los códigos de odio en constante evolución que están diseñados para evadir la detección», explica a Digital Trends el profesor Jiebo Luo, coautor del artículo.

«Empezamos con un conjunto de códigos de odio conocidos, recuperamos los mensajes de odio que contienen estos códigos, [y] construimos un modelo de lenguaje usando técnicas de aprendizaje automático para reconocer mensajes de odio. En base a esto, hacemos dos cosas: [en primer lugar], usando el modelo de lenguaje detectamos mensajes de odio en curso que pueden contener nuevos códigos de odio, y [en segundo lugar] usamos mensajes de odio detectados para identificar a los propagadores de odio cuyos nuevos mensajes se usan para descubrir nuevos códigos de odio», matiza Luo.

Se trata de saber qué palabras se correlacionan con otras, descubriendo así cuando una palabra del soporte se está utilizando para algo más, agregando contexto. Claro que estos pueden ser cambiados también, pero hay un límite de palabras que un troll puede cambiar antes de hacer su declaración original totalmente ininteligible.

En conclusión, se trata de un uso muy inteligente del aprendizaje automático. Sí, los límites de lo que está bien decir online todavía están siendo elaborados. Pero cuando se trata de detener a la gente con retórica odiosa, herramientas como ésta van mucho más allá de búsquedas de palabras clave simples.

«Esperamos obtener más datos para hacer nuestro modelo más robusto y preciso», subraya Luo. «En última instancia, esperamos que las principales plataformas de redes sociales, como Twitter, Facebook y otras, puedan adoptar nuestra tecnología, que se describe en este documento, y probablemente estará más desarrollada para ofrecer una mayor precisión. Nuestro esfuerzo continuo es utilizar la ciencia de los datos para el bien social «.

Quieren resucitar a un bisonte prehistórico de 8 mil años
bisonte quieren resucitar siberia b35467d9 d877 4d44 8de8 2e7c1b36dc59

No contentos con resucitar a un mamut del permafrost de Siberia, ahora un grupo de científicos quieren devolver a la vida a un bisonte extinto hace más de 8 mil años y cuyos restos momificado fueron recientemente necropsados en Rusia.

La criatura momificada fue descubierta en la localidad de Khaastaakh en la región de Verkhoyansk de Rusia en el verano de 2022 y donada al Laboratorio del Museo del Mamut de la Universidad Federal del Noreste (NEFU) en Yakutsk. Las investigaciones preliminares revelaron que el bisonte era un juvenil de sexo desconocido que tenía entre 1 y 2 años cuando murió. Los científicos aún no saben cuándo vivió el bisonte, pero especímenes similares encontrados en 2009 y 2010 datan de hace entre 8.000 y 9.000 años, escribieron los investigadores de NEFU en un comunicado.

Leer más
Hubble ve el cambio de estaciones en Júpiter y Urano
hubble cambio de estaciones jupiter urano j  piter

Nuestro planeta no es el único lugar en el sistema solar con cambios climáticos dramáticos. Otros planetas del sistema solar también experimentan estaciones, dependiendo de su distancia del sol, y eso afecta sus climas. Uno de los muchos trabajos del Telescopio Espacial Hubble es monitorear las estaciones cambiantes en otros planetas, particularmente los planetas exteriores más grandes que no se observan con tanta frecuencia. Y esta semana, los científicos han publicado sus nuevas vistas de Júpiter y Urano, tomadas por el Hubble y que muestran los cambios estacionales en los dos planetas.

Júpiter está lejos del sol, por lo que la mayor parte de su calor no proviene del exterior sino del interior. Se cree que Júpiter tiene una temperatura central muy alta, que puede ser el resultado de cómo se formó, pero también podría ser rellenada por procesos dentro del planeta. A medida que este calor escapa del interior del planeta, afecta su atmósfera, que contiene múltiples capas y tiene características inusuales como tormentas geométricas en sus polos.
[Júpiter: izquierda] – El pronóstico para Júpiter es para un clima tormentoso en latitudes bajas del norte. Una cadena prominente de tormentas alternas es visible, formando una "calle de vórtice" como la llaman algunos astrónomos planetarios. [Urano: derecha] – El polo norte de Urano muestra una neblina fotoquímica espesa que se parece al smog sobre las ciudades. Se pueden ver varias pequeñas tormentas cerca del borde del límite de la neblina polar. Nota: Los planetas no aparecen en esta imagen a escala. NASA, ESA, STScI, A. Simon (NASA-GSFC), M. H. Wong (UC Berkeley), J. DePasquale (STScI)
En la reciente imagen del Hubble, Júpiter está experimentando tormentas en la parte del hemisferio norte cerca del ecuador, con una formación ondulada de ciclones y anticiclones que cruzan el planeta. En la imagen también se puede ver la luna Io como un pequeño círculo naranja, proyectando una sombra negra hacia la izquierda del planeta.

Leer más
James Webb ve exoplaneta con nubes arenosas en su atmósfera
james webb exoplaneta nubes arenosas atmosfera vhs 1256 b

Una de las cosas más emocionantes del Telescopio Espacial James Webb es que no solo puede detectar exoplanetas, sino que incluso puede mirar dentro de sus atmósferas para ver de qué están compuestos. Comprender las atmósferas de exoplanetas nos ayudará a encontrar mundos potencialmente habitables, pero también revelará algunas rarezas fascinantes, como un hallazgo reciente de un exoplaneta con una atmósfera llena de nubes arenosas y arenosas.

El exoplaneta VHS 1256 b, a unos 40 años luz de distancia, tiene una atmósfera compleja y dinámica que muestra cambios considerables en un día de 22 horas. La atmósfera no solo muestra evidencia de sustancias químicas comúnmente observadas como agua, metano y monóxido de carbono, sino que también parece estar salpicada de nubes formadas por granos de silicato.
Esta ilustración conceptualiza las nubes arremolinadas identificadas por el Telescopio Espacial James Webb en la atmósfera del exoplaneta VHS 1256 b. El planeta está a unos 40 años luz de distancia y orbita dos estrellas que están bloqueadas en su propia rotación apretada. Sus nubes, que están llenas de polvo de silicato, se elevan, mezclan y mueven constantemente durante su día de 22 horas. NASA, ESA, CSA, J. Olmsted (STScI)
Los astrónomos pudieron obtener una excelente vista del planeta porque en lugar de orbitar una estrella como los planetas de nuestro sistema solar, este planeta orbita un par de estrellas y tarda 10.000 años en completar una órbita completa. Eso significa que está lejos de la luz de sus estrellas, por lo que es más fácil para los astrónomos ver la luz reflejada relativamente tenue del planeta.

Leer más