Skip to main content

Comprueban cómo se puede engañar a un detector de deepfakes

A finales de 2020, Microsoft anunció un software que podía ayudar a detectar fotos o videos deepfakes (ultrafalsos).

Sin embargo, un grupo de informáticos recién aseguró que estos sistemas pueden ser engañados.

Durante la conferencia WACV 2021, los investigadores demostraron que los detectores pueden ser derrotados mediante la inserción de entradas denominadas “ejemplos adversos” en cada fotograma del video.

Los ejemplos adversos pueden ser definidos como entradas ligeramente manipuladas, que hacen que los sistemas de inteligencia artificial (IA), se equivoquen y cometan errores.

El equipo de investigadores también pudo demostrar que el ataque sigue funcionando después de comprimir los videos, además de advertir sobre los riesgos que pueden significar la posibilidad de vencer a los detectores de ultrafalsos.

“Nuestro trabajo demuestra que los ataques a los detectores de deepfakes pueden ser una amenaza en el mundo real”, explicó Shehzeen Hussain, doctorando en ingeniería informática de la Universidad de California en San Diego.

Agregó que “demostramos que es posible elaborar deepfakes adversarios robustos, incluso cuando un adversario puede no ser consciente del funcionamiento interno del modelo de aprendizaje automático utilizado por el detector”.

La difusión masiva de videos falsos en las redes sociales ha causado gran preocupación en todo el mundo. Según los autores, esto también afectaría la credibilidad de los medios digitales.

“Si los atacantes tienen algún conocimiento del sistema de detección, pueden diseñar entradas que apunten a los puntos ciegos del detector y evitarlo”, añadió Paarth Neekhara, otro de los autores del artículo.

Como conclusión principal, los científicos demostraron que los métodos actuales de detección de ultrafalsos pueden ser eludidos con facilidad por alguien que tenga un conocimiento completo o incluso parcial del detector.

Por lo mismo, recomiendan que estos sistemas sean mejorados y adaptados para que no puedan ser eludidos por los atacantes.

Recomendaciones del editor

Felipe Sasso
Ex escritor de Digital Trends en Español
Felipe Sasso es periodista y escritor. Desde temprana edad manifestó una importante inquietud hacia la escritura y las…
Así es como se ve una foto de la cámara de un teléfono inteligente de 200MP
motorola x30 pro foto 200 megapixeles

Ha habido mucha especulación sobre el Motorola X30 Pro en los últimos tiempos, y una nueva foto confirma que la cámara del próximo teléfono inteligente es tan impresionante como Motorola lo ha estado haciendo sonar.

El X30 Pro, también conocido como Edge 30 Ultra, está equipado con una cámara de 200 megapíxeles en su parte trasera, lo que lo convierte en uno de los teléfonos inteligentes centrados en la fotografía más impresionantes de la industria. Si bien Motorola ha hablado un gran juego sobre la calidad de las imágenes que podemos esperar que produzca el X30, una nueva foto significa que finalmente las estamos viendo con nuestros propios ojos.
Weibo
Publicado en el sitio de blogs chino Weibo, el gerente general de Motorola China, Chen Jin, mostró una sola imagen tomada con la cámara de 200MP. Incluso con el conocimiento de que la foto fue comprimida para subir al sitio web, sigue siendo una toma asombrosamente atractiva. La imagen es de un ramo de flores, por lo que puedes acercarte y ver muchos de los detalles minuciosos de las plantas.

Leer más
TikTok tendrá un botón de no me gusta para comentarios
tiktok indemnizacion usuarios filtracion datos

TikTok prueba una nueva función para, según la red social, “fomentar la amabilidad y la seguridad”.

La compañía explica en una reciente publicación de blog que ha incluido al botón de no me gusta, con el que permitirá a los usuarios marcar los comentarios que consideren “irrelevantes o inapropiados”. La función fue diseñada para ayudar a los miembros de la plataforma de videos cortos a mantener el control de sus interacciones, según explica la empresa.

Leer más
Publican un video falso de BBC para culpar a Ucrania de un ataque
publican video falso bbc culpar ucrania ataque estaci  n de trenes kramatorsk

El conflicto bélico entre Rusia y Ucrania ha disparado la publicación de noticias y videos falsos. Ahora, BBC tuvo que desmentir un registro que aparecía con su logo. Se trata de un video difundido en redes sociales donde se culpaba a Ucrania de un ataque que dejó varios civiles muertos.

El registro sugiere que el atentado, que afectó una estación de trenes en Kramatorsk y que dejó 50 personas muertas y 100 heridos, fue perpetrado por las tropas ucranianas. Sin embargo, BBC desmintió esta información: ellos no hicieron ese video, pese a que exhibe su característico logo.

Leer más