Skip to main content

¡Desconfía de tus ojos! Todo sobre la guerra contra los videos Deepfake

¿Ver para creer? No realmente: podrías estar frente a un video Deepfake

Todo sobre la guerra contra los videos deepfake
YouTube

Seguramente a estas alturas ya te has topado en tu navegación por internet con algún video donde alguna persona o figura pública hace cosas que no hubieras imaginado posibles. Vemos al expresidente estadounidense Barack Obama impávido insultando a Donald Trump, al actor Jim Carrey sustituyendo a Jack Nicholson en la película The Shining, o decenas de ejemplos similares, que resultan difíciles de creer. Pero no se trata de que estas personas perdieron la razón y decidieron hacer cosas fuera de lo común: estas imágenes inverosímiles son logradas por medio de una técnica conocida como Deepfake (o Ultrafalso, término alternativo aceptado por la Fundéu BBVA), con la que se pueden crear contenidos extremadamente realistas y extremadamente ficticios.

En pocas palabras, se trata de una técnica de síntesis de imágenes que permite tomar videos, fotografías o incluso grabaciones de audio existentes y combinarlas impecablemente, por medio de inteligencia artificial, con nuevos rostros, sonidos o ambientes.  Y aunque te suene divertido, lo cierto es que, de inocente, no tiene nada.

Esta situación y sus posibles consecuencias ya ha llamado la atención de varias instituciones y grupos de investigación, así como de las grandes compañías tecnológicas. Para resaltar cuán fácil podría ser caer víctima de este engaño, PBS realizó un reportaje especial al respecto en su serie NOVA, donde se pueden ver varios ejemplos de videos falsos:

Deepfake Videos Are Getting Terrifyingly Real I NOVA I PBS

¿Qué es lo peor que podría pasar?

En un principio, esta técnica se comenzó a utilizar para crear pornografía falsa, poniendo rostros de celebridades o ex parejas en cuerpos de personas teniendo relaciones sexuales. Ya suficientemente desconcertante, pero luego de esto, el salto al ámbito político fue natural; un deepfake puede ser fácilmente utilizado para desacreditar o chantajear a un personaje público de alto perfil, o para desinformar y manipular a la población en general. En una época en la que arreglar elecciones parecería ser más fácil que nunca para quien cuente con la tecnología correcta (o el dinero para pagarla), esto no es algo que se deba tomar a la ligera.

En ámbitos menos públicos el peligro está igual de presente. Los llamados deepfakes de voz han costado a algunas compañías miles de millones de dólares como consecuencia de fraudes en los que, utilizando la “voz” del director de la compañía, criminales han ordenado la transferencia de enormes sumas de dinero a sus cuentas.

¿Qué se está haciendo al respecto?

Facebook

Facebook, siempre presente en las controversias tecnológicas, ha ofrecido un premio monetario para la persona o grupo que sea capaz de crear un medio efectivo de detectar deepfakes. Esta medida, conocida como Deepfake Detection Challenge, se trata de una sociedad entre Facebook, Microsoft, Partnership on AI y académicos de diferentes instituciones.

El proyecto Deepfake Detection Challenge comenzó a operar en octubre de 2019 y durará hasta mayo de 2020, ofreciendo colaboraciones y premios para motivar la participación. Facebook invirtió $10 millones de dólares en este proyecto.

Google, por su parte, ha creado una base datos que contiene más de 3,000 videos deepfake alterados, para impulsar el desarrollo de los sistemas diseñados para detectar contenidos modificados con inteligencia artificial. Esto es clave en el avance de esta tecnología, pues hasta el momento no existía material suficiente para su estudio adecuado y, con la cercanía de las próximas elecciones presidenciales estadounidenses, el tiempo apremia.

¿Qué puedes hacer tú?

Si los observas con mucha atención, los deepfakes podrían no ser tan perfectos como crees. Quizá la persona parpadea menos de lo que debería, o tal vez los movimientos de la cabeza o la iluminación no se ven del todo naturales. Si algo te parece raro, haz caso a tu instinto.

Sin embargo, es un hecho que la tecnología avanza vertiginosamente y, si no se presta la atención debida, parece encontrarse cerca de la perfección. Y nosotros, después de todo, solo somos humanos. Por eso, el sentido común es la herramienta más recomendable en cualquier situación. No creas todo lo que ves, busca diferentes fuentes para corroborar un dato, y asume que cualquier cosa puede ser falsa hasta que se demuestre lo contrario. Es posible que lo sea.

Recomendaciones del editor

Aron Covaliu
Guías, videojuegos, streaming, celulares, computadoras y todo lo relacionado con tecnología; si el tema es publicable, lo…
Las imágenes falsas de IA están apareciendo en la búsqueda de Google
imagenes falsas ia apareciendo busqueda google israel kamakawiwo  ole

Imagen utilizada con permiso del titular de los derechos de autor
En este momento, si escribes "Israel Kamakawiwoʻole" en la búsqueda de Google, no ves una de las famosas portadas de álbumes del cantante, o una imagen de él interpretando una de sus canciones en su icónico ukelele. Lo primero que se ve es una imagen de un hombre sentado en una playa con una sonrisa en su rostro, pero no una foto del hombre en sí tomada con una cámara. Esta es una foto falsa generada por IA. De hecho, cuando haces clic en la imagen, te lleva al subreddit de Midjourney, donde se publicó inicialmente la serie de imágenes.

Esto fue publicado por primera vez por Ethan Mollick en X (antes conocido como Twitter), un profesor de Wharton que estudia IA.

Leer más
Atención chistositos: Google libera el dominio .meme
Los mejores memes del Mundial Qatar 2022.

Si eres de aquellos que están sumergidos en la subcultura del meme, entonces esta noticia realmente podría cambiar tus próximos pasos en internet, ya que Google liberó el registro de dominio .meme para utilización pública.

Google Registry acaba de lanzar un nuevo dominio de nivel superior que te permite colocar un gran .meme al final de tu sitio web.

Leer más
Cómo elegir el mejor cable de Ethernet
Cómo elegir el mejor cable de Ethernet.

¿Buscando el mejor cable de Ethernet para tus necesidades? Has llegado al lugar indicado, Para ayudarte, aquí encontrarás una guía que incluye una tabla, un glosario y otros consejos de compra que ponen en evidencia los beneficios y problemas de diferentes cables Ethernet. Se trata de una excelente manera de comenzar a descubrir cómo elegir el mejor cable Ethernet para tu hogar o entorno de trabajo.

Revisa también a nuestras guías sobre cómo comprar un router compatible con Wi-Fi 6 y los mejores routers Wi-Fi 6.
Cómo elegir el mejor cable de Ethernet – Comienza midiendo la velocidad de tu internet

Leer más