Skip to main content

¡Desconfía de tus ojos! Todo sobre la guerra contra los videos Deepfake

¿Ver para creer? No realmente: podrías estar frente a un video Deepfake

Todo sobre la guerra contra los videos deepfake
YouTube

Seguramente a estas alturas ya te has topado en tu navegación por internet con algún video donde alguna persona o figura pública hace cosas que no hubieras imaginado posibles. Vemos al expresidente estadounidense Barack Obama impávido insultando a Donald Trump, al actor Jim Carrey sustituyendo a Jack Nicholson en la película The Shining, o decenas de ejemplos similares, que resultan difíciles de creer. Pero no se trata de que estas personas perdieron la razón y decidieron hacer cosas fuera de lo común: estas imágenes inverosímiles son logradas por medio de una técnica conocida como Deepfake (o Ultrafalso, término alternativo aceptado por la Fundéu BBVA), con la que se pueden crear contenidos extremadamente realistas y extremadamente ficticios.

En pocas palabras, se trata de una técnica de síntesis de imágenes que permite tomar videos, fotografías o incluso grabaciones de audio existentes y combinarlas impecablemente, por medio de inteligencia artificial, con nuevos rostros, sonidos o ambientes.  Y aunque te suene divertido, lo cierto es que, de inocente, no tiene nada.

Esta situación y sus posibles consecuencias ya ha llamado la atención de varias instituciones y grupos de investigación, así como de las grandes compañías tecnológicas. Para resaltar cuán fácil podría ser caer víctima de este engaño, PBS realizó un reportaje especial al respecto en su serie NOVA, donde se pueden ver varios ejemplos de videos falsos:

Deepfake Videos Are Getting Terrifyingly Real I NOVA I PBS

¿Qué es lo peor que podría pasar?

En un principio, esta técnica se comenzó a utilizar para crear pornografía falsa, poniendo rostros de celebridades o ex parejas en cuerpos de personas teniendo relaciones sexuales. Ya suficientemente desconcertante, pero luego de esto, el salto al ámbito político fue natural; un deepfake puede ser fácilmente utilizado para desacreditar o chantajear a un personaje público de alto perfil, o para desinformar y manipular a la población en general. En una época en la que arreglar elecciones parecería ser más fácil que nunca para quien cuente con la tecnología correcta (o el dinero para pagarla), esto no es algo que se deba tomar a la ligera.

En ámbitos menos públicos el peligro está igual de presente. Los llamados deepfakes de voz han costado a algunas compañías miles de millones de dólares como consecuencia de fraudes en los que, utilizando la “voz” del director de la compañía, criminales han ordenado la transferencia de enormes sumas de dinero a sus cuentas.

¿Qué se está haciendo al respecto?

Facebook

Facebook, siempre presente en las controversias tecnológicas, ha ofrecido un premio monetario para la persona o grupo que sea capaz de crear un medio efectivo de detectar deepfakes. Esta medida, conocida como Deepfake Detection Challenge, se trata de una sociedad entre Facebook, Microsoft, Partnership on AI y académicos de diferentes instituciones.

El proyecto Deepfake Detection Challenge comenzó a operar en octubre de 2019 y durará hasta mayo de 2020, ofreciendo colaboraciones y premios para motivar la participación. Facebook invirtió $10 millones de dólares en este proyecto.

Google, por su parte, ha creado una base datos que contiene más de 3,000 videos deepfake alterados, para impulsar el desarrollo de los sistemas diseñados para detectar contenidos modificados con inteligencia artificial. Esto es clave en el avance de esta tecnología, pues hasta el momento no existía material suficiente para su estudio adecuado y, con la cercanía de las próximas elecciones presidenciales estadounidenses, el tiempo apremia.

¿Qué puedes hacer tú?

Si los observas con mucha atención, los deepfakes podrían no ser tan perfectos como crees. Quizá la persona parpadea menos de lo que debería, o tal vez los movimientos de la cabeza o la iluminación no se ven del todo naturales. Si algo te parece raro, haz caso a tu instinto.

Sin embargo, es un hecho que la tecnología avanza vertiginosamente y, si no se presta la atención debida, parece encontrarse cerca de la perfección. Y nosotros, después de todo, solo somos humanos. Por eso, el sentido común es la herramienta más recomendable en cualquier situación. No creas todo lo que ves, busca diferentes fuentes para corroborar un dato, y asume que cualquier cosa puede ser falsa hasta que se demuestre lo contrario. Es posible que lo sea.

Recomendaciones del editor

Aron Covaliu
Aron Covaliu nace en la Ciudad de México, cuando aún era conocida como México D.F. Su carrera como traductor editorial…
El intrincado plan secreto de Huawei en Estados Unidos
Espionaje

Huawei y otras empresas de telecomunicaciones chinas están sujetas a restricciones en Estados Unidos debido a preocupaciones de seguridad nacional. En 2019, Huawei fue incluida en una lista negra comercial, lo que impide a las empresas estadounidenses hacer negocios con ella sin una licencia especial. Esto ha afectado la capacidad de Huawei para vender sus productos en el mercado estadounidense y ha limitado su acceso a tecnologías clave como el sistema operativo Android de Google.

Sin embargo, eso al parecer no ha sido impedimento para que la compañía china esté haciendo de las suyas en suelo estadounidense.

Leer más
El curso gratis que ofrece OpenAI que te podría hacer ganar mucha plata
openai curso gratis inteligencia artificial

"ChatGPT Prompt Engineering for Developers"  es el nombre del curso que acaba de abrir OpenAI y viene a significar 'Prompt engineering / ingeniería de instrucciones de ChatGPT para desarrolladores'. Se trata de un plan de estudios gratis y lo ha hecho uniéndose a DeepLearning.AI, la compañía de Andrew Ng, también cofundador de la plataforma de cursos Coursera y antiguo máximo responsable de Google Brain y del departamento de IA de Baidu.

Este curso de 1,5 horas tiene como objetivo dotar a los desarrolladores de software con las habilidades necesarias para integrar los grandes modelos de lenguajes (LLMs, como GPT-3.5 y GPT-4) en la creación de aplicaciones.

Leer más
Día de las Madres: el gadget ideal para regalar a mamá
dia de la madre regalos gadgets ofertas kindle scribe

El mes de mayo es especial en varias partes del mundo, sobre todo porque se celebra el Día de las Madres, y si estás pensando en el gadget ideal para regalar a mamá, esta selección te gustará.

Va desde una alisadora de cabello hasta un teléfono inteligente de Motorola. Y tú, ¿cuál piensas que sería el regalo ideal para ella?
Dyson Airstrait

Leer más