Skip to main content

Aterrador: IA clona voz de una chica y extorsionan a la familia

Una situación aterradora y que muestra las implicancias negativas de la inteligencia artificial se vivió en Arizona, Estados Unidos, según relató el New York Post y se trata de lo que vivió la familia DeStefano, luego de que un grupo de delincuentes clonara la voz de su hija para inventar un secuestro y pedir un lucrativo rescate.

Jennifer DeStefano reportó haber recibido la llamada de «su hija» supuestamente secuestrada para inmediatamente pasar el teléfono al secuestrador quien le pidió un millón de dólares para no dañarla. Jennifer declaró que ni por un segundo dudó que fuera la voz de su hija.

Imagen utilizada con permiso del titular de los derechos de autor

En el intento de secuestro de Brie, la hija de DeStefano, además de la extorsión se le sumaron sollozos, gritos y llanto de la supuesta joven, y amenazas por parte del secuestrador de drogarla y dañarla si no se pagaba el rescate, mientras que en el fondo se escuchaba todavía la voz de Brie llorando y pidiendo auxilio.

La familia se dio cuenta de la estafa, luego de contactar a Brie por teléfono y corroborar que estaba bien.

«Al principio, requeriría una mayor cantidad de muestras», explicó Subbarao Kambhampati, profesor de informática y autoridad en IA de la Universidad Estatal de Arizona. «Ahora hay formas en las que puedes hacer esto con solo tres segundos de tu voz. Tres segundos. Y con los tres segundos, puede acercarse a cómo suenas exactamente», agregó. Con un tamaño de muestra lo suficientemente grande, la IA puede imitar la «inflexión» de uno, así como su «emoción», según el profesor.

DeStefano encontró la simulación de voz particularmente inquietante dado que «Brie no tiene ninguna cuenta pública de redes sociales que tenga su voz», según una publicación en el sitio web. «Tiene algunas entrevistas públicas para deportes/escuela que tienen una gran muestra de su voz», describió la madre, quien también comentó que «sin embargo, esto es algo que debe preocupar más a los niños que tienen cuentas (de redes sociales) públicas».

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Las imágenes falsas de IA están apareciendo en la búsqueda de Google
imagenes falsas ia apareciendo busqueda google israel kamakawiwo  ole

Imagen utilizada con permiso del titular de los derechos de autor
En este momento, si escribes "Israel Kamakawiwoʻole" en la búsqueda de Google, no ves una de las famosas portadas de álbumes del cantante, o una imagen de él interpretando una de sus canciones en su icónico ukelele. Lo primero que se ve es una imagen de un hombre sentado en una playa con una sonrisa en su rostro, pero no una foto del hombre en sí tomada con una cámara. Esta es una foto falsa generada por IA. De hecho, cuando haces clic en la imagen, te lleva al subreddit de Midjourney, donde se publicó inicialmente la serie de imágenes.

Esto fue publicado por primera vez por Ethan Mollick en X (antes conocido como Twitter), un profesor de Wharton que estudia IA.

Leer más
Bjork y Rosalía llevan la IA al límite…al límite de lo malo
bjork rosalia ia videoclip oral

björk ft. rosalía : oral

Un ejemplo de lo que es hacer mal las cosas y a medias solo con el deseo de decir que estás a la moda es lo que hicieron la legendaria cantante islandesa Bjork y la nueva estrella del pop, Rosalía, ya que grabaron en conjunto un videoclip hecho con IA de la canción Oral y los detalles dejan mucho que desear.

Leer más
Dream Track: la herramienta IA de Youtube que clona a tu artista
Youtube ahora clona tu artista
dream track ia youtube clona artistas t pain

Si bien hace unos días escribimos que Youtube está estrenando herramientas para ayudar a los sellos discográficos a detener la clonación por IA de artistas famosos, en paralelo está trayendo a los usuarios la funcionalidad Dream Track, una IA generativa que permitirá a las personas crear pistas de música usando solo un mensaje de texto o una simple melodía tarareada.

Está diseñado para generar automáticamente pistas musicales cortas de 30 segundos al estilo de artistas famosos. La función puede imitar a nueve artistas diferentes, que han elegido colaborar con YouTube en su desarrollo. YouTube también está mostrando nuevas herramientas que pueden generar pistas de música a partir de un zumbido.

Leer más