Skip to main content

Aterrador: IA clona voz de una chica y extorsionan a la familia

Una situación aterradora y que muestra las implicancias negativas de la inteligencia artificial se vivió en Arizona, Estados Unidos, según relató el New York Post y se trata de lo que vivió la familia DeStefano, luego de que un grupo de delincuentes clonara la voz de su hija para inventar un secuestro y pedir un lucrativo rescate.

Jennifer DeStefano reportó haber recibido la llamada de «su hija» supuestamente secuestrada para inmediatamente pasar el teléfono al secuestrador quien le pidió un millón de dólares para no dañarla. Jennifer declaró que ni por un segundo dudó que fuera la voz de su hija.

Imagen utilizada con permiso del titular de los derechos de autor

En el intento de secuestro de Brie, la hija de DeStefano, además de la extorsión se le sumaron sollozos, gritos y llanto de la supuesta joven, y amenazas por parte del secuestrador de drogarla y dañarla si no se pagaba el rescate, mientras que en el fondo se escuchaba todavía la voz de Brie llorando y pidiendo auxilio.

La familia se dio cuenta de la estafa, luego de contactar a Brie por teléfono y corroborar que estaba bien.

«Al principio, requeriría una mayor cantidad de muestras», explicó Subbarao Kambhampati, profesor de informática y autoridad en IA de la Universidad Estatal de Arizona. «Ahora hay formas en las que puedes hacer esto con solo tres segundos de tu voz. Tres segundos. Y con los tres segundos, puede acercarse a cómo suenas exactamente», agregó. Con un tamaño de muestra lo suficientemente grande, la IA puede imitar la «inflexión» de uno, así como su «emoción», según el profesor.

DeStefano encontró la simulación de voz particularmente inquietante dado que «Brie no tiene ninguna cuenta pública de redes sociales que tenga su voz», según una publicación en el sitio web. «Tiene algunas entrevistas públicas para deportes/escuela que tienen una gran muestra de su voz», describió la madre, quien también comentó que «sin embargo, esto es algo que debe preocupar más a los niños que tienen cuentas (de redes sociales) públicas».

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Líderes de la industria advierten: la IA presenta riesgos de extinción como una guerra nuclear
lideres ia advierten riesgo de extincion guerra nuclear drew dizzy graham s4dfrh7hddu unsplash

Nuevamente los líderes de la industria de la inteligencia artificial encendieron las alarmas, ya que el Centro para la Seguridad de la IA una organización con la misión de "reducir los riesgos a escala social de la inteligencia artificial", pidió tener mucho cuidado con la IA y la comparó con la guerra nuclear.

Los firmantes son un quién es quién de la industria de la IA, incluido el director ejecutivo de OpenAI, Sam Altman, y el jefe de Google DeepMind, Demis Hassabis. Los investigadores ganadores del Premio Turing Geoffrey Hinton y Yoshua Bengio, considerados por muchos como los padrinos de la IA moderna, también le pusieron sus nombres.

Leer más
Te explicamos cómo cambiar la voz de Alexa (o su idioma)
Te explicamos cómo cambiar la voz de Alexa (o su idioma).

A lo mejor quieres que Alexa te hable en otras lenguas o acentos, o que cambie definitivamente el tono de su voz. En realidad, las razones por las cuales pueden ser muchas, y aquí te explicamos cómo hacerlo.

Aprovecha que estás por aquí y entérate de las mejores preguntas raras para Alexa, los mejores juegos de Alexa y cómo usar la app de Alexa en cualquier celular.
Cómo cambiar el acento o idioma de Alexa

Leer más
Tim Cook y la IA: hay una serie de problemas a resolver
Tim Cook dirigiendo una Keynote de Apple en Cupertino.

Uno de los actores del mundo de la tecnología que no había hablado tan directamente sobre IA es el CEO de Apple, Tim Cook, quien en medio de la entrega del estado de ganancias de su compañía en el primer trimestre de 2023, accedió a contestar la pregunta de un reportero sobre la materia.

"Creo que es muy importante ser deliberado y reflexivo sobre cómo abordar estas cosas", dijo Cook. "Hay una serie de problemas que deben resolverse ... en varios lugares diferentes, pero el potencial es ciertamente muy interesante".

Leer más