Skip to main content

Aterrador: IA clona voz de una chica y extorsionan a la familia

Una situación aterradora y que muestra las implicancias negativas de la inteligencia artificial se vivió en Arizona, Estados Unidos, según relató el New York Post y se trata de lo que vivió la familia DeStefano, luego de que un grupo de delincuentes clonara la voz de su hija para inventar un secuestro y pedir un lucrativo rescate.

Jennifer DeStefano reportó haber recibido la llamada de «su hija» supuestamente secuestrada para inmediatamente pasar el teléfono al secuestrador quien le pidió un millón de dólares para no dañarla. Jennifer declaró que ni por un segundo dudó que fuera la voz de su hija.

Imagen utilizada con permiso del titular de los derechos de autor

En el intento de secuestro de Brie, la hija de DeStefano, además de la extorsión se le sumaron sollozos, gritos y llanto de la supuesta joven, y amenazas por parte del secuestrador de drogarla y dañarla si no se pagaba el rescate, mientras que en el fondo se escuchaba todavía la voz de Brie llorando y pidiendo auxilio.

Recommended Videos

La familia se dio cuenta de la estafa, luego de contactar a Brie por teléfono y corroborar que estaba bien.

«Al principio, requeriría una mayor cantidad de muestras», explicó Subbarao Kambhampati, profesor de informática y autoridad en IA de la Universidad Estatal de Arizona. «Ahora hay formas en las que puedes hacer esto con solo tres segundos de tu voz. Tres segundos. Y con los tres segundos, puede acercarse a cómo suenas exactamente», agregó. Con un tamaño de muestra lo suficientemente grande, la IA puede imitar la «inflexión» de uno, así como su «emoción», según el profesor.

DeStefano encontró la simulación de voz particularmente inquietante dado que «Brie no tiene ninguna cuenta pública de redes sociales que tenga su voz», según una publicación en el sitio web. «Tiene algunas entrevistas públicas para deportes/escuela que tienen una gran muestra de su voz», describió la madre, quien también comentó que «sin embargo, esto es algo que debe preocupar más a los niños que tienen cuentas (de redes sociales) públicas».

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
La herramienta de detección de IA de Google disponible para todos
Celular con IA. Imagen generada por IA.

Google anunció a través de una publicación en X (anteriormente Twitter) el miércoles que SynthID ya está disponible para cualquiera que quiera probarlo. El sistema de autenticación para el contenido generado por IA incrusta marcas de agua imperceptibles en imágenes, videos y texto generados, lo que permite a los usuarios verificar si un contenido fue creado por humanos o máquinas.

"Estamos abriendo el código de nuestra herramienta de marca de agua SynthID Text", escribió la compañía. "Disponible de forma gratuita para desarrolladores y empresas, les ayudará a identificar su contenido generado por IA".

Leer más
Canva tiene nuevo generador de imágenes con IA y más novedades
Canva

La plataforma Canva, herramienta web para edición de imágenes y video, está presentando nuevas funciones de IA. La última adquisición es "Dream Lab", una nueva herramienta generadora de imágenes nacida de la adquisición de la startup de IA generativa Leonardo.ai Canva a principios de este año.
Dream Lab funciona con el modelo Phoenix de Leonardo y permite a los usuarios generar imágenes a partir de descripciones en una variedad de estilos como "renderizado 3D" e "ilustración".
Droptober 2024 | The latest Canva launches, designed for your greatest work

Canva también ha realizado algunas actualizaciones en su conjunto de herramientas de IA "Magic", como una precisión mejorada y comandos de autocompletado con un solo clic para la función de generación de texto Magic Write. Las pizarras ahora admiten resúmenes impulsados por IA y pegatinas de reacción en tiempo real para proyectos colaborativos, y se han agregado herramientas de edición de video que generan subtítulos automáticamente e introducen nuevos efectos de animación.

Leer más
Google ayuda a detectar el cáncer de mama con ayuda de la IA
google ia deteccion temprana cancer de mama angiola harry sjcalew 1lm unsplash

Cada 19 de octubre se conmemora el Día Internacional de lucha contra el Cáncer de Mama, con el objetivo de concientizar acerca de esta enfermedad. En este contexto, Google difundió cómo trabaja en proyectos que combinan el poder de la inteligencia artificial (IA) con el conocimiento de los profesionales de la salud para crear herramientas de diagnóstico precisas y accesibles. Las investigaciones llevadas a cabo en varios diagnósticos detectaron una reducción del 9.4% de los falsos negativos y del 5.7% de los falsos positivos.
De acuerdo con la Organización Mundial de la Salud (OMS), el cáncer de mama es uno de los más comunes, siendo el 99% de los casos en mujeres. Asimismo, la Organización Panamericana de la Salud (OPS) afirma que el tratamiento puede ser altamente efectivo cuando la enfermedad se detecta a tiempo.
En este escenario, Adriana Noreña, vicepresidenta de Google para Hispanoamérica, reflexionó: “Como subrayé en mi participación en el Women 20 de Río de Janeiro, la inteligencia artificial tiene la capacidad de procesar y analizar enormes cantidades de datos en poco tiempo, identificar patrones complejos y aprender de forma contínua a través de sus algoritmos para mejorar su precisión, lo cual la convierte en una gran aliada para los profesionales de la salud”. Y agregó: “es crucial que haya cada vez más mujeres involucradas en el desarrollo de esta tecnología. Al incorporar nuestra perspectiva desde el momento cero, podemos garantizar que la IA no solo sea técnicamente avanzada, sino también nos permitirá crear soluciones íntimamente relacionadas con nuestro género, así como más equitativas y efectivas”.
En línea con estos esfuerzos por mejorar la detección temprana, entre 2016 y 2018, Google comenzó a implementar el uso del aprendizaje profundo -deep learning-, una de las áreas donde la IA emplea redes neuronales artificiales para aprender de grandes conjuntos de datos para realizar tareas complejas, con el fin de asistir a los médicos en la detección de la metástasis. Esta herramienta de análisis de nódulos linfáticos (Lymph Node Assistant -LYNA, por sus siglas en inglés-), es entrenada por medio de imágenes médicas, como radiografías, tomografías o imágenes patológicas, y clasificadas previamente por expertos, para que la IA pueda identificar los macro y micro patrones de la enfermedad. Así, LYNA tiene la capacidad de detectar la localización de la metástasis que, en muchos casos, es casi imperceptible al ojo humano, permitiendo que los médicos puedan acelerar el proceso de diagnóstico y, en consecuencia, adelantar el inicio del tratamiento. 
En 2021, Google Health realizó una investigación clínica junto con Northwestern Medicine para explorar cómo la IA podría acelerar el diagnóstico del cáncer de mama, optimizando el proceso desde la mamografía inicial hasta el diagnóstico final. Comenzaron la investigación recopilando imágenes mamográficas de alta calidad provenientes de diversos pacientes, las cuales fueron clasificadas por expertos en salud para entrenar el modelo de IA ante la detección de cáncer, la identificación de características tumorales, entre otros aspectos.
Posteriormente, el modelo se probó en un entorno clínico real, donde las personas que se sometían a mamografías podían optar por que sus resultados fueran analizados por la IA junto con la evaluación de los radiólogos. Estos arrojaron datos alentadores: se redujeron los falsos negativos en un 9.4% y los falsos positivos en un 5.7%, en comparación con la práctica clínica estándar. Además, la IA demostró su capacidad de analizar una mamografía en menos de dos minutos, lo que permite obtener resultados más rápidos para las pacientes, acelerar tanto el diagnóstico como el tratamiento, al mismo tiempo que reduce los costos asociados a la atención y los tratamientos tardíos.

Premios Nobel: Hallazgos en beneficio de la salud
La semana pasada, Geoffrey Hinton, ex investigador de Google, fue galardonado junto a John Hopfield con el Premio Nobel de Física 2024 por sus descubrimientos en el campo del aprendizaje automático con redes neuronales artificiales (ANN por sus siglas en inglés), que sentaron las bases para el reconocimiento a través de la IA de patrones en imágenes, lenguajes y en información clínica que hoy se utiliza en el campo de la salud y en otras disciplinas.
Como se describe en este documento emitido por el comité del premio Nobel, este descubrimiento fue clave en el desarrollo de la herramienta para la predicción de las estructuras de cualquier proteína en tres dimensiones denominado AlphaFold, motivo por el cual dos científicos de Google DeepMind, Demis Hassabis y John Jumper, obtuvieron también este año el Premio Nobel de Química. AlphaFold fue abierta por Google a la comunidad científica de forma gratuita y ya fue utilizado por más de dos millones de investigadores de más de 190 países.

Leer más