¿Pensabas que pulsar borrar en la conversación de tu chatbot de IA realmente la hace desaparecer? Los investigadores de Georgia Tech acaban de demostrar que eso no es del todo cierto. Han creado una herramienta forense llamada ORISA que puede extraer conversaciones borradas de tu teléfono e incluso reconstruirlas en una sesión de chatbot funcional con la que puedas seguir hablando.
¿Cómo puede ORISA recuperar las conversaciones eliminadas con IA?
Ejecutar asistentes de IA localmente en tu teléfono suena privado porque no envía tus conversaciones a la nube. Sin embargo, esos datos siguen en la memoria de trabajo de tu teléfono mientras la app está en funcionamiento. Así que, borrar un chat a través de la interfaz de la app no necesariamente lo borra de la memoria.
ORISA busca esos fragmentos sobrantes y los cose de nuevo en una sesión de IA en vivo y funcional. En una prueba, los investigadores crearon un asistente ficticio llamado Project Note Keeper. Le dieron cien datos y luego borraron la conversación por completo. Dado que la ventana de memoria del modelo era limitada, la sesión en vivo solo podía acceder activamente a 14 de esos datos cuando la conversación se eliminaba.
Sin embargo, ORISA logró recuperar 26 datos, más de lo que la sesión original pudo acceder en ese momento. Aunque eso es una recuperación parcial de todo lo que se compartió originalmente, demuestra que ORISA puede recuperar más de lo que la sesión original en directo podía lograr. A lo largo de 60 configuraciones de prueba que abarcan 10 aplicaciones de Android y tres modelos de IA diferentes, la herramienta recuperó con éxito los datos de conversaciones eliminadas.
¿Por qué importa esto?
Los investigadores afirman que ORISA podría ayudar a los investigadores digitales a reconstruir qué compartió alguien con un asistente de IA y qué consejos recibieron, lo cual tiene un valor forense real. También podría ayudar a investigar casos en los que los consejos de chatbots con IA pudieron haber perjudicado a los pacientes, pero las conversaciones nunca se compartieron con sus médicos.
Sin embargo, esa misma capacidad también genera preocupaciones de privacidad para quienes usan aplicaciones de IA en el dispositivo, ya que eliminar una conversación podría no ser el corte limpio que esperarías.
Por ahora, ORISA es una herramienta forense diseñada para investigadores, no una aplicación normal que cualquiera pueda usar para restaurar chats eliminados. También requiere acceso a una copia de la memoria y el almacenamiento del teléfono, y la recuperación se vuelve más difícil cuando otra actividad sobrescribe los datos relevantes. Aun así, la investigación pone el foco en cuánto podrían estar guardando discretamente las aplicaciones de IA locales tras bambalinas.
