Un importante paso en la lucha contra las imágenes no consentidas (NCII) y el uso de IA para generar deepfake es el que dio el gobierno de los Estados Unidos, luego de que el presidente Donald Trump promulgara la Ley Take It Down, ley que penalizará la distribución de este tipo de contenido en redes sociales.
El proyecto exigirá a las plataformas de redes sociales que este tipo de contenido sea eliminado de inmediato cuando se les notifique.
La ley castiga penalmente la publicación de NCII, ya sea real o generada por IA, con hasta tres años de prisión, además de multas. También requiere que las plataformas de redes sociales tengan procesos para eliminar el NCII dentro de las 48 horas posteriores a la notificación y que “hagan esfuerzos razonables” para eliminar cualquier copia. La Comisión Federal de Comercio (FTC, por sus siglas en inglés) tiene la tarea de hacer cumplir la ley, y las empresas tienen un año para cumplirla.
Trump, después de todo, dijo durante un discurso ante el Congreso este año que una vez que firmó el proyecto de ley, “también voy a usar ese proyecto de ley para mí, si no les importa, porque nadie es tratado peor que yo en línea. Nadie”.
La Iniciativa de Derechos Civiles Cibernéticos (CCRI, por sus siglas en inglés), que aboga por una legislación que combata el abuso basado en imágenes, ha presionado durante mucho tiempo por la criminalización de la distribución no consentida de imágenes íntimas (NDII, por sus siglas en inglés). Pero la CCRI dijo que no podía apoyar la Ley Take It Down porque en última instancia podría proporcionar a los sobrevivientes “falsas esperanzas”. En Bluesky, la presidenta de la CCRI, Mary Anne Franks, calificó la disposición de eliminación como una “píldora envenenada… Es probable que eso termine lastimando a las víctimas más de lo que ayuda”.
“Las plataformas que se sienten seguras de que es poco probable que sean atacadas por la FTC (por ejemplo, las plataformas que están estrechamente alineadas con la administración actual) pueden sentirse envalentonadas para simplemente ignorar los informes de NDII”, escribieron. “Las plataformas que intentan identificar quejas auténticas pueden encontrarse con un mar de informes falsos que podrían abrumar sus esfuerzos y poner en peligro su capacidad para operar”.
