Detectar una imagen generada por IA es cada vez más difícil. OpenAI quiere cambiar eso, y está utilizando a Google como socio para llevar a cabo esta enorme tarea.
OpenAI ha anunciado una actualización importante en cómo gestiona la procedencia del contenido, que es solo una forma elegante de decir cómo puedes saber de dónde proviene una imagen y si ha sido generada por IA.
La actualización consta de tres partes clave: conformidad con C2PA, una nueva colaboración de marcas de agua con Google y una herramienta pública que puedes usar para verificar las imágenes tú mismo.
¿Entonces, qué está cambiando realmente?
OpenAI ha estado añadiendo metadatos, llamados Credenciales de Contenido, a las imágenes generadas por sus herramientas desde 2024. Estos metadatos están incrustados en todas las imágenes generadas y te cuentan cómo se crearon. La empresa se ha convertido ahora en un Generador Conformista C2PA, lo que significa que otras plataformas pueden leer y encontrar la información de forma fiable cuando se encuentran con contenido generado por OpenAI.
La noticia más importante es la colaboración con Google. OpenAI está añadiendo ahora la marca de agua SynthID de Google DeepMind a las imágenes generadas a través de ChatGPT y la API de OpenAI. A diferencia de los metadatos, que pueden eliminarse al hacer capturas de pantalla o volver a subir una imagen, SynthID incrusta una marca de agua invisible directamente en la imagen. Está diseñado para sobrevivir a las transformaciones que normalmente pueden borrar la detección basada en metadatos.
Los dos sistemas trabajan juntos. Los metadatos contienen información detallada sobre el origen de la imagen, mientras que la marca de agua actúa como respaldo cuando los metadatos no llegan.
¿Cómo puedes comprobar si una imagen es generada por IA?
OpenAI está presentando una herramienta pública de verificación en openai.com/verify. Puedes subir una imagen, y la herramienta comprobará tanto las credenciales de contenido como las marcas de agua de SynthID para determinar si se generó usando las herramientas de OpenAI.
Una advertencia importante: si la herramienta no encuentra marca de agua ni metadatos, no afirmará de forma definitiva que la imagen no es generada por IA. Esto se debe a que la marca de agua y los metadatos aún pueden ser suplantados.
Además, no todas las empresas de IA generativa se han asociado con Google para incluir SynthID en sus imágenes. A menos que SynthID o algo similar sea adoptado universalmente por todos los modelos de IA generativa, ninguna herramienta de verificación puede asegurarte con un 100% de certeza que una imagen no es generada por IA.
Aun así, es un paso en la dirección correcta. Las imágenes generadas por IA se han convertido en un caos y se utilizan ampliamente con fines nefastos. Un sistema para reconocer los ejemplares es absolutamente necesario, y me alegra que Google y OpenAI estén allanando el camino para ello.
