Skip to main content

Las imágenes falsas de IA están apareciendo en la búsqueda de Google

Imágenes generadas por IA que aparecen en la búsqueda de Google.
Imagen utilizada con permiso del titular de los derechos de autor

En este momento, si escribes «Israel Kamakawiwoʻole» en la búsqueda de Google, no ves una de las famosas portadas de álbumes del cantante, o una imagen de él interpretando una de sus canciones en su icónico ukelele. Lo primero que se ve es una imagen de un hombre sentado en una playa con una sonrisa en su rostro, pero no una foto del hombre en sí tomada con una cámara. Esta es una foto falsa generada por IA. De hecho, cuando haces clic en la imagen, te lleva al subreddit de Midjourney, donde se publicó inicialmente la serie de imágenes.

Esto fue publicado por primera vez por Ethan Mollick en X (antes conocido como Twitter), un profesor de Wharton que estudia IA.

Mirando la foto de cerca, no es difícil ver todos los rastros de IA que quedan en ella. El efecto de profundidad de campo falsa se aplica de manera desigual, la textura de su camisa es confusa y, por supuesto, le falta un dedo en la mano izquierda. Pero nada de eso es sorprendente. A pesar de lo buenas que se han vuelto las imágenes generadas por IA en el último año, siguen siendo bastante fáciles de detectar cuando se mira de cerca.

El verdadero problema, sin embargo, es que estas imágenes aparecen como el primer resultado de una figura famosa y conocida sin marcas de agua ni indicios de que sea generada por IA. Google nunca ha garantizado la autenticidad de los resultados de su búsqueda de imágenes, pero hay algo que se siente muy preocupante al respecto.

Ahora bien, hay algunas explicaciones posibles de por qué sucedió esto en este caso en particular. La cantante hawaiana, comúnmente conocida como Iz, falleció en 1997, y Google siempre quiere proporcionar la información más reciente a los usuarios. Pero dado que no se han publicado muchos artículos nuevos o discusiones sobre Iz desde entonces, no es difícil ver por qué el algoritmo recogió esto. Y aunque no se siente particularmente importante para Iz, no es difícil imaginar algunos ejemplos que serían mucho más problemáticos.

Incluso si no seguimos viendo que esto suceda a gran escala en los resultados de búsqueda, es un excelente ejemplo de por qué Google necesita tener reglas en torno a esto. Como mínimo, parece que las imágenes generadas por IA deberían marcarse claramente de alguna manera antes de que las cosas se salgan de control. Al menos, danos una forma de filtrar automáticamente las imágenes de IA. Sin embargo, dado el propio interés de Google en el contenido generado por IA, hay razones para pensar que puede querer encontrar formas de colar contenido creado por IA en sus resultados y no marcarlo claramente.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Donald Glover está haciendo una película con la nueva IA de video de Google
donald glover ia video google veo

Buscar en Google
Google presentó su modelo "más capaz" para el video de IA generativa en Google I/O 2024, y fue más allá de unas pocas muestras seleccionadas. Google está trabajando con Donald Glover, o Childish Gambino, para crear un cortometraje que aproveche el nuevo modelo de IA de Google, al que llama Veo.

Los detalles sobre Veo son escasos en este momento, pero Google dice que es capaz de convertir un mensaje de texto en un video, similar a Sora de OpenAI. Google actualmente está probando el modelo con creadores seleccionados, pero dice que planea lanzar Veo para un lanzamiento más amplio pronto. Puedes inscribirte en la lista de espera en labs.google.com.

Leer más
Google Photos está a punto de recibir una gran actualización de IA
google photos actualizacion ia ask gemini

Buscar en Google
En el discurso de apertura de Google I/O 2024 de hoy, la compañía anunció que una nueva función de inteligencia artificial (IA) llegará a Google Photos. "Ask Photos" es una nueva función de Google Gemini que llega al popular servicio, que ahora tiene más de 6 mil millones de fotos y videos cargados diariamente en Google Photos.

Con la nueva función "Preguntar fotos", pronto podrá buscar en su biblioteca de fotos utilizando un enfoque conversacional en lugar de solo palabras clave. Por ejemplo, Google demostró que puedes pedirle a Google Fotos tu número de matrícula o fotos de tu hijo nadando a lo largo del tiempo simplemente haciendo preguntas como "¿Cuál es mi matrícula otra vez?" o "¿Cuándo aprendió a nadar mi hija?".

Leer más
RealFill: la próxima herramienta mágica de edición de fotos de Google
Los celulares con las mejores cámaras disponibles en 2022.

Google quiere seguir incrementando sus herramientas de edición de fotos apoyados con la IA, ya que además de la función Magic Editor, que tiene el borrador mágico como una de sus vedettes, ahora está probando una nueva característica.

RealFill es el nombre de esta función, una tecnología que permitirá a los usuarios ampliar las imágenes basándose en hasta cinco fotos de referencia.

Leer más