Skip to main content

Google le dice a los trabajadores que desconfíen de la IA

Alphabet ha dicho a sus empleados que no ingresen información confidencial en Bard, el chatbot generativo de IA creado y operado por Google, que posee Alphabet.

La advertencia de la compañía también se extiende a otros chatbots, como ChatGPT de OpenAI, respaldado por Microsoft, informó Reuters el jueves.

Los chatbots impulsados por IA han generado un gran interés en los últimos meses debido a su impresionante capacidad para conversar de una manera humana, escribir ensayos e informes, e incluso tener éxito en las pruebas académicas.

Pero a Alphabet le preocupa que sus trabajadores filtren inadvertidamente datos internos a través de las herramientas.

Imagen utilizada con permiso del titular de los derechos de autor

En el trabajo en curso para refinar y mejorar la tecnología avanzada de IA, los revisores humanos pueden leer las conversaciones que los usuarios tienen con los chatbots, lo que representa un riesgo para la privacidad personal y también la posible exposición de secretos comerciales, el último de los cuales Alphabet parece estar particularmente preocupado.

Además, los chatbots se entrenan en parte utilizando los intercambios de texto de los usuarios, por lo que con ciertas indicaciones, la herramienta podría repetir la información confidencial que recibe en esas conversaciones a los miembros del público.

Al igual que ChatGPT, Bard ahora está disponible gratuitamente para que cualquiera lo pruebe. En su página web, advierte a los usuarios: «Por favor, no incluya información que pueda usarse para identificarlo a usted o a otros en sus conversaciones de Bard».

Agrega que Google recopila «conversaciones de Bard, información relacionada con el uso del producto, información sobre su ubicación y sus comentarios» y utiliza los datos para mejorar los productos y servicios de Google que incluyen Bard.

Google dice que almacena la actividad de Bard por hasta 18 meses, aunque un usuario puede cambiar esto a tres o 36 meses en su cuenta de Google.

Agrega que, como medida de privacidad, las conversaciones de Bard se desconectan de una cuenta de Google antes de que un revisor humano las vea.

Reuters dijo que si bien la advertencia de Alphabet ha estado vigente por un tiempo, recientemente la amplió, diciéndoles a sus trabajadores que eviten usar código informático preciso generado por chatbots. La compañía le dijo al medio de noticias que Bard a veces puede hacer «sugerencias de código no deseadas», aunque la iteración actual de la herramienta todavía se considera una ayuda de programación viable.

Alphabet no es la única compañía que advierte a sus empleados sobre los riesgos de privacidad y seguridad relacionados con el uso de los chatbots. Samsung emitió recientemente una instrucción similar a sus trabajadores después de que varios de ellos introdujeron datos confidenciales relacionados con semiconductores en ChatGPT, y Apple y Amazon, entre otros, también han promulgado una política interna similar.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Dicen que Recall de la IA de Windows podría ser un desastre de seguridad
Recall Windows 11

Mucha preocupación existe entre los expertos en ciberseguridad por la nueva función anunciada hace unos días atrás en la Microsoft Build 2024, llamada Recall, y que básicamente  usar modelos de IA locales para hacer capturas de pantalla de todo lo que ve o hace en su computadora y luego le brinda la capacidad de buscar y recuperar cualquier cosa en segundos. Incluso hay una línea de tiempo explorable por la que puedes desplazarte.

El especialista en ciberseguridad Kevin Beaumont ha identificado que la función basada en IA podría tener ciertas vulnerabilidades de seguridad. Beaumont, quien tuvo un breve paso por Microsoft en 2020, ha estado evaluando Recall durante la última semana y encontró que esta herramienta guarda los datos en una base de datos en texto plano. Esto podría permitir que un atacante, mediante el uso de malware, extraiga fácilmente la base de datos y su contenido.

Leer más
¿Qué son los Reels de prueba?: la nueva función de Instagram
instagram reels videos tiktok iosx 2

Una nueva herramienta para los creadores de contenido en Instagram ayudará a testear bien el contenido de los Reels antes de lanzarlos abiertamente a los seguidores. Se trata de una prueba de Reels.

Esto ayudará a los usuarios a probar sin presión si un tipo de video o contenido específico podría o no funcionar.

Leer más
Google arregló la pizza: dice que mejoró su búsqueda por IA para evitar errores
Google pizza

Google no quiere pasar más bochornos después de anunciar con bombos y platillos en Google I/O 2024 que AI Overview se implementaría como la nueva forma de buscar en internet.

Esto después de que diversos resultados, incluida una receta de pizza con pegamento, dejaron en vergüenza a los de Mountain View.

Leer más