Alphabet ha dicho a sus empleados que no ingresen información confidencial en Bard, el chatbot generativo de IA creado y operado por Google, que posee Alphabet.
La advertencia de la compañía también se extiende a otros chatbots, como ChatGPT de OpenAI, respaldado por Microsoft, informó Reuters el jueves.
Los chatbots impulsados por IA han generado un gran interés en los últimos meses debido a su impresionante capacidad para conversar de una manera humana, escribir ensayos e informes, e incluso tener éxito en las pruebas académicas.
Pero a Alphabet le preocupa que sus trabajadores filtren inadvertidamente datos internos a través de las herramientas.
En el trabajo en curso para refinar y mejorar la tecnología avanzada de IA, los revisores humanos pueden leer las conversaciones que los usuarios tienen con los chatbots, lo que representa un riesgo para la privacidad personal y también la posible exposición de secretos comerciales, el último de los cuales Alphabet parece estar particularmente preocupado.
Además, los chatbots se entrenan en parte utilizando los intercambios de texto de los usuarios, por lo que con ciertas indicaciones, la herramienta podría repetir la información confidencial que recibe en esas conversaciones a los miembros del público.
Al igual que ChatGPT, Bard ahora está disponible gratuitamente para que cualquiera lo pruebe. En su página web, advierte a los usuarios: “Por favor, no incluya información que pueda usarse para identificarlo a usted o a otros en sus conversaciones de Bard”.
Agrega que Google recopila “conversaciones de Bard, información relacionada con el uso del producto, información sobre su ubicación y sus comentarios” y utiliza los datos para mejorar los productos y servicios de Google que incluyen Bard.
Google dice que almacena la actividad de Bard por hasta 18 meses, aunque un usuario puede cambiar esto a tres o 36 meses en su cuenta de Google.
Agrega que, como medida de privacidad, las conversaciones de Bard se desconectan de una cuenta de Google antes de que un revisor humano las vea.
Reuters dijo que si bien la advertencia de Alphabet ha estado vigente por un tiempo, recientemente la amplió, diciéndoles a sus trabajadores que eviten usar código informático preciso generado por chatbots. La compañía le dijo al medio de noticias que Bard a veces puede hacer “sugerencias de código no deseadas”, aunque la iteración actual de la herramienta todavía se considera una ayuda de programación viable.
Alphabet no es la única compañía que advierte a sus empleados sobre los riesgos de privacidad y seguridad relacionados con el uso de los chatbots. Samsung emitió recientemente una instrucción similar a sus trabajadores después de que varios de ellos introdujeron datos confidenciales relacionados con semiconductores en ChatGPT, y Apple y Amazon, entre otros, también han promulgado una política interna similar.
