Samsung ha dicho al personal que deje de usar herramientas generativas de inteligencia artificial como ChatGPT y Bard por preocupaciones de que representan un riesgo de seguridad, informó Bloomberg el lunes.
La medida sigue a una serie de vergonzosos errores el mes pasado cuando los empleados de Samsung supuestamente alimentaron datos confidenciales relacionados con semiconductores en ChatGPT en tres ocasiones.
ChatGPT, al igual que otras herramientas de IA generativa, está parcialmente entrenado en los datos enviados, por lo que cualquier cosa que Samsung alimente podría aparecer en respuesta a una consulta realizada por otro usuario en cualquier parte del mundo, aunque el desarrollador de ChatGPT, OpenAI, agregó recientemente un modo de incógnito que permite a los usuarios bloquear sus entradas para el entrenamiento de modelos de IA. OpenAI también puede ver los datos mientras revisa las conversaciones para mejorar sus sistemas y garantizar que el contenido cumpla con sus políticas y requisitos de seguridad.
En un memorando visto por Bloomberg, Samsung ordenó al personal que se abstuviera de usar la tecnología en computadoras, tabletas y teléfonos propiedad de la compañía, así como en sus redes internas, advirtiendo que los datos transmitidos a plataformas generativas de IA podrían terminar llegando a personas ajenas a la compañía.
“El interés en plataformas generativas de IA como ChatGPT ha estado creciendo interna y externamente”, dijo el memorando de Samsung. “Si bien este interés se centra en la utilidad y eficiencia de estas plataformas, también hay una creciente preocupación por los riesgos de seguridad presentados por la IA generativa”.
Agregó que los trabajadores que no sigan las pautas de seguridad podrían enfrentar medidas disciplinarias “hasta e incluyendo la terminación del empleo”.
El memorándum decía que Samsung actualmente está “revisando las medidas de seguridad para crear un entorno seguro para el uso seguro de la IA generativa para mejorar la productividad y la eficiencia de los empleados”, pero dijo que hasta que se hayan acordado las medidas, la compañía está “restringiendo temporalmente el uso de IA generativa”.
Como parte de los esfuerzos para integrar herramientas de IA de forma segura en su lugar de trabajo, Samsung está desarrollando su propia plataforma de IA para traducción, resumen de documentos y desarrollo de software.
Como señala Bloomberg, Samsung es la última gran empresa en moverse contra la tecnología por preocupaciones de seguridad, con bancos como JPMorgan Chase & Co., Bank of America Corp. y Citigroup Inc. decidiendo prohibir o al menos restringir su uso en el lugar de trabajo.
De hecho, la tecnología de IA se está moviendo a un ritmo tan rápido que muchas empresas se han visto atrapadas por su llegada, dejando a muchas evaluar apresuradamente cómo incorporarla, o incluso restringirla, en el entorno laboral.
