Skip to main content

Meta emite una advertencia sobre estafas relacionadas con ChatGPT

Tan seguro como la noche sigue al día, los estafadores se han interesado rápidamente en ChatGPT, el chatbot avanzado impulsado por IA de OpenAI respaldado por Microsoft que irrumpió en escena en noviembre.

En un nuevo informe de seguridad publicado por Meta el miércoles, la compañía anteriormente conocida como Facebook dijo que solo desde marzo, sus analistas de seguridad han descubierto alrededor de 10 tipos de malware que se hacen pasar por ChatGPT y herramientas similares basadas en IA que tienen como objetivo comprometer las cuentas en línea, especialmente las de las empresas.

Las estafas podrían entregarse a través de, por ejemplo, extensiones de navegador web, algunas de ellas encontradas en tiendas web oficiales, que ofrecen herramientas relacionadas con ChatGPT e incluso podrían ofrecer alguna funcionalidad similar a ChatGPT, escribió en la publicación Guy Rosen, director de seguridad de la información de Meta. Pero las extensiones están diseñadas en última instancia para engañar a los usuarios para que entreguen información confidencial o acepten cargas maliciosas.

El director de seguridad de la información de Meta dijo que su equipo ha visto malware disfrazado de aplicaciones ChatGPT y luego, después de la detección, simplemente cambió sus señuelos a otros productos populares como la herramienta Bard impulsada por IA de Google, en un intento por evitar la detección.

Rosen dijo que Meta había detectado y bloqueado más de 1.000 URL maliciosas únicas para que no se compartieran en sus aplicaciones y las había informado a las compañías donde estaba alojado el malware para permitirles tomar sus propias medidas apropiadas.

Meta prometió que continuará destacando cómo funcionan estas campañas maliciosas, compartirá indicadores de amenazas con las empresas e introducirá protecciones actualizadas para abordar las nuevas tácticas de los estafadores. Parte de sus esfuerzos también incluyen el lanzamiento de un nuevo flujo de soporte para las empresas afectadas por el malware.

Citando el ejemplo de las estafas criptográficas, Rosen señaló cómo el nuevo asalto de los ciberdelincuentes sigue un patrón mediante el cual explotan la popularidad de productos tecnológicos nuevos o bulliciosos para tratar de engañar a usuarios inocentes para que caigan en sus artimañas.

«El espacio generativo de IA está evolucionando rápidamente y los malos actores lo saben, por lo que todos debemos estar atentos», advirtió Rosen.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
OpenAI lanza nueva suscripción premium grupal para ChatGPT
¿Qué es ChatGPT? Cómo usar el chatbot del que todo el mundo habla.

Este 10 de enero, OpenAI acaba de informar sobre la puesta en marcha de un nuevo modelo de suscripción para grupos, llamado (no podía ser de otra manera) ChatGPTTeam.

El plan proporciona un espacio de trabajo dedicado para equipos de hasta 149 personas que utilizan ChatGPT, así como herramientas de administración para la gestión de equipos.

Leer más
Ahora podrás manejar con ChatGPT de copiloto en un Volkswagen
volkswagen sedan electrico id aero

En el CES 2024, Volkswagen anunció que integrará ChatGPT en los sistemas de reconocimiento de voz de algunos vehículos futuros, algo que, según el fabricante de automóviles, proporcionará una mayor funcionalidad que el reconocimiento de voz estándar. Está previsto que ChatGPT esté disponible en el segundo trimestre de 2024 y "se está considerando para Estados Unidos", según un comunicado de prensa de VW.

VW está utilizando Cerence Chat Pro para integrar ChatGPT, que permitirá a los conductores acceder al chatbot sin tener que activarlo por separado, crear una cuenta separada de la asociada con el perfil de usuario de su automóvil o instalar una aplicación separada. El reconocimiento de voz seguirá funcionando como en los modelos actuales de VW, donde ya se utiliza para el control del clima, el infoentretenimiento y las funciones de navegación, pero ahora podrá responder a preguntas de cultura general con respuestas procedentes de ChatGPT. Esto no le dará a ChatGPT acceso a los datos del vehículo, y las preguntas y respuestas se "eliminarán de inmediato", según VW.

Leer más
Un grupo de científicos le hicieron un jailbreak a ChatGPT
cientificos jailbreak chatgpt rolf van root lyi1t85lry8 unsplash

Un grupo de investigadores ha descubierto que es posible eludir el mecanismo arraigado en los chatbots de IA para que puedan responder a consultas sobre temas prohibidos o delicados mediante el uso de un chatbot de IA diferente como parte del proceso de entrenamiento.

Un equipo de científicos informáticos de la Universidad Tecnológica de Nanyang (NTU) de Singapur llama extraoficialmente al método un "jailbreak", pero es más oficialmente un proceso "Masterkey". Este sistema utiliza chatbots, incluidos ChatGPT, Google Bard y Microsoft Bing Chat, entre sí en un método de entrenamiento de dos partes que permite que dos chatbots aprendan los modelos del otro y desvíen cualquier comando contra temas prohibidos.

Leer más