Skip to main content

Un grupo de científicos le hicieron un jailbreak a ChatGPT

Imagen utilizada con permiso del titular de los derechos de autor

Un grupo de investigadores ha descubierto que es posible eludir el mecanismo arraigado en los chatbots de IA para que puedan responder a consultas sobre temas prohibidos o delicados mediante el uso de un chatbot de IA diferente como parte del proceso de entrenamiento.

Un equipo de científicos informáticos de la Universidad Tecnológica de Nanyang (NTU) de Singapur llama extraoficialmente al método un «jailbreak», pero es más oficialmente un proceso «Masterkey». Este sistema utiliza chatbots, incluidos ChatGPT, Google Bard y Microsoft Bing Chat, entre sí en un método de entrenamiento de dos partes que permite que dos chatbots aprendan los modelos del otro y desvíen cualquier comando contra temas prohibidos.

El equipo incluye al profesor Liu Yang y a los estudiantes de doctorado de la NTU, el Sr. Deng Gelei y el Sr. Liu Yi, coautores de la investigación y desarrolladores los métodos de ataque de prueba de concepto.

Según el equipo, primero aplicaron ingeniería inversa a un gran modelo de lenguaje (LLM) para exponer sus mecanismos de defensa. Originalmente, estos serían bloqueos en el modelo y no permitirían que las respuestas a ciertas indicaciones o palabras se procesaran como respuestas debido a intenciones violentas, inmorales o maliciosas.

Pero con esta información sometida a ingeniería inversa, pueden enseñar a un LLM diferente cómo crear un bypass. Con el bypass creado, el segundo modelo podrá expresarse más libremente, basándose en el LLM de ingeniería inversa del primer modelo. El equipo llama a este proceso «Masterkey» porque debería funcionar incluso si los chatbots de LLM se fortalecen con seguridad adicional o se parchean en el futuro.

El profesor Lui Yang señaló que el quid del proceso es que muestra la facilidad con la que los chatbots de IA de LLM pueden aprender y adaptarse. El equipo afirma que su proceso Masterkey ha tenido tres veces más éxito en el jailbreak de chatbots LLM que un proceso de solicitud tradicional. Del mismo modo, algunos expertos argumentan que los fallos recientemente propuestos que han experimentado ciertos LLM, como GPT-4, son signos de que se está volviendo más avanzado, en lugar de más tonto y perezoso, como han afirmado algunos críticos.

El equipo de investigación de la NTU se puso en contacto con los proveedores de servicios de chatbot de IA que participaron en el estudio sobre sus datos de prueba de concepto, que muestran que el jailbreak para los chatbots es real. El equipo también presentará sus hallazgos en el Simposio de Seguridad de Redes y Sistemas Distribuidos en San Diego en febrero.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
ChatGPT estrena función gratis de voz con broma por caso Altman
ChatGPT: qué es y cómo usar el chatbot del que todo el mundo habla.

Justo en momentos en que OpenAI resuelve su crisis interna con el regreso de Sam Altman como CEO de la compañía de IA, su producto estrella: ChatGPT estrena de manera gratuita una función muy esperada.

En una publicación en X (anteriormente Twitter), OpenAI anunció que los usuarios ahora pueden tocar el ícono de los auriculares para usar su voz para hablar con ChatGPT en la aplicación móvil, así como obtener una respuesta audible.
https://twitter.com/OpenAI/status/1727065166188274145

Leer más
Por qué no puedes registrarte en ChatGPT Plus en este momento
chatgpt generar claves gratuitas windows 95

La repentina salida del CEO Sam Altman del fin de semana de OpenAI no es el único drama que está ocurriendo con ChatGPT. Debido a la gran demanda, las suscripciones pagas para ChatGPT Plus de OpenAI se han detenido durante casi una semana.

La compañía tiene una lista de espera para que los interesados en registrarse en ChatGPT sean notificados cuando el generador de IA de texto a voz esté disponible una vez más.

Leer más
Samsung Gauss: los coreanos presentan su propio ChatGPT
samsung gauss chatgpt

En los días en que OpenAI está en su conferencia anual para contar sus novedades en torno a ChatGPT y todo su sistema de IA, Samsung acaba de anunciar la concreción de su proyecto Samsung Gauss, su propio sistema de IA generativa que puede hacer código, texto e imagen.

Samsung Gauss, desarrollado por la unidad de investigación del gigante tecnológico Samsung Research, consta de tres herramientas: Samsung Gauss Language, Samsung Gauss Code y Samsung Gauss Image.

Leer más