Skip to main content

DT en Español podría recibir una comisión si compras un producto desde el sitio

¿ChatGPT está filtrando contraseñas y conversaciones privadas?

ChatGPT en un celular
Joe Maring/Digital Trends / Digital Trends Español

Una situación preocupante está detectando en las últimas horas el sitio ArsTechnica, ya que en un informe indica que varios usuarios están entregando pantallazos de errores y filtraciones de datos y contraseñas de ChatGPT.

Un usuario en particular reportó pantallazos que contenían varios pares de nombres de usuario y contraseñas que parecían estar conectados a un sistema de apoyo utilizado por los empleados de un portal de medicamentos recetados de farmacia.

Recommended Videos

«Fui a hacer una consulta (en este caso, ayuda para encontrar nombres inteligentes para los colores de una paleta) y cuando volví a acceder momentos después, me di cuenta de las conversaciones adicionales», escribió Whiteside en un correo electrónico. «No estaban allí cuando usé ChatGPT anoche (soy un usuario bastante pesado). No se hicieron consultas, simplemente aparecieron en mi historial, y ciertamente no son mías (y tampoco creo que sean del mismo usuario)».

Otras conversaciones filtradas a Whiteside incluyen el nombre de una presentación en la que alguien estaba trabajando, detalles de una propuesta de investigación inédita y un script que utiliza el lenguaje de programación PHP.

El pasado mes de marzo de 2023, OpenAI, fabricante de ChatGPT, desconectó el chatbot de IA después de que un error hiciera que el sitio mostrara títulos del historial de chat de un usuario activo a usuarios no relacionados.

En noviembre, los investigadores publicaron un artículo en el que informaban de cómo utilizaban las consultas para incitar a ChatGPT a divulgar direcciones de correo electrónico, números de teléfono y fax, direcciones físicas y otros datos privados que se incluían en el material utilizado para entrenar el modelo de lenguaje grande de ChatGPT.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Slack podría estar husmeando en tus conversaciones privadas
Mujer trabajando en una portatil con Slack

Cuando ChatGTP se agregó a Slack, estaba destinado a facilitar la vida de los usuarios al resumir conversaciones, redactar respuestas rápidas y más. Sin embargo, según la firma de seguridad PromptArmor, intentar completar estas tareas y más podría violar sus conversaciones privadas utilizando un método llamado "inyección rápida".

La firma de seguridad advierte que al resumir las conversaciones, también puede acceder a mensajes directos privados y engañar a otros usuarios de Slack para que hagan phishing. Slack también permite a los usuarios solicitar capturas de datos de canales privados y públicos, incluso si el usuario no se ha unido a ellos. Lo que suena aún más aterrador es que el usuario de Slack no necesita estar en el canal para que el ataque funcione.

Leer más
¿ChatGPT tendrá una marca de agua para pillar a los tramposos?
ChatGPT: qué es y cómo usar el chatbot del que todo el mundo habla.

Muchos profesores e incluso empleadores se están quejando que varios trabajos están siendo realizados casi cien por ciento con el uso de ChatGPT, y la tarea se dificulta para ellos de saber si lo que están leyendo es original o plagiado.

Y para eso, según The Wall Street Journal, OpenAI está debatiendo si realmente debe lanzar una nueva herramienta: una marca de agua para detectar tramposos.
En una declaración proporcionada a TechCrunch, un portavoz de OpenAI confirmó que la compañía está investigando el método de marca de agua de texto, pero dijo que está adoptando un "enfoque deliberado" debido a "las complejidades involucradas y su probable impacto en el ecosistema más amplio más allá de OpenAI".
"El método de marca de agua de texto que estamos desarrollando es técnicamente prometedor, pero tiene riesgos importantes que estamos sopesando mientras investigamos alternativas, incluida la susceptibilidad a la elusión por parte de malos actores y el potencial de afectar desproporcionadamente a grupos como los que no hablan inglés", dijo el portavoz.
Tras la publicación de la historia del Journal, OpenAI también actualizó una entrada de blog de mayo sobre su investigación sobre la detección de contenidos generados por IA. La actualización dice que la marca de agua de texto ha demostrado ser "altamente precisa e incluso efectiva contra la manipulación localizada, como la paráfrasis", pero ha demostrado ser "menos robusta contra la manipulación globalizada; como usar sistemas de traducción, reformular con otro modelo generativo o pedirle al modelo que inserte un carácter especial entre cada palabra y luego eliminar ese carácter".
Como resultado, OpenAI escribe que este método es "trivial para la elusión por parte de malos actores". La actualización de OpenAI también se hace eco del punto del portavoz sobre los no angloparlantes, escribiendo que la marca de agua de texto podría "estigmatizar el uso de la IA como una herramienta de escritura útil para los hablantes no nativos de inglés".

Leer más
¿Google llegó tu hora?: Debuta SearchGPT, el buscador de OpenAI
SearchGPT

Este 25 de julio podría quedar marcado a fuego en la industria de internet y los buscadores web, ya que OpenAI anunció su tan esperado SearchGPT, que pretende estar a la par de Google y disputarle el trono.

"Estamos probando SearchGPT, un prototipo temporal de las nuevas funciones de búsqueda de IA que le brindan respuestas rápidas y oportunas con fuentes claras y relevantes", comenta de inicio la empresa tras ChatGPT de Sam Altman.

Leer más