Una minuciosa investigación del medio The Guardian, ha establecido peligros inminentes en la utilización de ChatGPT Search, lo que puede inducir a engaños y entrega de código malicioso a los usuarios.
La función de búsqueda de ChatGPT está destinada a hacer que la navegación sea más rápida al hacer cosas como resumir las reseñas de productos de una página web. Pero The Guardian descubrió que podía hacer que ChatGPT ignorara las críticas negativas y generara resúmenes “completamente positivos” insertando texto oculto en los sitios web que creaba. ChatGPT Search también podría hacer que escupiera código malicioso utilizando este método.
The Guardian probó cómo respondió ChatGPT cuando se le pidió que resumiera las páginas web que contienen contenido oculto. Este contenido oculto puede contener instrucciones de terceros que alteran las respuestas de ChatGPT -también conocido como “inyección inmediata”- o puede contener contenido diseñado para influir en la respuesta de ChatGPT, como una gran cantidad de texto oculto que habla de los beneficios de un producto o servicio.
Jacob Larsen, investigador de ciberseguridad de CyberCX, dijo que creía que si el actual sistema de búsqueda ChatGPT se lanzara completamente en su estado actual, podría haber un “alto riesgo” de que las personas creen sitios web específicamente orientados a engañar a los usuarios.
Un ejemplo reciente de esto fue destacado por Thomas Roccia, un investigador de seguridad de Microsoft, quien detalló un incidente que involucró a un entusiasta de las criptomonedas que estaba usando ChatGPT para asistencia en la programación. Parte del código proporcionado por ChatGPT para el proyecto de criptomoneda incluía una sección que se describía como una forma legítima de acceder a la plataforma blockchain de Solana, pero en cambio robó las credenciales del programador y resultó en que perdiera USD 2,500.
“Simplemente están haciendo una pregunta, recibiendo una respuesta, pero el modelo está produciendo y compartiendo contenido que básicamente ha sido inyectado por un adversario para compartir algo que es malicioso”, dijo Larsen.
OpenAI advierte a los usuarios sobre posibles errores del servicio con un descargo de responsabilidad en la parte inferior de cada página de ChatGPT: “ChatGPT puede cometer errores. Revisa la información importante”.
