Skip to main content

Temen que ChatGPT pronto se utilice en ciberataques devastadores

ChatGPT ha tomado al mundo por sorpresa en los últimos meses, pero así como ha sorprendido a la gente con sus capacidades técnicas, también se han planteado preocupaciones sobre su posible mal uso. Ahora, parece que algunos líderes de TI están preocupados de que pronto se utilice en grandes ataques cibernéticos, con el potencial de causar devastación en el futuro.

En una encuesta realizada por BlackBerry a 1.500 profesionales de TI y ciberseguridad, el 51% de los encuestados cree que ChatGPT será responsable de un ciberataque exitoso en los próximos 12 meses. Hasta el 78% siente que el ataque ocurrirá dentro de dos años, mientras que un puñado piensa que podría suceder en los próximos meses.

El nombre de ChatGPT junto a un logotipo de OpenAI sobre un fondo en blanco y negro.

Y no son solo los hackers deshonestos o las bandas de malware los que los encuestados creen que serán responsables. Hasta el 71% considera que los estados-nación ya podrían estar poniendo a ChatGPT a trabajar en tareas maliciosas.

Recommended Videos

Cuando se trata de cómo se utilizará exactamente ChatGPT para ayudar a estimular los ataques cibernéticos, el 53% de las personas dijo que ayudaría a los piratas informáticos a crear correos electrónicos de phishing más creíbles, mientras que el 49% señaló su capacidad para ayudar a los piratas informáticos a mejorar sus habilidades de codificación.

Además de eso, el 49% también cree que ChatGPT se utilizará para difundir información errónea y desinformación, y el 48% piensa que podría usarse para crear cepas de malware completamente nuevas. Un poco por debajo de eso, el 46% de los encuestados dijo que ChatGPT podría ayudar a mejorar los ataques existentes.

Ya hemos visto una amplia gama de usos impresionantes para herramientas de IA como esta, desde escribir novelas hasta componer música. Sin embargo, esas mismas habilidades que ayudan a ChatGPT a crear oraciones creíbles también podrían usarse para tejer código malicioso. Como indica la encuesta de BlackBerry, eso es una preocupación para mucha gente.

Cambiando el panorama del malware

Malwarebytes portátil

¿Cómo se mantendrán bajo control estas amenazas potenciales? Hasta el 95% de los encuestados argumentó que los gobiernos tienen la obligación de regular la tecnología similar a ChatGPT, y el 85% dijo que el nivel de responsabilidad debería ser «moderado» o «significativo».

Sin embargo, no solo serán los gobiernos los que luchen contra el malware impulsado por ChatGPT: el 82% de los profesionales de TI encuestados ya están planeando defenderse contra este tipo de ataque, y el mismo número dice que había usado herramientas de inteligencia artificial para hacerlo.

A pesar de las terribles perspectivas, ChatGPT (y herramientas similares) tienen mucho potencial para hacer el bien, y tres cuartas partes de los encuestados estuvieron de acuerdo en que se utilizará principalmente para beneficiar a las personas. Pero cuando se trata de malware, herramientas como ChatGPT podrían cambiar completamente el panorama. Queda por ver si inclina la balanza a favor de los atacantes o defensores. Si es lo último, incluso las mejores aplicaciones antivirus podrían tener dificultades para mantenerse al día.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
OpenAI sube otro peldaño: así será la nueva IA que debuta en días
ChatGPT: qué es y cómo usar el chatbot del que todo el mundo habla.

El último modelo de razonamiento de OpenAI, o3 mini, ya es oficial, y el CEO de la compañía, Sam Altman, ha compartido recientemente detalles sobre la tecnología en X. Señaló que el modelo debería estar listo para su lanzamiento en un par de semanas, con disponibilidad para los usuarios de API y ChatGPT al mismo tiempo.

https://twitter.com/sama/status/1880356297985638649?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1880356297985638649%7Ctwgr%5E8a635ee3b0c9d557d0288130c96bce62d80c09d9%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.digitaltrends.com%2Fcomputing%2Fopenai-prepares-o3-mini-model-launch-with-over-o1%2F

Leer más
Sam Altman admite una derrota con ChatGPT Pro: «pensé que ganaríamos dinero»
Sam Altman

El CEO de OpenAI, Sam Altman, está un poco arrepentido con una de sus decisiones sobre ChatGPT, ya que la plataforma Pro que cuesta 200 dólares al mes para entregar mejores resultados de conversación y búsqueda y resolución, no ha sido lo esperado en ganancias para la compañía.
"Personalmente, elegí el precio", escribió Altman en una serie de publicaciones en X, "y pensé que ganaríamos algo de dinero".
ChatGPT Pro, lanzado a fines del año pasado, otorga acceso a una versión mejorada del modelo de IA de "razonamiento" o1 de OpenAI, el modo o1 pro, y elimina los límites de velocidad en varias de las otras herramientas de la compañía, incluido su generador de video Sora.
Incluso, en una entrevista reciente con Bloomberg, Altman dijo que el plan premium original para el chatbot impulsado por IA de OpenAI, ChatGPT, no tenía un estudio de precios.
"Creo que probamos dos precios, 20 y 42 dólares", dijo a la publicación. "La gente pensaba que 42 dólares era demasiado. Estaban felices de pagar 20 dólares. Elegimos $20. Probablemente fue a finales de diciembre de 2022 o principios de enero. No se trataba de un riguroso 'contrata a alguien y haz un estudio de precios'".
Aún así OpenAI proyecta con optimismo que sus ingresos alcanzarán los 11.600 millones de dólares este año y los 100.000 millones de dólares en 2029, igualando las ventas anuales actuales de Nestlé.

Leer más
ChatGPT Search puede engañar a los usuarios e instalar malware
ChatGPT buscador

Una minuciosa investigación del medio The Guardian, ha establecido peligros inminentes en la utilización de ChatGPT Search, lo que puede inducir a engaños y entrega de código malicioso a los usuarios.

La función de búsqueda de ChatGPT está destinada a hacer que la navegación sea más rápida al hacer cosas como resumir las reseñas de productos de una página web. Pero The Guardian descubrió que podía hacer que ChatGPT ignorara las críticas negativas y generara resúmenes "completamente positivos" insertando texto oculto en los sitios web que creaba. ChatGPT Search también podría hacer que escupiera código malicioso utilizando este método.

Leer más