Skip to main content

Temen que ChatGPT pronto se utilice en ciberataques devastadores

ChatGPT ha tomado al mundo por sorpresa en los últimos meses, pero así como ha sorprendido a la gente con sus capacidades técnicas, también se han planteado preocupaciones sobre su posible mal uso. Ahora, parece que algunos líderes de TI están preocupados de que pronto se utilice en grandes ataques cibernéticos, con el potencial de causar devastación en el futuro.

En una encuesta realizada por BlackBerry a 1.500 profesionales de TI y ciberseguridad, el 51% de los encuestados cree que ChatGPT será responsable de un ciberataque exitoso en los próximos 12 meses. Hasta el 78% siente que el ataque ocurrirá dentro de dos años, mientras que un puñado piensa que podría suceder en los próximos meses.

El nombre de ChatGPT junto a un logotipo de OpenAI sobre un fondo en blanco y negro.

Y no son solo los hackers deshonestos o las bandas de malware los que los encuestados creen que serán responsables. Hasta el 71% considera que los estados-nación ya podrían estar poniendo a ChatGPT a trabajar en tareas maliciosas.

Recommended Videos

Cuando se trata de cómo se utilizará exactamente ChatGPT para ayudar a estimular los ataques cibernéticos, el 53% de las personas dijo que ayudaría a los piratas informáticos a crear correos electrónicos de phishing más creíbles, mientras que el 49% señaló su capacidad para ayudar a los piratas informáticos a mejorar sus habilidades de codificación.

Además de eso, el 49% también cree que ChatGPT se utilizará para difundir información errónea y desinformación, y el 48% piensa que podría usarse para crear cepas de malware completamente nuevas. Un poco por debajo de eso, el 46% de los encuestados dijo que ChatGPT podría ayudar a mejorar los ataques existentes.

Ya hemos visto una amplia gama de usos impresionantes para herramientas de IA como esta, desde escribir novelas hasta componer música. Sin embargo, esas mismas habilidades que ayudan a ChatGPT a crear oraciones creíbles también podrían usarse para tejer código malicioso. Como indica la encuesta de BlackBerry, eso es una preocupación para mucha gente.

Cambiando el panorama del malware

Malwarebytes portátil

¿Cómo se mantendrán bajo control estas amenazas potenciales? Hasta el 95% de los encuestados argumentó que los gobiernos tienen la obligación de regular la tecnología similar a ChatGPT, y el 85% dijo que el nivel de responsabilidad debería ser «moderado» o «significativo».

Sin embargo, no solo serán los gobiernos los que luchen contra el malware impulsado por ChatGPT: el 82% de los profesionales de TI encuestados ya están planeando defenderse contra este tipo de ataque, y el mismo número dice que había usado herramientas de inteligencia artificial para hacerlo.

A pesar de las terribles perspectivas, ChatGPT (y herramientas similares) tienen mucho potencial para hacer el bien, y tres cuartas partes de los encuestados estuvieron de acuerdo en que se utilizará principalmente para beneficiar a las personas. Pero cuando se trata de malware, herramientas como ChatGPT podrían cambiar completamente el panorama. Queda por ver si inclina la balanza a favor de los atacantes o defensores. Si es lo último, incluso las mejores aplicaciones antivirus podrían tener dificultades para mantenerse al día.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
El ChatGPT francés de código abierto se pone los pantalones
La imagen muestra una representación de un chatbot.

Andrés Tarantola / Mistral
La startup francesa de IA Mistral anunció el lunes que está incorporando media docena de nuevas características y capacidades en su asistente de trabajo gratuito de IA generativa, apodado le Chat (francés para "el gato"), que pondrán al chatbot de código abierto a la par con los principales modelos fronterizos de OpenAI y Anthropic.

Le Chat ahora puede buscar en la web y proporcionar fuentes citadas, de manera similar a lo que ofrecen Perplexity y SearchGPT. El chatbot de Mistral ahora también ofrece una función de lienzo similar a Claude's Artifacts, donde los usuarios pueden modificar y editar contenido y código. Además, le Chat ahora puede generar imágenes gracias a una integración con Flux Pro de Black Forest Labs, el mismo generador de imágenes que impulsa las capacidades de Grok-2.

Leer más
Esta actualización masiva de ChatGPT llegará en enero, y no es GPT-5
ChatGPT

OpenAI lanzará un nuevo agente de IA en enero, con el nombre en clave Operator, que permitirá a ChatGPT actuar en nombre del usuario. Es posible que nunca más tenga que reservar sus propios vuelos.

El liderazgo de la compañía hizo el anuncio durante una reunión de personal el miércoles, informa Bloomberg. La compañía planea implementar la nueva función como una vista previa de la investigación a través de la API para desarrolladores de la compañía.

Leer más
¿La IA ya se está estancando? GPT-5 podría estar en problemas
gpt 5 en problemas solen feyissa hwsnt pp4x4 unsplash

El modelo Orion de próxima generación de ChatGPT de OpenAI, que se rumorea y se niega que llegue a finales de año, puede que no sea todo lo que se ha promocionado una vez que llegue, según un nuevo informe de The Information.

Citando a empleados anónimos de OpenAI, el informe afirma que el modelo Orion ha mostrado una mejora "mucho menor" con respecto a su predecesor GPT-4 que la que GPT-4 mostró con respecto a GPT-3. Esas fuentes también señalan que Orion "no es confiablemente mejor que su predecesor [GPT-4] en el manejo de ciertas tareas", específicamente en aplicaciones de codificación, aunque el nuevo modelo es notablemente más fuerte en las capacidades generales del lenguaje, como resumir documentos o generar correos electrónicos.

Leer más