Skip to main content

Temen que ChatGPT pronto se utilice en ciberataques devastadores

ChatGPT ha tomado al mundo por sorpresa en los últimos meses, pero así como ha sorprendido a la gente con sus capacidades técnicas, también se han planteado preocupaciones sobre su posible mal uso. Ahora, parece que algunos líderes de TI están preocupados de que pronto se utilice en grandes ataques cibernéticos, con el potencial de causar devastación en el futuro.

En una encuesta realizada por BlackBerry a 1.500 profesionales de TI y ciberseguridad, el 51% de los encuestados cree que ChatGPT será responsable de un ciberataque exitoso en los próximos 12 meses. Hasta el 78% siente que el ataque ocurrirá dentro de dos años, mientras que un puñado piensa que podría suceder en los próximos meses.

El nombre de ChatGPT junto a un logotipo de OpenAI sobre un fondo en blanco y negro.

Y no son solo los hackers deshonestos o las bandas de malware los que los encuestados creen que serán responsables. Hasta el 71% considera que los estados-nación ya podrían estar poniendo a ChatGPT a trabajar en tareas maliciosas.

Recommended Videos

Cuando se trata de cómo se utilizará exactamente ChatGPT para ayudar a estimular los ataques cibernéticos, el 53% de las personas dijo que ayudaría a los piratas informáticos a crear correos electrónicos de phishing más creíbles, mientras que el 49% señaló su capacidad para ayudar a los piratas informáticos a mejorar sus habilidades de codificación.

Además de eso, el 49% también cree que ChatGPT se utilizará para difundir información errónea y desinformación, y el 48% piensa que podría usarse para crear cepas de malware completamente nuevas. Un poco por debajo de eso, el 46% de los encuestados dijo que ChatGPT podría ayudar a mejorar los ataques existentes.

Ya hemos visto una amplia gama de usos impresionantes para herramientas de IA como esta, desde escribir novelas hasta componer música. Sin embargo, esas mismas habilidades que ayudan a ChatGPT a crear oraciones creíbles también podrían usarse para tejer código malicioso. Como indica la encuesta de BlackBerry, eso es una preocupación para mucha gente.

Cambiando el panorama del malware

Malwarebytes portátil

¿Cómo se mantendrán bajo control estas amenazas potenciales? Hasta el 95% de los encuestados argumentó que los gobiernos tienen la obligación de regular la tecnología similar a ChatGPT, y el 85% dijo que el nivel de responsabilidad debería ser «moderado» o «significativo».

Sin embargo, no solo serán los gobiernos los que luchen contra el malware impulsado por ChatGPT: el 82% de los profesionales de TI encuestados ya están planeando defenderse contra este tipo de ataque, y el mismo número dice que había usado herramientas de inteligencia artificial para hacerlo.

A pesar de las terribles perspectivas, ChatGPT (y herramientas similares) tienen mucho potencial para hacer el bien, y tres cuartas partes de los encuestados estuvieron de acuerdo en que se utilizará principalmente para beneficiar a las personas. Pero cuando se trata de malware, herramientas como ChatGPT podrían cambiar completamente el panorama. Queda por ver si inclina la balanza a favor de los atacantes o defensores. Si es lo último, incluso las mejores aplicaciones antivirus podrían tener dificultades para mantenerse al día.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
El mismo Apple cree que Siri no está listo para vencer a ChatGPT
Un iPhone con el logo de Siri encima y al lado la frase que dice: "Hey Siri".

Con la presentación del nuevo iPad Mini, Apple dejó claro que una experiencia de software rebosante de IA es el camino a seguir. Y si eso significara hacer el mismo tipo de actualizaciones internas a una tableta que cuesta casi la mitad que su teléfono insignia, la compañía aún seguiría adelante.

Sin embargo, sus ambiciones con Apple Intelligence carecen de vigor competitivo, e incluso para los propios estándares de Apple, la experiencia no ha logrado sorprender a los usuarios. Además de eso, el despliegue escalonado de las funciones de IA más ambiciosas, muchas de las cuales aún están en el futuro, ha dejado a los entusiastas con una mala impresión.

Leer más
¿Qué son las “alucinaciones” y por qué son un peligro en la IA?
Cómo usar ChatGPT, el chatbot del que todo el mundo habla.

Desde su lanzamiento en 2020, ChatGPT se convirtió en sinónimo de inteligencia artificial. Y es que este chatbot, un Large language model o modelo de lenguaje amplio ha probado ser fantástico para proporcionar respuestas convincentes y magistralmente redactactas sobre prácticamente todo tipo de tema, casi como si fuera una especie de Google superdotado. Sin embargo, aún cuando la versión más reciente, GPT-4o, es capaz de generar y entender texto, imágenes y sonido, ChatGPT y otros chatbots LLM pueden caer en “alucinaciones”. Aquí te explicamos qué son las alucinaciones de ChatGPT y por qué son un peligro en la IA.
¿Qué es una alucinación en inteligencia artificial?

Una alucinación es simplemente un chatbot diciendo una mentira, un sinsentido o un simplemente un bulo. Son potencialmente peligrosas porque, a medida que las personas confían más y más en herramientas como ChatGPT la sociedad se vuelve más propensa a caer en desinformación.

Leer más
¿Por qué ChatGPT es malo en matemáticas?
ChatGPT buscador

Cualquier usuario asiduo de ChatGPT sabe que el modelo de lenguaje amplio de OpenAI es malo en matemáticas. Sí, claro que resolverá problemas simples como una resta, pero cuando le pides una operación relativamente básica como una multiplicación con cifras medianamente grandes, ChatGPT comienza a mostrar sus carencias. ¿Por qué ChatGPT es malo en matemáticas? Hay varias razones, pero también algunas soluciones que podrían resultar interesantes desde un punto de vista de desarrollo que vamos a tratar de explicar.
Es que las matemáticas no son lo suyo

Hay varias razones que explican por qué ChatGPT es malo en matemáticas. Quizá la más importante es el tipo de material con el que ha sido entrenado: internet. Nos explicamos. ChatGPT es un modelo de lenguaje amplio (large language model o LLM por sus siglas en inglés) diseñado para generar conversaciones similares a las que tendrían dos humanos. Para lograr esta característica fue entrenado con técnicas de deep learning, es decir, ChatGPT “aprende” de patrones y estructuras de millones de textos disponibles en internet. Con esa “fuente de conocimiento” genera respuestas relevantes según el contexto en el que se le pregunta.

Leer más