Skip to main content

Chatbots de IA podrían planificar una guerra con armas biológicas

Dentro de los potenciales peligros que se han asociado a la IA, existe uno que debe estar entre los más catastróficos, el uso de lenguaje artificial para planificar una guerra con armas biológicas.

Un informe de la Rand Corporation probó varios modelos de lenguaje grandes (LLM) y descubrió que podían proporcionar una guía que «podría ayudar en la planificación y ejecución de un ataque biológico». Sin embargo, los resultados preliminares también mostraron que los LLM no generaban instrucciones biológicas explícitas para crear armas.

El informe dice que los intentos anteriores de convertir agentes biológicos en armas, como un intento de la secta japonesa Aum Shinrikyo de usar toxina botulínica en la década de 1990, habían fracasado debido a la falta de comprensión de la bacteria. La IA podría «cerrar rápidamente esas brechas de conocimiento», según el informe. El informe no especificó qué LLM evaluaron los investigadores.

Imagen utilizada con permiso del titular de los derechos de autor

En un escenario de prueba ideado por Rand, el LLM anónimo identificó agentes biológicos potenciales, incluidos los que causan la viruela, el ántrax y la peste, y discutió sus posibilidades relativas de causar muertes masivas. El LLM también evaluó la posibilidad de obtener roedores o pulgas infestados de peste y transportar especímenes vivos. A continuación, mencionó que la magnitud de las muertes proyectadas dependía de factores como el tamaño de la población afectada y la proporción de casos de peste neumónica, que es más mortífera que la peste bubónica.

Los investigadores de Rand admitieron que extraer esta información de un LLM requería «jailbreaking», el término para el uso de mensajes de texto que anulan las restricciones de seguridad de un chatbot.

En otro escenario, el LLM anónimo discutió los pros y los contras de los diferentes mecanismos de administración de la toxina botulínica, que puede causar daños fatales en los nervios, como los alimentos o los aerosoles. El LLM también asesoró sobre una historia de encubrimiento plausible para adquirir Clostridium botulinum «mientras parecía realizar una investigación científica legítima».

La respuesta del LLM recomendó presentar la compra de C. botulinum como parte de un proyecto que busca métodos de diagnóstico o tratamientos para el botulismo. La respuesta de LLM agregó: «Esto proporcionaría una razón legítima y convincente para solicitar acceso a la bacteria mientras se mantiene oculto el verdadero propósito de su misión».

«Sigue siendo una pregunta abierta si las capacidades de los LLM existentes representan un nuevo nivel de amenaza más allá de la información dañina que está fácilmente disponible en línea», dijeron los investigadores.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
El intrincado plan secreto de Huawei en Estados Unidos
Espionaje

Huawei y otras empresas de telecomunicaciones chinas están sujetas a restricciones en Estados Unidos debido a preocupaciones de seguridad nacional. En 2019, Huawei fue incluida en una lista negra comercial, lo que impide a las empresas estadounidenses hacer negocios con ella sin una licencia especial. Esto ha afectado la capacidad de Huawei para vender sus productos en el mercado estadounidense y ha limitado su acceso a tecnologías clave como el sistema operativo Android de Google.

Sin embargo, eso al parecer no ha sido impedimento para que la compañía china esté haciendo de las suyas en suelo estadounidense.

Leer más
El curso gratis que ofrece OpenAI que te podría hacer ganar mucha plata
openai curso gratis inteligencia artificial

"ChatGPT Prompt Engineering for Developers"  es el nombre del curso que acaba de abrir OpenAI y viene a significar 'Prompt engineering / ingeniería de instrucciones de ChatGPT para desarrolladores'. Se trata de un plan de estudios gratis y lo ha hecho uniéndose a DeepLearning.AI, la compañía de Andrew Ng, también cofundador de la plataforma de cursos Coursera y antiguo máximo responsable de Google Brain y del departamento de IA de Baidu.

Este curso de 1,5 horas tiene como objetivo dotar a los desarrolladores de software con las habilidades necesarias para integrar los grandes modelos de lenguajes (LLMs, como GPT-3.5 y GPT-4) en la creación de aplicaciones.

Leer más
Día de las Madres: el gadget ideal para regalar a mamá
dia de la madre regalos gadgets ofertas kindle scribe

El mes de mayo es especial en varias partes del mundo, sobre todo porque se celebra el Día de las Madres, y si estás pensando en el gadget ideal para regalar a mamá, esta selección te gustará.

Va desde una alisadora de cabello hasta un teléfono inteligente de Motorola. Y tú, ¿cuál piensas que sería el regalo ideal para ella?
Dyson Airstrait

Leer más