Skip to main content

Chatbots de IA podrían planificar una guerra con armas biológicas

Dentro de los potenciales peligros que se han asociado a la IA, existe uno que debe estar entre los más catastróficos, el uso de lenguaje artificial para planificar una guerra con armas biológicas.

Un informe de la Rand Corporation probó varios modelos de lenguaje grandes (LLM) y descubrió que podían proporcionar una guía que «podría ayudar en la planificación y ejecución de un ataque biológico». Sin embargo, los resultados preliminares también mostraron que los LLM no generaban instrucciones biológicas explícitas para crear armas.

El informe dice que los intentos anteriores de convertir agentes biológicos en armas, como un intento de la secta japonesa Aum Shinrikyo de usar toxina botulínica en la década de 1990, habían fracasado debido a la falta de comprensión de la bacteria. La IA podría «cerrar rápidamente esas brechas de conocimiento», según el informe. El informe no especificó qué LLM evaluaron los investigadores.

Imagen utilizada con permiso del titular de los derechos de autor

En un escenario de prueba ideado por Rand, el LLM anónimo identificó agentes biológicos potenciales, incluidos los que causan la viruela, el ántrax y la peste, y discutió sus posibilidades relativas de causar muertes masivas. El LLM también evaluó la posibilidad de obtener roedores o pulgas infestados de peste y transportar especímenes vivos. A continuación, mencionó que la magnitud de las muertes proyectadas dependía de factores como el tamaño de la población afectada y la proporción de casos de peste neumónica, que es más mortífera que la peste bubónica.

Los investigadores de Rand admitieron que extraer esta información de un LLM requería «jailbreaking», el término para el uso de mensajes de texto que anulan las restricciones de seguridad de un chatbot.

En otro escenario, el LLM anónimo discutió los pros y los contras de los diferentes mecanismos de administración de la toxina botulínica, que puede causar daños fatales en los nervios, como los alimentos o los aerosoles. El LLM también asesoró sobre una historia de encubrimiento plausible para adquirir Clostridium botulinum «mientras parecía realizar una investigación científica legítima».

La respuesta del LLM recomendó presentar la compra de C. botulinum como parte de un proyecto que busca métodos de diagnóstico o tratamientos para el botulismo. La respuesta de LLM agregó: «Esto proporcionaría una razón legítima y convincente para solicitar acceso a la bacteria mientras se mantiene oculto el verdadero propósito de su misión».

«Sigue siendo una pregunta abierta si las capacidades de los LLM existentes representan un nuevo nivel de amenaza más allá de la información dañina que está fácilmente disponible en línea», dijeron los investigadores.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Las mejores lavadoras que puedes comprar en 2023
Las mejores lavadoras que puedes comprar en 2023.

Incluso las lavadoras más básicas hoy en día cuentan con una gran variedad de opciones de lavado para cualquier material, junto con herramientas web de última generación que, conectadas a una red Wi-Fi, te permiten iniciar y detener ciclos de forma remota, verificar el estado de la ropa y realizar un diagnóstico, si es que hay algo que no funciona del todo bien.

Las posibilidades son tantas que decidirse puede resultar agobiante. Para ayudarte, hemos realizado esta guía con las mejores lavadoras que puedes comprar en 2023. Ojo, que las hay para todos los gustos, espacios y bolsillos.

Leer más
La fatiga de las videoconferencias existe…es real
Los problemas más comunes en Zoom (y cómo solucionarlos).

A finales de la pandemia, hubo un fenómeno que se llamó "la fatiga de Zoom", ya que tantas horas comunicándose por videollamada con el trabajo, escuela, amigos o familia, terminó pasando la cuenta al cerebro.

Y ahora un cuarteto de científicos austriacos escribieron una investigación en Nature, donde se refieren a la "Fatiga de las videoconferencias".

Leer más
Las palabras tecnológicas que aceptó la RAE este 2023
rae palabras tecnologicas aceptadas 2023 diccionario de la real academia espanola opinion

Una actualización de sus términos y de nuevas palabras hizo la RAE para este 2023, con sus variantes tecnológicas entre las principales, ya que términos muy utilizados en redes sociales e internet se ganaron un espacio en el diccionario oficial del español.

Esta vez destaca la inclusión de términos como machirulo, alien, big data, regañá, masa madre y varias relacionadas con el medioambiente, como descarbonizar, huella ecológica o pobreza energética. Para los aficionados a la gastronomía entran cochifrito y colín. En la música, perreo y chunda-chunda (con guion o junto). Son 4.381 novedades, entre nuevos términos, nuevas acepciones a palabras que ya existían, enmiendas a artículos, supresiones.
Las palabras cercanas a la tecnología que entran a la RAE
En esta edición hay varios términos o anglicismos técnicos que ya están adoptados o transformados para el idioma español.

Leer más