Skip to main content

Chatbots de IA podrían planificar una guerra con armas biológicas

Dentro de los potenciales peligros que se han asociado a la IA, existe uno que debe estar entre los más catastróficos, el uso de lenguaje artificial para planificar una guerra con armas biológicas.

Un informe de la Rand Corporation probó varios modelos de lenguaje grandes (LLM) y descubrió que podían proporcionar una guía que «podría ayudar en la planificación y ejecución de un ataque biológico». Sin embargo, los resultados preliminares también mostraron que los LLM no generaban instrucciones biológicas explícitas para crear armas.

Recommended Videos

El informe dice que los intentos anteriores de convertir agentes biológicos en armas, como un intento de la secta japonesa Aum Shinrikyo de usar toxina botulínica en la década de 1990, habían fracasado debido a la falta de comprensión de la bacteria. La IA podría «cerrar rápidamente esas brechas de conocimiento», según el informe. El informe no especificó qué LLM evaluaron los investigadores.

Imagen utilizada con permiso del titular de los derechos de autor

En un escenario de prueba ideado por Rand, el LLM anónimo identificó agentes biológicos potenciales, incluidos los que causan la viruela, el ántrax y la peste, y discutió sus posibilidades relativas de causar muertes masivas. El LLM también evaluó la posibilidad de obtener roedores o pulgas infestados de peste y transportar especímenes vivos. A continuación, mencionó que la magnitud de las muertes proyectadas dependía de factores como el tamaño de la población afectada y la proporción de casos de peste neumónica, que es más mortífera que la peste bubónica.

Los investigadores de Rand admitieron que extraer esta información de un LLM requería «jailbreaking», el término para el uso de mensajes de texto que anulan las restricciones de seguridad de un chatbot.

En otro escenario, el LLM anónimo discutió los pros y los contras de los diferentes mecanismos de administración de la toxina botulínica, que puede causar daños fatales en los nervios, como los alimentos o los aerosoles. El LLM también asesoró sobre una historia de encubrimiento plausible para adquirir Clostridium botulinum «mientras parecía realizar una investigación científica legítima».

La respuesta del LLM recomendó presentar la compra de C. botulinum como parte de un proyecto que busca métodos de diagnóstico o tratamientos para el botulismo. La respuesta de LLM agregó: «Esto proporcionaría una razón legítima y convincente para solicitar acceso a la bacteria mientras se mantiene oculto el verdadero propósito de su misión».

«Sigue siendo una pregunta abierta si las capacidades de los LLM existentes representan un nuevo nivel de amenaza más allá de la información dañina que está fácilmente disponible en línea», dijeron los investigadores.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
El retraso ha terminado: ahora puedes generar imágenes con ChatGPT de forma gratuita
The Beatles

Después de un lanzamiento explosivo, una tendencia viral y algunas GPU derretidas, la nueva función de generación de imágenes para ChatGPT ya está disponible para los usuarios gratuitos. La función se lanzó originalmente el 25 de marzo, pero debido a que los suscriptores pagos inundaron por completo OpenAI con solicitudes de imágenes Ghiblificadas, el CEO Sam Altman anunció al día siguiente que el lanzamiento para los usuarios gratuitos se retrasaría "un tiempo".

Afortunadamente, parece que este retraso ha terminado solo cinco días después: Altman ya ha publicado otra publicación X diciendo que "¡image gen [está] ahora implementado para todos los usuarios gratuitos!"

Leer más
El uso de pantallas en la cama es peor de lo que crees
Hombre mirando el celular en su cama

Poco a poco nos hemos acostumbrado a mirar pantallas en nuestra cama, a pesar de ser muy conscientes de los daños físicos y mentales. Un estudio publicado a principios de este mes detalló una prevalencia un 33% más alta de mala calidad del sueño para las personas que usan dispositivos electrónicos a la hora de acostarse.

Ahora, otra investigación señala que al ver una pantalla en la cama, los riesgos de insomnio aumentan en un sorprendente 59% en jóvenes y adolescentes. Además, también consume nuestro tiempo de sueño en 24 minutos. Si bien eso es preocupante en sí mismo, cada aumento por hora en la actividad de la pantalla aumenta aún más los riesgos de insomnio.

Leer más
Dicen que Elon Musk tiene un pie afuera de la administración Trump
Elon Musk

Los días de Elon Musk en la administración de Donald Trump y más específicamente en la controvertida DOGE (Departamento de eficiencia gubernamental) parecen estar llegando a su fin, ya que el medio especializado Politico informó que el presidente estadounidense decidió que en los próximos días anunciará la salida del magnate tecnológico de su gabinete.

Según el reporte, Trump habría decidido que lo mejor para su administración es que, "Musk regrese a sus negocios y asuma un papel de apoyo", ya que "algunos miembros de la administración Trump y muchos aliados externos se han frustrado con su imprevisibilidad y ven cada vez más al multimillonario como un lastre político".

Leer más