Skip to main content

El Pentágono y los principios éticos de la IA para la guerra

Hace ya bastante tiempo que potencias mundiales como Estados Unidos está adoptando Inteligencia Artificial para situaciones de crisis, utilizando esta IA para conflictos armados, rastreando enemigos y usando tecnología para ataques.

Sin embargo, aún no hay regulaciones claras respecto de como las Fuerzas Armadas pueden utilizar esta IA para la guerra. Por eso, en el Pentágono quieren tomar cartas en el asunto, para que los soldados «ejerzan niveles apropiados de juicio y cuidado» con estas plataformas.

Recommended Videos

El teniente general de la Fuerza Aérea, Jack Shanahan, director del Centro Conjunto de Inteligencia Artificial del Pentágono, se refirió en AFP a esta regulación.

«Estos sistemas automatizados deben ser rastreables y gobernables, lo que significa que debe haber una manera de desconectarlas o desactivarlas», sostuvo.

Toda esta discusión se da en el marco de las licitaciones para que empresas de tecnología puedan ser proveedores del Ejército en Inteligencia Artificial: «Infraestructura de Defensa Empresarial Conjunta, o JEDI».

Esto ya provocó un enfrentamiento entre Amazon y Microsoft, ya que el primero demandó que fueron sacados de la licitación arbitrariamente por la antipatía de Donald Trump contra Jeff Bezos.

Lucy Suchman, una antropóloga que estudia el papel de la IA en la guerra, también se refirió en AFP a las implicancias de esta inteligencia artificial en conflictos bélicos.

«Me preocupa que los principios sean un poco un proyecto de lavado de ética.La tecnología se adapta. La tecnología evoluciona», señaló, esbozando una especie de blanqueo de las Fuerzas Armadas por errores del pasado.

Jack Shanahan, en tanto, tiene otra visión desde el Pentágono:

«A veces pienso que la angustia es un poco exagerada (de la industria de la tecnología en no querer involucrarse en esto, como Google cuando rechazó el Proyecto Maven), pero tenemos personas que tienen serias preocupaciones sobre trabajar con el Departamento de Defensa».

Finalmente, la profesora de derecho de la Universidad de Richmond, Rebecca Crootof, manifestó que es importante evaluar críticamente la enorme cantidad de datos que usan en inteligencia artificial para la guerra.

«Si se ve que Estados Unidos está tomando en serio las normas éticas de IA, por defecto se convierten en un tema más serio», dijo.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Estupidez artificial: el libro de autor español que critica a la IA
estupidez artificial ia juan ignacio rouyet markus winkler wpoa2i3mury unsplash

Cómo funciona la inteligencia artificial? ¿Debemos tener miedo de ella? ¿Es posible una inteligencia artificial ética? Estas son algunas de las cuestiones que Juan Ignacio Rouyet Ruiz (Madrid, 1967) plantea en Estupidez artificial. Cómo usar la inteligencia artificial sin que ella te utilice a ti. Una obra cuyo principal objetivo es ayudar a los lectores a reflexionar acerca de un fenómeno que, por su envergadura y consecuencias, va mucho más allá de lo tecnológico.

Juan Ignacio Rouyet Ruiz (Madrid, 1967) es Doctor en Informática e Ingeniero de Telecomunicaciones. Actualmente, es director de Entrega para los servicios de consultoría en Quint, Director del Máster de Emprendimiento Digital de la UNIR y Presidente del think tank We The Humans que busca soluciones éticas para la inteligencia artificial. Es colaborador habitual en la revista Digital Biz y esglobal. Pero, ante todo, Juan Ignacio se define como un ingeniero humanista.

Leer más
Líderes de la industria advierten: la IA presenta riesgos de extinción como una guerra nuclear
lideres ia advierten riesgo de extincion guerra nuclear drew dizzy graham s4dfrh7hddu unsplash

Nuevamente los líderes de la industria de la inteligencia artificial encendieron las alarmas, ya que el Centro para la Seguridad de la IA una organización con la misión de "reducir los riesgos a escala social de la inteligencia artificial", pidió tener mucho cuidado con la IA y la comparó con la guerra nuclear.

Los firmantes son un quién es quién de la industria de la IA, incluido el director ejecutivo de OpenAI, Sam Altman, y el jefe de Google DeepMind, Demis Hassabis. Los investigadores ganadores del Premio Turing Geoffrey Hinton y Yoshua Bengio, considerados por muchos como los padrinos de la IA moderna, también le pusieron sus nombres.

Leer más
Cómo se ve el hombre y la mujer perfecta según la IA
IA

La IA y sus modelos de aprendizaje han construido simulaciones de casi cualquier cosa que le pidamos, y por eso ahora en redes sociales se mostró como la inteligencia artificial le ha dado una imagen al hombre y la mujer ideal.

Las imágenes generadas del cuerpo femenino "perfecto" según las redes sociales en 2023 mostraban mujeres bronceadas y de aspecto caucásico con figuras delgadas y cinturas pequeñas.

Leer más