En una carta abierta firmada por especialistas en IA de todo el mundo, los expertos de la industria instaron a la ONU a tomar medidas para restringir el desarrollo y el uso de armas totalmente autónomas, como aviones no tripulados, tanques y ametralladoras.
Llamándola la «tercera revolución en las tácticas de guerra«, los firmantes advierten sobre una próxima saga de robots armados asesinos, que podría tener consecuencias devastadoras. «Las armas autónomas letales permitirán que los conflictos armados se libren a una escala más grande que nunca, y a intervalos más rápidos de lo que los humanos pueden comprender», advierte la carta. «No tenemos mucho tiempo para actuar. Una vez que se abra la caja de Pandora, será difícil cerrarla».
Específicamente dirigida a los asistentes a IJCAI, la Conferencia Internacional Unida sobre Inteligencia Artificial en Melbourne, la carta insta a la rápida acción para agregar sistemas de armas autónomas «moralmente erróneos» a la lista de armas prohibidas, como parte de la International Convention on Certain Conventional Weapons.
Grupos como Human Rights Watch quieren que la ONU ordene que los seres humanos permanezcan siempre en control de los sistemas de las armas durante el combate, incluyendo la selección de objetivos, para asegurar el cumplimiento de leyes internacionales.
En una conferencia de la ONU sobre el tema en el 2015, el Reino Unido se opuso a una prohibición similar, alegando que no estaban planeando desarrollar ningún sistema letal autónomo. Sin embargo, no existe una definición real de lo que es un «sistema autónomo». Algunos sistemas de defensa que ya están en uso, como el cañón antimisiles Phalanx de los Estados Unidos, no sólo están controlados por computadora y guiados por radar, sino que también están programados para responder automáticamente a amenazas entrantes.
«Los Estados Unidos están más adelantados en este campo que cualquier otra nación. La mayoría de los ejércitos avanzados están buscando una autonomía cada vez mayor en las armas», dijo Stephen Goose, cofundador de la Campaña para Detener a los Robots Asesinos. «Los robots asesinos vendrían en todos los tamaños y formas, incluyendo versiones mortales miniaturizadas que podrían atacar en enormes enjambres, y operarían desde el aire, desde el suelo, desde el mar y bajo el agua», advirtió.
Elon Musk ha sido particularmente franco en los peligros de la inteligencia artificial, y se ha referido a la investigación sobre el tema como «una amenaza existencial para la civilización humana«.
