Skip to main content

Científicos chinos piden detener ahora la IA: es un riesgo existencial

Imagen utilizada con permiso del titular de los derechos de autor

Este miércoles se desarrolla la cumbre para la regulación de la IA en Bletchley Park, Inglaterra, donde un grupo de científicos chinos pidió detener ahora mismo la inteligencia artificial, ya que «es un riesgo existencial para el ser humano».

Recommended Videos

El grupo, que incluye a Andrew Yao, uno de los científicos informáticos más destacados de China, pide la creación de un organismo regulador internacional, el registro y la auditoría obligatorios de los sistemas avanzados de IA, la inclusión de procedimientos de «apagado» instantáneo y que los desarrolladores gasten el 30 por ciento de su presupuesto de investigación en la seguridad de la IA.

Los académicos detrás de la declaración conjunta, que también fue firmada por expertos occidentales como Yoshua Bengio, de la Universidad de Montreal, se reunieron en octubre en la casa de campo de Ditchley Park, cerca de Oxford señala Financial Times.

Imagen utilizada con permiso del titular de los derechos de autor

«Habiendo aprendido lecciones de hacer frente a los daños ambientales, debemos trabajar juntos como comunidad global para garantizar el progreso seguro de la IA», dijo Yao, uno de los organizadores de la declaración.

Ya-Qin Zhang, decano de la Universidad de Tsinghua y expresidente del gigante tecnológico Baidu, dijo que era necesario garantizar que la futura inteligencia artificial general fuera «segura y confiable».

En un discurso que se pronunciará en Londres este miércoles 1 de noviembre, la vicepresidenta de Estados Unidos, Kamala Harris, argumentará que, si bien «la IA tiene el potencial de hacer un bien profundo, también tiene el potencial de causar un daño profundo, desde ataques cibernéticos habilitados por IA a una escala más allá de cualquier cosa que hayamos visto antes hasta armas biológicas formuladas por IA que podrían poner en peligro la vida de millones de personas».

Topics
Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Las patéticas «muertes» de Elon Musk en Path of Exile 2 
Elon Musk pensativo

Un momento bastante extraño y que quedará para la posteridad es el que vivió Elon Musk, quien aprovechó un vuelo en avión para probar las bondades de la conexión a internet de Starlink en el aire, jugando Path of Exile 2.

Sin embargo, el experimento no salió del todo bien como el administrador del DOGE de la Casa Blanca quería, ya que murió innumerables veces en la transmisión que hizo en directo en X, y además se ganó una sarta de improperios y malos comentarios por sus políticas en el gobierno de Donald Trump.

Leer más
Hay un truco en Midjourney para hacer imágenes de IA muy realistas de personas
Midjourney fotos

Las actualizaciones en los programas generadores de imágenes de IA están difuminando la delgada línea entre una fotografía real y una inventada por la inteligencia artificial. Y Midjourney con su nuevo modelo 7 está yendo un paso más allá.

Esto porque un usuario de X, Min Choi, descubrió que con una técnica y la utilización de un nombre de archivo genérico de cámaras como Canon, podría recibir como respuesta una imagen muy realista.

Leer más
Reino Unido desarrolla una herramienta algorítmica para predecir posibles asesinos
Algoritmo Asesinatos

El gobierno británico está trabajando en una herramienta de "predicción de asesinatos" destinada a identificar a las personas que tienen más probabilidades de convertirse en asesinos, informó The Guardian esta semana.

El proyecto, originalmente llamado "proyecto de predicción de homicidios", pero desde entonces rebautizado como "compartir datos para mejorar la evaluación de riesgos", está a cargo del Ministerio de Justicia del Reino Unido y utiliza algoritmos y datos personales, incluidos los del Servicio de Libertad Condicional, para hacer sus cálculos.

Leer más