Skip to main content

Pausar el desarrollo de la IA o arriesgarse a un desastre, advierte Elon Musk y Steve Wozniack

La inteligencia artificial (IA) se ha estado moviendo a una velocidad increíble en los últimos meses, con el lanzamiento de varias herramientas y bots como ChatGPT de OpenAI, Google Bard y más. Sin embargo, este rápido desarrollo está causando una gran preocupación entre los veteranos experimentados en el campo de la IA, tanto que más de 1,000 de ellos han firmado una carta abierta pidiendo a los desarrolladores de IA que pisen el freno.

La carta fue publicada en el sitio web del Future of Life Institute, una organización cuya misión declarada es «dirigir la tecnología transformadora para beneficiar la vida y alejarla de los riesgos extremos a gran escala». Entre los firmantes se encuentran varios académicos prominentes, el cofundador de Apple, Steve Wozniak, y el CEO de Twitter, Elon Musk.

El CEO de Tesla y SpaceX, Elon Musk, estilizó la imagen
Getty Images/Digital Trends Graphic

El artículo pide a todas las empresas que trabajan en modelos de IA que son más potentes que el GPT-4 recientemente lanzado que detengan inmediatamente el trabajo durante al menos seis meses. Esta moratoria debería ser «pública y verificable» y daría tiempo para «desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzado de IA que sean rigurosamente auditados y supervisados por expertos externos independientes».

La carta dice que esto es necesario porque «los sistemas de IA con inteligencia competitiva humana pueden plantear profundos riesgos para la sociedad y la humanidad». Esos riesgos incluyen la difusión de propaganda, la destrucción de empleos, el reemplazo potencial y la obsolescencia de la vida humana, y la «pérdida de control de nuestra civilización». Los autores agregan que la decisión sobre si seguir adelante en este futuro no debe dejarse en manos de «líderes tecnológicos no elegidos».

IA «para el claro beneficio de todos»

ChatGPT versus Google en smartphones.

La carta llega justo después de que se hicieran afirmaciones de que GPT-5, la próxima versión de la tecnología que impulsa ChatGPT, podría lograr inteligencia general artificial. Si es correcto, eso significa que sería capaz de entender y aprender cualquier cosa que un humano pueda comprender. Eso podría hacerlo increíblemente poderoso en formas que aún no se han explorado por completo.

Además, la carta sostiene que la planificación y gestión responsables en torno al desarrollo de sistemas de IA no está sucediendo, «a pesar de que en los últimos meses se ha visto a los laboratorios de IA atrapados en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, puede entender, predecir o controlar de manera confiable».

En cambio, la carta afirma que se deben crear nuevos sistemas de gobernanza que regulen el desarrollo de la IA, ayuden a las personas a distinguir el contenido creado por la IA y el creado por humanos, responsabilicen a los laboratorios de IA por cualquier daño que causen, permitan a la sociedad hacer frente a la interrupción de la IA (especialmente a la democracia) y más.

Los autores terminan con una nota positiva, afirmando que «la humanidad puede disfrutar de un futuro floreciente con IA … en el que cosechamos las recompensas, diseñamos estos sistemas para el claro beneficio de todos y damos a la sociedad la oportunidad de adaptarse». Hacer una pausa en sistemas de IA más potentes que GPT-4 permitiría que esto sucediera, afirman.

¿Tendrá la carta el efecto deseado? Eso es difícil de decir. Claramente hay incentivos para que los laboratorios de IA continúen trabajando en modelos avanzados, tanto financieros como de reputación. Pero con tantos riesgos potenciales, y con muy poca comprensión de ellos, los autores de la carta claramente sienten que esos incentivos son demasiado peligrosos para perseguirlos.

Recomendaciones del editor

Topics
Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Cómo borrar un disco duro en PC o Mac y proteger tus datos
Una persona instalando una unidad SSD en una computadora.

Si crees que con “eliminar” en tu computadora todos tus archivos por medio de la Papelera de Reciclaje será suficiente para que nadie pueda tener acceso a tu información personal o laboral, estás equivocado. Es por ello que aquí te explicaremos cómo borrar un disco duro en PC o Mac adecuadamente. Si no lo haces, alguien más podría ver tus carpetas personales.
Te va a interesar:

Cómo instalar un SSD por ti mismo y acelerar tu laptop
Sin rastro: cómo destruir un disco duro
Cómo liberar espacio en el disco duro con Windows 10

Leer más
¿Cuánto duran los MacBooks? Cuándo tendrás que volver a comprar uno
Apple MacBooks

Luke Larsen / Digital Trends
No hay duda de que las mejores MacBooks de Apple tienen una reputación de calidad duradera, pero ¿qué tipo de longevidad puedes esperar obtener de una? ¿Y cuánto tiempo seguirá dando soporte Apple a tu portátil? Por último, ¿cuáles son las diferencias entre el MacBook Air y el MacBook Pro?

Sin duda, estas son preguntas importantes a tener en cuenta al comprar una nueva MacBook o incluso al considerar una actualización. Aquí tienes todo lo que sabes sobre la longevidad de tu MacBook.
Vida útil del hardware de MacBook
Bram Naus / Unsplash
Uno de los factores más importantes en la vida útil de una MacBook es inmediatamente obvio cuando ves una por primera vez: su construcción de aluminio. A diferencia de algunos rivales que construyen sus computadoras portátiles con resmas de plástico, el marco totalmente metálico de una MacBook la hace increíblemente resistente y duradera. Es probable que otros componentes fallen mucho antes de que el chasis se desgaste.

Leer más
¿Qué es mejor: Dell Latitude o Inspiron?
Dell Latitude

Una de las mejores marcas de computadoras portátiles es Dell, por lo que elegir su próxima actualización de computadora portátil de su catálogo es una gran idea. Pero, ¿cómo diferenciar entre las diferentes gamas? XPS es increíble, pero también vale la pena considerar los Latitude e Inspirons más asequibles.

Algunos de los mejores modelos se encuentran definitivamente entre los mejores portátiles Dell que puedes comprar en 2024, así que echemos un vistazo a estas dos gamas icónicas para ver cuál es la mejor para ti: Dell Latitude o Dell Inspiron.
Diseño
Dell.com
Tanto las laptops Inspiron como las Latitude ofrecen una variedad de tamaños de dispositivos para elegir, pero las Inspirons ofrecen más opciones de tamaño en general. Las laptops Latitude vienen en tres tamaños: 13 pulgadas, 14 pulgadas y 15 pulgadas. Inspiron permite a los clientes elegir entre cinco opciones, desde 13 pulgadas hasta 17 pulgadas. Las laptops Inspiron más recientes solo vienen en dos estilos: laptops tradicionales o 2 en 1. La línea Latitude ofrece un poco más de variedad. Puede obtener uno de tres estilos: una PC desmontable estilo tableta, una concha o un 2 en 1.

Leer más