Skip to main content
  1. Home
  2. Computación
  3. Features

Pausar el desarrollo de la IA o arriesgarse a un desastre, advierte Elon Musk y Steve Wozniack

Add as a preferred source on Google

La inteligencia artificial (IA) se ha estado moviendo a una velocidad increíble en los últimos meses, con el lanzamiento de varias herramientas y bots como ChatGPT de OpenAI, Google Bard y más. Sin embargo, este rápido desarrollo está causando una gran preocupación entre los veteranos experimentados en el campo de la IA, tanto que más de 1,000 de ellos han firmado una carta abierta pidiendo a los desarrolladores de IA que pisen el freno.

La carta fue publicada en el sitio web del Future of Life Institute, una organización cuya misión declarada es “dirigir la tecnología transformadora para beneficiar la vida y alejarla de los riesgos extremos a gran escala”. Entre los firmantes se encuentran varios académicos prominentes, el cofundador de Apple, Steve Wozniak, y el CEO de Twitter, Elon Musk.

El CEO de Tesla y SpaceX, Elon Musk, estilizó la imagen
Getty Images/Digital Trends Graphic

El artículo pide a todas las empresas que trabajan en modelos de IA que son más potentes que el GPT-4 recientemente lanzado que detengan inmediatamente el trabajo durante al menos seis meses. Esta moratoria debería ser “pública y verificable” y daría tiempo para “desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzado de IA que sean rigurosamente auditados y supervisados por expertos externos independientes”.

Recommended Videos

La carta dice que esto es necesario porque “los sistemas de IA con inteligencia competitiva humana pueden plantear profundos riesgos para la sociedad y la humanidad”. Esos riesgos incluyen la difusión de propaganda, la destrucción de empleos, el reemplazo potencial y la obsolescencia de la vida humana, y la “pérdida de control de nuestra civilización”. Los autores agregan que la decisión sobre si seguir adelante en este futuro no debe dejarse en manos de “líderes tecnológicos no elegidos”.

IA “para el claro beneficio de todos”

ChatGPT versus Google en smartphones.

La carta llega justo después de que se hicieran afirmaciones de que GPT-5, la próxima versión de la tecnología que impulsa ChatGPT, podría lograr inteligencia general artificial. Si es correcto, eso significa que sería capaz de entender y aprender cualquier cosa que un humano pueda comprender. Eso podría hacerlo increíblemente poderoso en formas que aún no se han explorado por completo.

Además, la carta sostiene que la planificación y gestión responsables en torno al desarrollo de sistemas de IA no está sucediendo, “a pesar de que en los últimos meses se ha visto a los laboratorios de IA atrapados en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, puede entender, predecir o controlar de manera confiable”.

En cambio, la carta afirma que se deben crear nuevos sistemas de gobernanza que regulen el desarrollo de la IA, ayuden a las personas a distinguir el contenido creado por la IA y el creado por humanos, responsabilicen a los laboratorios de IA por cualquier daño que causen, permitan a la sociedad hacer frente a la interrupción de la IA (especialmente a la democracia) y más.

Los autores terminan con una nota positiva, afirmando que “la humanidad puede disfrutar de un futuro floreciente con IA … en el que cosechamos las recompensas, diseñamos estos sistemas para el claro beneficio de todos y damos a la sociedad la oportunidad de adaptarse”. Hacer una pausa en sistemas de IA más potentes que GPT-4 permitiría que esto sucediera, afirman.

¿Tendrá la carta el efecto deseado? Eso es difícil de decir. Claramente hay incentivos para que los laboratorios de IA continúen trabajando en modelos avanzados, tanto financieros como de reputación. Pero con tantos riesgos potenciales, y con muy poca comprensión de ellos, los autores de la carta claramente sienten que esos incentivos son demasiado peligrosos para perseguirlos.

Diego Bastarrica
Diego Bastarrica es Senior Editor y Head of Content en Digital Trends en Español, donde lidera la estrategia editorial, SEO…
Topics
Tu PC con Windows 11 roto ya no necesita una unidad USB para volver a la vida
Windows 11

Si tu PC con Windows alguna vez se ha negado a arrancar, ya sabes el pánico que sigue. Te apresas a buscar otro ordenador, descargas el instalador de Windows y creas una unidad USB bootable solo para que tu máquina vuelva a funcionar. Microsoft quiere acabar con ese quebradero de cabeza con una nueva función llamada Cloud Rebuild.

Según informa Windows Central, Cloud Rebuild te permite realizar una reinstalación completa de Windows 11 sin soporte USB ni imagen personalizada. Mejor aún, no depende de que tu instalación actual esté en buen estado, así que incluso puede rescatar un PC que no arranca.

Read more
Claude ayudó a llevar un emulador de PS2 al navegador, y puede ejecutar GTA San Andreas
GTA San Andreas

Dos amigos han utilizado a Claude para ayudar a llevar el emulador de PS2 de código abierto PCSX2 a un navegador. Su proyecto, TabStationToo, ha sido probado con juegos como GTA San Andreas y Final Fantasy XII.

Los desarrolladores dicen que Claude hizo la mayor parte de la programación mientras ellos dirigían el trabajo y probaban los resultados. Sigue siendo experimental, pero los juegos se ejecutan localmente sin instalar un emulador de escritorio.

Read more
Windows 11 finalmente te permite personalizar el menú con clic derecho y eliminar opciones que nunca usas
Windows 11

Windows 11 por fin te da más control sobre el menú de clic derecho, que puede sentirse saturado de opciones que apenas tocas. Microsoft está lanzando un menú contextual rediseñado con mejores opciones de rendimiento y personalización. Puedes elegir qué comandos aparecen al hacer clic derecho (a través de Windows Latest).

¿Qué puedes cambiar en el menú de clic derecho de Windows 11?

Read more