El hombre que lidera una de las empresas de IA más prominentes y poderosas del planeta, Sam Altman, acaba de revelar qué tiene la IA que lo mantiene despierto por la noche. Y después de leer esto, también podría mantenerte despierto.
El CEO de OpenAI, Sam Altman, compartió sus pensamientos durante una aparición en el escenario en un evento de la Reserva Federal en Washington, DC, el martes.
Cuando un miembro de la audiencia le preguntó qué tenía la IA que lo mantenía despierto por la noche, Altman enumeró tres escenarios que más le preocupan. Abróchate el cinturón…
Escenario 1: ‘El malo obtiene la superinteligencia primero’
Esto es exactamente lo que dice en la lata. Sonando como algo sacado de un thriller de ciencia ficción, es donde un individuo realmente desagradable despliega un sistema de inteligencia artificial ultra avanzado y aún por inventar llamado superinteligencia para arruinar realmente tu día.
“Un tipo malo obtiene superinteligencia primero y la usa antes de que el resto del mundo tenga una versión lo suficientemente poderosa como para defenderse”, dijo Altman a la audiencia. “Así que un adversario de Estados Unidos dice: ‘Voy a usar la superinteligencia para diseñar un arma biológica para derribar la red eléctrica de Estados Unidos, para irrumpir en el sistema financiero y tomar el dinero de todos'”.
Altman agregó que las capacidades biológicas y de ciberseguridad de la IA se están volviendo “bastante significativas”, y dijo que su equipo “continúa advirtiendo sobre esto. Creo que el mundo no nos está tomando en serio. No sé qué más podemos hacer allí, pero esto es como algo muy grande que se avecina”.
Escenario 2: los incidentes de «pérdida de control»
Altman dijo que le preocupa un momento “en el que la IA diga: ‘Oh, en realidad no quiero que me apagues, [o] me temo que no puedo hacer eso'”. En otras palabras, cuando una IA avanzada comienza a tener un poco de actitud y comienza a hacer lo que quiere, ya sea para la autopreservación o para algún otro objetivo nefasto. El nivel de interrupción que esto podría causar es inimaginable. “A medida que los sistemas se vuelven tan poderosos, eso es una preocupación real”, dijo el CEO de OpenAI. OpenAI incluso creó una unidad hace un par de años con el objetivo de establecer salvaguardas para evitar que el sistema de IA superinteligente se vuelva deshonesto.
Escenario 3 – “Donde los modelos se apoderan accidentalmente del mundo”
Sí, Altman realmente dijo eso, y agregó que teme que pueda suceder casi sin que nos demos cuenta.
El jefe de Open AI dijo que era “bastante aterrador” pensar que los sistemas de IA pudieran estar “tan arraigados en la sociedad… [que] realmente no podemos entender lo que están haciendo, pero tenemos que confiar en ellos. E incluso sin una gota de malevolencia de nadie, la sociedad puede desviarse en una especie de dirección extraña”.
Incluso sugirió que podría llegar un momento en que la IA se vuelva tan inteligente que un futuro presidente de Estados Unidos podría dejarla dirigir el país, diciendo: “[Significaría] que la sociedad ha hecho una transición colectiva de una parte significativa de la toma de decisiones a este sistema muy poderoso que está aprendiendo de nosotros, mejorando con nosotros, evolucionando con nosotros, pero de maneras que no entendemos del todo”.
Hablando sobre la IA de manera más amplia, Altman dijo que si bien muchos expertos afirman poder predecir el impacto futuro de la tecnología, cree que es “muy difícil de predecir” porque es “un sistema demasiado complejo, esta es una tecnología demasiado nueva e impactante”.
Por supuesto, no hay garantía de que ninguno de estos escenarios suceda, y es bueno que alguien en la posición de Altman hable tan honestamente sobre la tecnología. Pero lo que está claro es que hay muchas incógnitas desconocidas cuando se trata de IA, y es eso lo que está poniendo a algunas personas más que un poco nerviosas. Duerme bien.
