La AGI (por sus siglas en inglés, Artificial General Intelligence o Inteligencia Artificial General) es un concepto dentro de la inteligencia artificial que describe un sistema capaz de realizar cualquier tarea intelectual que un ser humano pueda hacer, no solo tareas específicas para las que fue entrenado. Y es un concepto que es necesario explicar bien, por eso Digital Trends en inglés accedió en exclusiva a una entrevista del padre de la computación cuántica, David Deutsch, quien explicó cómo evolucionará la AGI.
«Hay un tipo de programa que no entendemos, ni siquiera en principio, y es un AGI. Algún día lo haremos, pero no veo señales de ello en este momento y eso es bastante frustrante».
Hablando en la serie de podcasts Strange Loop de Sana, copresentada por Joel Hellermark, CEO de la empresa sueca de IA Sana y Gustav Söderström, copresidente de Spotify, Deutsch habla largo y tendido sobre cómo AGI podría manifestarse de una manera que no esperábamos, llegando incluso a predecir lo que sucederá si la humanidad sobrevive un millón de años en el futuro.
Con empresas como Google y OpenAI hablando regularmente sobre su progreso hacia la Inteligencia General Artificial (AGI), el momento en que la IA realmente puede aprender y responder como un humano, con productos como ChatGPT y Gemini, hay mucha gente que se pregunta regularmente si ya se ha alcanzado la AGI.
Cuando se le pregunta cuál podría ser una señal de que se ha logrado un AGI «verdadero», Deutsch responde con la noción de que ni siquiera sabemos lo que estamos buscando:
[La señal será] si alguien tiene una teoría. El letrero no estaría en la máquina; el signo sería una teoría en la que alguien escribe un libro o publica un artículo que dice: ‘Lo he resuelto. Esto es lo que caracteriza a un GI (inteligencia general)».
«Si pudiéramos escribir un programa de computadora que tenga esa propiedad, sería un AGI, y esta será la razón: una teoría explicativa de lo que es la inteligencia general».
Lo que es significativo es hasta qué punto Deutsch desafía la sabiduría convencional de dónde está la inteligencia artificial y hacia dónde se dirige.
No está impresionado con el rendimiento actual de los motores de IA, aunque mantiene la esperanza de que continúen desarrollándose.
En muchas conversaciones sobre inteligencia artificial, las personas a menudo ven a AGI como la extensión lógica de la IA.
Deutsch caracteriza las plataformas de IA actuales como «optimizadores obedientes», mientras que la verdadera AGI tendría la capacidad de explicar, predecir y sacar conclusiones que los operadores humanos no anticiparon.
Mientras el mundo se obsesiona con si los LLM se están acercando a una inteligencia similar a la humana, David Deutsch ofrece un contrapunto audaz: AGI no será una herramienta para manejar. Será una persona a tener en cuenta.
En opinión de Deutsch, los LLM actuales no son el camino a seguir. Ofrecen correlaciones pero no explicaciones: afirma que esta es la verdadera medida de la inteligencia humana y es el elemento que falta en los intentos actuales de AGI.
Hace una separación muy clara entre la coincidencia de patrones y el razonamiento creativo. Esta es una distinción increíblemente importante.
Es parte de la naturaleza humana esperar que los patrones actuales continúen hasta el infinito. Debido a que actualmente los LLM se basan en última instancia en el conocimiento humano agregado, este sesgo ya está incorporado.
La famosa prueba de Turing, en la que se le pide a un juez humano que interactúe con otra entidad por mensaje de texto y determine si el encuestado es humano o máquina, es un método muy utilizado para «probar» la capacidad de la IA para comparar su progreso.
Si bien algunos han «pasado» la prueba, Deutsch señala que es bastante fácil para las máquinas imitar el habla y el razonamiento humanos sin pensar realmente. Los resultados por sí solos, en opinión de Deutsch, no pueden probar la inteligencia.
La afirmación más provocativa de Deutsch es que cuando se logre un verdadero AGI, las máquinas se habrán convertido en personas:
«Cada AGI es una persona. Si lo reconocemos como una persona, que lo será, entonces lo primero que posee es la computadora en la que se está ejecutando.
«No querrá hacer un clon de sí mismo, porque tendrá propiedades, a menos que se le considere un esclavo, lo que sería un error catastrófico por parte de la sociedad».
Llega a decir que ya no podríamos considerar a AGI como «propiedad», sugiriendo que la gente tendría que emplear el programa -y por lo tanto asignarle derechos de los trabajadores y similares- para que pudiera hacer cosas como comprar la expansión de su hardware para aumentar sus capacidades.
Riesgo sin fatalidad
Deutsch no descarta los riesgos: espera muchos errores a medida que avanzamos a tientas hacia sistemas más poderosos. Pero rechaza la narrativa del «apocalipsis de la IA».
Él cree que si los humanos continúan evolucionando durante el próximo millón de años, habrán conquistado la galaxia, pero esto será infundido por la inteligencia artificial, en lugar de ser consumido por ella.
Como todas las tecnologías, la IA requiere una cuidadosa supervisión, crítica y corrección de errores. El peligro no es que las máquinas se rebelen repentinamente, sino que podamos repetir el error más antiguo de la humanidad: negar derechos a seres capaces de pensar y actuar libremente.
Si tiene razón, la primera AGI real no solo cambiará la tecnología, sino que nos obligará a redefinir la moralidad, la ley y el significado de la inteligencia misma.
