Skip to main content

¿De qué se trata el proyecto secreto Q* de una IA mortal para la humanidad?

Imagen utilizada con permiso del titular de los derechos de autor

Se van despejando las incógnitas respecto a las razones que habrían gatillado la petición de salida de Sam Altman de OpenAI, ya que se filtró hace unas horas que una carta de la junta directiva puso en evidencia un proyecto secreto que estaba trabajando el equipo del destituido y luego retornado CEO, de una IA muy poderosa capaz de dañar la integridad de la humanidad: el proyecto Q*.

Según una de las fuentes, la veterana ejecutiva Mira Murati mencionó el proyecto, llamado Q* (pronunciado Q-Star), a los empleados el miércoles y dijo que se había enviado una carta al consejo antes de los acontecimientos del reciente fin de semana.

Tras la publicación de la noticia, una portavoz de OpenAI dijo que Murati había comunicado a los empleados lo que los medios iban a informar, pero no hizo comentarios sobre la exactitud de la información.

De qué se trata exactamente Q*

Q* fue descrita como una superinteligencia (AGI), según dos fuentes cercanas al directorio de OpenAI citadas por Reuters, y este adjetivo tenía concordancia con sus capacidades.

El nuevo modelo, dotado de vastos recursos informáticos, fue capaz de resolver algunos problemas matemáticos, dijo la persona bajo condición de anonimato por no estar autorizada a hablar en nombre de la empresa.

Si bien solo resuelve operaciones matemáticas para estudiantes de primaria, el hecho de superar estas pruebas hace que los investigadores sean muy optimistas sobre el futuro éxito de Q*, según la fuente.

Imagen utilizada con permiso del titular de los derechos de autor

Como sostiene Reuters: «Lograr la capacidad de hacer cálculos matemáticos —donde solo hay una respuesta correcta— implica que la IA tendría una mayor capacidad de razonamiento, que semejaría a la inteligencia humana. Esto podría aplicarse, por ejemplo, a nueva investigación científica, creen los investigadores de la IA. A diferencia de una calculadora que puede resolver un número limitado de operaciones, la IAG puede generalizar, aprender y comprender».

Que decía Sam Altman de los peligros de la IA

En junio de este 2023, Sam Altman se refirió a los peligros de la IA y describió que una agencia nuclear debería visar estos proyectos a futuro, como la Agencia Internacional de Energía Atómica de la ONU.

«El desafío que tiene el mundo es cómo vamos a manejar esos riesgos y asegurarnos de que aún podamos disfrutar de esos tremendos beneficios. Nadie quiere destruir el mundo».

La AGI, inteligencia artificial general, también fue abordada por Altman en un comunicado hace meses en OpenAI.

Las AGI son «capaces de elevar a la humanidad, aumentando la abundancia y el descubrimiento de nuevos conocimientos científicos«. Según la empresa, esto significa que todo el mundo puede tener acceso y ayuda con «casi cualquier tarea cognitiva«.

En la misma publicación, escrita por Altman y con fecha de febrero de 2023, el CEO acepta que las AGI pueden «ocurrir pronto o en un futuro lejano«. Por lo tanto, se debe gestionar una transición gradual para «experimentar los beneficios y las desventajas de los sistemas» y llegar a acuerdos sobre cómo se deben gobernar estos sistemas.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Los mejores trucos de Excel que te facilitarán la vida
mejores trucos de excel mujer laptop lentes

Excel. A algunos, la mera palabra les provoca escalofríos. ¡Pero no tiene que ser así! Enfrenta a tus miedos y serás recompensado con un programa que podría ser tu herramienta ideal. En esta guía te compartimos algunos de los mejores trucos de Excel que te ayudarán a despejar la confusión.
Te puede interesar:

Cómo proteger un archivo con password en Excel
¿Una copa mundial de Excel?
Seis trucos de Word que no conocías

Leer más
Guía básica para iniciarte en Excel de forma exitosa
Un hombre reflexiona mientras trabaja en una laptop en una oficina.

No te resistas; Excel es para todos y también para ti. Con esta guía básica para en iniciarte en Excel podrás familiarizarte con el programa desde cero y aprovechar sus funciones. ¡Dale una oportunidad y podría terminar convirtiéndose en una de tus herramientas favoritas!
Te va a interesar:

Los mejores trucos de Excel que te facilitarán la vida
Cómo proteger un archivo con password en Excel
Cómo crear tablas dinámicas en Excel y sacar más provecho a tus datos

Leer más
La GPU multichiplet de AMD podría finalmente hacerse realidad
gpu multichiplet amd realidad

Jacob Roach / DT
Acaba de salir a la luz una interesante patente de AMD, y aunque se presentó hace un tiempo, encontrarla ahora es aún más emocionante porque esta tecnología podría estar más cerca de aparecer en futuras tarjetas gráficas. La patente describe una GPU multichiplet con tres troqueles separados, que es algo que podría mejorar el rendimiento y reducir los costos de producción.

En la patente, AMD se refiere a una GPU que está dividida en múltiples matrices, a las que se refiere como chiplets de GPU. Estos chiplets, o troqueles, pueden funcionar juntos como una sola GPU o funcionar como múltiples GPU en lo que AMD denomina "segundo modo". La GPU tiene tres modos en total, el primero de los cuales hace que todos los chiplets funcionen juntos como una sola GPU unificada. Esto le permite compartir recursos y, como dice Tom's Hardware, permite que la matriz front-end se ocupe de la programación de comandos para todas las secuencias del motor de sombreado. Esto es similar a lo que haría una GPU normal sin chiplet.

Leer más