Skip to main content

DT en Español podría recibir una comisión si compras un producto desde el sitio

CEO de OpenAI: es bueno que tengamos miedo de la IA

Consciente de los peligros y fascinaciones de su invento, el CEO de OpenAI, Sam Altman, dio una entrevista a ABC News, para referirse a la IA y la reciente incorporación de GPT-4.

En la oportunidad, Altman cree que están detrás de algo a lo que debemos temer, a pesar de todos sus beneficios.

Recommended Videos

Él cree que viene con peligros reales, pero también puede ser «la mayor tecnología que la humanidad ha desarrollado hasta ahora» para mejorar drásticamente nuestras vidas.

«Tenemos que tener cuidado aquí», dijo Sam Altman, CEO de OpenAI. «Creo que la gente debería estar feliz de que tengamos un poco de miedo de esto».

En su entrevista, Altman fue enfático en que OpenAI necesita que tanto los reguladores como la sociedad se involucren lo más posible con el lanzamiento de ChatGPT, insistiendo en que la retroalimentación ayudará a disuadir las posibles consecuencias negativas que la tecnología podría tener en la humanidad. Agregó que está en «contacto regular» con funcionarios del gobierno.

Imagen utilizada con permiso del titular de los derechos de autor

«Estoy particularmente preocupado de que estos modelos puedan usarse para la desinformación a gran escala», dijo Altman. «Ahora que están mejorando en la escritura de código informático, [ellos] podrían ser utilizados para ataques cibernéticos ofensivos».

Un miedo común de ciencia ficción que Altman no comparte: modelos de IA que no necesitan humanos, que toman sus propias decisiones y planean la dominación mundial.

«Espera a que alguien le dé una opinión», dijo Altman. «Esta es una herramienta que está muy bajo control humano».

Sin embargo, dijo que teme qué humanos podrían tener el control. «Habrá otras personas que no pongan algunos de los límites de seguridad que nosotros imponemos», agregó. «La sociedad, creo, tiene una cantidad limitada de tiempo para descubrir cómo reaccionar ante eso, cómo regularlo, cómo manejarlo».

«Lo que más trato de advertir a la gente es lo que llamamos el ‘problema de las alucinaciones'», dijo Altman. «El modelo declarará con confianza las cosas como si fueran hechos completamente inventados».

«La forma correcta de pensar en los modelos que creamos es un motor de razonamiento, no una base de datos de hechos», dijo Altman. «También pueden actuar como una base de datos de hechos, pero eso no es realmente lo especial de ellos, lo que queremos que hagan es algo más cercano a la capacidad de razonar, no de memorizar».

«Una cosa que sí me preocupa es … no vamos a ser el único creador de esta tecnología», dijo Altman. «Habrá otras personas que no pongan algunos de los límites de seguridad que le imponemos».

Entre las preocupaciones de las capacidades destructivas de esta tecnología está la sustitución de puestos de trabajo. Altman dice que esto probablemente reemplazará algunos trabajos en el futuro cercano, y le preocupa lo rápido que podría suceder.

«Creo que durante un par de generaciones, la humanidad ha demostrado que puede adaptarse maravillosamente a los principales cambios tecnológicos», dijo Altman. «Pero si esto sucede en un número de años de un solo dígito, algunos de estos cambios … Esa es la parte que más me preocupa».

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
OpenAI crea Codex, la herramienta que podría dejar sin trabajo a los programadores
Programador

Lo que sigue desarrollando OpenAI bajo la mirada de Sam Altman de verdad que no se puede creer, porque cada vez saca un as nuevo bajo la manga. La compañía detrás de ChatGPT anunció el viernes que lanzará una vista previa de la investigación de Codex, el agente de codificación de IA más capaz de la compañía hasta el momento.

Codex funciona con codex-1, una versión del modelo de razonamiento de IA o3 de la compañía optimizada para tareas de ingeniería de software. OpenAI dice que el codex-1 produce un código "más limpio" que el o3, se adhiere con mayor precisión a las instrucciones y ejecutará pruebas iterativas en su código hasta que se logren resultados sobresalientes.

Leer más
Ella es la nueva mujer fuerte de OpenAI
Fidji Simo

OpenAI vuelve a tener una mujer fuerte a bordo, luego de la salida de la CFO, Mira Murati, ahora Sam Altman acaba de anunciar la llegada de Fidji Simo, la ex CEO de Instacart como jefa de aplicaciones.

El mismo Altman compartió la noticia el sitio de OpenAI:

Leer más
Sam Altman critica a su ChatGPT: su personalidad es molesta y sus últimos modelos alucinan mucho
Sam Altman

El CEO de OpenAI, Sam Altman, admitió anoche que las últimas actualizaciones de GPT-4o han afectado a la personalidad del chatbot, y no en el buen sentido.

Si utilizas ChatGPT con la suficiente frecuencia, es posible que hayas notado un cambio en su comportamiento últimamente. Parte de esto puede deberse a su memoria, ya que en mi experiencia, el chatbot se dirige a ti de manera diferente cuando no se basa en chats anteriores para guiar la forma en que (potencialmente) querrías que respondiera. Sin embargo, parte de esto es solo que en algún momento del camino, OpenAI ha convertido a ChatGPT en el llamado "hombre del sí", una herramienta que está de acuerdo contigo en lugar de desafiarte y, a veces, el resultado puede ser un poco desagradable.

Leer más