Skip to main content

DT en Español podría recibir una comisión si compras un producto desde el sitio

CEO de OpenAI: es bueno que tengamos miedo de la IA

Consciente de los peligros y fascinaciones de su invento, el CEO de OpenAI, Sam Altman, dio una entrevista a ABC News, para referirse a la IA y la reciente incorporación de GPT-4.

En la oportunidad, Altman cree que están detrás de algo a lo que debemos temer, a pesar de todos sus beneficios.

Recommended Videos

Él cree que viene con peligros reales, pero también puede ser «la mayor tecnología que la humanidad ha desarrollado hasta ahora» para mejorar drásticamente nuestras vidas.

«Tenemos que tener cuidado aquí», dijo Sam Altman, CEO de OpenAI. «Creo que la gente debería estar feliz de que tengamos un poco de miedo de esto».

En su entrevista, Altman fue enfático en que OpenAI necesita que tanto los reguladores como la sociedad se involucren lo más posible con el lanzamiento de ChatGPT, insistiendo en que la retroalimentación ayudará a disuadir las posibles consecuencias negativas que la tecnología podría tener en la humanidad. Agregó que está en «contacto regular» con funcionarios del gobierno.

Imagen utilizada con permiso del titular de los derechos de autor

«Estoy particularmente preocupado de que estos modelos puedan usarse para la desinformación a gran escala», dijo Altman. «Ahora que están mejorando en la escritura de código informático, [ellos] podrían ser utilizados para ataques cibernéticos ofensivos».

Un miedo común de ciencia ficción que Altman no comparte: modelos de IA que no necesitan humanos, que toman sus propias decisiones y planean la dominación mundial.

«Espera a que alguien le dé una opinión», dijo Altman. «Esta es una herramienta que está muy bajo control humano».

Sin embargo, dijo que teme qué humanos podrían tener el control. «Habrá otras personas que no pongan algunos de los límites de seguridad que nosotros imponemos», agregó. «La sociedad, creo, tiene una cantidad limitada de tiempo para descubrir cómo reaccionar ante eso, cómo regularlo, cómo manejarlo».

«Lo que más trato de advertir a la gente es lo que llamamos el ‘problema de las alucinaciones'», dijo Altman. «El modelo declarará con confianza las cosas como si fueran hechos completamente inventados».

«La forma correcta de pensar en los modelos que creamos es un motor de razonamiento, no una base de datos de hechos», dijo Altman. «También pueden actuar como una base de datos de hechos, pero eso no es realmente lo especial de ellos, lo que queremos que hagan es algo más cercano a la capacidad de razonar, no de memorizar».

«Una cosa que sí me preocupa es … no vamos a ser el único creador de esta tecnología», dijo Altman. «Habrá otras personas que no pongan algunos de los límites de seguridad que le imponemos».

Entre las preocupaciones de las capacidades destructivas de esta tecnología está la sustitución de puestos de trabajo. Altman dice que esto probablemente reemplazará algunos trabajos en el futuro cercano, y le preocupa lo rápido que podría suceder.

«Creo que durante un par de generaciones, la humanidad ha demostrado que puede adaptarse maravillosamente a los principales cambios tecnológicos», dijo Altman. «Pero si esto sucede en un número de años de un solo dígito, algunos de estos cambios … Esa es la parte que más me preocupa».

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
OpenAI planea hacer que Deep Research sea gratuito en ChatGPT
OpenAI

OpenAI tiene planes de poner pronto su función Deep Research a disposición de los usuarios de ChatGPT de nivel gratuito.

La función ha estado disponible desde principios de febrero para los suscriptores de Plus, Pro, Enterprise y Edu; sin embargo, la compañía de IA planea expandir la disponibilidad más allá de sus usuarios pagos. Deep Research va más allá de los resultados de las consultas estándar de los modelos de IA más tradicionales de la marca. El agente de IA tiene la capacidad de realizar tareas de investigación extendidas cuando se le ordena sin la ayuda de un humano. La función puede proporcionar un informe detallado sobre el tema de su elección que puede tardar entre cinco y 30 minutos en compilarse.

Leer más
OpenAI está listo para destruir de manera «abierta» a DeepSeek y Llama de Meta
OpenAI cambio de marca

OpenAI está configurada para ser la próxima marca de IA de código abierto, ya que el CEO Sam Altman confirmó en X el lunes que la compañía pronto lanzará un modelo de "peso abierto" que los usuarios podrán ejecutar de forma independiente.

"Estamos entusiasmados de lanzar un nuevo y poderoso modelo de lenguaje abierto con razonamiento en los próximos meses", dijo Altman en una publicación en X.

Leer más
OpenAI detiene la generación gratuita de imágenes GPT-4o tras la tendencia viral de Studio Ghibli
Studio Ghibli ChatGPT

Después de solo un día, OpenAI ha puesto fin a la versión gratuita de su generador de imágenes en la aplicación, impulsado por el modelo de razonamiento GPT-4o. La actualización tiene como objetivo mejorar el realismo de las imágenes y el texto en el contexto generado por la IA; sin embargo, los usuarios ya han creado una tendencia descontrolada que ha hecho que la empresa de IA se replantee su estrategia de lanzamiento.
Poco después de que la actualización estuviera disponible en ChatGPT, los usuarios comenzaron a compartir imágenes que habían creado en las plataformas de redes sociales al estilo de Studio Ghibli, el popular estudio de animación japonés. Las creaciones iban desde fotos familiares personales basadas en Studio Ghibli hasta escenas icónicas de los Juegos Olímpicos de París 2024, escenas de películas como "El Padrino" y "Star Wars", y memes de Internet como un novio distraído y una chica desastre.

IA abierta

Leer más