Skip to main content

DT en Español podría recibir una comisión si compras un producto desde el sitio

CEO de OpenAI: es bueno que tengamos miedo de la IA

Consciente de los peligros y fascinaciones de su invento, el CEO de OpenAI, Sam Altman, dio una entrevista a ABC News, para referirse a la IA y la reciente incorporación de GPT-4.

En la oportunidad, Altman cree que están detrás de algo a lo que debemos temer, a pesar de todos sus beneficios.

Él cree que viene con peligros reales, pero también puede ser «la mayor tecnología que la humanidad ha desarrollado hasta ahora» para mejorar drásticamente nuestras vidas.

«Tenemos que tener cuidado aquí», dijo Sam Altman, CEO de OpenAI. «Creo que la gente debería estar feliz de que tengamos un poco de miedo de esto».

En su entrevista, Altman fue enfático en que OpenAI necesita que tanto los reguladores como la sociedad se involucren lo más posible con el lanzamiento de ChatGPT, insistiendo en que la retroalimentación ayudará a disuadir las posibles consecuencias negativas que la tecnología podría tener en la humanidad. Agregó que está en «contacto regular» con funcionarios del gobierno.

Imagen utilizada con permiso del titular de los derechos de autor

«Estoy particularmente preocupado de que estos modelos puedan usarse para la desinformación a gran escala», dijo Altman. «Ahora que están mejorando en la escritura de código informático, [ellos] podrían ser utilizados para ataques cibernéticos ofensivos».

Un miedo común de ciencia ficción que Altman no comparte: modelos de IA que no necesitan humanos, que toman sus propias decisiones y planean la dominación mundial.

«Espera a que alguien le dé una opinión», dijo Altman. «Esta es una herramienta que está muy bajo control humano».

Sin embargo, dijo que teme qué humanos podrían tener el control. «Habrá otras personas que no pongan algunos de los límites de seguridad que nosotros imponemos», agregó. «La sociedad, creo, tiene una cantidad limitada de tiempo para descubrir cómo reaccionar ante eso, cómo regularlo, cómo manejarlo».

«Lo que más trato de advertir a la gente es lo que llamamos el ‘problema de las alucinaciones'», dijo Altman. «El modelo declarará con confianza las cosas como si fueran hechos completamente inventados».

«La forma correcta de pensar en los modelos que creamos es un motor de razonamiento, no una base de datos de hechos», dijo Altman. «También pueden actuar como una base de datos de hechos, pero eso no es realmente lo especial de ellos, lo que queremos que hagan es algo más cercano a la capacidad de razonar, no de memorizar».

«Una cosa que sí me preocupa es … no vamos a ser el único creador de esta tecnología», dijo Altman. «Habrá otras personas que no pongan algunos de los límites de seguridad que le imponemos».

Entre las preocupaciones de las capacidades destructivas de esta tecnología está la sustitución de puestos de trabajo. Altman dice que esto probablemente reemplazará algunos trabajos en el futuro cercano, y le preocupa lo rápido que podría suceder.

«Creo que durante un par de generaciones, la humanidad ha demostrado que puede adaptarse maravillosamente a los principales cambios tecnológicos», dijo Altman. «Pero si esto sucede en un número de años de un solo dígito, algunos de estos cambios … Esa es la parte que más me preocupa».

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Esta es la palabra 2023 del diccionario Cambridge y tiene que ver con IA
palabra 2023 diccionario cambridge del

Es una tradición que a fin de año, el diccionario Cambridge entrega su palabra del año, que de alguna manera resume con una palabra todo lo que han sido estos vertiginosos 365 días.

Y la palabra del año 2023 ya tiene rey: se trata de "alucinar". Y tal como explica la gente de Cambridge, su elección está muy en línea con el aumento de la IA y cómo el uso de ésta nos permite generar textos, imágenes o videos que muchas veces inventan mundos y sensaciones alucinantes.

Leer más
Dream Track: la herramienta IA de Youtube que clona a tu artista
Youtube ahora clona tu artista
dream track ia youtube clona artistas t pain

Si bien hace unos días escribimos que Youtube está estrenando herramientas para ayudar a los sellos discográficos a detener la clonación por IA de artistas famosos, en paralelo está trayendo a los usuarios la funcionalidad Dream Track, una IA generativa que permitirá a las personas crear pistas de música usando solo un mensaje de texto o una simple melodía tarareada.

Está diseñado para generar automáticamente pistas musicales cortas de 30 segundos al estilo de artistas famosos. La función puede imitar a nueve artistas diferentes, que han elegido colaborar con YouTube en su desarrollo. YouTube también está mostrando nuevas herramientas que pueden generar pistas de música a partir de un zumbido.

Leer más
¿Por qué Bad Bunny está indignado y tilda de mierda a la IA?
bad bunny indignado ia cancion nostalgia

La batalla cultural del mundo de la música y de la IA recién comienza. Hace pocos días The Beatles sacaron una canción llamada Now and Then donde de algún modo reviven a John Lennon utilizando IA y ya ha habido casos de canciones donde utilizan voces creadas por IA generativa para dar un segundo aire a músicos también fallecidos como Kurt Cobain o Freddy Mercury. Lo cierto es que esto no parece gustarle al artista puertorriqueño Bad Bunny.

Por estos días anda dando vuelta en TikTok y en Spotify con millones de reproducciones, la canción NostalgIA, un track hecho con IA con una voz artificial de Bad Bunny.

Leer más