Skip to main content

Directora de tecnología de OpenAI: ChatGPT debe ser regulado

Mira Murati es la CTO (directora de tecnología) de OpenAI y en una extensa entrevista con AP, reconoció que ChatGPT y GPT-4 deben ser regulados por entidades gubernamentales, a la vez que se sorprendió por la acogida emocional que ha tenido la irrupción de su creación.

» Estos sistemas deben ser regulados. En OpenAI, estamos constantemente hablando con gobiernos y reguladores y otras organizaciones que están desarrollando estos sistemas para, al menos a nivel de empresa, acordar algún nivel de estándares. Hemos trabajado en eso en los últimos años con grandes desarrolladores de modelos de lenguaje para alinearnos con algunos estándares de seguridad básicos para la implementación de estos modelos. Pero creo que tiene que pasar mucho más. Los reguladores gubernamentales ciertamente deberían estar muy involucrados», comenzó admitiendo Murati.

Desde ese mismo punto de vista, la CTO de OpenAI se refirió a la carta que pedía pausar ChatGPT.

«Algunos de los riesgos que señala la carta son completamente válidos. En OpenAI, hemos estado hablando de ellos muy abiertamente durante años y estudiándolos también. No creo que firmar una carta sea una forma efectiva de construir mecanismos de seguridad o coordinar a los jugadores en el espacio. Algunas de las declaraciones en la carta eran simplemente falsas sobre el desarrollo de GPT-4 o GPT-5. No estamos entrenando GPT-5. No tenemos planes de hacerlo en los próximos seis meses. Y no nos apresuramos a sacar GPT-4. De hecho, tardamos seis meses en centrarnos por completo en el desarrollo y despliegue seguros de GPT-4».

Por otro lado, Murati comentó cómo se realizó el entrenamiento de esta nueva tecnología:

«Desde el punto de vista de la investigación, estamos tratando de construir sistemas que tengan una comprensión sólida del mundo de manera similar a cómo lo hacemos como humanos. Los sistemas como GPT-3 inicialmente se entrenaron solo con datos de texto, pero nuestro mundo no solo está hecho de texto, por lo que también tenemos imágenes y luego comenzamos a introducir otras modalidades. El otro ángulo ha sido escalar estos sistemas para aumentar su generalidad. Con GPT-4, estamos tratando con un sistema mucho más capaz, específicamente desde el ángulo del razonamiento sobre las cosas. Esta capacidad es clave. Si el modelo es lo suficientemente inteligente como para entender una dirección ambigua o una dirección de alto nivel, entonces puede descubrir cómo hacer que siga esta dirección. Pero si ni siquiera entiende ese objetivo de alto nivel o dirección de alto nivel, es mucho más difícil alinearlo. No es suficiente construir esta tecnología en el vacío en un laboratorio. Realmente necesitamos este contacto con la realidad, con el mundo real, para ver dónde están las debilidades, dónde están los puntos de ruptura, y tratar de hacerlo de una manera controlada y de bajo riesgo y obtener la mayor cantidad de retroalimentación posible».

«En el entrenamiento del modelo, con ChatGPT en particular, hicimos aprendizaje de refuerzo con retroalimentación humana para ayudar al modelo a alinearse más con las preferencias humanas. Básicamente, lo que estamos tratando de hacer es amplificar lo que se considera un buen comportamiento y luego desamplificar lo que se considera un mal comportamiento».

Finalmente, Murati sostuvo que nunca pensaron las reacciones que provocaría la llegada de ChatGPT:

«No anticipamos el grado en que las personas estarían tan cautivadas al hablar con un sistema de IA. Fue solo una vista previa de la investigación. El número de usuarios y tal, no anticipamos ese nivel de emoción».

Recomendaciones del editor

Topics
Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Meta emite una advertencia sobre estafas relacionadas con ChatGPT
meta advierte estafas chatgpt jefferson santos 9socnyqmkzi unsplash

Tan seguro como la noche sigue al día, los estafadores se han interesado rápidamente en ChatGPT, el chatbot avanzado impulsado por IA de OpenAI respaldado por Microsoft que irrumpió en escena en noviembre.

En un nuevo informe de seguridad publicado por Meta el miércoles, la compañía anteriormente conocida como Facebook dijo que solo desde marzo, sus analistas de seguridad han descubierto alrededor de 10 tipos de malware que se hacen pasar por ChatGPT y herramientas similares basadas en IA que tienen como objetivo comprometer las cuentas en línea, especialmente las de las empresas.

Leer más
Cómo tomar el curso gratis de OpenAI sobre desarrollo en IA
openai curso gratis inteligencia artificial

"ChatGPT Prompt Engineering for Developers"  es el nombre del curso que acaba de abrir OpenAI y viene a significar 'Prompt engineering / ingeniería de instrucciones de ChatGPT para desarrolladores'. Se trata de un plan de estudios gratis y lo ha hecho uniéndose a DeepLearning.AI, la compañía de Andrew Ng, también cofundador de la plataforma de cursos Coursera y antiguo máximo responsable de Google Brain y del departamento de IA de Baidu.

Este curso de 1,5 horas tiene como objetivo dotar a los desarrolladores de software con las habilidades necesarias para integrar los grandes modelos de lenguajes (LLMs, como GPT-3.5 y GPT-4) en la creación de aplicaciones.

Leer más
OpenAI quiere demandar a estudiantes que hicieron GPT-4 de código abierto
openai demandar estudiantes gpt 4 codigo abierto shantanu kumar xvdknbaja90 unsplash

No hay nada como el grupo de investigación sin fines de lucro convertido en la compañía con fines de lucro OpenAI persiguiendo a un estudiante de ciencias de la computación por un proyecto GPT-4 de código abierto. Suena ridículo, pero es cierto. Los creadores de ChatGPT están amenazando con una demanda contra el estudiante Xtekky si no elimina su repositorio GitHub GPT4free.

Según lo informado por Tom's Hardware, GPT4free es un proyecto de código abierto de un estudiante europeo de informática. El estudiante se identifica como Xtekky, y su herramienta hace ping a varios sitios web que usan GPT-4. Puede clonar el repositorio, configurar el chatbot localmente en su PC e interactuar con GPT-4 sin pagar por el servicio ChatGPT Plus de OpenAI.
Foto por Alan Truly
Lo importante de este enfoque es que no utiliza directamente la interfaz de programación de aplicaciones (API) GPT-4 de OpenAI. OpenAI cobra tarifas a los servicios que usan su API, y GPT4free simplemente se comunica con esos servicios para recibir respuestas.

Leer más