Skip to main content

Directora de tecnología de OpenAI: ChatGPT debe ser regulado

Mira Murati es la CTO (directora de tecnología) de OpenAI y en una extensa entrevista con AP, reconoció que ChatGPT y GPT-4 deben ser regulados por entidades gubernamentales, a la vez que se sorprendió por la acogida emocional que ha tenido la irrupción de su creación.

» Estos sistemas deben ser regulados. En OpenAI, estamos constantemente hablando con gobiernos y reguladores y otras organizaciones que están desarrollando estos sistemas para, al menos a nivel de empresa, acordar algún nivel de estándares. Hemos trabajado en eso en los últimos años con grandes desarrolladores de modelos de lenguaje para alinearnos con algunos estándares de seguridad básicos para la implementación de estos modelos. Pero creo que tiene que pasar mucho más. Los reguladores gubernamentales ciertamente deberían estar muy involucrados», comenzó admitiendo Murati.

Desde ese mismo punto de vista, la CTO de OpenAI se refirió a la carta que pedía pausar ChatGPT.

«Algunos de los riesgos que señala la carta son completamente válidos. En OpenAI, hemos estado hablando de ellos muy abiertamente durante años y estudiándolos también. No creo que firmar una carta sea una forma efectiva de construir mecanismos de seguridad o coordinar a los jugadores en el espacio. Algunas de las declaraciones en la carta eran simplemente falsas sobre el desarrollo de GPT-4 o GPT-5. No estamos entrenando GPT-5. No tenemos planes de hacerlo en los próximos seis meses. Y no nos apresuramos a sacar GPT-4. De hecho, tardamos seis meses en centrarnos por completo en el desarrollo y despliegue seguros de GPT-4».

Imagen utilizada con permiso del titular de los derechos de autor

Por otro lado, Murati comentó cómo se realizó el entrenamiento de esta nueva tecnología:

«Desde el punto de vista de la investigación, estamos tratando de construir sistemas que tengan una comprensión sólida del mundo de manera similar a cómo lo hacemos como humanos. Los sistemas como GPT-3 inicialmente se entrenaron solo con datos de texto, pero nuestro mundo no solo está hecho de texto, por lo que también tenemos imágenes y luego comenzamos a introducir otras modalidades. El otro ángulo ha sido escalar estos sistemas para aumentar su generalidad. Con GPT-4, estamos tratando con un sistema mucho más capaz, específicamente desde el ángulo del razonamiento sobre las cosas. Esta capacidad es clave. Si el modelo es lo suficientemente inteligente como para entender una dirección ambigua o una dirección de alto nivel, entonces puede descubrir cómo hacer que siga esta dirección. Pero si ni siquiera entiende ese objetivo de alto nivel o dirección de alto nivel, es mucho más difícil alinearlo. No es suficiente construir esta tecnología en el vacío en un laboratorio. Realmente necesitamos este contacto con la realidad, con el mundo real, para ver dónde están las debilidades, dónde están los puntos de ruptura, y tratar de hacerlo de una manera controlada y de bajo riesgo y obtener la mayor cantidad de retroalimentación posible».

«En el entrenamiento del modelo, con ChatGPT en particular, hicimos aprendizaje de refuerzo con retroalimentación humana para ayudar al modelo a alinearse más con las preferencias humanas. Básicamente, lo que estamos tratando de hacer es amplificar lo que se considera un buen comportamiento y luego desamplificar lo que se considera un mal comportamiento».

Finalmente, Murati sostuvo que nunca pensaron las reacciones que provocaría la llegada de ChatGPT:

«No anticipamos el grado en que las personas estarían tan cautivadas al hablar con un sistema de IA. Fue solo una vista previa de la investigación. El número de usuarios y tal, no anticipamos ese nivel de emoción».

Recomendaciones del editor

Topics
Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Se acabó la luna de miel: el tráfico de ChatGPT baja por tercer mes consecutivo
trafico de chatgpt baja por tercer mes consecutivo rolf van root lyi1t85lry8 unsplash

En concordancia con las leyes físicas de Newton, todo lo que sube tiene que bajar y la gravedad está haciendo de las suyas con ChatGPT, que después de un explosivo crecimiento en los primeros meses de 2023, empezó su caída en tráfico,  según la firma de análisis Similarweb.

Las visitas mundiales de sitios web de escritorio y móviles al sitio web de ChatGPT disminuyeron un 3,2% a 1.43 millones en agosto, luego de caídas de aproximadamente el 10% con respecto a cada uno de los dos meses anteriores. La cantidad de tiempo que los visitantes pasaron en el sitio web también ha disminuido mensualmente desde marzo, de un promedio de 8.7 minutos en el sitio a 7 minutos en el sitio en agosto.

Leer más
Zoom agrega ChatGPT para ayudarlo con las llamadas perdidas
Cómo usar Zoom: guía rápida para principiantes.

La aplicación de videollamadas Zoom acaba de agregar su propio asistente "AI Companion" que integra inteligencia artificial (IA) y modelos de lenguaje grande (LLM) del fabricante de ChatGPT OpenAI y el propietario de Facebook Meta. La herramienta está diseñada para ayudarlo a ponerse al día con las reuniones que se perdió y diseñar respuestas rápidas a los mensajes de chat.

El desarrollador de Zoom dice que AI Companion "empodera a las personas ayudándolas a ser más productivas, conectarse y colaborar con sus compañeros de equipo y mejorar sus habilidades".
Zoom
Por ejemplo, la publicación del blog de Zoom explica que si llega tarde a una reunión, su AI Companion puede resumir lo que sucedió mientras estaba ausente. También puede sugerir puntos de acción y resaltar temas de discusión después de una reunión, así como dividir las grabaciones en la nube en capítulos más digeribles.

Leer más
ChatGPT está violando su privacidad dice la GDPR
ChatGPT

Desde que las primeras herramientas generativas de inteligencia artificial (IA) explotaron en la escena tecnológica, ha habido preguntas sobre dónde obtienen sus datos y si están recolectando sus datos privados para entrenar sus productos. Ahora, el fabricante de ChatGPT, OpenAI, podría estar en problemas exactamente por estas razones.

Según TechCrunch, se ha presentado una queja ante la Oficina Polaca de Protección de Datos Personales alegando que ChatGPT viola una gran cantidad de reglas que se encuentran en el Reglamento General de Protección de Datos (GDPR) de la Unión Europea. Sugiere que la herramienta de OpenAI ha estado recogiendo datos de usuarios en todo tipo de formas cuestionables.
Joe Maring / DT
La queja dice que OpenAI ha violado las reglas del GDPR sobre bases legales, transparencia, equidad, derechos de acceso a datos y privacidad por diseño.

Leer más