Skip to main content

Creador de ChatGPT quiere eliminar ‘alucinaciones’ del chatbot

A pesar de toda la emoción en torno a ChatGPT y chatbots similares impulsados por IA, las herramientas basadas en texto todavía tienen algunos problemas graves que deben resolverse.

Entre ellos está su tendencia a inventar cosas y presentarlas como un hecho cuando no sabe la respuesta a una pregunta, un fenómeno que se conoce como «alucinante». Como puede imaginar, presentar falsedades como hechos a alguien que usa uno de la nueva ola de poderosos chatbots podría tener graves consecuencias.

Primer plano del logotipo de ChatGPT y OpenAI.

Tal problema se destacó en un incidente reciente en el que un abogado experimentado de la ciudad de Nueva York citó casos, sugeridos por ChatGPT, que resultaron nunca haber sucedido. El abogado puede enfrentar sanciones como resultado de su acción.

Otro incidente recibió una amplia atención en abril cuando ChatGPT aparentemente reescribió la historia al decir que un alcalde australiano había sido encarcelado por soborno mientras trabajaba para un banco cuando en realidad había sido un denunciante en el caso.

Para hacer que su tecnología de chatbot sea más confiable, los ingenieros de OpenAI han revelado que actualmente se están enfocando en mejorar su software para reducir y, con suerte, eliminar estas ocurrencias problemáticas.

En un trabajo de investigación publicado el miércoles y recogido por CNBC, OpenAI dijo que los chatbots «exhiben una tendencia a inventar hechos en momentos de incertidumbre», y agregó: «Estas alucinaciones son particularmente problemáticas en dominios que requieren un razonamiento de varios pasos, ya que un solo error lógico es suficiente para descarrilar una solución mucho más grande».

Para abordar los errores del chatbot, los ingenieros de OpenAI están trabajando en formas para que sus modelos de IA se recompensen a sí mismos por generar datos correctos cuando se mueven hacia una respuesta, en lugar de recompensarse solo en el punto de conclusión. El sistema podría conducir a mejores resultados, ya que incorpora más de un procedimiento de cadena de pensamiento similar al humano, según los ingenieros.

Pero algunos expertos expresaron dudas sobre el trabajo, diciéndole a CNBC que es de poca utilidad hasta que se incorpore a ChatGPT, que mientras tanto seguirá alucinando. OpenAI no ha dicho si y cuándo podría incorporar su trabajo en sus herramientas generativas de IA.

Si bien es bueno saber que OpenAI está trabajando para resolver el problema, podría pasar un tiempo antes de que veamos mejoras. Mientras tanto, como dice OpenAI, ChatGPT puede generar ocasionalmente información incorrecta, así que asegúrese de confirmar sus respuestas si son parte de alguna tarea importante.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Bing Chat: cómo usar la versión ChatGPT de Microsoft
Bing Chat: cómo usar la versión ChatGPT de Microsoft.

Bing Chat es la respuesta de Microsoft a ChatGPT; de hecho, se basa en la misma tecnología que hace funcionar el chatbot de OpenAI. Pero Microsoft tiene un enfoque muy diferente, ya que  integra la IA generativa directamente en su navegador web Edge y en su motor de búsqueda Bing. Incluso llegará a todo el conjunto de aplicaciones de Office en el futuro. Aquí se explica cómo registrarse y utilizar Bing Chat hoy.
Cómo obtener Bing Chat

Bing Chat se lanzó originalmente solo como una lista de espera, pero ahora está ampliamente disponible en bing.com/new y requiere descargar la nueva versión de Microsoft Edge. Simplemente haz clic en “Descargar Microsoft Edge”, el que luego te pedirá que elijas la plataforma en la que te encuentras. Esto instalará el nuevo navegador, como con cualquier otra aplicación.

Leer más
Estas son las mejores herramientas de inteligencia artificial generativa
mejores herramientas ia generativa

Seguro lo has leído en algún tuit, bueno, en algún mensaje de tu timeline de X: hay un montón de herramientas de inteligencia artificial que podrían ayudarte con tu trabajo. Y lo cierto es que, si te dedicas a alguna industria creativa, al menos pruébala y mira si puede beneficiarte de alguna forma. Después de todo, los datos son claros: según Statista, el uso de herramientas de inteligencia artificial mejora en 40% la eficiencia en la creación de contenido y mejora en 75% el flujo de procesos creativos. Insistimos, pruébalo, y para eso, aquí te decimos cuáles son las mejores herramientas de inteligencia artificial generativa.
Pero antes, ¿qué es la inteligencia artificial generativa?

La inteligencia artificial generativa es una rama de la inteligencia artificial que se enfoca en enseñar a una computadora a producir contenido creativo original.

Leer más
¿Cuál es el artículo más visto de Wikipedia en 2023?
Wikipedia en español

Wikipedia, la enciclopedia
¿Qué buscaste en Wikipedia este año?

Es posible que no te sorprenda saber que, según el resumen anual del sitio de sus páginas más vistas, la parte superior de la lista es su artículo sobre ChatGPT, con 49,5 millones de páginas vistas. A menos que hayas estado viviendo en una cueva durante el último año, sabrás que ChatGPT es el chatbot impulsado por IA que tomó al mundo por asalto tras su lanzamiento por OpenAI en noviembre del año pasado.

Leer más