Skip to main content

Creador de ChatGPT quiere eliminar ‘alucinaciones’ del chatbot

A pesar de toda la emoción en torno a ChatGPT y chatbots similares impulsados por IA, las herramientas basadas en texto todavía tienen algunos problemas graves que deben resolverse.

Entre ellos está su tendencia a inventar cosas y presentarlas como un hecho cuando no sabe la respuesta a una pregunta, un fenómeno que se conoce como «alucinante». Como puede imaginar, presentar falsedades como hechos a alguien que usa uno de la nueva ola de poderosos chatbots podría tener graves consecuencias.

Primer plano del logotipo de ChatGPT y OpenAI.

Tal problema se destacó en un incidente reciente en el que un abogado experimentado de la ciudad de Nueva York citó casos, sugeridos por ChatGPT, que resultaron nunca haber sucedido. El abogado puede enfrentar sanciones como resultado de su acción.

Otro incidente recibió una amplia atención en abril cuando ChatGPT aparentemente reescribió la historia al decir que un alcalde australiano había sido encarcelado por soborno mientras trabajaba para un banco cuando en realidad había sido un denunciante en el caso.

Para hacer que su tecnología de chatbot sea más confiable, los ingenieros de OpenAI han revelado que actualmente se están enfocando en mejorar su software para reducir y, con suerte, eliminar estas ocurrencias problemáticas.

En un trabajo de investigación publicado el miércoles y recogido por CNBC, OpenAI dijo que los chatbots «exhiben una tendencia a inventar hechos en momentos de incertidumbre», y agregó: «Estas alucinaciones son particularmente problemáticas en dominios que requieren un razonamiento de varios pasos, ya que un solo error lógico es suficiente para descarrilar una solución mucho más grande».

Para abordar los errores del chatbot, los ingenieros de OpenAI están trabajando en formas para que sus modelos de IA se recompensen a sí mismos por generar datos correctos cuando se mueven hacia una respuesta, en lugar de recompensarse solo en el punto de conclusión. El sistema podría conducir a mejores resultados, ya que incorpora más de un procedimiento de cadena de pensamiento similar al humano, según los ingenieros.

Pero algunos expertos expresaron dudas sobre el trabajo, diciéndole a CNBC que es de poca utilidad hasta que se incorpore a ChatGPT, que mientras tanto seguirá alucinando. OpenAI no ha dicho si y cuándo podría incorporar su trabajo en sus herramientas generativas de IA.

Si bien es bueno saber que OpenAI está trabajando para resolver el problema, podría pasar un tiempo antes de que veamos mejoras. Mientras tanto, como dice OpenAI, ChatGPT puede generar ocasionalmente información incorrecta, así que asegúrese de confirmar sus respuestas si son parte de alguna tarea importante.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
8 chatbots de IA que deberías usar en lugar de ChatGPT
La imagen muestra una representación de un chatbot.

Microsoft
Cuando ChatGPT se lanzó a finales de 2022, fue una novedad. Sin embargo, no pasó mucho tiempo para que llegara la competencia.

Al principio, no había muchas alternativas de ChatGPT disponibles que no fueran internas, opciones basadas en la investigación o proyectos de código abierto en GitHub que requirieran algún tipo de conocimiento de codificación para configurarse y operar. Pero desde entonces, varias empresas han desarrollado productos de consumo con niveles gratuitos y de pago y una gran cantidad de opciones empresariales y para desarrolladores. Así que, si no estás satisfecho con ChatGPT por cualquier motivo, estas son las otras ocho opciones que puedes probar.
Copilot de Microsoft
Jon Martindale / DigitalTrends
Microsoft Copilot ha recorrido un largo camino desde que se lanzó su primera iteración de chatbot a principios de 2023. Fue uno de los primeros competidores comerciales de ChatGPT cuando la marca introdujo Bing AI Chat como una integración en su motor de búsqueda Bing y su navegador Edge. Desde entonces, la compañía ha cambiado el nombre de su chatbot a Microsoft Copilot en su navegador y también ha integrado su funcionalidad en varios servicios, incluida la suite de productividad Microsoft 365, Microsoft Designer y el sistema operativo Windows, entre otros. Microsoft también ofrece una opción de pago de Copilot Pro para usuarios avanzados.

Leer más
El curso gratis que ofrece OpenAI que te podría hacer ganar mucha plata
openai curso gratis inteligencia artificial

"ChatGPT Prompt Engineering for Developers"  es el nombre del curso que acaba de abrir OpenAI y viene a significar 'Prompt engineering / ingeniería de instrucciones de ChatGPT para desarrolladores'. Se trata de un plan de estudios gratis y lo ha hecho uniéndose a DeepLearning.AI, la compañía de Andrew Ng, también cofundador de la plataforma de cursos Coursera y antiguo máximo responsable de Google Brain y del departamento de IA de Baidu.

Este curso de 1,5 horas tiene como objetivo dotar a los desarrolladores de software con las habilidades necesarias para integrar los grandes modelos de lenguajes (LLMs, como GPT-3.5 y GPT-4) en la creación de aplicaciones.

Leer más
Tiembla Google: ChatGPT ad portas de sacar su propio buscador web
ChatGPT buscador

Los peores temores de Google se están haciendo realidad, ya que ChatGPT podría estrenar el próximo 9 de mayo su buscador web para competir con los de Mountain View.

Se dice que el nuevo sitio web de búsqueda de OpenAI, search.chatgpt.com, se pondrá en marcha el 9 de mayo.

Leer más