Skip to main content

Creador de ChatGPT quiere eliminar ‘alucinaciones’ del chatbot

A pesar de toda la emoción en torno a ChatGPT y chatbots similares impulsados por IA, las herramientas basadas en texto todavía tienen algunos problemas graves que deben resolverse.

Entre ellos está su tendencia a inventar cosas y presentarlas como un hecho cuando no sabe la respuesta a una pregunta, un fenómeno que se conoce como «alucinante». Como puede imaginar, presentar falsedades como hechos a alguien que usa uno de la nueva ola de poderosos chatbots podría tener graves consecuencias.

Primer plano del logotipo de ChatGPT y OpenAI.

Tal problema se destacó en un incidente reciente en el que un abogado experimentado de la ciudad de Nueva York citó casos, sugeridos por ChatGPT, que resultaron nunca haber sucedido. El abogado puede enfrentar sanciones como resultado de su acción.

Recommended Videos

Otro incidente recibió una amplia atención en abril cuando ChatGPT aparentemente reescribió la historia al decir que un alcalde australiano había sido encarcelado por soborno mientras trabajaba para un banco cuando en realidad había sido un denunciante en el caso.

Para hacer que su tecnología de chatbot sea más confiable, los ingenieros de OpenAI han revelado que actualmente se están enfocando en mejorar su software para reducir y, con suerte, eliminar estas ocurrencias problemáticas.

En un trabajo de investigación publicado el miércoles y recogido por CNBC, OpenAI dijo que los chatbots «exhiben una tendencia a inventar hechos en momentos de incertidumbre», y agregó: «Estas alucinaciones son particularmente problemáticas en dominios que requieren un razonamiento de varios pasos, ya que un solo error lógico es suficiente para descarrilar una solución mucho más grande».

Para abordar los errores del chatbot, los ingenieros de OpenAI están trabajando en formas para que sus modelos de IA se recompensen a sí mismos por generar datos correctos cuando se mueven hacia una respuesta, en lugar de recompensarse solo en el punto de conclusión. El sistema podría conducir a mejores resultados, ya que incorpora más de un procedimiento de cadena de pensamiento similar al humano, según los ingenieros.

Pero algunos expertos expresaron dudas sobre el trabajo, diciéndole a CNBC que es de poca utilidad hasta que se incorpore a ChatGPT, que mientras tanto seguirá alucinando. OpenAI no ha dicho si y cuándo podría incorporar su trabajo en sus herramientas generativas de IA.

Si bien es bueno saber que OpenAI está trabajando para resolver el problema, podría pasar un tiempo antes de que veamos mejoras. Mientras tanto, como dice OpenAI, ChatGPT puede generar ocasionalmente información incorrecta, así que asegúrese de confirmar sus respuestas si son parte de alguna tarea importante.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Sam Altman va por más: «ChatGPT ya es más poderoso que cualquier ser humano que haya existido»
Sam Altman

Este martes 10 de junio ChatGPT se cayó en todo el mundo y es como si una parte de nosotros se hubiera apagado, porque el chatbot de IA ha penetrado con tanta fuerza en nuestra cotidianeidad en tan poco tiempo, que es sorprendente como sus fallas nos afectan. Y Sam Altman, que nunca deja nada al azar, aprovechó de subir en esas horas de incertidumbre una nueva entrada en su blog de reflexiones sobre la IA, entregando pensamientos mesiánicos y que por momentos aterran más que dar esperanza.

Para el CEO de OpenAI, el mundo de la IA recién está floreciendo y queda mucho más camino para hacerla más poderosa y "más útil" para el progreso humano.

Leer más
ChatGPT está caído: actualizamos al momento qué está pasando
ChatGPT

El popular asistente de inteligencia artificial, ChatGPT, sufre un apagón hoy, 10 de junio.

Downdetector muestra informes sobre una interrupción de ChatGPT que comenzó alrededor de las 12 a.m. PDT de la mañana del 10 de junio de 2025. Esta no es la primera vez que vemos caer a ChatGPT. con un apagón que también se produjo en diciembre de 2024.

Leer más
Un Atari 2600 destrozó a ChatGPT en esta increíble prueba
Atari 2600

Con el paso de los meses hemos llegado a sobrestimar muchas veces las capacidades de ChatGPT y en general de la IA de diferentes modelos, porque es muy cierto que los avances han sido sorprendentes en poquísimo tiempo. Sin embargo, aún sucedes esas situaciones que nos demuestran que la IA aún debe avanzar mucho.

Recientemente, una vieja computadora, y utilizada para usos más bien recreacionales en los ochenta: un clásico Atari 2600, destrozó literalmente a ChatGPT en un encuentro de ajedrez.

Leer más