OpenAI, el creador del popular chatbot de inteligencia artificial (IA) ChatGPT, ha cerrado la herramienta que desarrolló para detectar contenido creado por IA en lugar de humanos. La herramienta, denominada AI Classifier, se ha cerrado solo seis meses después de su lanzamiento debido a su “baja tasa de precisión”, dijo OpenAI.
Desde que ChatGPT y los servicios rivales se han disparado en popularidad, ha habido un retroceso concertado de varios grupos preocupados por las consecuencias del uso no controlado de la IA. Por un lado, los educadores han estado particularmente preocupados por la posibilidad de que los estudiantes usen ChatGPT para escribir sus ensayos y tareas, y luego hacerlos pasar como propios.
El clasificador de IA de OpenAI fue un intento de disipar los temores de estos y otros grupos. La idea era que pudiera determinar si un fragmento de texto fue escrito por un humano o un chatbot de IA, dando a las personas una herramienta para evaluar a los estudiantes de manera justa y combatir la desinformación.
Sin embargo, incluso desde el principio, OpenAI no parecía tener mucha confianza en su herramienta. En una publicación de blog anunciando la herramienta, OpenAI declaró que “Nuestro clasificador no es completamente confiable”, señalando que identificó correctamente los textos escritos por IA de un “conjunto de desafíos” solo el 26% del tiempo.
La decisión de abandonar la herramienta no recibió mucha fanfarria, y OpenAI no ha publicado una publicación dedicada en su sitio web. En cambio, la compañía ha actualizado la publicación que reveló el clasificador de IA, afirmando que “el clasificador de IA ya no está disponible debido a su baja tasa de precisión”.
La actualización continuó: “Estamos trabajando para incorporar comentarios y actualmente estamos investigando técnicas de procedencia más efectivas para el texto, y nos hemos comprometido a desarrollar e implementar mecanismos que permitan a los usuarios comprender si el contenido de audio o visual es generado por IA”.
Se necesitan mejores herramientas
AI Classifier no es la única herramienta que se ha desarrollado para detectar contenido creado por IA, ya que existen rivales como GPTZero y continuarán operando, a pesar de la decisión de OpenAI.
Los intentos anteriores de identificar la escritura de IA han fracasado espectacularmente. Por ejemplo, en mayo de 2023, un profesor reprobó por error a toda su clase después de reclutar ChatGPT para detectar plagio en los trabajos de sus estudiantes. No hace falta decir que ChatGPT se equivocó gravemente, y también lo hizo el profesor.
Es motivo de preocupación cuando incluso OpenAI admite que no puede percibir adecuadamente el plagio creado por su propio chatbot. Llega en un momento de creciente ansiedad sobre el potencial destructivo de los chatbots de IA y pide una suspensión temporal del desarrollo en este campo. Si la IA tiene tanto impacto como algunas personas predicen, el mundo necesitará herramientas más fuertes que el fallido clasificador de IA de OpenAI.
