Skip to main content

OpenAI estrena herramienta que detecta si un texto lo escribió una IA o un humano

Una de las principales inquietudes en la comunidad educativa y en las profesiones es el actual uso de ChatGPT en la entrega de textos, ensayos, pruebas y otros. Por eso OpenAI tomó el guante y acaba de colocar a disposición una herramienta gratuita basada en la web diseñada para ayudar a los educadores y otros a descubrir si un fragmento de texto en particular fue escrito por un humano o una máquina.

OpenAI advierte que la herramienta es imperfecta y que el rendimiento varía según la similitud del texto que se está analizando con los tipos de escritura en los que se entrenó la herramienta de OpenAI. «Tiene falsos positivos y falsos negativos», dijo el jefe de alineación de OpenAI, Jan Leike en Axios.

Imagen utilizada con permiso del titular de los derechos de autor

Cómo se usa esta nueva funcionalidad de OpenAI

Los usuarios copian un trozo de texto en un cuadro y el sistema calificará la probabilidad de que el texto haya sido generado por un sistema de IA.

  • Ofrece una escala de resultados de cinco puntos: Muy poco probable que haya sido generado por IA, improbable, poco claro, posible o probable.
  • Funciona mejor en muestras de texto de más de 1.000 palabras y en inglés, con un rendimiento significativamente peor en otros idiomas. Y no funciona para distinguir el código de computadora escrito por humanos vs.AI.
  • Dicho esto, OpenAI dice que la nueva herramienta es significativamente mejor que una anterior que había lanzado.

Recomendaciones del editor

Topics
Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Todos los datos personales que recolecta de ti ChatGPT cada vez que lo usas
chatgpt datos personales que recolecta ac4d4745 f70d 4794 98c0 6c54a2f99247

La maravillosa estructura de ChatGPT que permite respuestas y soluciones varias con IA a las preguntas e instrucciones de la gente, es la parte bonita de la creación de OpenAI, sin embargo, como en todo proceso de utilización de este tipo de plataformas, la recolección de datos privados es algo necesario de conocer, para tomar los resguardos del caso.

Los datos que recopila ChatGPT:

Leer más
Pausar el desarrollo de la IA o arriesgarse a un desastre, advierte Elon Musk y Steve Wozniack
elon musk steve wozniak pausar el desarrollo ia

La inteligencia artificial (IA) se ha estado moviendo a una velocidad increíble en los últimos meses, con el lanzamiento de varias herramientas y bots como ChatGPT de OpenAI, Google Bard y más. Sin embargo, este rápido desarrollo está causando una gran preocupación entre los veteranos experimentados en el campo de la IA, tanto que más de 1,000 de ellos han firmado una carta abierta pidiendo a los desarrolladores de IA que pisen el freno.

La carta fue publicada en el sitio web del Future of Life Institute, una organización cuya misión declarada es "dirigir la tecnología transformadora para beneficiar la vida y alejarla de los riesgos extremos a gran escala". Entre los firmantes se encuentran varios académicos prominentes, el cofundador de Apple, Steve Wozniak, y el CEO de Twitter, Elon Musk.
Getty Images/Digital Trends Graphic
El artículo pide a todas las empresas que trabajan en modelos de IA que son más potentes que el GPT-4 recientemente lanzado que detengan inmediatamente el trabajo durante al menos seis meses. Esta moratoria debería ser "pública y verificable" y daría tiempo para "desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzado de IA que sean rigurosamente auditados y supervisados por expertos externos independientes".

Leer más
CEO de OpenAI: es bueno que tengamos miedo de la IA
sam altman ceo openai miedo gpt 4 ia

Consciente de los peligros y fascinaciones de su invento, el CEO de OpenAI, Sam Altman, dio una entrevista a ABC News, para referirse a la IA y la reciente incorporación de GPT-4.

En la oportunidad, Altman cree que están detrás de algo a lo que debemos temer, a pesar de todos sus beneficios.
Él cree que viene con peligros reales, pero también puede ser "la mayor tecnología que la humanidad ha desarrollado hasta ahora" para mejorar drásticamente nuestras vidas.
"Tenemos que tener cuidado aquí", dijo Sam Altman, CEO de OpenAI. "Creo que la gente debería estar feliz de que tengamos un poco de miedo de esto".
En su entrevista, Altman fue enfático en que OpenAI necesita que tanto los reguladores como la sociedad se involucren lo más posible con el lanzamiento de ChatGPT, insistiendo en que la retroalimentación ayudará a disuadir las posibles consecuencias negativas que la tecnología podría tener en la humanidad. Agregó que está en "contacto regular" con funcionarios del gobierno.

Leer más