La policía china arresta a hombre que usaba ChatGPT para generar fake news

Por Diego Bastarrica Published 9 de mayo de 2023

Un hito en el combate contra las noticias falsas se vivió en China, ya que la policía de ese país arrestó a un hombre que estaba usando ChatGPT para generar fake news.

La policía de la provincia de Gansu, en el noroeste de China, detuvo a un hombre, de apellido Hong, quien, según dijeron, supuestamente inventó una noticia sobre un accidente de tren que causó nueve muertes.

Recommended Videos

Las autoridades descubrieron que más de 20 cuentas habían publicado este artículo en una plataforma de blogs propiedad del gigante chino de búsquedas Baidu y habían obtenido más de 15,000 visitas.

Hong supuestamente usó ChatGPT para crear versiones ligeramente diferentes del artículo de noticias falsas para pasar los controles de duplicación en la plataforma propiedad de Baidu.

Imagen utilizada con permiso del titular de los derechos de autor

China hace poco tiempo implementó una ley de regulación de uso de tecnologías de síntesis profunda, que se refieren a la IA que se utiliza para generar texto, imágenes, video u otros medios. La ley establece que los servicios de síntesis profunda no se pueden utilizar para difundir noticias falsas.

China redactó la ley cuando ChatGPT estaba despegando y volviéndose viral, ya que las autoridades buscaban adelantarse a la tecnología. Internet de China está fuertemente censurado y controlado. Beijing ha tratado de introducir leyes que rijan las nuevas tecnologías que podrían presentar preocupaciones al gobierno central.

Topics

Diego Bastarrica

News Editor

Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…

Computación

Un investigador hace creer a ChatGPT que tiene 102 años y vive en la Matrix

¿Qué es ChatGPT? Cómo usar el chatbot del que todo el mundo habla.

ChatGPT, el modelo amplio de lenguaje más utilizado y prometedor del mundo, puede usarse para extraer información sensible de un usuario, según reportó a OpenAI el investigador en ciberseguridad Johann Rehberger.

Su hallazgo, contado en un videoblog consignado por ArsTechnica, es una fuente de preocupación, pues señala que “cada que el usuario inicia una nueva conversación ChatGPT continúa extrayendo información”.

Computación

ChatGPT: la cantidad de recursos que necesita para funcionar se está saliendo de control

IA generativa ChatGPT.

No es un secreto que el crecimiento de la IA generativa ha requerido cantidades cada vez mayores de agua y electricidad, dado que la infraestructura necesaria para soportar estas tecnologías implica un uso intensivo de recursos. Sin embargo, un nuevo estudio de The Washington Post e investigadores de la Universidad de California, Riverside, muestra cuántos recursos necesita el chatbot de OpenAI para realizar incluso sus funciones más básicas.

En términos de uso de agua, la cantidad necesaria para que ChatGPT redacte un correo electrónico de 100 palabras depende del estado y de la proximidad del usuario al centro de datos más cercano de OpenAI. Cuanto menos prevalente sea el agua en una región determinada y cuanto más barato sea la electricidad, más probable es que el centro de datos dependa de unidades de aire acondicionado eléctricas. En Texas, por ejemplo, el chatbot solo consume un estimado de 235 mililitros para generar un correo electrónico de 100 palabras. Ese mismo correo redactado en Washington, por otro lado, requeriría 1,408 mililitros (casi un litro y medio) por correo.

Computación

¿ChatGPT tendrá una marca de agua para pillar a los tramposos?

ChatGPT: qué es y cómo usar el chatbot del que todo el mundo habla.

Muchos profesores e incluso empleadores se están quejando que varios trabajos están siendo realizados casi cien por ciento con el uso de ChatGPT, y la tarea se dificulta para ellos de saber si lo que están leyendo es original o plagiado.

Y para eso, según The Wall Street Journal, OpenAI está debatiendo si realmente debe lanzar una nueva herramienta: una marca de agua para detectar tramposos.
En una declaración proporcionada a TechCrunch, un portavoz de OpenAI confirmó que la compañía está investigando el método de marca de agua de texto, pero dijo que está adoptando un "enfoque deliberado" debido a "las complejidades involucradas y su probable impacto en el ecosistema más amplio más allá de OpenAI".
"El método de marca de agua de texto que estamos desarrollando es técnicamente prometedor, pero tiene riesgos importantes que estamos sopesando mientras investigamos alternativas, incluida la susceptibilidad a la elusión por parte de malos actores y el potencial de afectar desproporcionadamente a grupos como los que no hablan inglés", dijo el portavoz.
Tras la publicación de la historia del Journal, OpenAI también actualizó una entrada de blog de mayo sobre su investigación sobre la detección de contenidos generados por IA. La actualización dice que la marca de agua de texto ha demostrado ser "altamente precisa e incluso efectiva contra la manipulación localizada, como la paráfrasis", pero ha demostrado ser "menos robusta contra la manipulación globalizada; como usar sistemas de traducción, reformular con otro modelo generativo o pedirle al modelo que inserte un carácter especial entre cada palabra y luego eliminar ese carácter".
Como resultado, OpenAI escribe que este método es "trivial para la elusión por parte de malos actores". La actualización de OpenAI también se hace eco del punto del portavoz sobre los no angloparlantes, escribiendo que la marca de agua de texto podría "estigmatizar el uso de la IA como una herramienta de escritura útil para los hablantes no nativos de inglés".