Skip to main content

Investigación expone el lado más turbio de ChatGPT y la industria de chatbots de IA

Una investigación de Time ha expuesto el lado más oscuro de la industria de chatbots de IA, destacando cómo al menos una startup ha estado utilizando prácticas cuestionables para mejorar su tecnología.

Publicado el miércoles, el informe de Time se centra en OpenAI respaldado por Microsoft y su chatbot ChatGPT, una tecnología que ha ganado mucha atención recientemente por su notable capacidad para producir texto conversacional altamente natural.

Recommended Videos

La investigación de Time descubrió que para entrenar la tecnología de IA, OpenAI utilizó los servicios de un equipo en Kenia para estudiar detenidamente el texto que incluía temas perturbadores como el abuso sexual infantil, la bestialidad, el asesinato, el suicidio, la tortura, las autolesiones y el incesto. Y por sus esfuerzos para etiquetar el contenido aborrecible, muchos en el equipo recibieron menos de $ 2 por hora.

El trabajo, que comenzó en noviembre de 2021, era necesario ya que el predecesor de ChatGPT, GPT-3, aunque impresionante, tenía una tendencia a arrojar contenido ofensivo, ya que su conjunto de datos de entrenamiento se había compilado raspando cientos de miles de millones de palabras de todos los rincones de la web.

El equipo con sede en Kenia, operado por la firma Sama de San Francisco, etiquetaría el contenido ofensivo para ayudar a entrenar el chatbot de OpenAI, mejorando así su conjunto de datos y reduciendo las posibilidades de cualquier resultado objetable.

Digital Trends Español

Time dijo que los cuatro empleados de Sama que entrevistó describieron estar mentalmente marcados por su trabajo. Sama ofreció sesiones de asesoramiento, pero los empleados dijeron que eran ineficaces y rara vez se llevaron a cabo debido a las demandas del trabajo, aunque un portavoz de Sama le dijo a Time que los terapeutas estaban disponibles en cualquier momento.

Un trabajador le dijo a Time que leer el material impactante a veces se sentía como «tortura», y agregó que se sentían «perturbados» al final de la semana.

En febrero de 2022, las cosas tomaron un giro aún más oscuro para Sama cuando OpenAI lanzó un proyecto separado no relacionado con ChatGPT que requería que su equipo de Kenia recopilara imágenes de naturaleza sexual y violenta. OpenAI le dijo a Time que el trabajo era necesario para hacer que sus herramientas de IA fueran más seguras.

A las pocas semanas de que comenzara este proyecto basado en imágenes, la naturaleza alarmante de las tareas llevó a Sama a cancelar todos sus contratos con OpenAI, aunque Time sugiere que también podría haber sido provocado por las consecuencias de relaciones públicas de un informe sobre un tema similar que publicó sobre Facebook aproximadamente al mismo tiempo.

Open AI le dijo a Time que había habido «una falta de comunicación» sobre la naturaleza de las imágenes que le pidió a Sama que recopilara, insistiendo en que no había pedido las imágenes más extremas y que no había visto ninguna de las que se habían enviado.

Pero la finalización de los contratos afectó los medios de vida de los trabajadores, ya que algunos miembros del equipo en Kenia perdieron sus empleos, mientras que otros fueron trasladados a proyectos con salarios más bajos.

La investigación de Time ofrece una mirada incómoda pero importante al tipo de trabajo que se está realizando en los chatbots impulsados por IA que recientemente han estado entusiasmando tanto a la industria tecnológica.

Si bien es transformadora y potencialmente beneficiosa, la tecnología claramente tiene un costo humano y plantea una serie de preguntas éticas sobre cómo las empresas desarrollan sus nuevas tecnologías y, en términos más generales, sobre cómo los países más ricos continúan asignando tareas menos deseables a las naciones más pobres por un menor desembolso financiero.

Las nuevas empresas detrás de la tecnología estarán bajo un escrutinio más centrado en los próximos meses y años, por lo que harían bien en revisar y mejorar sus prácticas lo antes posible.

Topics
Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
OpenAI está jubilando un modelo muy popular en ChatGPT
OpenAI

El tiempo también pasa para la IA, aunque pareciera que es algo tan nuevo y que se implementó hace pocos días, lo cierto es que OpenAI está muy cerca de jubilar a uno de sus modelos más populares: el GPT-4.

Todo fue mostrado en un registro de cambios que informó ChatGPT y que terminaría con el modelo que se implementó hace dos años atrás.

Leer más
OpenAI quiere recordar toda tu vida con su nueva actualización en ChatGPT
ChatGPT

OpenAI quiere invadir aún más tus recuerdos y tu privacidad, ya que está estrenando una nueva función para ChatGPT llamada "Memories" que permite al chatbot adaptar sus respuestas a los usuarios en función del contenido de sus conversaciones anteriores.

La compañía dice que la función, que aparece en la configuración de ChatGPT como "recuerdos guardados de referencia", tiene como objetivo hacer que las conversaciones con ChatGPT sean más relevantes para los usuarios. La actualización agregará contexto conversacional a las funciones de generación de texto, voz e imágenes de ChatGPT, agregó la compañía.

Leer más
¿Llegan las marcas de agua en las fotos del ChatGPT gratis?
Frame del filme Pompoko

Últimamente, todo el mundo ha estado hablando de la nueva función de generación de imágenes de ChatGPT, y parece que la emoción aún no ha terminado. Como siempre, la gente ha estado hurgando en las aplicaciones de la compañía y, esta vez, han encontrado menciones de una función de marca de agua para las imágenes generadas.

Descubierta por el usuario de X, Tibor Blaho, la línea de código parece sugerir que la función solo pondría marcas de agua en las imágenes generadas por usuarios gratuitos, lo que les da otro incentivo para actualizar a una suscripción paga.image_gen_watermark_for_free

Leer más