Skip to main content

Investigación expone el lado más turbio de ChatGPT y la industria de chatbots de IA

Una investigación de Time ha expuesto el lado más oscuro de la industria de chatbots de IA, destacando cómo al menos una startup ha estado utilizando prácticas cuestionables para mejorar su tecnología.

Publicado el miércoles, el informe de Time se centra en OpenAI respaldado por Microsoft y su chatbot ChatGPT, una tecnología que ha ganado mucha atención recientemente por su notable capacidad para producir texto conversacional altamente natural.

La investigación de Time descubrió que para entrenar la tecnología de IA, OpenAI utilizó los servicios de un equipo en Kenia para estudiar detenidamente el texto que incluía temas perturbadores como el abuso sexual infantil, la bestialidad, el asesinato, el suicidio, la tortura, las autolesiones y el incesto. Y por sus esfuerzos para etiquetar el contenido aborrecible, muchos en el equipo recibieron menos de $ 2 por hora.

El trabajo, que comenzó en noviembre de 2021, era necesario ya que el predecesor de ChatGPT, GPT-3, aunque impresionante, tenía una tendencia a arrojar contenido ofensivo, ya que su conjunto de datos de entrenamiento se había compilado raspando cientos de miles de millones de palabras de todos los rincones de la web.

El equipo con sede en Kenia, operado por la firma Sama de San Francisco, etiquetaría el contenido ofensivo para ayudar a entrenar el chatbot de OpenAI, mejorando así su conjunto de datos y reduciendo las posibilidades de cualquier resultado objetable.

Imagen utilizada con permiso del titular de los derechos de autor

Time dijo que los cuatro empleados de Sama que entrevistó describieron estar mentalmente marcados por su trabajo. Sama ofreció sesiones de asesoramiento, pero los empleados dijeron que eran ineficaces y rara vez se llevaron a cabo debido a las demandas del trabajo, aunque un portavoz de Sama le dijo a Time que los terapeutas estaban disponibles en cualquier momento.

Un trabajador le dijo a Time que leer el material impactante a veces se sentía como «tortura», y agregó que se sentían «perturbados» al final de la semana.

En febrero de 2022, las cosas tomaron un giro aún más oscuro para Sama cuando OpenAI lanzó un proyecto separado no relacionado con ChatGPT que requería que su equipo de Kenia recopilara imágenes de naturaleza sexual y violenta. OpenAI le dijo a Time que el trabajo era necesario para hacer que sus herramientas de IA fueran más seguras.

A las pocas semanas de que comenzara este proyecto basado en imágenes, la naturaleza alarmante de las tareas llevó a Sama a cancelar todos sus contratos con OpenAI, aunque Time sugiere que también podría haber sido provocado por las consecuencias de relaciones públicas de un informe sobre un tema similar que publicó sobre Facebook aproximadamente al mismo tiempo.

Open AI le dijo a Time que había habido «una falta de comunicación» sobre la naturaleza de las imágenes que le pidió a Sama que recopilara, insistiendo en que no había pedido las imágenes más extremas y que no había visto ninguna de las que se habían enviado.

Pero la finalización de los contratos afectó los medios de vida de los trabajadores, ya que algunos miembros del equipo en Kenia perdieron sus empleos, mientras que otros fueron trasladados a proyectos con salarios más bajos.

La investigación de Time ofrece una mirada incómoda pero importante al tipo de trabajo que se está realizando en los chatbots impulsados por IA que recientemente han estado entusiasmando tanto a la industria tecnológica.

Si bien es transformadora y potencialmente beneficiosa, la tecnología claramente tiene un costo humano y plantea una serie de preguntas éticas sobre cómo las empresas desarrollan sus nuevas tecnologías y, en términos más generales, sobre cómo los países más ricos continúan asignando tareas menos deseables a las naciones más pobres por un menor desembolso financiero.

Las nuevas empresas detrás de la tecnología estarán bajo un escrutinio más centrado en los próximos meses y años, por lo que harían bien en revisar y mejorar sus prácticas lo antes posible.

Recomendaciones del editor

Topics
Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Meta está trabajando en una IA que dice es más potente que GPT-4
Mark Zuckerberg Meta

El propietario de Facebook, Meta, está trabajando en un sistema de inteligencia artificial (IA) que espera sea más poderoso que GPT-4, el modelo de lenguaje grande desarrollado por OpenAI que impulsa ChatGPT Plus. Si tiene éxito, eso podría agregar mucha más competencia al mundo de los chatbots generativos de IA, y potencialmente traer consigo una serie de problemas graves.

Según The Wall Street Journal, Meta apunta a lanzar su nuevo modelo de IA en 2024. Según los informes, la compañía quiere que el nuevo modelo sea "varias veces más poderoso" que Llama 2, la herramienta de inteligencia artificial que lanzó en julio de 2023.
Brett Johnson / Unsplash
Meta planea que el próximo sistema de IA "ayude a otras compañías a crear servicios que produzcan texto, análisis y otros resultados sofisticados", afirma The Wall Street Journal. El entrenamiento para la IA comenzará a principios de 2024, y se espera un lanzamiento oficial en algún momento después de que Google lance su propio modelo de lenguaje grande, denominado Gemini.

Leer más
Se acabó la luna de miel: el tráfico de ChatGPT baja por tercer mes consecutivo
trafico de chatgpt baja por tercer mes consecutivo rolf van root lyi1t85lry8 unsplash

En concordancia con las leyes físicas de Newton, todo lo que sube tiene que bajar y la gravedad está haciendo de las suyas con ChatGPT, que después de un explosivo crecimiento en los primeros meses de 2023, empezó su caída en tráfico,  según la firma de análisis Similarweb.

Las visitas mundiales de sitios web de escritorio y móviles al sitio web de ChatGPT disminuyeron un 3,2% a 1.43 millones en agosto, luego de caídas de aproximadamente el 10% con respecto a cada uno de los dos meses anteriores. La cantidad de tiempo que los visitantes pasaron en el sitio web también ha disminuido mensualmente desde marzo, de un promedio de 8.7 minutos en el sitio a 7 minutos en el sitio en agosto.

Leer más
Zoom agrega ChatGPT para ayudarlo con las llamadas perdidas
Cómo usar Zoom: guía rápida para principiantes.

La aplicación de videollamadas Zoom acaba de agregar su propio asistente "AI Companion" que integra inteligencia artificial (IA) y modelos de lenguaje grande (LLM) del fabricante de ChatGPT OpenAI y el propietario de Facebook Meta. La herramienta está diseñada para ayudarlo a ponerse al día con las reuniones que se perdió y diseñar respuestas rápidas a los mensajes de chat.

El desarrollador de Zoom dice que AI Companion "empodera a las personas ayudándolas a ser más productivas, conectarse y colaborar con sus compañeros de equipo y mejorar sus habilidades".
Zoom
Por ejemplo, la publicación del blog de Zoom explica que si llega tarde a una reunión, su AI Companion puede resumir lo que sucedió mientras estaba ausente. También puede sugerir puntos de acción y resaltar temas de discusión después de una reunión, así como dividir las grabaciones en la nube en capítulos más digeribles.

Leer más