Cómo TikTok lee tu mente y te mantiene en su aplicación

TikTok es una de las aplicaciones móviles más populares del momento, ya que contiene 1,000 millones de usuarios en su atractiva plataforma, según lo anunciado por la compañía en septiembre de este año. Pero ¿cuál es el secreto detrás de su éxito?

El algoritmo de TikTok tiene cuatro objetivos: “valor del usuario”, “valor del usuario a largo plazo”, “valor del creador” y “valor de la plataforma”. Eso es lo que indica TikTok Algo 101, un documento elaborado por el equipo de ingeniería de TikTok en Beijing que llegó a manos de The New York Times, el cual ofrece nuevos detalles sobre cómo la aplicación de videos cortos ha construido un producto tan adictivo.

Según una portavoz de la compañía, Hilary McQuaide, que confirmó la autenticidad del documento, dijo que fue escrito para explicarles a los empleados no técnicos cómo funciona el algoritmo.

Por otro lado, el documento fue entregado al medio por una persona que estaba autorizada a leerlo, pero no a compartirlo, y que lo entregó bajo condición de anonimato. La persona en cuestión se sintió molesta por el impulso de la aplicación hacia el contenido “triste” que podría provocar autolesiones en la gente.

En específico, el documento entrega una visión reveladora tanto del núcleo matemático de la aplicación (entregando el funcionamiento de sus algoritmos) como de la comprensión de la naturaleza humana por parte de la empresa: la tendencia hacia el aburrimiento y la sensibilidad a los patrones culturales, los cuales ayudan a explicar por qué es tan difícil para los usuarios dejar la aplicación.

TikTok

Si has utilizado TikTok seguramente sabes cómo funciona y lo popular que es para los jóvenes, principalmente. La aplicación muestra un flujo interminable de videos y, a diferencia de otras que tienen como objetivo conectar con las amistades, TikTok sirve principalmente para entretenerse.

Además, ha ganado el terreno de los videos cortos porque facilita la creación de contenido en la aplicación: le entrega a los usuarios música de fondo para bailar, pistas de audio para sincronizar con los labios y más, en lugar de obligarlos a realizar un video desde cero.

Sin embargo, también hay gente que consume contenido sin crear videos, y la aplicación es sorprendentemente buena para leer sus preferencias y llevarlos a uno de sus intereses, ya sea un sector político, algún tutorial o una celebridad específica.

La compañía ha compartido públicamente las líneas generales de su sistema de recomendación; en estas dice que considera factores que incluyen los me gusta y los comentarios, así como la información de los videos como subtítulos, sonidos y etiquetas.

Los analistas externos también han intentado descifrar su código. De hecho, un informe reciente del The Wall Street Journal demostró que TikTok depende de la cantidad de tiempo que la gente pasa viendo cada video y así llevarlos hacia más clips que los mantendrán desplazándose por la aplicación. Pero ese proceso a veces puede llevar a los espectadores jóvenes a trampas peligrosas, en particular hacia contenido que promueve el suicidio o la autolesión, problemas que TikTok dice que trata de detener al eliminar agresivamente el contenido que viola sus términos de servicio.

Ahora, ¿qué dice el documento de TikTok sobre cómo engancha a la gente? Este explica con franqueza que en la búsqueda del “objetivo final” de la empresa, que es agregar usuarios activos diarios, ha optado por optimizar dos métricas estrechamente relacionadas en el flujo de videos que ofrece: “retención”, es decir, si un usuario vuelve, y “tiempo invertido”. La aplicación quiere mantener a los usuarios allí el mayor tiempo posible.

Para los analistas que creen que las recomendaciones algorítmicas representan una amenaza social, el documento de TikTok confirma sus sospechas.

“Este sistema significa que el tiempo de visualización es clave. El algoritmo intenta hacer que las personas se vuelvan adictas en lugar de darles lo que realmente quieren”, dijo Guillaume Chaslot, fundador de Algo Transparency, un grupo con sede en París que ha estudiado el sistema de recomendación de YouTube y abarca una visión oscura del efecto del producto en niños. Chaslot revisó el documento de TikTok a pedido de The New York Times.

“Creo que es una idea loca dejar que el algoritmo de TikTok dirija la vida de nuestros hijos. Con cada video que mira un niño, TikTok obtiene información sobre él. En unas pocas horas, el algoritmo puede detectar sus gustos musicales, su atracción física, si está deprimido, si está drogado y mucha otra información sensible. Existe un alto riesgo de que parte de esta información se utilice en su contra. Potencialmente, podría usarse para microorientarlo o hacerlo más adicto a la plataforma”, agregó Chaslot.

Sin embargo, el tiempo que se invierte mirando videos en la aplicación no es el único factor que TikTok considera, de acuerdo con el documento, el cual ha entregado una ecuación aproximada de cómo se puntúan los videos. La predicción impulsada por el aprendizaje automático y el comportamiento real del usuario son sintetizados por cada uno de los tres bits de datos: me gusta (like), comentarios (comment) y tiempo de reproducción (playtime), así como una indicación de que el video se ha reproducido (play). Entonces, la ecuación revelada luce así:

Plike X Vlike + Pcomment X Vcomment + Eplaytime X Vplaytime + Pplay X Vplay

“El sistema de recomendación otorga puntajes a todos los videos en función de esta ecuación y devuelve a los usuarios los videos con los puntajes más altos. En aras de la brevedad, la ecuación que se muestra en este documento está muy simplificada. La ecuación real en uso es mucho más complicada, pero la lógica detrás es la misma”, dice el documento.

El archivo también ilustra en detalle cómo la empresa modifica su sistema para identificar y suprimir los anzuelos (videos diseñados para jugar con el algoritmo pidiéndole explícitamente a la gente que le den me gusta) y cómo piensa la empresa a través de preguntas más matizadas.

“Algunos autores pueden tener ciertas referencias culturales en sus videos y los usuarios solo pueden comprender mejor esas referencias viendo más videos del autor. Por lo tanto, el valor total de que un usuario mire todos esos videos es más alto que los valores de ver cada video sumado. Otro ejemplo: si a un usuario le gusta un cierto tipo de video, pero la aplicación continúa presentándole el mismo tipo, rápidamente se aburrirá y cerrará la aplicación. En este caso, el valor total creado por el usuario que mira el mismo tipo de videos es menor que el de ver cada video, porque la repetición conduce al aburrimiento”, dice el documento.

Hay dos soluciones a este problema, según la compañía: “Haz algunas suposiciones y descompone el valor en la ecuación de valor. Por ejemplo, en términos de exposición repetida, podríamos agregar un valor ‘same_author_seen’ (mismo autor visto) y para el problema del aburrimiento, también podríamos agregar un valor negativo ‘same_tag_today’ (misma etiqueta hoy)”.

“Otras soluciones, además de la ecuación de valor, también pueden funcionar, como la recomendación forzada en los usuarios para tu flujo de videos y dispersión, etc. Por ejemplo, el problema del aburrimiento se puede resolver mediante la dispersión”, dicen los papeles, en donde también se indica que uno de los objetivos de la empresa es la “monetización del creador”, por lo que TikTok puede favorecer a los videos, en parte, si son lucrativos y no solo entretenidos.

TikTok ya habría cerrado acuerdo para su venta en EEUU

Ahora, según Julian McAuley, profesor de informática en la Universidad de California en San Diego —quien también revisó el documento a pedido del medio—, este método “no es magia algorítmica”.

“Parece haber cierta percepción (¿por parte de los medios de comunicación? ¿O del público?) de que han descifrado algún código mágico de recomendaciones, pero la mayor parte de lo que he visto parece bastante normal”, afirma el profesor.

Según él, la ventaja de la empresa proviene de combinar el aprendizaje automático con “fantásticos volúmenes de datos, usuarios muy comprometidos y un entorno en el que los usuarios están dispuestos a consumir contenido recomendado algorítmicamente (¡piensa en cuántos otros entornos tienen todas estas características!)”.

De hecho, como indica The New York Times, el documento hace mucho para desmitificar el tipo de sistema de recomendación que las empresas tecnológicas suelen presentar como algo difícil de comprender para los críticos y reguladores, pero que por lo general se enfoca en características que cualquier usuario común puede comprender.

La cobertura de The Wall Street Journal de los documentos filtrados de Facebook, por ejemplo, ilustró cómo la decisión de la compañía de dar más peso a los comentarios ayudó a difundir el contenido divisivo.

Si bien los modelos pueden ser complejos, no hay nada intrínsecamente siniestro o incomprensible en el algoritmo de recomendación de TikTok descrito en el documento.

Recomendaciones del editor