Acusan a TikTok de discriminación: cómo funciona su algoritmo

TikTok es una red social para hacer videos cortos haciendo lip sync (es decir, playback o sincronía de labios). La app, creada por la compañía china ByteDance, comenzó a funcionar en Estados Unidos en 2017 y desde ese año, inició una fuerte expansión hacia Occidente.

En octubre de 2018, TikTok fue la app más descargada en Estados Unidos. Hoy, disponible en 150 mercados, tiene más de 500 millones de usuarios activos en el mundo. La red social es furor entre centennials (nacidos entre 1997 y 2012), quienes conforman una gran porción de los usuarios de la aplicación.

Su algoritmo de recomendaciones es uno de los distintivos de la app. Se adapta al swipe (deslizamiento) vertical de los usuarios porque, a medida que deslizan hacia abajo, pueden descubrir diferentes creadores de contenido sugeridos por la red social.

La acusación de discriminación

Semanas atrás, el sitio The Verge subió un artículo que indicaba que TikTok limitaría el alcance de personas con discapacidad, quienes sufrirían de discriminación por parte de la app. Estos usuarios tendrían menos probabilidades de tener un contenido viral en la red social.

De acuerdo al artículo, una fuente de la red social china habló con periodistas del blog alemán de derechos digitales Netzpolitik.org. Señaló que esta discriminación es una política de la red social, cuyo algoritmo ha sido diseñado para detectar casos con alta predisposición al bullying.

Entonces, para evitar el acoso, la plataforma limitaría drásticamente en qué feeds públicos se exponen estas cuentas. Bytedance ha reconocido a Netzopolitik que es un “intento temprano y fallido” de prevenir el conflicto en la plataforma.

Por otro lado, no es solo el algoritmo el que discrimina determinados perfiles, sino también los moderadores de la aplicación. Este grupo de personas ha comenzado a tomar “decisiones rápidas”, bloqueando o limitando videos de personas con determinados rasgos físicos (como deformaciones, por ejemplo) o, inclusive, contenido de usuarios con Síndrome de Down.

Para limitar la exposición de una cuenta, los moderadores trabajan considerando una sección denominada “Imágenes que representan a un sujeto altamente vulnerable al ciberacoso”. Cubre a usuarios que resultan “susceptibles al acoso o el acoso cibernético en función de su condición física o mental”, según documentos al que accedió el blog alemán.

Entonces, los moderadores incluyen a personas con discapacidad en una categoría denominada “Riesgo 4”. Esto significa que un video solo es visible en el país donde se subió. Los videos de estos usuarios no podrán alcanzar a una audiencia global.

Además, según Netzpolitik.org, TikTok limitaría también el alcance de usuarios gordos, del colectivo LGBTI o con autismo. Pero, estas categorías podrían ser difíciles de detectar observando perfiles o videos. ¿Cómo reconocer el perfil de una persona autista en un video de 15 segundos?

La fuente de TikTok ha expresado que esta instrucción es una de las tantas reglas incomprensibles de la red social, que resultan confusas para los moderadores.

Cómo funciona el algoritmo

TikTok realiza recomendaciones personalizadas sobre qué mirar en función de las sesiones de visualización anteriores de los usuarios. Con el swipe vertical es posible descubrir nuevos videos, que incluso se pueden descargar si el usuario en su configuración lo permite (también se pueden tener cuentas privadas, tal como sucede en Instagram).

“El algoritmo de TikTok funciona un poco diferente al de otras redes sociales populares como Facebook e Instagram, donde la mayoría de los contactos suelen ser de personas conocidas y las métricas de interacción (“me gusta” o comentarios) son clave para la jerarquización de contenidos (cuál se muestra primero)”, explica a Infobae Melisa Avolio, periodista y capacitadora en ”Oficios y Redes”.

Avolio manifesta que, si bien los algoritmos de las redes son una especie de “caja misteriosa”, es posible inferir cómo funcionan de acuerdo a lo que muestran a los usuarios. Así, expresa que el algoritmo de TikTok se basa en los hábitos de los usuarios y aprende qué videos mostrar a partir de qué tipo de videos miran.

“Por ejemplo, cuando vemos un video tenemos la opción de seleccionar un botón que dice ´no me interesa´ y seguir profundizando en ´ocultar videos de este usuario´ u ´ocultar videos con este sonido´. Con esas pequeñas instrucciones el algoritmo se va entrenando para saber qué nos gusta, qué queremos mirar y que no”, dice. Estos contenidos aparecen agrupados en la interfaz principal de la app, en una sección denominada “Para tí”.

“Cuando alguien publica un video, según algunas hipótesis, no importa cuántos seguidores tengamos ya que ese contenido va a tener un margen de dos horas en el que va a ser mostrado a un pequeño grupo de usuarios. Pasado ese tiempo, empieza a ser mostrado a una cantidad mediana de usuarios, etapa en la cual sí empiezan a correr las métricas de engagement (algo así como qué tanto enganche genera). El indicador de cuántas veces fue compartido suele ser más valioso que el de ´me gusta´ para una red social como TikTok que busca que sus contenidos se viralicen”, asegura Avolio.

En una tercera etapa, si el contenido tuvo una perfomance exitosa (es decir, si tuvo muchas interacciones), será mostrado a un grupo más grande de usuarios. “Otras versiones también indican que cuando una persona se crea una cuenta nueva en TikTok, los primeros videos que publique serán los que van a crear una especie de autoridad de su cuenta en un ranking”, indica.

Por su parte, el usuario Alejo.em de TikTok, de 38 años, con más de 97.000 seguidores en la plataforma (en donde se los denomina “fans”) señala: “El algoritmo es muy exigente, para salir mucho en ´Para ti´ tenes que ser constante. Si un video no tiene ´me gusta´, el video se deja de mostrar”.

Desde TikTok, al ser consultados por Infobae, dijeron que aun no cuentan con un vocero para poder transmitir información respecto de cómo funciona su algoritmo.

Bloqueos

Otras de las polémicas vinculadas a TikTok es el bloqueo de cuentas que refieren al gobierno chino de forma negativa. Recientemente la cuenta de TikTok de una adolescente de 17 años de Estados Unidos fue suspendida después de que en uno de sus videos pidió investigar las condiciones de vida que enfrentan los musulmanes en China. Luego, desde la red social, pedirían disculpas por este bloqueo.

“Ellos tienen unas normas de la comunidad, en donde no se pueden mostrar armas, cuchillos, en su momento no se podía mostrar alcohol pero ahora permiten que haya una botella. Muchas veces pasa que mostras algo que se parece a un arma, pero no lo es, y borran el tiktok. Según me dijeron, por tantos reclamos que he realizado, el algoritmo va aprendiendo a distinguir objetos pero ante la duda, borra”, expresa el tiktoker Alejo.em.

Narra la historia de un usuario de Estados Unidos con 2 millones de fans. “Él hizo un tiktok mostrando un arma y vendía cocaína. Yo hice una videoreacción a eso y mi video lo borraron porque aparecía un arma, pero el video de ese creador, no. Aun sigue ahí el video. Obviamente muchas cosas se manejan ´a dedo´, y yo creo que así como te destacan en TikTok, te pueden tirar para abajo”, finaliza.

MÁS SOBRE ESTE TEMA: