Algoritmos y salud mental, las complejidades psicológicas que pueden producir en niños y adolescentes

En la actualidad digital, la omnipresencia de la personalización algorítmica en nuestras experiencias en línea plantea grandes desafíos para la salud mental, especialmente para niños, niñas y adolescentes.

Desde temprana edad, estos se encuentran inmersos en un entorno digital que no solo moldea sus interacciones sociales y percepciones del mundo, sino que también influye profundamente en su desarrollo emocional y autoestima.

A través del aprendizaje automático y la minería de datos, los algoritmos de personalización analizan y procesan enormes cantidades de información personal para ofrecer contenido adaptado a los intereses y comportamientos de cada usuario. Si bien esto promueve una experiencia más relevante y atractiva, también introduce complejidades psicológicas para los niños y niñas en pleno desarrollo.

Los algoritmos de personalización son capaces de procesar grandes volúmenes de información para identificar patrones en nuestro comportamiento en línea. A partir de estas observaciones, determinan qué contenido mostrarnos, creando así una experiencia digital única y adaptada a cada usuario.

El algoritmo de Tik Tok es un sistema avanzado de inteligencia artificial que personaliza la experiencia del usuario en la plataforma. Funciona seleccionando y mostrando videos en la página “Para ti” de cada usuario, creando un feed único y personalizado basado en sus interacciones y preferencias.

Este sistema tiene en cuenta factores como las interacciones del usuario con la app (videos que le gustan, comentarios, búsquedas), información del video (descripciones, hashtags), y detalles técnicos del dispositivo y red del usuario. Como en cualquier red social, el comportamiento de cada usuario determina el contenido que la red social le ofrece. Si un niño por curiosidad ve un video por fuera de sus posibilidades de elaboración porque resulta violento es muy probable que contenido similar se le siga ofreciendo.

Es muy común que los niños y niñas les interesen los challenge (desafíos) y puedan darles “me gusta” porque les parecen divertidos. Así el algoritmo no parará de ofrecer recomendaciones en este sentido y muchos de estos desafíos sabemos que han sido peligrosos y extremos para la infancia.

Los niños y niñas por su curiosidad natural intentan recorrer y conocer el mundo, también de manera virtual. A veces se topan con contenido inapropiado y se quedan mirando. Luego comienzan a ofrecerles contenido cada vez más crudo que los lastima.

El algoritmo le muestra más de lo mismo y el consumo se convierte en una espiral descendente que lo lleva al mismo infierno del horror: violencia sexual, maltrato animal, agresiones de todo tipo, pasan por esa red como si no pasara nada.

El algoritmo no es ético, con lo cual no expulsa las imágenes, sino que lee las descripciones de videos e imágenes y, como todos sabemos, las palabras prohibidas se escriben con signos o se pronuncian de maneras solapadas para pasar la barrera de la prohibición.

Según los especialistas, uno de los impactos más notables es la intensificación de la comparación social. En las redes sociales, los algoritmos seleccionan y muestran contenido que resalta vidas y cuerpos idealizados, estableciendo estándares inalcanzables de éxito y belleza. Para los niños, niñas y adolescentes, fomentan una constante evaluación de sí mismos en relación con los demás, generando ansiedad y una búsqueda incesante de validación externa. Estos estímulos constantes los hacen dudar de sí mismos, de quiénes son, qué es lo importante para sus vidas y los coloca en una pirámide aspiracional cruel.

Los estudios recientes han documentado cómo la exposición prolongada a contenido personalizado contribuye a niveles elevados de ansiedad entre los adolescentes. La preocupación por obtener “likes” y la validación en línea se convierte en una fuente de estrés emocional, donde la autoestima se vincula estrechamente con la aceptación social virtual. Esta dinámica no solo aumenta la vulnerabilidad emocional, sino que también puede dificultar el desarrollo de una identidad sólida.

La representación constante de cuerpos perfectos en las redes sociales ha sido asociada con mayores niveles de insatisfacción corporal y problemas de autoestima entre los adolescentes. La idealización digital no solo distorsiona la percepción de la realidad, sino que también puede perpetuar una autoimagen negativa basada en comparaciones poco realistas y estándares irrealizables. Las propuestas de prácticas para reconstruir el cuerpo desde sacar costillas, poner mamas, aumentar glúteos, etc., se ofrecen para construir cuerpos “ideales”, pero no cuentan las consecuencias de estas violencias quirúrgicas y psicológicas.

Es importante reconocer cómo estos fenómenos digitales afectan la formación psíquica de los niños, niñas y adolescentes. El ideal de belleza es uno de los contenidos más visto, pero a la vez induce a conductas alimenticias dañinas para la salud o a prácticas de degradación del cuerpo, lo que conlleva de manera inexorable a problemas en la salud mental y el algoritmo los reproduce sin cesar.

Según el estudio “TikTok, domar el algoritmo: desafíos para la salud mental y privacidad de Argentina”, realizado por Amnistía internacional Argentina, Tik Tok se ha convertido en una de las mayores redes sociales del mundo, con más de 1.000 millones de usuarios, muchos de ellos niños de entre 13 y 17 años.

En Argentina, TikTok tenía 16,2 millones de usuarios mayores de 18 años a comienzos de 2023. Aseguran que “el algoritmo de Tik Tok es percibido como una entidad con vida propia que predice, casi mágicamente, los gustos, preferencias y hasta los pensamientos de los usuarios”.

Especialmente esta plataforma tiene una forma absorbente y los usuarios dieron testimonios de haberse perdido en tiempo y espacio en el consumo frenético e incluso de “abducción” por parte de la plataforma.

Un efecto importante de las redes, según este informe, es “la desjerarquización del conocimiento y la simetrización de los enunciadores. La circulación acelerada de contenidos producidos por celebrities o influencers que dan consejos o venden productos en lenguaje coloquial desarticula el conocimiento especializado e institucionalmente validado”.

El autodiagnóstico en salud mental es una práctica corriente y conlleva a grandes dificultades para los niños y adolescentes que padecen confusión. Para quienes tienen preguntas acerca de sus sentimientos, vínculos, sensaciones se encuentran con un tutorial que le dice que quién es, cómo debe sentirse y cómo debe resolver el problema, sin ninguna capacitación para hacerlo y generalizando el dolor.

Además, se etiquetan “padeceres” con parámetros deficientes, que posicionan a los niños y adolescentes en lugares estancos alienantes, que nos les permiten sanar o pedir ayuda.

El uso reciente de apps para problemas de salud mental es otra de las discusiones que deberán darse en relación a la Inteligencia Artificial. Las mismas llevan a falta de conexión humana, de ética que son fundamentales en el desarrollo emocional. Además, la personalización algorítmica puede llevar a la exposición a contenido perjudicial si no se gestiona adecuadamente y, como vemos en las diferentes APPS, no lo hace.

Más allá de limitarse a regulaciones técnicas o estrategias de uso responsable, es esencial como sociedad fomentar un diálogo abierto sobre la identidad, la autoaceptación y la relación con la tecnología. Educar desde muy temprano la autonomía emocional, en la advertencia de los espejismos que solo le sirven al mercado y promover un conocimiento de uno mismo, pueden ayudar a los niños y niñas a navegar un poco más seguros, prevenidos y conscientes en el mundo digital actual.

* Sonia Almada: es Lic. en Psicología de la Universidad de Buenos Aires. Magíster Internacional en Derechos Humanos para la mujer y el niño, violencia de género e intrafamiliar (UNESCO). Se especializó en infancias y juventudes en Latinoamérica (CLACSO). Fundó en 2003 la asociación civil Aralma que impulsa acciones para la erradicación de todo tipo de violencias hacia infancias y juventudes y familias. Es autora de tres libros: La niña deshilachada, Me gusta como soy y La niña del campanario.