El periodista de The New York Times que investigó los algoritmos y descubrió el oscuro lado B de las redes sociales

Para quienes usamos las redes sociales a diario, el nuevo libro del periodista y escritor de The New York Times Max Fisher no es fácil de leer. Las redes del caos, que revela “qué se esconde tras los likes y la aparente frivolidad” de plataformas como Facebook y TikTok, es una profunda investigación sobre los gigantes tecnológicos que “eluden cualquier principio ético ante la perspectiva del lucro”.

Fisher parte de dos inquietantes casos. Primero, una investigación de 2018 en la que se descubrió que el algoritmo de YouTube podía identificar correctamente un vídeo de un niño semidesnudo y determinar que esa característica era el atractivo de la grabación, al tiempo que lo promocionaba entre usuarios que buscaban contenido pedófilo.

Y luego, una situación análoga en Facebook, donde tardaron poco en darse cuenta de que los usuarios pasaban muchas más horas en su página cuando las informaciones que leían sobre vacunas eran alarmistas o conspirativas, con lo que no dudaron en promocionar ese tipo de publicaciones, en especial entre grupos de madres.

“Las redes sociales son probablemente el mayor experimento colectivo de la humanidad y su influencia es mucho más profunda de lo que imaginamos”, escribe Fisher, que ha formado parte de un equipo que informa sobre las redes sociales y que fue finalista del Premio Pulitzer en 2019.

Basándose en años de reportajes en todo el mundo, Max Fisher cuenta en Las redes del caos la historia de cómo Meta, Twitter, YouTube y otras redes sociales han explotado la fragilidad psicológica de sus usuarios para crear algoritmos que potencien la radicalización, el extremismo y la violencia. Todo ello con un único objetivo: maximizar sus beneficios y la cuenta de resultados de sus empresas.

Renée DiResta tenía a su bebé en el regazo cuando se dio cuenta de que las redes sociales estaban sacando algo peligroso en las personas, algo que ya estaba llegando de forma invisible a su vida y a la de su hijo. Nadie de su círculo inmediato tenía hijos, así que se unió a grupos virtuales para padres primerizos a la búsqueda de consejos sobre métodos para dormir o sobre la dentición. Pero los otros usuarios, aun siendo en su mayoría amables —me dijo— de vez en cuando se enzarzaban en «batallas dialécticas» que se alargaban durante miles de comentarios, todas ellas sobre algo con lo que ella pocas veces se había encontrado en la vida real: las vacunas.

Era el año 2014, y DiResta acababa de llegar a Silicon Valley, donde exploraba start-ups para una empresa de inversión. En el fondo seguía siendo analista, algo que hacía desde sus años tanto en Wall Street como, antes de eso, en una agencia de inteligencia que da a entender que era la CIA. Para no perder la agilidad mental, ocupaba su periodo de inactividad con sofisticados proyectos de investigación, al igual que otras personas podrían hacer un crucigrama en la cama.

Como le había picado la curiosidad, empezó a investigar si la furia antivacunas que había visto por internet reflejaba algo más amplio. Se dio cuenta de que, soterrados entre los archivos del departamento de salud pública de California, se recogían los índices de vacunación de casi todos los colegios del estado: también de los jardines de infancia a los que se planteaba llevar a su hijo. Lo que descubrió la asombró. Algunos de los colegios tenían un índice de vacunación de tan solo el 30 %. «¿Qué demonios está pasando?», se preguntó. Se descargó los registros de los diez años anteriores. La tendencia durante ese periodo —un incremento constante de los no vacunados— era clara, me contó. «Mierda —pensó—, esto es terrible.»

Con unos índices tan bajos, los brotes de enfermedades como el sarampión o la tosferina se convertían en un grave peligro, lo cual ponía en riesgo a los hijos de todos. Llamó a la oficina del senador de su estado para preguntar si se podía hacer algo para mejorar los índices de vacunación. Eso no iba a ocurrir, le dijeron. ¿Realmente eran tan odiadas las vacunas?, preguntó. No, le dijo el funcionario. Sus sondeos indicaban un apoyo de un 85 % a un proyecto de ley que endurecería la obligación de vacunarse en los colegios. Pero los políticos temían al movimiento antivacunas, de una extraordinaria vehemencia —formado por jóvenes padres californianos presas de la paranoia y la indignación— que parecían estar saliendo de Twitter, YouTube y Facebook.

«Aquello fue realmente lo que me hizo caer por esta madriguera —dijo DiResta—. Durante seis meses, no es broma, me dediqué a este tema de las ocho de la mañana a las dos de la tarde.» Con el tiempo, aquella madriguera no la llevó a ninguna mano secreta que estuviera detrás del movimiento antivacunas, sino más bien a las propias redes sociales en las que había surgido. Con la esperanza de organizar parte de aquel 85 % de californianos que apoyaban el proyecto de ley sobre la vacunación, creó un grupo —¿dónde, si no?— en Facebook. Cuando compró anuncios de Facebook para conseguir miembros, se dio cuenta de algo curioso.

Al escribir «vacuna» o algo relacionado tangencialmente con este tema en la herramienta de la plataforma para seleccionar el público destinatario de los anuncios, la búsqueda le mostraba grupos y temas que estaban opuestos por completo a las vacunas. Pero eso no era todo: cuando dirigió sus anuncios para que les apareciesen a las madres californianas, las usuarias que los recibieron respondieron con una avalancha de invectivas antivacunas. Era como si en el mundo virtual se hubiesen invertido las opiniones provacunas de su comunidad en la vida real.

Movida por la curiosidad, se unió a varios grupos de Facebook contrarios a las vacunas. Sus usuarios parecían vivir solo para las redes sociales, y hacían circular vídeos de YouTube y coordinaban campañas con etiquetas de Twitter. La mayoría expresaban una auténtica angustia por lo que creían que era una enorme conspiración por poner unas peligrosas inyecciones en los brazos de sus hijos. Pero, si solo representaban el 15 % de los californianos, ¿por qué eran tan dominantes allí?

Pronto DiResta se dio cuenta de que Facebook hacía algo extraño: le mandaba una oleada de notificaciones insistiendo en que siguiera otras páginas antivacunas. «Unirse a un grupo antivacunas —me dijo— era algo transformador.» Casi todas las recomendaciones relacionadas con las vacunas que se le ofrecían eran de contenido antivacunas. «El motor de recomendaciones les daba más y más preponderancia.»

Al poco tiempo, el sistema le recomendó unirse a grupos sobre conspiraciones de otras temáticas. Estelas químicas. Terraplanismo. Y mientras iba hurgando, descubrió otra manera en que el sistema fomentaba la desinformación sobre las vacunas. Al igual que con la herramienta para dirigir los anuncios a un público concreto, escribir «vacunas» en el recuadro de búsqueda de Facebook le mostraba un montón de publicaciones y grupos antivacunas. Aunque las páginas generalistas sobre salud y paternidad a menudo contaban con grupos con muchos más miembros, aquellos resultados aparecían más abajo.

DiResta tenía una sospecha sobre lo que estaba pasando. La habían fascinado los ordenadores desde niña, cuando su padre, un ingeniero biomédico que trabajaba en la investigación sobre el cáncer, la había enseñado a programar a los nueve años. Había tenido una máquina Timex de principios de los ochenta en la que se podía jugar a juegos sencillos. En el instituto, en Nueva York, la ingeniería aunó su amor por la resolución creativa de problemas con los nítidos absolutos de las matemáticas. Hizo unas prácticas en varios laboratorios de resonancias magnéticas, donde ayudó a programar ordenadores para procesar imágenes de escáneres cerebrales.

«Me encantaba la idea de poder crear tu propia solución —dijo—. Me gusta el rigor. Me gusta la lógica.» Y los ordenadores eran una cosa entretenida. Las salas de chat desenfadadas de America Online, el servicio de internet por la línea telefónica, ofrecían emocionantes conexiones aleatorias. Los foros sobre intereses compartidos esotéricos, como la banda favorita de DiResta, Nine Inch Nails, parecían comunidades reales. En la universidad, se graduó en Ingeniería Informática, pero decidió no estudiar un máster y, en cambio, optó por trabajar en el mundo de la inteligencia y las finanzas. No obstante, cuando se asentó el polvo de la crisis financiera, se puso en contacto con amigos que trabajaban en Google. Vente a la Costa Oeste, le dijeron.

Gracias a su trabajo en el sector de la inversión en Silicon Valley centrado en el hardware, había aprendido lo suficiente sobre redes sociales para entender lo que había encontrado en sus búsquedas de Facebook. El motivo por el que el sistema promocionaba tanto a los conspiratorios marginales, terminó dándose cuenta DiResta, era la participación. Las plataformas de redes sociales daban mayor protagonismo al contenido que sus sistemas automatizados habían concluido que maximizaría la actividad online de los usuarios, lo cual permitiría a la empresa vender más anuncios.

Una madre que acepta que las vacunas son seguras tiene menos motivos para pasar mucho tiempo debatiendo sobre la cuestión en foros virtuales. Los grupos de padres de su mismo parecer a los que se une, aunque tengan muchos miembros, pueden ser relativamente tranquilos. Pero una madre que sospecha que hay una enorme conspiración médica que pone en peligro a sus hijos, según vio DiResta, podía pasarse horas investigando sobre la materia. También era probable que buscara aliados, compartiendo información y coordinando acciones para contraatacar.

Para la inteligencia artificial que gobierna la plataforma de una red social, la conclusión es obvia: las madres interesadas en cuestiones sanitarias pasarán mucho más tiempo en internet si se unen a grupos antivacunas. Por tanto, fomentar esos grupos, mediante cualquier método que capte la atención de esas usuarias, hará aumentar su participación en la red social. DiResta sabía que, si no estaba equivocaba, Facebook no solo estaba mimando a los extremistas antivacunas. Los estaba creando.

«Me sentía como Chicken Little, diciéndole a la gente que el cielo se nos caía encima —dijo—. Y ellos me miraban como diciendo: “Pero si no es más que otra publicación en las redes sociales”.» Pero lo que DiResta había percibido era que la plataforma tenía un error estructural. Amigos suyos de Silicon Valley se pusieron en contacto con ella para decirle que estaban viendo alteraciones extrañamente parecidas en todo tipo de comunidades virtuales. Ella detectó que operaba un conjunto de dinámicas comunes, que quizás había incluso un punto de origen común en algún sitio de los intestinos de la web social. Y si aquellos eran los efectos que se daban en algo tan pequeño como las políticas de vacunación de los colegios o los debates sobre videojuegos, ¿qué ocurriría cuando alcanzara el ámbito político o la sociedad más en general?

«Veía el panorama y pensaba: “Esto va a ser un desastre tremendo”», dijo al recordar las circunstancias.

Su viaje terminó llevándola hasta el Estado Islámico y la inteligencia militar rusa. Hasta salas de reuniones del Departamento de Estado e incluso una comparecencia en el Congreso de Estados Unidos. Y hasta una serie de conclusiones asombrosas acerca de la influencia que ejercen las redes sociales sobre todos nosotros. Pero aquello empezó en California, enfrentándose a una corriente radical minoritaria que DiResta aún no sabía que representaba algo mucho más profundo e intratable.

Con una certeza casi absoluta, en Facebook o YouTube nadie tenía la intención de promover la actitud contraria a las vacunas. Los grupos representaban un porcentaje tan minúsculo de sus imperios que los ingresos publicitarios que les reportaban probablemente eran insignificantes. En 2015 Zuckerberg, dando una respuesta implícita al problema, escribió que «la ciencia es de una claridad meridiana: las vacunas funcionan y son importantes para la salud de todos los miembros de nuestra comunidad». Pero la tecnología que estaba formando ese movimiento radical partía de algo que ni siquiera el director ejecutivo de la compañía podía superar: las costumbres culturales y financieras que constituyen el núcleo de su sector.