Una jaula invisible: cómo China vigila el futuro

Los más de 1.400 millones de personas que viven en China están constantemente vigilados. Son grabados por cámaras policiales que están por todas partes, en las esquinas y en los techos del metro, en los vestíbulos de los hoteles y en los edificios de apartamentos. Sus teléfonos son rastreados, sus compras vigiladas y sus chats en línea censurados.

Ahora, incluso su futuro está bajo vigilancia.

La última generación de tecnología escarba en las enormes cantidades de datos recogidos sobre sus actividades diarias para encontrar patrones y alteraciones, prometiendo predecir delitos o protestas antes de que se produzcan. Se dirigen a los potenciales alborotadores a los ojos del gobierno chino, no sólo a los que tienen un pasado delictivo, sino también a los grupos vulnerables, como las minorías étnicas, los trabajadores inmigrantes y los que tienen un historial de enfermedades mentales.

Pueden avisar a la policía si una víctima de un fraude intenta viajar a Pekín para solicitar el pago al gobierno o si un consumidor de drogas hace demasiadas llamadas al mismo número. Pueden avisar a los agentes cada vez que una persona con antecedentes de enfermedad mental se acerca a un colegio.

Hay que hacer muchas maniobras evasivas para evitar las trampas digitales. En el pasado, Zhang Yuqiao, un hombre de 74 años que lleva casi toda su vida adulta solicitando al gobierno, podía simplemente mantenerse alejado de las principales autopistas para esquivar a las autoridades y dirigirse a Pekín para luchar por una indemnización por la tortura de sus padres durante la Revolución Cultural. Ahora, apaga sus teléfonos, paga en efectivo y compra múltiples billetes de tren a destinos falsos.

Aunque en gran medida no han sido probadas, las nuevas tecnologías chinas, detalladas en documentos de adquisición y otros revisados por The New York Times, amplían aún más los límites de los controles sociales y políticos y los integran cada vez más en la vida de las personas. En su aspecto más básico, justifican una vigilancia asfixiante y violan la privacidad, mientras que en el extremo corren el riesgo de automatizar la discriminación sistémica y la represión política.

Para el gobierno, la estabilidad social es primordial y cualquier amenaza a la misma debe ser eliminada. Durante su década como máximo dirigente de China, Xi Jinping ha endurecido y centralizado el estado de seguridad, desencadenando políticas tecno-autoritarias para sofocar los disturbios étnicos en la región occidental de Xinjiang y aplicar algunos de los cierres más severos del mundo. El espacio para la disidencia, siempre limitado, está desapareciendo rápidamente.

“Los big data deben utilizarse como un motor para impulsar el desarrollo innovador de la labor de seguridad pública y un nuevo punto de crecimiento para alimentar las capacidades de combate”, dijo Xi en 2019 en una reunión de trabajo de seguridad pública nacional.

Los algoritmos, que resultarían controvertidos en otros países, suelen ser pregonados como triunfos.

En 2020, las autoridades del sur de China denegaron la petición de una mujer de trasladarse a Hong Kong para estar con su marido después de que un software les alertara de que el matrimonio era sospechoso, según informó la policía local. Una investigación posterior reveló que ambos no solían estar en el mismo lugar al mismo tiempo y que no habían pasado juntos las vacaciones del Festival de Primavera. La policía llegó a la conclusión de que el matrimonio había sido fingido para obtener un permiso de migración.

Ese mismo año, en el norte de China, una alerta automática sobre la entrada frecuente de un hombre en un complejo residencial con diferentes acompañantes llevó a la policía a investigar. Descubrieron que formaba parte de una estafa piramidal, según los medios de comunicación estatales.

Los detalles de estas tecnologías de seguridad emergentes se describen en documentos de investigación de la policía, patentes y presentaciones de contratistas de vigilancia, así como en cientos de documentos de contratación pública revisados y confirmados por The Times. Muchos de los documentos sobre adquisiciones fueron compartidos por ChinaFile, una revista en línea publicada por la Asia Society, que ha reunido sistemáticamente años de registros en sitios web gubernamentales. Otro conjunto, que describe los programas informáticos adquiridos por las autoridades de la ciudad portuaria de Tianjin para impedir que los peticionarios vayan a la vecina Pekín, fue facilitado por IPVM, una publicación del sector de la vigilancia.

El Ministerio de Seguridad Pública de China no respondió a las solicitudes de comentarios enviadas por fax a su sede en Pekín y a seis departamentos locales de todo el país.

El nuevo enfoque de la vigilancia se basa en parte en los programas informáticos de vigilancia basados en datos de Estados Unidos y Europa, tecnología que, según los grupos de derechos, ha codificado el racismo en decisiones como qué barrios están más vigilados y qué presos obtienen la libertad condicional. China lo lleva al extremo, explotando reservas de datos a nivel nacional que permiten a la policía actuar con opacidad e impunidad.

A menudo la gente no sabe que está siendo vigilada. La policía se enfrenta a un escaso escrutinio externo de la eficacia de la tecnología o de las acciones que impulsa. Las autoridades chinas no exigen ninguna orden judicial para recopilar información personal.

En su vertiente más vanguardista, los sistemas plantean perennes enigmas de ciencia ficción: ¿Cómo es posible saber que el futuro se ha predicho con exactitud si la policía interviene antes de que ocurra?

Incluso cuando el software no logra deducir el comportamiento humano, puede considerarse un éxito, ya que la propia vigilancia inhibe los disturbios y la delincuencia, dicen los expertos.

“Se trata de una jaula invisible de tecnología impuesta a la sociedad”, afirma Maya Wang, investigadora principal de China en Human Rights Watch, “cuyo peso desproporcionado lo sufren grupos de personas que ya están gravemente discriminados en la sociedad china.”

“Ningún lugar donde esconderse”

En 2017, uno de los empresarios más conocidos de China tuvo una audaz visión de futuro: un sistema informático capaz de predecir los delitos.

El empresario, Yin Qi, que fundó Megvii, una start-up de inteligencia artificial, dijo a los medios estatales chinos que el sistema de vigilancia podría dar a la policía un motor de búsqueda de delitos, analizando enormes cantidades de imágenes de vídeo para intuir patrones y advertir a las autoridades sobre comportamientos sospechosos. Explicó que si las cámaras detectan a una persona que pasa demasiado tiempo en una estación de tren, el sistema podría señalar a un posible carterista.

“Daría miedo si hubiera realmente personas vigilando detrás de la cámara, pero detrás hay un sistema”, dijo Yin. “Es como el motor de búsqueda que utilizamos cada día para navegar por Internet: es muy neutral. Se supone que es algo benévolo”.

Añadió que con esa vigilancia, “los malos no tienen dónde esconderse”.

Cinco años después, su visión se está convirtiendo poco a poco en realidad. Las presentaciones internas de Megvii revisadas por The Times muestran cómo los productos de la start-up montan expedientes digitales completos para la policía.

“Construye una base de datos multidimensional que almacena rostros, fotos, coches, casos y registros de incidentes”, reza la descripción de un producto, llamado “búsqueda inteligente”. El software analiza los datos para “desenterrar a gente corriente que parece inocente” para “reprimir los actos ilegales en la cuna”.

Un portavoz de Megvii dijo en una declaración enviada por correo electrónico que la empresa estaba comprometida con el desarrollo responsable de la inteligencia artificial, y que se preocupaba por hacer la vida más segura y conveniente y “no por vigilar a ningún grupo o individuo en particular.”

Ya se están utilizando tecnologías similares. En 2022, la policía de Tianjin compró un software fabricado por un competidor de Megvii, Hikvision, cuyo objetivo es predecir las protestas. El sistema recopila datos sobre legiones de peticionarios chinos, un término general en China que describe a las personas que intentan presentar quejas sobre los funcionarios locales ante las autoridades superiores.

A continuación, puntúa a los peticionarios según la probabilidad de que viajen a Pekín. En el futuro, los datos se utilizarán para entrenar modelos de aprendizaje automático, según un documento de contratación.

Los funcionarios locales quieren impedir estos viajes para evitar la vergüenza política o la exposición de las irregularidades. Y el gobierno central no quiere que grupos de ciudadanos descontentos se reúnan en la capital.

Un representante de Hikvision declinó hacer comentarios sobre el sistema.

Bajo el mandato de Xi, los esfuerzos oficiales para controlar a los peticionarios se han vuelto cada vez más invasivos. Zekun Wang, un miembro de 32 años de un grupo que durante años buscó reparación por un fraude inmobiliario, dijo que las autoridades en 2017 habían interceptado a compañeros peticionarios en Shanghái antes de que pudieran incluso comprar billetes a Pekín. Sospechaba que las autoridades vigilaban sus comunicaciones en la aplicación de redes sociales WeChat.

El sistema de Hikvision en Tianjin, que funciona en cooperación con la policía de la cercana Pekín y la provincia de Hebei, es más sofisticado.

La plataforma analiza la probabilidad de que los individuos hagan una petición basándose en sus relaciones sociales y familiares, sus viajes anteriores y su situación personal, según el documento de la contratación. Ayuda a la policía a crear un perfil de cada uno, con campos para que los agentes describan el temperamento del manifestante, incluyendo “paranoico”, “meticuloso” y “de temperamento corto”.

Muchas de las personas que hacen peticiones lo hacen por la mala gestión del gobierno de un trágico accidente o por la negligencia en el caso, todo lo cual entra en el algoritmo. “Aumenta el nivel de riesgo de alerta temprana de una persona si tiene un estatus social bajo o ha pasado por una tragedia importante”, reza el documento de adquisición.

Automatizar los prejuicios

Cuando la policía de Zhouning, un condado rural de la provincia de Fujian, compró un nuevo conjunto de 439 cámaras en 2018, enumeró las coordenadas donde iría cada una. Algunas se colgaron sobre las intersecciones y otras cerca de las escuelas, según un documento de adquisición.

Nueve se instalaron fuera de las casas de personas con algo en común: enfermedades mentales.

Mientras que algunos programas tratan de utilizar los datos para descubrir nuevas amenazas, un tipo más común se basa en las nociones preconcebidas de la policía. En más de un centenar de documentos de contratación revisados por The Times, la vigilancia se centraba en listas negras de “personas clave”.

Estas personas, según algunos de los documentos de contratación, incluían a los enfermos mentales, los delincuentes convictos, los fugitivos, los consumidores de drogas, los peticionarios, los sospechosos de terrorismo, los agitadores políticos y las amenazas a la estabilidad social. Otros sistemas tenían como objetivo a los trabajadores inmigrantes, los jóvenes ociosos (adolescentes sin estudios ni trabajo), las minorías étnicas, los extranjeros y los infectados por el VIH.

Las autoridades deciden quién entra en las listas, y a menudo no hay un proceso para notificar a las personas cuando lo hacen. Una vez que los individuos están en una base de datos, rara vez se eliminan, dijeron los expertos, que temen que las nuevas tecnologías refuercen las disparidades dentro de China, imponiendo la vigilancia a las partes menos afortunadas de su población.

En muchos casos, los programas informáticos van más allá de la simple selección de una población, permitiendo a las autoridades establecer cables trampa digitales que indican una posible amenaza. En una presentación de Megvii en la que se detallaba un producto rival de Yitu, la interfaz del sistema permitía a la policía diseñar sus propias alertas tempranas.

Con un sencillo menú para rellenar los espacios en blanco, la policía puede basar las alarmas en parámetros específicos, como dónde aparece una persona en la lista negra, cuándo se mueve, si se reúne con otras personas de la lista negra y la frecuencia de determinadas actividades. La policía puede configurar el sistema para que envíe un aviso cada vez que dos personas con antecedentes de consumo de drogas se registren en el mismo hotel o cuando cuatro personas con antecedentes de protesta entren en el mismo parque.

Yitu no respondió a las solicitudes de comentarios por correo electrónico.

En 2020, en la ciudad de Nanning, la policía compró un software que podía buscar “más de tres personas clave que se registren en el mismo hotel o en hoteles cercanos” y “un consumidor de drogas que llame a un nuevo número fuera de la ciudad con frecuencia”, según un documento de licitación. En Yangshuo, una ciudad turística famosa por sus montañas kársticas de otro mundo, las autoridades compraron un sistema para alertarles si un extranjero sin permiso de trabajo pasaba demasiado tiempo cerca de las escuelas de idiomas extranjeros o de los bares, un esfuerzo aparente para atrapar a las personas que sobrepasan sus visados o trabajan ilegalmente.

En Shanghái, una publicación dirigida por el partido describió cómo las autoridades utilizaban un software para identificar a quienes excedían el uso normal de agua y electricidad. El sistema enviaba un “silbato digital” a la policía cuando encontraba patrones de consumo sospechosos.

Es probable que la táctica se haya diseñado para detectar a los trabajadores inmigrantes, que suelen vivir juntos en cuartos cercanos para ahorrar dinero. En algunos lugares, la policía los considera un grupo escurridizo, y a menudo empobrecido, que puede llevar la delincuencia a las comunidades.

Las alertas automatizadas no dan lugar al mismo nivel de respuesta policial. A menudo, la policía da prioridad a los avisos que apuntan a problemas políticos, como protestas u otras amenazas a la estabilidad social, dijo Suzanne E. Scoggins, profesora de la Universidad de Clark que estudia la actividad policial en China.

En ocasiones, la policía ha manifestado abiertamente la necesidad de elaborar perfiles de las personas. “A través de la aplicación de big data, pintamos una imagen de las personas y les damos etiquetas con diferentes atributos”, dijo Li Wei, investigador de la universidad nacional de policía de China, en un discurso de 2016. “Para aquellos que reciben uno o más tipos de etiquetas, inferimos sus identidades y comportamientos, y luego llevamos a cabo medidas de seguridad preventivas dirigidas”.

Hacia el tecno totalitarismo

Zhang comenzó a solicitar al gobierno una compensación por la tortura de su familia durante la Revolución Cultural. Desde entonces, ha presentado una petición por lo que, según él, es la persecución policial de su familia.

A medida que China ha ido desarrollando sus herramientas tecno-autoritarias, él ha tenido que utilizar tácticas de película de espionaje para eludir una vigilancia que, según él, se ha vuelto “de alta tecnología y nazificada”.

Cuando viajó a Pekín en enero desde su pueblo en la provincia de Shandong, apagó su teléfono y pagó el transporte en efectivo para minimizar su huella digital. Compró billetes de tren con destino equivocado para eludir el seguimiento policial. Contrató a conductores privados para sortear los controles en los que su tarjeta de identificación haría saltar la alarma.

El sistema de Tianjin tiene una función especial para personas como él, que tienen “cierta conciencia de la lucha contra el reconocimiento” y cambian regularmente de vehículo para eludir la detección, según el documento de adquisición de la policía.

Tanto si ha activado el sistema como si no, Zhang ha notado un cambio. Cada vez que apaga su teléfono, dijo, los agentes se presentan en su casa para comprobar que no ha salido en un nuevo viaje a Pekín.

Incluso si los sistemas policiales no pueden predecir con exactitud el comportamiento, las autoridades pueden considerar que tienen éxito por la amenaza, dijo Noam Yuchtman, un profesor de economía de la London School of Economics que ha estudiado el impacto de la vigilancia en China.

“En un contexto en el que no existe una verdadera responsabilidad política”, contar con un sistema de vigilancia que envíe con frecuencia a los agentes de policía “puede funcionar bastante bien” para desalentar los disturbios, dijo.

Una vez establecidos los parámetros y activados los avisos, los policías tienen poca flexibilidad, centralizando el control. Se les evalúa por su capacidad de respuesta a las alarmas automatizadas y por su eficacia a la hora de evitar las protestas, según los expertos y los informes policiales públicos.

La tecnología ha codificado los desequilibrios de poder. Algunos documentos de licitación hacen referencia a una “lista roja” de personas a las que el sistema de vigilancia debe ignorar.

Un documento de licitación nacional decía que la función era para “personas que necesitan protección de la privacidad o protección V.I.P.”. Otro, de la provincia de Guangdong, fue más específico, estipulando que la lista roja era para los funcionarios del gobierno.

Zhang expresó su frustración por la forma en que la tecnología ha aislado a los que tienen el poder político de la gente normal.

“Las autoridades no resuelven seriamente los problemas, sino que hacen lo que sea para silenciar a las personas que los plantean”, dijo. “Esto es un gran paso atrás para la sociedad”.

Zhang dijo que seguía creyendo en el poder de la tecnología para hacer el bien, pero que en las manos equivocadas podía ser un “azote y un grillete”.

“Antes, si salías de tu casa y te ibas al campo, todos los caminos llevaban a Pekín”, dijo. “Ahora, todo el país es una red”.

© The New York Times 2022