Nueva York usa así la inteligencia artificial para analizar redes sociales y predecir nuevos delincuentes

La Policía de Nueva York ha gastado millones de dólares en la compra de productos y servicios para expandir sus capacidades de rastreo y análisis de publicaciones en redes sociales, incluidos sistemas de inteligencia artificial para analizar el comportamiento humano en línea y detectar y predecir fraudes y delitos.

Así lo revelaron unos documentos filtrados por el Proyecto de Supervisión de Tecnología de Vigilancia (Stop), una organización sin fines de lucro dedicada a combatir la vigilancia masiva y proteger la privacidad; que publicó lo que serían contratos del NYPD con Voyager Labs, los cuales se acercarían a los 9 millones de dólares.

Esta es una empresa tecnológica que dice producir “soluciones de investigación basadas en IA” y vende productos en varias industrias, incluidas las fuerzas del orden, el sector público estadounidense y la seguridad corporativa, según su sitio web.

De momento, la policía de Nueva York confirmó que el departamento utiliza este tipo de tecnologías para vigilar a los sospechosos de una variedad de delitos como la violencia armada, el terrorismo y la trata de personas; pero dejó en claro que no utiliza las herramientas predictivas que ofrece Voyager Labs.

Cuyo vicepresidente de marketing global, William Colston, afirma que la empresa solo emplea datos disponibles públicamente y que su software “no pretende ser un sustituto de la supervisión y el análisis riguroso” que puede realizar un especialista humano.

“Voyager Discover lleva las capacidades de Voyager Analytics un paso más allá, analizando no solo quién es más influyente, sino también quién está más implicado en una postura determinada: emocional, ideológica y personalmente”, indica el discurso de ventas de la compañía al Departamento de Policía de Los Ángeles.

El cual fue obtenido por el Centro Brennan para la Justicia, un instituto de derecho y política pública, que advierte que la empresa asegura que sus productos pueden predecir futuros delitos mientras su IA asigna puntuaciones de riesgo a los usuarios en redes con base en sus “vínculos o afinidad con el fundamentalismo islámico o el extremismo”.

De hecho, el servicio llamado VoyagerCheck “proporciona una indicación automatizada de personas que pueden suponer un riesgo”, de acuerdo con la página de Voyager Labs.

Y aunque el uso de análisis de redes sociales por parte de las fuerzas de seguridad no es nada nuevo, expertos alertan que esta práctica puede cruzar líneas éticas y legales, especialmente cuando se utiliza para acceder a información privada, hacer inferencias o predecir la delincuencia futura basada en el contenido publicado en redes sociales.

Meta, la empresa matriz de Facebook e Instagram, demandó a Voyager Labs en enero pasado, alegando que la empresa tecnológica creó más de 38.000 cuentas falsas para extraer datos de más de 600.000 usuarios.

Según asegura la tecnológica de Mark Zuckerberg, la firma británica tenía como objetivo vender esta información a clientes interesados en realizar vigilancia en sitios de redes sociales sin ser detectadas. Y habría vendido esta información a quien más dinero le haya ofrecido.

Meta pidió a la justicia que la compañía ya no pueda acceder a sus aplicaciones, alertando que “empresas como Voyager son parte de una industria que brinda servicios de extracción de datos a cualquier persona, independientemente de los usuarios a los que se dirigen y con qué propósito”.

Además sostiene que “esta industria recopila de forma encubierta información que las personas comparten con su comunidad sin supervisión ni rendición de cuentas, y de una manera que puede afectar los derechos civiles de las personas”, mientras advierte que los objetivos eran empleados de organizaciones sin fines de lucro, empresas de medios, universidades y las fuerzas armadas de Estados Unidos.