Por qué la inteligencia artificial se usa en las apps de citas para evitar el ciberacoso

Machine learning o aprendizaje automático, es una de las herramientas que se está usando en las plataformas de citas como Bumble para eliminar el ciberacoso, una de las prácticas más comunes de los delincuentes para afectar la dignidad de mujeres u hombres.

Por tanto, mediante algoritmos se entrena a la plataforma para que tenga la capacidad de identificar patrones negativos y elaborar predicciones. Así que el sistema prioriza automáticamente los informes de seguridad más graves y acorta el tiempo de respuesta para los mismos.

A ello se suma la detección de contenido en más de 100 idiomas mediante inteligencia artificial, que es capaz de identificar las posibles transgresiones, incluso antes de que los mismos usuarios las denuncien; esto incluye acoso, la incitación al odio, contenidos inapropiados, entre otros.

También, existe la Función Private Detector, que utiliza el algoritmo de Bumble para determinar si una foto que ha sido enviada puede contener una imagen lasciva y además, ofrece la opción al usuario de verla o no.

Un estudio global de esta aplicación con Ipsos en México y Colombia, concluyó que el cyberstalking, el acoso sexual en línea, los insultos ofensivos y la pornovenganza son las prácticas negativas más comunes.

Los resultados fueron presentados en las oficinas centrales de Bumble en Austin, Texas, por Payton Iheme, vicepresidenta Global de Políticas de la plataforma, quien advirtió que el ciberacoso “es una forma implacable y cotidiana de violencia que hace que quienes lo experimentan, predominantemente mujeres, se sientan angustiadas, abusadas y vulnerables en línea”.

Además, el ciberacoso en general, es percibido como un problema grave que podría estar sucediendo mucho más a menudo de lo que la gente piensa. Esto, cuando casi 1 de cada 2 encuestados en ambas naciones afirma haberlo experimentado o conocer a alguien que lo haya vivido.

Sin embargo, la cifra cambia al segmentar por género en México, donde el 46% de las mujeres encuestadas afirmaron haber vivido acoso en línea o conocer a alguien que ha sido acosada(o), sólo el 34% de los hombres estuvo de acuerdo.

Este fenómeno se percibe como un problema que afecta principalmente a las mujeres, con casi el 98% para los dos países foco del estudio.

Según el DANE, Departamento Administrativo Nacional de Estadística de Colombia, las mujeres son las mayores víctimas de acoso en línea, con más de 300.000 casos al año; una prevalencia que también confirma el Instituto Nacional de Estadística y Geografía de México, que informó que 9.8 millones de mujeres son víctimas de este problema frente a 7.6 millones de hombres.

La incidencia del acoso en línea es elevada, y también lo es la necesidad de concientizar sobre estos temas y sus consecuencias.

Los efectos del ciberacoso no solo abarcan la salud mental sino que también, aumentan la preocupación por su seguridad y cambian su comportamiento en red y fuera de ella.

En México, 5 de cada 10 de los encuestados optaron por dejar de utilizar las redes sociales u otras apps, y cesaron el contacto con amigos o familiares (30%). En el caso de Colombia fueron 4 de cada 10.

Para Payton Iheme “los esfuerzos para abordar el ciberacoso y promover un entorno en línea más seguro son esenciales. Esto incluye el desarrollo y la aplicación de regulaciones, la implementación de sistemas de denuncia eficaces y el fomento de una cultura en línea solidaria e inclusiva.