Google y Meta están usando la inteligencia artificial para mitigar problemas como suicidio, violencia y machismo

Google presentó innovaciones en los sistemas de inteligencia artificial que nutren su buscador. Estas mejoras apuntan a optimizar el contenido al que acceden los usuarios cuando buscan información sobre suicidio, agresión sexual, abuso de sustancias y violencia doméstica.

Más precisión cuando se busca información en situaciones críticas

Ahora se verá, de manera más destacada, información de contacto para las líneas directas nacionales relevantes junto con los resultados más importantes y de alta calidad disponibles.

Para lograr mayor precisión en los resultados, se mejoró el sistema de aprendizaje automático para comprender el lenguaje de las búsquedas, según explicó la compañía en una conferencia de prensa de la que participó Infobae.

“Ahora, utilizando nuestro último modelo de IA, MUM, podemos detectar de forma automática y más precisa una gama más amplia de búsquedas sobre crisis personales. MUM es capaz de comprender mejor la intención detrás de las preguntas de las personas para detectar cuando una persona está necesitada. Esto nos ayuda a mostrar de manera más fidedigna información confiable y práctica en el momento adecuado. Empezaremos a usar a MUM para hacer estas mejoras en las próximas semanas”, destacaron desde la compañía.

Mejoras en las búsquedas seguras: en qué consiste

El buscador cuenta, desde hace un tiempo, con la herramienta Búsqueda Segura o Safe Search, que les ofrece a los usuarios la posibilidad de filtrar resultados explícitos. Se trata de la configuración predeterminada en cuentas de Google para menores de 18 años. Se puede optar por desactivar esta opción, pero aún así los sistemas de inteligencia artificial reducen la aparición de contenido inesperado en las búsquedas.

Para limitar aún más ese tipo de contenido indeseado, la compañía anunció nuevas actualizaciones detrás de BERT (las siglas en inglés de Representaciones de codificador bidireccional de transformadores), una técnica empleada en Google para el pre entrenamiento en el procesamiento de lenguaje natural.

El gran aporte de esta técnica es que permite una interpretación bidireccional, es decir que para interpretar un término en contexto se tiene en cuenta tanto la palabra que le antecede como la que tiene a continuación.

Ahora, BERT mejoró la comprensión y puede entender mejor la intención de las búsquedas, lo cual permite reducir aún más las posibilidades de que el usuario encuentre resultados de búsqueda inesperados.

“Este es un desafío complejo que hemos estado abordando durante años, pero tan sólo en el último año, esta mejora de BERT ha reducido la presencia de resultados inesperados en un 30%. Ha tenido un impacto especial en la reducción del contenido explícito para búsquedas relacionadas con el origen étnico, la orientación sexual y el género, lo que puede afectar de manera desproporcionada a las mujeres y especialmente a las mujeres de color”, subrayan desde la compañía.

MUM puede transferir conocimientos a través de los 75 idiomas en los que está entrenado, lo cual permite escalar las protecciones de seguridad en todo el mundo de manera más eficiente. Se utiliza la IA para ayudar a reducir las páginas de spam poco útiles y a veces peligrosas que pudieran aparecer en los resultados de búsqueda.

“En los próximos meses, usaremos MUM para mejorar la calidad de nuestras protecciones contra spam y expandirnos a idiomas donde tenemos muy pocos datos de entrenamiento. También podremos detectar mejor las consultas sobre crisis personales alrededor del mundo, trabajando con socios locales de confianza para mostrar información práctica en varios países más”, anunciaron.

Meta

Desde Meta anunciaron el desarrollo de un sistema de IA que puede investigar y escribir los primeros borradores de publicaciones biográficas al estilo de Wikipedia. El objetivo de este modelo de solucionar la falta de representación que hay en este sitio y otros similares. Apenas el 20% de las biografías en Wikipedia son de mujeres, informaron desde la compañía al hacer este anuncio.

La desarrolladora de este proyecto es Angela Fan, investigadora de Meta AI. “Aún queda trabajo por hacer, pero esperamos que este nuevo sistema ayude algún día a los editores de Wikipedia a crear miles de entradas biográficas precisas y cautivadoras sobre personas importantes que actualmente no están en el sitio”, destacó la científica.

Las mujeres estén subrepresentadas en esa plataforma, a pesar del impacto que han tenido en la ciencia y otros campos. Para ilustrar esta idea, Fan comparte el caso de la física canadiense, Donna Strickland. Ella ganó el Premio Nobel de Física en 2018, sin embargo, no bien obtuvo el premio nadie hubiese podido encontrar información sobre ella en Wikipedia, porque simplemente no había. Recién se hizo una publicación en dicho sitio unos días después de aquel premio, el más importante en su campo de estudios.

“Nuestro trabajo es puramente de investigación en este punto, y esperamos que la comunidad de investigación de Inteligencia Artificial aproveche nuestro modelo y conjunto de datos como punto de partida para desarrollar y avanzar. La idea es poder algún día usar la IA para compensar los desequilibrios de género en el contenido biográfico de Wikipedia, una de las referencias informativas más notables de la red. Las mujeres han sido y son fundamentales en muchísimos aspectos de la sociedad, pero no se da tanta visibilidad a sus aportes como si se ve en los aportes que realizan los varones. La representación importa, y queremos contribuir a ella con esta investigación”, destacó Fan al ser consultada por Infobae sobre los alcances de este desarrollo.

Cómo funciona el modelo

El modelo desarrollado primero recupera información relevante de Internet para introducir el tema. A continuación, el módulo de generación crea el texto, mientras que en el tercer paso, el módulo de citas construye la bibliografía con enlaces a las fuentes utilizadas. El proceso luego se repite, con cada sección hasta cubrir todos los elementos que están presentes en una biografía completa de Wikipedia.

SEGUIR LEYENDO: