Google et Meta utilisent l'intelligence artificielle pour atténuer des problèmes tels que le suicide, la violence et le machisme

Google a présenté des innovations dans les systèmes d'intelligence artificielle qui alimentent son moteur de recherche. Ces améliorations visent à optimiser le contenu auquel les utilisateurs accèdent lorsqu'ils recherchent des informations sur le suicide, les agressions sexuelles, la toxicomanie et la violence domestique.

Plus de précision lors de la recherche d'informations dans des situations critiques

Les informations de contact pour les hotlines nationales pertinentes seront désormais mieux vues, ainsi que les résultats les plus importants et de haute qualité disponibles.

Pour obtenir une plus grande précision des résultats, le système d'apprentissage automatique a été amélioré pour comprendre le langage de recherche, comme l'a expliqué la société lors d'une conférence de presse à laquelle a assisté Infobae.

« Désormais, grâce à notre dernier modèle d'IA, MUM, nous pouvons détecter automatiquement et avec plus de précision un plus large éventail de recherches personnelles de crise. MUM est capable de mieux comprendre l'intention qui sous-tend les questions des gens de détecter lorsqu'une personne est dans le besoin. Cela nous permet d'afficher de manière plus fiable des informations fiables et exploitables au bon moment. Nous allons commencer à utiliser MUM pour apporter ces améliorations dans les prochaines semaines », ont-ils souligné de la part de l'entreprise.

Amélioration de la recherche sécurisée : de quoi s'agit-il ?

Depuis quelque temps, le moteur de recherche dispose de l'outil Safe Search, qui offre aux utilisateurs la possibilité de filtrer les résultats explicites. Il s'agit du paramètre par défaut pour les comptes Google pour les enfants de moins de 18 ans. Vous pouvez choisir de désactiver cette option, mais les systèmes d'intelligence artificielle réduisent toujours l'apparence de contenu inattendu dans les recherches.

Pour limiter davantage ce type de contenu indésirable, la société a annoncé de nouvelles mises à jour derrière BERT (l'acronyme en anglais de Encoder) Représentations) transformateurs bidirectionnels), une technique utilisée par Google pour la pré-formation au traitement du langage naturel.

La grande contribution de cette technique est qu'elle permet une interprétation bidirectionnelle, c'est-à-dire d'interpréter un terme dans son contexte, à la fois le mot qui le précède et celui qui le suit sont pris en compte.

À présent, BERT a amélioré la compréhension et peut mieux comprendre l'intention de recherche, ce qui réduit encore les risques que l'utilisateur rencontre des résultats de recherche inattendus.

« Il s'agit d'un défi complexe auquel nous nous attaquons depuis des années, mais rien qu'au cours de la dernière année, cette amélioration du BERT a réduit la présence de résultats inattendus de 30 %. Cela a eu un impact particulier sur la réduction du contenu explicite pour les recherches liées à l'ethnicité, à l'orientation sexuelle et au genre, qui peuvent affecter de manière disproportionnée les femmes et en particulier les femmes de couleur », soulignent-ils dans l'entreprise.

MUM peut transférer des connaissances dans les 75 langues dans lesquelles il est formé, ce qui permet d'étendre plus efficacement les protections de sécurité dans le monde entier. L'IA est utilisée pour aider à réduire les pages de spam inutiles et parfois dangereuses qui peuvent apparaître dans les résultats de recherche.

« Au cours des prochains mois, nous utiliserons MUM pour améliorer la qualité de nos protections anti-spam et étendre nos activités dans des langues où nous disposons de très peu de données de formation. Nous serons également en mesure de mieux détecter les demandes personnelles de crise dans le monde entier, en travaillant avec des partenaires locaux de confiance pour afficher des informations pratiques dans plusieurs autres pays », ont-ils annoncé.

Meta

Meta a annoncé le développement d'un système d'IA capable de rechercher et de rédiger les premières ébauches de publications biographiques dans le style de Wikipédia. L'objectif de ce modèle est de résoudre le manque de représentation qui existe sur ce site et sur d'autres sites similaires. Seules 20% des biographies sur Wikipédia sont des femmes, ont-ils rapporté par la société lors de cette annonce.

Le développeur de ce projet est Angela Fan, chercheuse à Meta AI. « Il reste encore du travail à faire, mais nous espérons que ce nouveau système aidera un jour les éditeurs de Wikipédia à créer des milliers d'entrées biographiques précises et captivantes sur des personnes importantes qui ne se trouvent pas actuellement sur le site », a souligné le scientifique.

Les femmes sont sous-représentées sur cette plateforme, malgré l'impact qu'elles ont eu sur la science et d'autres domaines. Pour illustrer cette idée, Fan partage le cas de la physique canadienne, Donna Strickland. Elle a remporté le prix Nobel de physique en 2018, cependant, dès qu'elle a remporté le prix, personne n'aurait pu trouver d'informations à son sujet sur Wikipédia, parce qu'elle ne l'avait tout simplement pas fait. Une publication n'a été faite sur ce site que quelques jours après cette attribution, la plus importante dans son domaine d'études.

« À ce stade, notre travail est purement de recherche, et nous nous attendons à ce que la communauté de recherche en intelligence artificielle tire parti de notre modèle et de notre ensemble de données comme point de départ pour le développement et l'avenir. L'idée est de pouvoir un jour utiliser l'IA pour compenser les déséquilibres entre les sexes dans le contenu biographique de Wikipédia, l'une des références d'information les plus notables sur le web. Les femmes ont été et sont fondamentales dans de nombreux aspects de la société, mais leurs contributions ne sont pas aussi visibles que si elles sont vues dans les contributions des hommes. La représentation est importante, et nous voulons y contribuer grâce à cette recherche », a déclaré Fan, interrogé par Infobae sur la portée de ce développement.

Comment fonctionne le modèle

Le modèle développé pour la première fois récupère des informations pertinentes sur Internet pour présenter le sujet. Ensuite, le module de génération crée le texte, tandis que dans la troisième étape, le module de citation construit la bibliographie avec des liens vers les sources utilisées. Le processus est ensuite répété, chaque section couvrant tous les éléments présents dans une biographie complète de Wikipédia.

CONTINUEZ À LIRE :