グーグルとメタは人工知能を使って自殺、暴力、マッチョなどの問題を緩和している

Googleは、検索エンジンに栄養を与える人工知能システムの革新を発表しました。これらの改善は、自殺、性的暴行、薬物乱用、家庭内暴力に関する情報を検索する際にユーザーがアクセスするコンテンツを最適化することを目的としています。

クリティカルな状況で情報を探す際の精度の向上

関連する国内ホットラインの連絡先情報は、入手可能な最も重要で質の高い結果とともに、より目立つようになります。

結果の精度を高めるために、Infobaeが出席した記者会見で同社が説明したように、検索の言語を理解できるように機械学習システムが改善されました。

「現在、当社の最新の AI モデルである MUM を使用することで、より広範な個人の危機調査を自動的かつ正確に検出できるようになりました。MUMは、人が困っていることを検出するために、人々の質問の背後にある意図をよりよく理解することができます。これにより、信頼性が高く実用的な情報を適切なタイミングでより確実に表示できます。今後数週間でMUMを使用してこれらの改善を行う予定です」と彼らは会社から強調しました。

セーフサーチの改善：それは何ですか

しばらくの間、検索エンジンにはセーフサーチツールがあり、ユーザーは明示的な結果をフィルタリングすることができます。18 歳未満のお子様の Google アカウントのデフォルト設定です。このオプションを無効にすることもできますが、人工知能システムでは、検索時に予期しないコンテンツが表示されにくくなります。

この種の不要なコンテンツをさらに制限するために、同社はBERT（Encoderの英語の頭字語）の背後にある新しいアップデートを発表しました。表現）双方向トランスフォーマー）。Googleが自然言語処理の事前トレーニングに使用している手法です。

この手法の大きな貢献は、双方向の解釈、つまり、その前の単語とそれに続く単語の両方が考慮されるコンテキスト内の用語を解釈できることです。

BERT では、理解度が向上し、検索意図をよりよく理解できるようになったため、ユーザーが予期しない検索結果に遭遇する可能性がさらに減少します。

「これは私たちが長年取り組んできた複雑な課題ですが、昨年だけでも、このBERTの改善により、予想外の結果が 30% 減少しました。民族性、性的指向、性別に関連する検索の露骨な内容を減らすことに特別な影響を与え、女性、特に有色人種の女性に不釣り合いに影響を与える可能性があります」と同社は強調しています。

MUM は、トレーニングを受けた 75 言語すべてにわたって知識を伝達できるため、セキュリティ保護を世界中でより効率的に拡張できます。AI は、検索結果に表示される可能性のある、役に立たない、時には危険なスパムページを減らすのに役立ちます。

「今後数か月以内に、MUM を使用してスパム対策の質を向上させ、トレーニングデータがほとんどない言語にも拡大する予定です。また、信頼できる現地のパートナーと協力して、他のいくつかの国で実用的な情報を提示することで、世界中の個人的な危機の問題をより適切に検出できるようになります」と彼らは発表しました。

メタ

メタは、伝記出版物の最初のドラフトを次のスタイルで研究および作成できるAIシステムの開発を発表しました。ウィキペディア。このモデルの目的は、このサイトや他のサイトに存在する表現の欠如を解決することです。ウィキペディアの伝記のうち、女性の伝記はわずか20％で、この発表の際に同社から報告されています。

このプロジェクトの開発者は、Meta AIの研究者であるアンジェラ・ファンです。「やらなければならない作業はまだあるが、この新しいシステムが、ウィキペディアの編集者が、いつの日か、現在サイトにいない重要な人々に関する正確で魅力的な伝記エントリを何千も作成するのに役立つことを願っています」と科学者は強調しました。

女性は、科学やその他の分野に与えた影響にもかかわらず、そのプラットフォームでは過小評価されています。この考えを説明するために、ファンはカナダの物理学、ドナ・ストリックランドの事例を共有します。しかし、彼女は2018年にノーベル物理学賞を受賞しました。しかし、彼女が賞を受賞するとすぐに、誰もウィキペディアで自分の情報を見つけることができませんでした。その賞の数日後にそのサイトで出版されただけで、その研究分野で最も重要でした。

「私たちの仕事は現時点では純粋に研究であり、人工知能の研究コミュニティは、開発と前進の出発点として私たちのモデルとデータセットを活用することを期待しています。このアイデアは、いつの日か、ウェブ上で最も注目すべき情報参照の1つであるウィキペディアの伝記コンテンツにおけるジェンダーの不均衡を補うためにAIを使用できるようにすることです。女性は社会の多くの側面で基本的でありましたが、女性の貢献は男性の貢献に見られるほど可視化されていません。表現は重要であり、私たちはこの研究に貢献したいと思っています」と、Infobaeからこの開発の範囲について尋ねられたとき、ファンは言いました。

モデルはどのように機能しますか

最初に開発されたモデルは、インターネットから関連情報を取得してトピックを紹介します。次に、生成モジュールがテキストを作成します。3 番目のステップでは、引用モジュールが使用されたソースへのリンクを含む参考文献を構築します。このプロセスは繰り返され、各セクションは完全なウィキペディアの伝記に存在するすべての要素をカバーします。

読み続ける: