Googleは検索ラベルでAIによる誤情報に対抗

Google 検索のストック画像。 — 画像: Adobe Stock/Thaspol

グーグルは5月10日のグーグルI/Oカンファレンスで、複数のオンラインセーフティ機能に人工知能（AI）を追加し、ユーザーの情報がダークウェブに投稿されているかどうかをより詳しく把握できるようにすると発表した。この新しいセキュリティ機能は、今後数週間または数ヶ月以内に一部の市場に展開される予定だ。

ジャンプ先:

画像検索はAI生成コンテンツにフラグを立てる
セーフブラウジングにAIが磨きをかける
ダークウェブに目を向ける
Gmailのスパムフィルタリングとマップのセキュリティが強化されます

画像検索はAI生成コンテンツにフラグを立てる

Google は、画像がオリジナルか AI 生成かを示す「この画像について」機能でこの問題に対処したいと考えています (図 A )。

図A

画像が AI アートサービス Midjourney で生成されたことを証明する「About This Image」機能の例。 — AIアートサービスMidjourneyで生成された画像を証明する「About This Image」機能の例。画像：Google

「この画像について」機能は、AIによって生成された写実的な写真を検出するだけでなく、その画像や類似画像がGoogleによって最初にインデックスされた時期、最初に表示された場所、そしてオンラインで他に表示された場所などのコンテキストも提供します。このコンテキストは、誤情報や写真の加工、そして人工的に生成された画像の特定に役立つ可能性があります。

GoogleはAI画像生成サービスを提供しており、検索結果でAI生成画像であることを示すマークアップを導入する予定です。MidjourneyやShutterstockといった企業もGoogleと協力し、検索結果に表示される画像にAI生成画像としてラベルを付ける取り組みを進めています（図B）。

図B

AI プログラム Midjourney によって作成された、Google 検索のマークアップラベルが付いた画像。 — AIプログラムMidjourneyが作成した、Google検索のマークアップラベル付き画像。画像：Google

Google によれば、「この画像について」機能は「今後数か月以内に」利用可能になる予定だという。

参照: ChatGPT のライバルである Google Bard 生成 AI を試すことができます。

セーフブラウジングにAIが磨きをかける

さらに、GoogleはAIを活用し、危険なサイトやファイルをスキャンすることで、セーフブラウジング機能を強化します。ChromeとAndroid向けの新しいセーフブラウジングAPIは、不正な行為者を認識するように訓練されたAIを用いて、侵害されたサイトやその他の潜在的な攻撃経路をスキャンします。Googleによると、このAPIは既存の安全機能と比較して、毎月25%多くのフィッシング攻撃を検出・ブロックできるとのことです。

ダークウェブに目を向ける

米国のGoogle One加入者は、ダークウェブレポートを実行して、自分のメールアドレスやその他の個人情報が攻撃者の標的リストに含まれているかどうかを確認できます。Googleは、ユーザーのアカウントを保護するための提案を提供します。Googleは現在、この機能を米国でGmailアカウントを持つすべてのユーザーに拡大しています。これは「今後数週間」以内に展開され、その後、一部の国際市場にも展開される予定です。

「GoogleがダークウェブレポートをGoogle Oneのプラン以外にも拡大したことは正しい方向への一歩であり、エコシステムにおけるGoogleの責任の一環です」と、IDおよびセキュリティ企業Rezonateの共同創業者兼CEOであるロイ・アッカーマン氏は述べています。「しかし、Google Oneの既存顧客の中には、自分の情報がダークウェブで公開されていることを認識しているにもかかわらず、何の対策も講じていないケースがあります。知っているだけでは不十分です。潜在的なリスクを理解するための行動を起こし、アカウントの変更を実施する必要があります。」

例えば、社会保障番号を盗まれたユーザーは、政府に報告することができます。銀行口座の認証情報が盗まれた場合は銀行に報告し、口座に関連付けられたビジネス情報は企業のIT部門に報告することができます。