AI

地域の詐欺会話を端末内で見抜く2段階AIを開発

この記事のポイント

  1. 実現したこと

    地域の詐欺会話で追加学習した、端末内処理向けの軽量AIモデルを開発した。

  2. 実現の仕組み

    軽量分類器で受信メッセージを選別し、疑わしい会話を追加学習済みモデルが文脈ごと分析する。

  3. 得られた結果

    Google DeepMindは、地域特有の詐欺を端末内でリアルタイムに検知する能力を実証したとしている。

  4. 従来との違い

    クラウド側でメッセージを走査する方式に対し、開発したモデルは会話データを端末内で処理する。

机に置かれたスマートフォンの画面内で、受信メッセージが軽量な選別段階を通り、疑わしい会話が広い文脈で再分析された後、警告マークが表示される様子を描いたイラスト。
AI生成画像

地域特有の詐欺会話を学習した軽量AIと、受信メッセージを選別する分類器を組み合わせた詐欺検知モデルが開発された。疑わしい会話は広い文脈で再判定し、処理は端末内で完結する。アプリへの導入は段階的に進める計画だ。

地域のなりすまし会話で軽量モデルを追加学習

Google DeepMindとシンガポール政府技術庁GovTech Singaporeは、軽量AIモデルGemmaを地域の詐欺会話で追加学習した。学習対象には、公的機関や銀行、地域の人物へのなりすましに加え、地域で流行する詐欺の手口を含めた。

Google DeepMindは、このモデルで地域特有の詐欺を端末内でリアルタイムに検知する能力を実証したとしている。開発したモデルは、クラウド側でメッセージを走査する方式と異なり、会話データを端末内で直接処理する。

受信メッセージの選別から会話全体の再判定へ

端末内の検知処理は、電池消費を考慮した2段階構成を取る。第1段階では、軽量分類器が少ない電力で受信メッセージを選別し、潜在的な脅威を拾う。第2段階では、追加学習したモデルがより広い範囲の会話を分析し、脅威を確認するか、誤警報として退ける。

相手を誘導する会話パターンを検知すると、端末上に警告を表示する。警告は、機密情報や金銭を渡す前に立ち止まり、慎重に判断するよう利用者へ促す。

学習データを隔離し、合成対話と地域の会話で試験

追加学習は、GovTech Singaporeが管理・保守するクラウド基盤GCPの環境内で行い、学習データを隔離した。学習には詐欺報告や脅威情報に由来する匿名化データセットを使い、私的情報や個人を特定できる情報を除外した。

モデルの試験には、合成した対話と地域の会話データ群を用いた。試験は、多様な詐欺の種類や変化するなりすましの手口を対象としている。

会話へのアクセスは利用者の同意を条件に

Google DeepMindは、モデルが完全に端末内で動くため、その導入を通じてGoogleやシンガポール政府が利用者の会話へアクセスすることはできないとしている。導入後にモデルが端末内の会話へアクセスする際には、アプリの利用規約に沿った利用者の同意を条件とする。

モデルのアプリへの導入は、シンガポール政府と協力して段階的に進める計画だ。