ChatGPTを使う偽装組織の世論工作が報道媒体に到達

ChatGPTを使う世論工作が、架空の記者や偽装した研究組織を経由して主要報道媒体にコンテンツを掲載した。OpenAIはロシア発とイラン発の2件に対処し、AIによる制作と人間の活動を組み合わせた工作の利用アカウントを停止した。

架空の記者が長文記事を媒体へ売り込む

OpenAIによると、ロシア発とイラン発の工作は、偽装組織を介して地政学や紛争に関するメッセージの出所を隠していた。イラン発の工作は7人の架空の記者を使い、世界各地の中小オンライン媒体へ長文記事を売り込んでいた。

記事の売り込みと並行して、イラン発の工作はSNS向けコメントもまとめて生成していた。コメントの話題は主に米国とイランの戦争に関連しており、長文記事とSNSへの投稿を併用していた。

ロシア発の工作では、ChatGPTが内部報告や工作用コンテンツに加え、ラテンアメリカの研究組織Social Research Centerの活動実績報告の作成にも使われていた。OpenAIは、運営者が架空人物Mia Clarkを通じて、この研究組織を支配していたとみている。

支配関係の判断材料には、内部報告にある給与水準、採用、解雇に関する決定への言及が含まれる。OpenAIは、得られた証拠が、現地の従業員はロシアの集団のために働いていると認識していなかったことを示すとしている。

OpenAIは、Social Research Centerのコンテンツの大半が、取り込まれた従業員による独自制作だったとみている。ロシア発の工作は偽の流出文書や音声用台本も作成しており、その一部はオンラインでの拡散が確認された。

両工作は外部向けのコンテンツだけでなく、内部報告の作成にもAIを多用していた。OpenAIによると、こうした報告では疑わしい手法や欺瞞的な手法を使い、運営者の活動の有効性を誇張していた。

OpenAIによると、両工作のコンテンツは主要報道媒体に掲載された。ただし、掲載されたコンテンツのすべてがOpenAIのモデルで生成されたものではなく、媒体への到達をAI生成物だけの成果として扱うことはできない。

OpenAIは、工作の到達度を1から6で評価するIO Breakout Scaleで、ロシア発をカテゴリー5、イラン発をカテゴリー4と評価した。ロシア発の工作は、世論工作の報告開始以来、初めて対処したカテゴリー5の事例となった。両工作のモデル利用アカウントは停止された。