AIによるフェイクニュースの拡散とその影響

AIの活用によるフェイクニュースの増加

ワシントンポストによると、人工知能（AI）の進化がフェイクニュースの自動生成を促進し、選挙、戦争、自然災害に関する虚偽情報の拡散を加速しています。NewsGuardの調査によると、AIによって作成された虚偽記事を掲載するウェブサイトは、5月以降1,000%以上増加し、49サイトから600サイト以上に急増しています。

フェイクニュースの生成と拡散

• AIによる生成: AIは、実際のニュースと見分けがつかないほどの記事を生成し、これまで低賃金労働者や情報機関が行っていたプロパガンダ活動を容易にしています。
• 拡散の容易化: AIの活用により、スパイ機関の一員であろうと、単なるティーンエイジャーであろうと、誰でも簡単に偽のニュースサイトを作成し、拡散することが可能になっています。

具体的な事例

• ネタニヤフの精神科医に関する虚偽記事: AIが生成した記事の一つに、イスラエルのネタニヤフ元首相の精神科医に関する虚偽の物語があり、イランのテレビ番組やアラビア語、英語、インドネシア語のメディアサイトで拡散されました。

懸念される影響

• 政治的影響: 誤解を招く内容の急増により、政治候補者や軍指導者、救援活動に害を及ぼす可能性があります。
• 2024年選挙への影響: これらのサイトは、2024年の選挙に向けて、効率的な誤情報の拡散手段となる可能性があります。

AIフェイクニュースサイトの特徴

• 手動と自動の生成: 一部のストーリーは手動で作成され、チャットボットに特定の政治的ナラティブを増幅させるよう依頼され、結果がウェブサイトに掲載されます。また、ウェブスクレイパーが特定のキーワードを含む記事を検索し、それらを大規模言語モデルに供給してユニークに聞こえるように書き換え、自動的にオンラインに投稿されることもあります。

まとめとコメント

AIによるフェイクニュースの生成と拡散は、情報戦争の新たな局面を示しています。特に、選挙や政治的な出来事に関する誤情報の急増は、公共の意見形成に深刻な影響を及ぼす可能性があります。このような状況は、メディアリテラシーの向上と、誤情報に対する一般市民の意識の高揚を必要としています。また、政府やソーシャルメディア企業による規制の必要性も指摘されていますが、言論の自由を尊重する中での対策は難しい課題となっています。

参照元: The rise of AI fake news is creating a ‘misinformation superspreader’