生成AIによる情報操作の脅威は「誇張されている」と専門家が指摘
生成AIによる情報操作の脅威について、サイバーセキュリティの専門家であるマーティン・リーは、その影響が民主主義に与える危険性について、社会が懸念するほどではないとの見解を示しています。彼の発言は、2024年という選挙が多い年において、深刻な議論を呼んでいます。
情報操作の現実
リー氏によると、ディープフェイクなどの生成AI技術は確かに強力ですが、偽ニュースのように直接的な影響を及ぼすわけではないとのこと。新しい生成AIツールは、偽情報を作り出すことを容易にするものの、その内容には通常、それが人間によって作られたものではないと示唆する兆候が含まれているため、完全にリアルなものとは言えないようです。
視覚的な不具合
特に視覚コンテンツは、不具合が生じやすい領域です。たとえば、生成された画像には、人物が三つ以上の手を持っている、または肢体が背景に溶け込むといった異常が見られることがあります。これらの特徴は、AIが生成したコンテンツを見分ける手がかりとなり得ます。
専門家による分析
リー氏はまた、機械によって生成されたコンテンツは、客観的に見れば検出可能であると語っています。AIはその訓練データの質に依存しているため、生成した内容が常に正確であるとは限りません。実際、専門家らは、今後の選挙においてAI生成のディスインフォメーションが重要なリスクとなると警告していますが、その有用性は限定的であるとリー氏は述べています。
まとめ
生成AIによる情報操作のリスクは存在しますが、その影響は多くの場合、社会が恐れるほどではありません。このテクノロジーは、情報を検証し、疑問を持つことの重要性を我々に思い起こさせます。民主主義社会では、新しい技術に対する反応が鍵となりますが、常に警戒心を持ち続ける必要があるでしょう。
参照元
コメント