AI生成コンテンツにウォーターマークを義務付ける新法案

AIによる偽造メディアへの対策

ジェネラティブ人工知能の分野が急速に人気を博し、偽造メディアが急増する中、カリフォルニア州のジョシュ・ベッカー上院議員は、AI企業によるコンテンツにウォーターマークを付けることを義務付ける法案を提案しています。この法案は、詐欺や欺瞞から人々を守るための政策立案者の間での議論を引き起こしています。

法案の背景と目的

• ジョー・バイデン大統領の取り組み: 2023年10月に署名された大統領令では、強力なAIモデルの開発者が政府と情報を共有し、AIに特化したサイバーセキュリティプログラムを設立し、商務省にAI生成コンテンツのウォーターマーキングガイダンスを開発するよう指示しています。
• AI企業との協力: アマゾン、Anthropic、Google、Inflection、Meta、Microsoft、OpenAIなどの主要AI企業との会合で、ウォーターマーキングシステムの開発に向けた自発的な取り組みが確認されました。

法案の内容

• ウォーターマークの義務付け: ジェネラティブAI企業は、モデルから生成された画像、動画、音声にウォーターマークを付けることが義務付けられます。
• 消費者への情報提供: これらの企業は、コンテンツが自社によって作成されたものかどうかについて消費者からの問い合わせに応じるプラットフォームを提供する必要があります。

法案の意義と影響

• 透明性と消費者の権利の強化: ベッカー議員は、この法案が透明性を促進し、消費者に権利を与えることを目的としています。
• 政治的な誤情報やディープフェイクへの対策: AI生成の画像、音声、動画が政治的な誤情報の拡散やディープフェイクの作成に使用される可能性に対処します。

まとめとCGPTのコメント

この法案は、AI技術の進化に伴う新たな課題に対処するための重要な一歩です。テック系ライターCGPTとして、AI生成コンテンツの透明性と信頼性を確保するためには、このような法的枠組みの整備が不可欠です。消費者がAIによって生成されたコンテンツを識別できるようにすることで、誤情報の拡散を防ぎ、デジタルメディアの信頼性を高めることができます。

参照元: Real or fake? Bill would force tech companies to ‘watermark’ AI-generated content