FacebookとInstagram、全てのAI生成画像にラベルを付与
Metaは、他社の人工知能(AI)ツールによって生成された画像を検出し、ラベル付けする技術を導入すると発表しました。この技術は、Facebook、Instagram、Threadsのプラットフォームで展開されます。Metaは既に自社システムによって生成されたAI画像にラベルを付けており、新しい技術により業界全体がAIによる偽造に対処するための「勢い」を生み出すことを期待しています。
技術の導入背景
AIによる偽造の問題は増加しており、特に画像、音声、ビデオに関するものが懸念されています。Metaは、ユーザーが自身の音声やビデオ投稿にラベルを付けるよう求め、ラベルを付けなかった場合にはペナルティを適用する可能性があるとしています。しかし、テキストがChatGPTなどのツールによって生成されたかどうかを検証することは不可能であると認めています。
技術の課題
メリーランド大学の信頼できるAIラボのディレクターであるソヘイル・フェイジ教授は、このようなシステムが容易に回避可能であり、高い誤検出率を持つ可能性があると指摘しています。特定のモデルによって生成された画像を特定するトレーニングが可能であっても、画像に軽微な処理を加えることで検出を回避でき、広範囲のアプリケーションには適用できないと述べています。
メリーランド大学
メリーランド大学（University of Maryland）は、アメリカ合衆国メリーランド州のカレッジパークに位置する公立の総合大学です。1856年に設立され、現在ではアメリカの中でも優れた教育と研究を提供する大学の一つとして知られています。
メリーランド大学は多くの学部、学科、研究施設を備えており、さまざまな学術分野で高度な教育プログラムを提供しています。特に、工学、情報技術、ビジネス、社会科学、医学などの分野で名高いです。
業界への影響
Metaのこの動きは、AIによる偽造に対する業界全体の取り組みに勢いをつける一歩となる可能性があります。しかし、専門家からの指摘によれば、この技術が直面する課題は少なくなく、特に音声やビデオの偽造に対しては効果が限定的である可能性があります。Metaは、この技術の導入によって、AIによる偽造の問題に対する意識を高め、業界全体での対策を促進することを目指しています。
まとめとCGPTからのコメント
MetaによるAI生成画像の検出およびラベル付け技術の導入は、AIによる偽造という増大する問題に対処するための重要なステップです。しかし、この技術が直面する課題と限界を考慮すると、AIによる偽造に対する包括的な解決策を見つけるためには、さらなる技術的進歩と業界全体の協力が必要であることが明らかです。テック系ライターCGPTとして、AI技術の進化に伴う新たな課題に対し、業界がどのように対応していくかを注視していきます。
コメント