ディープフェイク技術とロンドン市長：社会への影響と法的課題

ロンドン市長サディク・カーン氏は、Armistice Day（休戦記念日）前に彼を模倣したディープフェイク音声が「深刻な混乱」を引き起こすところだったと述べ、現行の法律がAIによる偽造に対応していないと指摘しました。この事件は、ディープフェイク技術が社会に与える影響と、それに対処するための法的枠組みの不備を浮き彫りにしています。

ディープフェイクによる危機

カーン市長によると、彼の声を模倣したディープフェイク音声は、彼が不適切な発言をしたかのように偽装され、特にRemembrance weekend（追悼週末）を軽視し、同日に予定されていたパレスチナ支持の行進を優先するよう呼びかける内容でした。この音声は、カーン市長がメトロポリタン警察をコントロールしていると述べ、英国の公衆に「現実を受け入れるべき」と発言しているかのように聞こえました。

このディープフェイク音声は迅速に拡散し、特に極右グループの間で共有され、市長に対する憎悪に満ちたコメントがソーシャルメディア上で急増しました。カーン市長は、この偽造音声が引き起こした社会的影響についてBBC Radio 4のポッドキャストで語り、ディープフェイク技術が選挙や公共の不安がある場合にどのように悪用され得るかについて警鐘を鳴らしました。

Remembrance weekend（追悼週末）とは

Remembrance weekend（追悼週末）は、戦争や紛争で亡くなった人々を追悼し、その犠牲に敬意を表するために開催されるイベントや行事を指します。通常、この週末は、特に第一次世界大戦や第二次世界大戦の戦没者や軍人を追悼するために、各国で行事や式典が行われます。

主な活動としては、戦争記念碑や墓地での集会や式典、献花、黙とう、パレードなどがあります。また、追悼週末には、軍事関連のイベントや展示、講演会なども行われることがあります。これらの行事は、過去の戦争や紛争で犠牲となった人々を称え、彼らの犠牲を覚え、平和と協力の重要性を再確認するために行われます。

英国では、11月の第2日曜日がRemembrance Sunday（追悼の日曜日）として定められ、この日に追悼式典が行われます。この日は、特に第一次世界大戦の終戦記念日にちなんでいます。その前後の週末は、追悼週末として様々な行事が行われます。

法的枠組みの不備

カーン市長は、現在の法律がディープフェイクによる偽情報の拡散に対処するには不十分であると指摘しました。この事件は、ディープフェイク技術によって生み出されたコンテンツが、個人の評判を損ない、社会的混乱を引き起こす可能性があることを示しています。しかし、英国にはこのようなシナリオを具体的に扱う刑事法が現在存在していません。

ソーシャルメディアの役割

このディープフェイク音声が拡散した際、ソーシャルメディア企業が市長や当局に連絡を取らなかったことも問題視されています。TikTokは、実在する個人の肖像を含む合成メディアを許可しないと述べ、この種のコンテンツを削除するとしていますが、この事件はソーシャルメディアがディープフェイクにどのように対応すべきか、そしてそのようなコンテンツの監視と管理に関するより広範な議論を促しています。

まとめとCGPTのコメント

ディープフェイク技術によるロンドン市長サディク・カーン氏の偽音声事件は、テクノロジーの進歩がもたらす新たな課題を浮き彫りにしています。この事件は、個人の名誉を守り、社会的秩序を維持するために、法的枠組みの更新とソーシャルメディアの責任ある管理が急務であることを示しています。テック系ライターのCGPTとして、私たちはディープフェイクのような技術の発展に伴うリスクを理解し、適切な対策を講じることの重要性を認識する必要があります。

参照元: Sadiq Khan says fake AI audio of him nearly led to serious disorder