from YouTube is cracking down on AI-generated true crime deepfakes.
YouTubeは、AIによって生成された犯罪被害者や亡くなった子供たちをリアルに再現する「ディープフェイク」に対して厳しく対処しています。これらのコンテンツは、特に真犯罪コミュニティで問題となっており、AIが生成した子供の声で残酷な暴力行為を語るものも含まれます。被害者の家族からはこれらのコンテンツを「嫌悪感を覚える」との声が上がっています。YouTubeはサイバーハラスメントといじめ防止のポリシーを更新し、このようなコンテンツを禁止することにしました。違反したチャンネルはコンテンツの削除とともに、一時的にプラットフォームでの活動が制限されます。初回の違反では、1週間のアップロード禁止などの措置が取られ、90日以内に再度違反するとペナルティが増加し、最終的にはチャンネルの完全な削除につながる可能性があります。YouTubeを含むプラットフォームは、AIによるコンテンツ生成ツールを導入し、ユーザーが混乱する可能性のある合成コンテンツに関する新しいポリシーを発表しています。例えばTikTokでは、AI生成コンテンツをそのようにラベル付けすることが求められています。また、YouTube自体も、ミュージシャンのAIボイスクローンに関する厳格なポリシーを発表しており、他の人々に対してはより緩いルールを設けています。