OpenAIは、中国、イラン、イスラエル、ロシアの秘密の影響力操作キャンペーンを摘発し、これらの活動がAIモデルを使用してソーシャルメディアアカウントのための名前やバイオを作成し、テキストを生成・翻訳するなどしていたことを明らかにした。ロシアに関連する2つのネットワークは、ウクライナやアメリカ合衆国をターゲットにTelegramアカウントを使用していた。また、ロシアに関連する別の情報操作は、米国財勤省によって制裁を受けたDoppelgangerネットワークが関与し、複数の言語でコメントを生成し、偽のウェブサイトに投稿された記事を翻訳・編集していた。
Metaは、カナダと米国のユーザーをターゲットにしたFacebookとInstagramの約500の侵害されたアカウントと偽のアカウントを削除し、バングラデシュ、中国、クロアチア、イラン、ロシアの欺瞞的なネットワークを摘発した。これらのネットワークは、公共の意見に影響を与える目的で調整された不正行為に従事していた。Doppelgangerネットワークは戦術を大幅に変更している。
TikTokは、バングラデシュ、中国、エクアドル、ドイツ、グアテマラ、インドネシア、イラン、イラク、セルビア、ウクライナ、ベネズエラに関連する影響力操作キャンペーンを発見し、排除した。TikTokはロシアの国家関連アカウントにとって好まれるプラットフォームになっていると報告されている。また、イランによるイスラエル社会を標的にしたEmerald Divideと呼ばれる影響力キャンペーンを摘発した。
【ニュース解説】
最近、OpenAI、Meta、TikTokといった大手テクノロジー企業が、中国、イラン、イスラエル、ロシアから発信された複数のAIを活用した偽情報キャンペーンを摘発しました。これらのキャンペーンは、人工知能（AI）ツールを悪用して公共の議論や政治的結果をオンラインで操作し、その真のアイデンティティを隠蔽しようと試みていました。具体的には、AIモデルを使用して短いコメントや長い記事を複数言語で生成したり、ソーシャルメディアアカウント用の名前やバイオを作成したり、オープンソースの研究を行ったり、シンプルなコードのデバッグやテキストの翻訳・校正を行っていました。
これらの活動は、公共の意見形成に影響を与え、特定の政治的アジェンダを推進することを目的としています。例えば、ロシアに関連する情報操作キャンペーンでは、Telegramアカウントを使用してウクライナやアメリカ合衆国の視聴者をターゲットにしたり、Doppelgangerネットワークが複数の言語でコメントを生成し、偽のウェブサイトに投稿された記事を翻訳・編集していました。これらの活動は、特定の国や政治的立場を悪く見せ、公共の意見を操作しようとするものです。
MetaとTikTokも同様に、偽情報キャンペーンと戦っています。Metaは、カナダと米国のユーザーをターゲットにした侵害されたアカウントと偽のアカウントを削除し、バングラデシュ、中国、クロアチア、イラン、ロシアの欺瞞的なネットワークを摘発しました。TikTokは、複数の国に関連する影響力操作キャンペーンを発見し、排除しました。これらのキャンペーンは、社会的分断を促進し、特定の政治的メッセージを広めることを目的としています。
このような偽情報キャンペーンの摘発は、AI技術がどのように悪用され得るかを示しています。AIが生成するリアルなテキスト、画像、さらにはビデオコンテンツは、偽情報やディスインフォメーションの操作がより困難になり、それに対応することが難しくなることを意味します。しかし、これらの企業による迅速な対応は、AI技術の悪用に対する有効な対策が可能であることを示しています。
長期的には、AI技術の進化に伴い、偽情報キャンペーンを検出し、防ぐための新たな戦略とツールの開発が必要になるでしょう。また、公共の意見形成におけるAIの役割に関する透明性と倫理的な基準を確立することが、これらの課題に対処する上で重要になります。このような取り組みは、デジタル空間における信頼と安全を保つために不可欠です。
from OpenAI, Meta, TikTok Disrupt Multiple AI-Powered Disinformation Campaigns.
