DeepfakeはAIによって作成された偽の音声、画像、ビデオであり、企業に高額な損失や評判の損害をもたらす可能性がある。金融機関の顧客認証や株式市場の操作、役員への脅迫など、さまざまな形で攻撃が行われる。
これによる評判の損害は企業の信用力にも影響を与え、金融詐欺が最も直接的な脅威となる。Deepfake技術の進化に伴い、企業への攻撃は増加し効果的になると予想される。
金融機関はDeepfakeによる詐欺被害を特に受けやすく、2027年までに予測される損失は400億ドルに達する可能性がある。CEOの偽装や情報操作により株式市場の価格に影響を与えることもあるが、SECの規制による開示要件はDeepfakeによる影響を証明することが困難であり、規制の適用は現在のところ曖昧である。
Deepfakeに対抗する技術的な解決策はまだ不十分であり、攻撃者に有利な状況が続いている。企業はDeepfake詐欺を防ぐために追加のチェックを行うプロセスを強化することが求められている。
一部の企業は技術から離れて人との対話を重視し、低技術の二要素認証ソリューションを採用している。信頼できるコミュニケーションチャネルの確立は、支払いや転送のような重要なプロセスだけでなく、一般のコミュニケーションにも適用されるべきである。
【編集者追記】用語解説
- ディープフェイク:
AIの深層学習技術を使って人物の映像や音声を合成する技術のことです。リアルな偽物の動画や音声を作り出すことができます。 - 多要素認証:
パスワードなどの「知っている情報」に加え、スマートフォンなどの「持っている物」や指紋などの「生体情報」を組み合わせて本人確認を行う認証方式です。
【参考リンク】
ディープフェイクの脅威と対策(トレンドマイクロ：外部)
【関連記事】
ディープフェイクに関する記事をinnovaTopiaでもっと読む
【ニュース解説】
近年、AI技術の進化により、Deepfake（ディープフェイク）と呼ばれる技術が注目を集めています。これは、人工知能を用いて作成された偽の音声や画像、ビデオのことを指し、企業に対する高額な損失や評判の損害をもたらす可能性があるとされています。特に金融機関は、顧客認証の偽造や株式市場の操作、役員への脅迫など、様々な形での攻撃により大きな影響を受けやすい状況にあります。これらの攻撃による評判の損害は、企業の信用力にも悪影響を及ぼし、金融詐欺が最も直接的な脅威となっています。
2027年までには、金融機関が被る損失は400億ドルに達する可能性があると予測されています。また、CEOを偽装した情報操作によって株式市場の価格に影響を与えるケースもありますが、SEC（米国証券取引委員会）の規制による開示要件はDeepfakeによる影響を証明することが困難であり、規制の適用については現在のところ曖昧な状況です。
技術的な解決策に関しては、現在のところDeepfakeに対抗するための十分な手段がなく、攻撃者に有利な状況が続いています。そのため、企業はDeepfake詐欺を防ぐために、追加のチェックを行うプロセスを強化する必要があります。一部の企業では、技術的な手段から離れ、人と人との対話を重視することで、低技術の二要素認証ソリューションを採用しています。信頼できるコミュニケーションチャネルの確立は、支払いや転送のような重要なプロセスだけでなく、一般のコミュニケーションにも適用されるべきです。
このような状況の中で、企業はDeepfakeによる攻撃に対して、法的、規制的、コンプライアンスの面から対策を講じる必要があります。また、マーケティングやコミュニケーション部門も、誤情報に迅速に対応できる体制を整えることが求められます。特に金融機関などの成熟した企業では、これらの対策が組織のDNAの一部として実践されていますが、他の業界も同様の能力を発展させる必要があります。
Deepfake技術の進化は、企業にとって新たな脅威となっていますが、これに対抗するためには、技術的な解決策だけでなく、人的な対話や信頼できるコミュニケーションチャネルの確立など、多角的なアプローチが必要です。また、規制や法律の面でも、Deepfakeによる攻撃に対する明確な対策が求められています。
from Technology, Regulations Can’t Save Orgs From Deepfake Harm.
