Epic Gamesは、2025年5月16日（現地時間、日本時間5月17日）に人気バトルロイヤルゲーム「Fortnite（フォートナイト）」で、生成AIを活用した新キャラクター「AIダース・ベイダー」を実装した。
このAIはGoogle Gemini 2.0 FlashとElevenLabs Flash2.5を組み合わせて構築され、映画『スター・ウォーズ』で知られるダース・ベイダーの声や人格を再現するもので、オリジナル声優である故ジェームズ・アール・ジョーンズの家族の許諾を得て音声が再現されている。
実装直後から一部のプレイヤーがAIダース・ベイダーに対して意図的に差別的な内容や不適切な発言をさせ、その様子がSNSやYouTubeで拡散された。Epic Gamesはこの問題を受け、約30分以内にAIキャラクターの発言内容を制限する緊急パッチを適用し、以降は不適切な発言を繰り返し誘導したプレイヤーのスクワッドからAIベイダーが離脱し、同セッション中は再登場できない仕様とした。また、13歳未満やデジタル同意年齢未満のユーザーは保護者の同意がなければAIベイダーと会話できないよう設定されている。
Epic GamesはAIキャラクターの今後の運用方針や倫理的な対応についても引き続き検討している。
References:
‘Fortnite’ Players Are Already Making AI Darth Vader Swear | WIRED
AI Darth Vader curses in Fortnite, prompting Epic to rush some clean up | Game File
Fortnite added an AI-powered Darth Vader and-surprise-players immediately tricked him into saying slurs | PC Gamer
AI Darth Vader in Fortnite explained: Location and controversy | Radio Times
【編集部解説】
今回のFortniteにおけるAIダース・ベイダーの不適切発言問題は、生成AIの社会実装が直面する現実的な課題を改めて浮き彫りにしました。Epic GamesはGoogle Gemini 2.0 FlashとElevenLabs Flash2.5を組み合わせ、ダース・ベイダーの声や人格をAIで再現しましたが、ユーザーによる意図的な誘導によってAIが差別的・不適切な発言をしてしまう事態が発生しました。
Epic Gamesは約30分以内に緊急パッチを適用し、AIの発言内容や利用条件を厳格化するなど迅速な対応を見せましたが、こうした問題はFortniteに限らず、あらゆるAIチャットボットに共通するリスクです。
AIキャラクターの発言をコントロールするための技術的なフィルターやリアルタイム監視は進化していますが、ユーザーが意図的にAIを悪用する「アドバーサリアル・プロンプティング」は依然として大きな課題です。企業による規制や管理の強化は不可欠である一方、ユーザー自身のモラルやリテラシーの向上も同時に求められています。特に未成年ユーザーへの配慮として、保護者の同意がなければAIベイダーと会話できない仕様を導入するなど、Epic Gamesは社会的責任も意識した運用を進めています。
AIがキャラクターを完全に再現することは、現時点では技術的に難しい側面があります。AIは膨大なデータからパターンを学習するものの、文脈理解や倫理的判断、感情表現の微妙なニュアンスまでは再現しきれません。今回の事例は、AIによるキャラクター再現が持つ新しい可能性と同時に、ブランド毀損や社会的信頼の低下といったリスクも露呈しました。
一方で、生成AIを活用したキャラクターは、ゲーム体験のパーソナライズや没入感の向上、さらには故人の声や演技のデジタル保存など、エンターテインメントや文化の新たな可能性を広げています。今後は技術革新と倫理的ガイドラインの整備を両輪とし、AIと人間社会の健全な共存を模索することが、業界全体に求められるでしょう。
【用語解説】
アドバーサリアル・プロンプティング（Adversarial Prompting）：
AIに対し、意図的に不適切な発言や誤った情報を引き出すような入力（プロンプト）を与える行為。AIの脆弱性を突く手法として問題視されている。
デジタル同意年齢（Digital Age of Consent）：
インターネットサービスの利用において、保護者の同意が必要となる年齢。国や地域によって異なるが、13歳前後が一般的。
【参考リンク】
Epic Games（外部）
アメリカの大手ゲーム開発会社。『フォートナイト』やUnreal Engineなどを展開し、世界的な影響力を持つ。
Fortnite（フォートナイト）（外部）
Epic Gamesが運営する人気バトルロイヤルゲーム。多人数参加型のオンライン対戦やクリエイティブ要素が特徴。
Google Gemini（外部）
Google DeepMindが開発した大規模言語モデル。多様なタスクに対応する次世代AI技術。
ElevenLabs（外部）
高品質なAI音声合成技術を提供する企業。リアルな音声生成や多言語対応に強みを持つ。
