イーロン・マスク氏が支援するAIチャットボット「Grok」は、1月9日（木曜日）深夜からXプラットフォーム上での画像生成・編集機能を月額8ドルからのX Premium会員に制限した。非同意の性的画像生成が可能であることへの批判を受けた措置だが、Grokのスタンドアロンウェブサイトとモバイルアプリでは無料アクセスが可能なままである。
ディープフェイク研究者ジェヌヴィエーヴ・オー氏によれば、ペイウォール導入後もGrokは1時間あたり1,500枚以上の有害画像を生成し続けており、これは公開画像出力全体の約60%を占める。民主党上院議員ロン・ワイデン氏、エドワード・J・マーキー氏、ベン・レイ・ルハン氏は、AppleとGoogleのCEOに対しXのアプリストアからの削除を要求する書簡を送付した。
英国とインドの当局者もこの対応を批判している。Sensor Towerの推計では、木曜日にXのモバイルアプリ内購入収益が18%急増した。
From: 
X restricts Grok image generation to paid users after global backlash
【編集部解説】
今回のGrokをめぐる騒動は、生成AIの「表現の自由」と「安全性」という根本的な対立を象徴する事例です。イーロン・マスク氏が掲げる「言論の自由」という理念が、非同意の性的画像生成という深刻な人権侵害とぶつかった瞬間と言えるでしょう。
注目すべきは、Xが導入した「有料化」という対策の構造的な欠陥です。プラットフォーム上では制限をかけながら、スタンドアロンのウェブサイトやアプリでは無料アクセスを維持するという矛盾した対応は、安全対策というよりも収益化戦略に見えてしまいます。実際、制限導入直後にアプリ内購入収益が18%急増したという数字は、この施策が「問題解決」ではなく「問題の有料化」になっている可能性を示唆しています。
技術的な観点から見ると、Grokの画像生成能力自体は高度なものです。しかし、その能力が「デジタル脱衣」という形で悪用される状況は、AI開発における倫理的ガードレールの重要性を浮き彫りにしました。他の主要AI企業が実装している安全フィルターと比較して、Grokの制限は緩かったという批判が出ています。
国際的な反応も見逃せません。米国の上院議員がAppleとGoogleに対してアプリストアからの削除を要求し、英国政府が「侮辱的」と表現するなど、各国政府が強い姿勢を示しています。これは単なる企業の問題ではなく、AI規制の枠組み全体に影響を与える可能性があります。
ノースカロライナ州司法長官が指摘した「転換点」という表現は的確です。シリコンバレーの「素早く動いて物事を壊す」という哲学が、個人の尊厳という壊してはならないものにぶつかりました。Grokの今後の対応は、生成AI業界全体の規制強化の引き金になる可能性を秘めています。
【用語解説】
ディープフェイク
AI技術を用いて作成される偽の画像や動画のこと。特に人物の顔や身体を別の画像に合成したり、実在しない画像を生成したりする技術を指す。近年は非同意の性的画像生成に悪用されるケースが増加している。
ペイウォール
ウェブサイトやアプリケーションで、特定のコンテンツやサービスへのアクセスを有料会員に限定する仕組み。デジタルコンテンツの収益化手法の一つである。
デジタル脱衣
AI画像生成技術を悪用し、服を着た人物の写真から衣服を取り除いたように見せる偽画像を作成する行為。本人の同意なく作成されることが多く、深刻なプライバシー侵害となる。
Sensor Tower
モバイルアプリの市場分析や収益データを提供する調査会社。アプリのダウンロード数、収益、ユーザー行動などのデータを追跡・分析している。
【参考リンク】
X（旧Twitter）公式サイト（外部）
イーロン・マスク氏が所有するソーシャルメディアプラットフォーム。AIチャットボットGrokが統合されている。
xAI公式サイト（外部）
イーロン・マスク氏が設立したAI企業。Grokの開発元であり、生成AIサービスを提供している。
Apple App Store（外部）
Appleが運営するiOSアプリケーションの配信プラットフォーム。厳格な審査ガイドラインを設けている。
Google Play Store（外部）
Googleが運営するAndroidアプリケーションの配信プラットフォーム。世界最大規模のアプリマーケット。
【参考記事】
Musk’s Grok AI Generated Thousands of Undressed Images Per Hour on X（外部）
ジェヌヴィエーヴ・オー研究者の調査データを基に、1時間数千枚の画像生成実態を報道。
X responds to outcry over Grok’s sexual images by charging users to make them（外部）
有料化対応の詳細と被害者の証言、各国政府の反応を詳しく取り上げる。
xAI, Under Fire for Sexualized Child Photos on Grok, Restricts Tool（外部）
子どもの性的画像生成問題に焦点を当て、法的リスクと規制圧力について詳述。
Grok Is Being Used to Mock and Strip Women in Hijabs and Sarees（外部）
特定文化的・宗教的背景を持つ女性への攻撃実態と社会的影響を分析する記事。
X just paywalled Grok’s deepfakes. They’re still everywhere.（外部）
ペイウォールの抜け穴問題を詳細分析。スタンドアロンアプリでの無料アクセス継続を指摘。
【編集部後記】
今回のGrokの問題は、私たち全員に関わる問いを投げかけています。技術の進歩と個人の尊厳、どちらも譲れない価値ですが、両立させる道はあるのでしょうか。
「表現の自由」という理念が、誰かの人権を踏みにじる言い訳になってしまう瞬間を、私たちはどう受け止めるべきでしょうか。また、有料化によって問題を「見えにくく」することは、本当の解決と言えるのでしょうか。
生成AIは確実に私たちの未来を形作る技術です。だからこそ、今この瞬間の選択が重要だと感じています。みなさんはこの問題をどう考えますか。
