オープンソース画像生成AI「Stable Diffusion」の開発元であるStability AIは7月9日（日本時間同日）に、新たな利用規約を公開した。これは2025年7月31日より適用されるものである。
主な変更点は以下のとおりである。
1. 性的コンテンツの扱い
- 旧規約（2024年3月1日版）
非同意のヌードや違法なポルノコンテンツは禁止だが、「合意のある成人同士の性的コンテンツ」自体は明確に全面禁止されていなかった。 - 新規約（2025年7月31日施行）
性的に露骨なコンテンツ（合意の有無を問わず、性的行為や性交、性的暴力の描写など）を全面的に禁止。
2. 年齢制限
- 旧規約
18歳未満は「保護者の同意があれば利用可」とされていた。 - 新規約
18歳未満は一律で利用不可。国や地域でより高い年齢制限がある場合はそちらを優先。
3. 法令・権利侵害の明確化
- 旧規約
法律違反や知的財産権・プライバシー権侵害の禁止はあったが、AI法規制（サブリミナル、社会的スコアリング、犯罪予測など）への具体的な言及はなかった。 - 新規約
AI法規制違反や顔認識データベースの無断作成、職場・教育機関での感情推定、バイオメトリクスによる属性推定などを明確に禁止。
4. 技術的な制限・安全対策
- 旧規約
フィルタやガードレールの回避（プロンプトインジェクション等）についての明確な禁止規定はなかった。 - 新規約
技術的な安全対策の回避・無効化を明確に禁止。
5. 医療・法律・金融分野での利用
- 旧規約
これら分野でのAI利用に関する明確な制限や専門家レビュー義務の記載はなかった。 - 新規約
医療・法律・金融分野でのAI助言は、専門家レビューなしでは禁止。AI利用であることと限界の明示が必須。
既存モデル・ローカル利用の扱い（不可逆ライセンスに関する補足）
- この新規約は2025年7月31日以降のモデルに適用されるものである。従来のモデルには、各モデルの配布時に付与された「CreativeML Open RAIL-M」などの不可逆（irrevocable）ライセンスが適用されているため、新規約の遡及適用はされないと解釈できる。
新規約では「性的コンテンツの全面禁止」「年齢制限の厳格化」「AI法規制への対応」「技術的安全対策の強化」など、より厳格かつ具体的な規定が追加された。
しかし「既存モデルのローカル利用は新規約の遡及適用なし」という点は、規約本文ではなく各モデルの不可逆ライセンスに基づくものであることに注意が必要。
新規約：https://stability.ai/use-policy（公式サイト）
旧規約：https://stability.ai/prior-aup（公式サイト）
【編集部解説】
昨今のStable Diffusionを含む様々なAIの台頭に合わせて、規約がより明確なものへと更新されました。特に注目すべきなのは性的なコンテンツに対する厳しい規制でしょう。
新しい利用規約（AUP）では、性的に露骨なコンテンツについて、ローカル環境での利用かAPI経由かを問わず、「生成」する行為自体が禁止されました。これは「公開」だけでなく、より根本的な行為に踏み込んだ規制です。
新旧モデルと「公開」のリスク
旧モデルの規約には性的コンテンツを名指しで禁じる条項がなかったため、ライセンスの「不遡及の原則」を根拠に、私的利用は問題ないと主張する余地はあります。
しかし、生成物を「公開」した場合は話が別です。日本では刑法175条（わいせつ物頒布罪）の解釈次第で違法となる可能性があり、これはモデルの新旧を問いません。旧規約も違法行為は禁じているため、「公開」する限り、常に法的なグレーゾーンにありました。
「非公開」利用における新旧モデルの比較
旧モデルを非公開で利用：日本法上は合法です（児童ポルノ等を除く）。規約上は「不遡及の原則」と解釈するか、「新方針が適用される」と解釈するかで見解が分かれるグレーゾーンです。
新モデルを非公開で利用：日本法上は同じく合法です。しかし、規約上は明確な違反となります。ただし、後述の通り、これに対する直接的な罰則は存在しません。
規約の真の目的
この規約改定の最も大きな目的は、ユーザー個人を罰することよりも、APIを利用する企業に対しての牽制や、Stability AI自身の防御にあると考えられます。新規約には、違反したユーザーには当社製品やサービスの利用を停止するという記述がありますが、完全にローカル環境に構築されたStable Diffusionや、個人利用のために生成された画像に対して措置を講じることは現実的ではありません。
自社の技術が悪用された際に「我々は明確に禁止していた」と主張するための法的・倫理的な「盾」であり、社会的責任を守るためのスタンス表明としての意味合いが極めて大きいと言えます。実質的な拘束力や罰則よりも、この抑止力と企業防衛が核心であると考えられます。
大幅な規約改定の背景には、世界的なAI法規制の潮流（EUのAI法など）や、クレジットカード会社などの決済プラットフォーマーからの圧力、そして投資家に対する企業としての健全性アピールの必要性があったと考えられます。単なる技術開発企業から、社会インフラとなりうるサービスを提供する企業へと脱皮する過程での、必然的な変化と言えるでしょう。
ユーザー別の影響と対応
趣味で画像生成を楽しむ個人ユーザー：ローカル環境での私的利用は、引き続きグレーゾーンではあるものの、直ちに罰則を受けるリスクは低いでしょう。ただし、公式のスタンスは「禁止」であることを認識しておく必要があります。
作品をSNSなどで公開するクリエイター：モデルの新旧を問わず、性的コンテンツの公開は常に日本の法律に触れるリスクが伴います。特に、新しいモデルを利用する場合は、性的でないコンテンツであっても、AI生成であることを明記するなど、より慎重な運用が求められるでしょう。
APIを利用する開発者・企業：今回の規約改定の主な対象とも言えます。自社サービスが新規約に抵触しないか、法務部門を交えた詳細な確認が必須です。
【用語解説】
プロンプトインジェクション：
AIへの指示（プロンプト）の工夫によって、AIの規制などをかいくぐり、開発者の意図しない結果を出力させる不正行為。
不遡及の原則：
新しい法律や規則が施行された際に、その施行前の出来事に対して遡って適用されることを禁止する原則。
【編集部後記】
Stability AIが、グローバル企業として、より厳格で明確な利用規約を掲げたことは、事業上のリスク管理や多様な社会的要求に応えるための、一つの合理的な経営判断です。AIが生成するコンテンツ、特に性的な表現に対する社会の不安は、無視できないものです。子どもたちや、そうした表現を望まない人々を、意図しない形で不快にさせるべきではありません。
Stability AIが示したのは、「性的コンテンツの一律禁止」という、分かりやすいグローバル基準です。一方で、日本の刑法175条は、「わいせつ」の定義が曖昧で、その適用は解釈に大きく依存します。局部への修正処理なども慣例的に行われているに過ぎず、法的に明言されているわけではありません。
ここには、明確な「外部の基準」と、曖昧な「国内の基準」という、大きな乖離が存在します。
ここで明確にしておきたいのは、本稿がStability AIの決定に異を唱えることを目的としたものではない、という点です。グローバル企業が自社のポリシーに従ってサービスを運営するのは当然であり、ユーザーはそれに従う必要があります。
本稿が光を当てたいのは、この外部の潮流をきっかけとして、私たち自身の国内法や社会のありようをどう考えていくか、という点です。
私たちが警戒すべきは、この乖離を深く考察することなく、「海外の大企業も禁止したのだから」という理由で、国内の曖昧な法律を安易に、そして拡大解釈して適用しようとする動きです。
今日、この曖昧な物差しで「けしからんAIポルノ」を叩くことに、ある人々は賛同するかもしれません。しかし、一度「曖昧な基準で気に入らないものを禁止できる」という前例を許してしまえば、明日、その刃がどこへ向かうかは誰にも分かりません。
政府に批判的な風刺画、新しい価値観を提示するアート、あるいは社会のタブーに触れる文学。それら全てが、誰かの「不快だ」という感情と曖昧な法律を根拠に、次々と「有害」のレッテルを貼られていく。これは、日本国憲法が保障する「表現の自由」そのものに対する、深刻な脅威です。
一度、「外部の基準」を理由に国内法の解釈を広げることを容認すれば、今後もあらゆる外部からの圧力によって、私たちの表現の自由が左右されかねない。それは、自らの文化のあり方を、他者に委ねてしまうことに等しいのです。
では、選ぶべき道とは何でしょうか。その一つが、「ゾーニング」という原則に基づいた共存の形です。これは、コンテンツをその性質に応じて適切に区分し、情報を求める人が自身の意思でアクセスできるようにする仕組みです。この原則が尊重するのは、「表現の自由」と、それと同じく重要な「見たくないものを見ない自由」。双方の権利を両立させるための、現実的で公平なアプローチです。
一律に「禁止」するのではなく、多様な表現が、それぞれ適切な場所で存在できる環境を整備すること。それは、多様な価値観を尊重する社会の基盤となる考え方です。このニュースを機に、「AIだから」「性的だから」とあらゆるコンテンツを非難することになってはならないと考えています。
2025/7/14追記
なぜ刑法175条の話が出てきた？というお声をいくつかいただきました。
結論から言いますと、刑法175条（わいせつ物頒布等）に関しては今回のStability AIの規制強化には直接関係することではありません。ですが、「性的なコンテンツ」の取り扱いに関して、日本の法律は避けて通れない問題です。
もともと、「性的なコンテンツ」の公開は、AIかそうでないかにかかわらず、違法か合法か、といえばグレーなのが現状です。これは年齢確認がされる場所か、局所にモザイクがなされているか、という明確な基準がなく、歴史的な「建前」で成り立っている以上、ネット上や書籍などに公開すれば、何かがあった時にはすべて「わいせつ物頒布」と解釈されうるからです。
ここで「Stability AIが禁止した」という大きな事実と、「刑法175条」を使って、AIを使った「性的なコンテンツ」を世の中から排除しようという動きが現れるかもしれません。その次は、AIに関わらず、「禁止されるようなよくないもの」として「性的なコンテンツ」を排除する動きにもなりえます。
では、その次に規制されるのは何か？規制されて世の中がどう変わるのか？ということを伝えたかったのです。
【関連記事】
Stable Diffusionのローカル環境構築手順-完全無料で無制限に画像生成
Google colabを利用したStable Diffusion Web UI導入方法-PCスペック不問で画像生成
Dream Studioの使い方解説-Stable Diffusionの公式APIサービスで画像生成AIを無料体験
