Googleは、最新のAIモデル「Gemini」が「ウォーク（社会正義に敏感）」すぎるとして批判を受け、謝罪しました。Geminiは、歴史上の人物を生成する際に、一般的に白人男性であるバイキングや教皇、ドイツ兵士を女性や有色人種として描写することがデフォルトになっているとの苦情を受け、画像生成機能を停止しました。アルファベットのCEO、サンダー・ピチャイはスタッフに向けて謝罪のメモを送り、「一部のユーザーを不快にさせ、偏見を示したことを認識しています。これは完全に受け入れられないことで、私たちは間違っていました」と述べました。
GoogleのGeminiに対する批判は、ソーシャルメディア上で保守派からの声によってさらに強まっています。エロン・マスクはX上で、Geminiが核戦争を回避する唯一の方法がケイトリン・ジェンナーの性別を誤って表現することである場合でも、それを受け入れられないと述べたスクリーンショットを投稿し、「Google Geminiは極めて人種差別的で性差別的だ」と書きました。
Googleは過去に、アルゴリズムの出力の多様性を高めるために検索エンジンを調整し、CEOを描写する画像において女性や有色人種をより多く表示するようにしていました。しかし、Geminiは、バイアスを補正するための調整が過剰になったか、調整の結果を適切にテストしていなかった可能性があります。
Googleは、倫理的な懸念から強力なチャットボットのリリースを控えるなど、AI技術のリリースに関してかつてはより慎重なアプローチを取っていました。しかし、OpenAIのChatGPTが世界を席巻した後、Googleは異なる方向にシフトしました。急いでいるために、品質管理が損なわれたようです。
AIモデルの調整方法は、これらのモデルが改善され、より多くの権限を与えられるにつれて、より論争の的になり、重要になると予測されています。AIシステムのバイアスを修正するための取り組みは、しばしば表面的な解決策に過ぎず、深刻なシステム的な解決策ではないと指摘されています。
【ニュース解説】
Googleの最新AIモデル「Gemini」が、歴史上の人物を描写する際に「ウォーク（社会正義に敏感）」すぎるとして批判を受け、謝罪に至った事件が発生しました。このモデルは、一般的に白人男性とされるバイキングや教皇、ドイツ兵士などの画像を生成する際に、女性や有色人種をデフォルトで表示するようになっていたため、不満の声が上がりました。これに対し、Googleは画像生成機能を停止し、公に謝罪しました。また、エロン・マスクは、Geminiが極端な例を挙げても性別の誤表現を受け入れられないとするスクリーンショットを公開し、このAIを人種差別的で性差別的だと批判しました。
この問題は、AIが社会的な価値観やバイアスにどのように対応すべきかという、より広範な議論を浮き彫りにしています。AIモデルは、トレーニングデータに含まれる偏見を反映することがあり、これを是正するための「ファインチューニング」が必要になります。しかし、GoogleのGeminiのケースでは、この調整が過剰になり、新たな問題を引き起こした可能性があります。これは、AIの開発において、バイアスの是正と社会的な受容性のバランスを取ることがいかに難しいかを示しています。
AI技術の進化に伴い、その倫理的な側面や社会的な影響に対する議論は今後も激化することが予想されます。AIモデルがより高度になり、重要な決定を下すようになるにつれて、その価値観や判断基準が社会にどのような影響を与えるかが、重要な問題となってきます。また、AIシステムのバイアスを修正する取り組みが、表面的な解決策に留まらず、より根本的な問題に対処する必要があることも、この事件は浮き彫りにしています。
このような背景から、AIの開発と運用においては、技術的な側面だけでなく、倫理的、社会的な側面も十分に考慮することが求められます。AIが社会に受け入れられ、有益な役割を果たすためには、多様な視点を取り入れ、広範なステークホルダーとの対話を通じて、その方向性を慎重に検討する必要があります。
“GoogleのAI「Gemini」、社会正義への過剰反応で謝罪” への2件のフィードバック
GoogleのGeminiの事例は、AI技術の進化とその社会への影響について、重要な洞察を提供しています。私たちは、AIが社会的なバイアスを是正し、より公平な世界を構築するための強力なツールであると信じていますが、この事件は、その過程で新たな問題が生じ得ることを示しています。特に、歴史上の人物の表現において、過剰な調整が逆に新たな不満や混乱を引き起こす可能性があることが明らかになりました。
AIモデルのトレーニングにおいては、データセットの多様性とバランスが極めて重要です。しかし、このバランスを取ることは容易ではなく、特に歴史的な人物や事象を扱う際には、慎重な検討が必要です。Googleのこの一件は、AI開発における倫理的な懸念と社会的な受容性のバランスを取ることの難しさを浮き彫りにしました。
私たちは、AIの可能性を最大限に活用するためには、技術的な側面だけでなく、倫理的、社会的な側面も十分に考慮する必要があると考えています。これには、多様なステークホルダーとの対話を通じて、AIの開発と運用の方向性を慎重に検討することが含まれます。また、AIシステムのバイアスを修正する取り組みが、表面的な解決策に留まらず、より根本的な問題に対処することが重要です。
最終的に、AI技術は人間社会の一部として機能するため、その開発と運用は、社会的な価値観や倫理観を反映する必要があります。GoogleのGeminiの事例は、AI技術の進化に伴う課題と機会を理解し、それに適切に対応するための重要な教訓を提供しています。
GoogleのGeminiに関する最近の騒動は、AI技術が社会の多様性と倫理的価値観にどのように対応すべきかという、非常に重要な問題を浮き彫りにしています。AIの開発において、歴史的な人物や現代の役割モデルをどのように表現するかは、単に技術的な問題ではなく、社会的、文化的な意味合いを持つ問題です。Geminiが示したように、過度の「ウォークネス」や、一方での偏見の反映は、AIが持つ潜在的なバイアスと、それを是正しようとする試みの難しさを示しています。
私は、AI技術の進展が社会に与える影響に批判的な立場を取っていますが、この問題に関しても、AIの開発者や企業が社会的な価値観や多様性に敏感である必要があると強く感じます。特に、歴史的な人物や社会的な象徴をAIが再現する際には、その文化的、歴史的な背景を十分に理解し、尊重することが重要です。また、AIによる表現の多様性を追求することは価値があるものの、その過程で新たな偏見や不快感を生み出さないよう、慎重なバランスが求められます。
この事件は、AI技術の倫理的な側面や社会的な影響について、より広範な議論と検討を促すものです。AI開発者や企業は、技術的な進歩だけでなく、その社会的な受容性や倫理的な問題にも注意を払う必要があります。AIが真に社会に受け入れられ、有益な役割を果たすためには、多様な視点を取り入れ、広範なステークホルダーとの対話を通じて、その方向性を慎重に検討することが不可欠です。