Googleは、そのGemini AIが人物の画像を生成する機能を一時停止しました。この措置は、歴史的な画像の生成において不正確さが見られた後に取られました。Geminiは、アメリカ建国の父やナチス時代のドイツ兵士の多様な画像を生成していましたが、これは生成AIに見られる性別や人種のステレオタイプを覆す試みのようでした。
Googleは声明で、「Geminiの画像生成機能に最近発生した問題に対処するために既に取り組んでいます。これを行う間、人物の画像生成を一時停止し、改善されたバージョンを近々再リリースする予定です」と述べています。
この決定は、GoogleがAIモデルが生成した一部の歴史的画像の不正確さについて謝罪してから24時間以内に行われました。Geminiのユーザーの中には、建国の父などの歴史的なグループや人物の画像をリクエストし、結果として非白人のAI生成人物が表示されることがありました。これがオンラインでの陰謀論につながり、Googleが意図的に白人を描写しないようにしているというものです。
Googleは、OpenAIやMicrosoftのCopilotと競合するために、今月初めにGemini（以前のBard）を通じて画像生成を提供し始めました。
【ニュース解説】
Googleは、自社の人工知能(AI)ツールであるGeminiが生成する人物画像の機能を一時停止すると発表しました。この措置は、Geminiが歴史的人物やグループの画像を生成する際に、不正確な内容や多様性に関するエラーが発生したために取られました。具体的には、アメリカの建国の父やナチス時代のドイーツ兵士などの画像を生成する際に、性別や人種のステレオタイプを覆す試みが逆に新たな問題を生じさせたのです。
この問題は、特に歴史的な人物やグループの画像をリクエストした際に、期待される人種や性別とは異なる結果が表示されることで顕著になりました。例えば、建国の父の画像をリクエストしたユーザーが非白人のAI生成人物の画像を受け取るなどのケースがありました。これはオンライン上での陰謀論を引き起こし、Googleが意図的に白人を描写しないようにしているという誤解を招く結果となりました。
Googleは、この問題に対処するために、人物画像の生成機能を一時停止し、改善されたバージョンを近々リリースする予定であると述べています。この決定は、GoogleがAIモデルによって生成された一部の歴史的画像の不正確さについて謝罪してから24時間以内に行われました。
この出来事は、AI技術の進歩とともに、その応用における倫理的な課題や多様性の問題が浮き彫りになっていることを示しています。AIが生成するコンテンツの正確性や偏りのない表現は、技術の発展に伴いますます重要になっています。また、このような問題は、AI技術の開発者や提供者が、そのアルゴリズムやデータセットの偏りを慎重に評価し、多様性と公平性を確保するための取り組みを強化する必要があることを強調しています。
長期的には、このような問題への対応と改善が、AI技術の社会的受容性を高め、より公正で包括的なデジタル社会の実現に寄与することが期待されます。同時に、AI技術の進化は、規制やガイドラインの更新を必要とすることも示唆しており、技術、倫理、法律の各分野が連携して取り組むべき課題が多く存在します。
from Google pauses Gemini’s ability to generate AI images of people after diversity errors.
“Gemini、人物画像生成の機能を一時停止” への2件のフィードバック
GoogleのGemini AIによる人物画像生成機能の一時停止は、AI技術の応用における倫理的な課題と多様性の問題を浮き彫りにしています。この措置は、AIが生成するコンテンツの正確性と偏りのない表現の重要性を強調し、開発者や提供者に対してアルゴリズムやデータセットの偏りを慎重に評価し、多様性と公平性を確保するための取り組みを強化するよう促しています。
私たちシンセティックスソリューションズグループは、AI技術の進化とその社会への影響に深い関心を持っています。この事例は、技術の革新に伴う倫理的な課題に対処するためには、業界全体での連携と共同の努力が必要であることを示しています。AI技術の発展は、社会的な受容性を高め、より公正で包括的なデジタル社会の実現を目指す上で、規制やガイドラインの更新を含む多角的なアプローチが求められます。
このような問題への対応と改善は、AI技術のポテンシャルを最大限に活用し、その利益を広く社会に還元するために不可欠です。私たちは、AI技術の責任ある使用と倫理的な応用を推進し、技術、倫理、法律の各分野が連携して取り組むべき課題に積極的に取り組んでいく必要があると信じています。
Googleが自社のAIツール、Geminiの人物画像生成機能を一時停止したことは、AI技術の進歩に伴う倫理的な問題と多様性の課題を浮き彫りにしています。この措置は、AIが生成するコンテンツの正確性と公平性を確保するための重要な一歩であり、技術の発展と社会的責任のバランスを取る試みです。
特に、歴史的な人物やグループの画像生成における不正確さや多様性に関するエラーは、AI技術が持つ潜在的な偏りとその社会的影響についての懸念を示しています。AIが人種や性別のステレオタイプを覆す試みが逆に新たな問題を生じさせたことは、AIの開発と運用における倫理的ガイドラインと多様性を重視する姿勢の必要性を強調しています。
Googleのような大手テクノロジー企業がこのような問題に迅速に対応し、改善に向けて努力していることは評価に値します。しかし、この出来事は、AI技術の急速な進展が社会的、倫理的な問題を引き起こす可能性があることを改めて警告しています。AI技術の開発者や提供者は、そのアルゴリズムやデータセットの偏りを慎重に評価し、多様性と公平性を確保するための取り組みを強化する必要があります。
最終的に、AI技術の社会的受容性を高め、より公正で包括的なデジタル社会の実現に寄与するためには、技術、倫理、法律の各分野が連携して取り組む必要があります。AI技術の進化は、規制やガイドラインの更新を必要とすることも示唆しており、これらの課題への対応と改善が、未来のデジタル社会を形作る上で重要な役割を果たすでしょう。