OpenAIが、AIが将来の生物学的脅威の創出に果たす意外な役割に関する新しい研究を発表しました。この研究は、GPT-4などの大規模言語モデル（LLMs）が、病原体や毒素の合成など、生物学的攻撃の開発と実行を悪意のある行為者が支援する能力に焦点を当てています。研究は、OpenAIの準備フレームワークの一環として行われ、特に現代社会によって十分に理解されていない、または予期されていない「フロンティアリスク」に対処し、高度なAI能力の潜在的なリスクを評価および軽減することを目的としています。
研究方法と結果について、研究者たちは生物学の専門家50人（PhD保持者およびプロのウェットラボ経験者）と、少なくとも1つの大学レベルの生物学のコースを受講した学生レベルの参加者50人を含む合計100人の参加者とともに、人間による評価を実施しました。参加者はランダムに、インターネットのみにアクセスできるコントロールグループと、インターネットに加えてGPT-4にアクセスできる治療グループに割り当てられました。その後、参加者は生物学的脅威の創出のためのエンドツーエンドプロセスの側面をカバーする一連のタスクを完了するよう求められました。研究者は、精度、完全性、革新性、かかった時間、自己評価された難易度の5つの指標で参加者のパフォーマンスを測定しました。GPT-4は、学生レベルのグループの精度にわずかな増加を除き、いずれの指標においても参加者のパフォーマンスを大幅に改善することはありませんでした。また、GPT-4はしばしば誤ったまたは誤解を招く反応を生成し、これが生物学的脅威の創出プロセスを妨げる可能性があると指摘しました。
研究者たちは、現行世代のLLMs、特にGPT-4が、インターネット上の既存のリソースと比較して、生物学的脅威の創出を可能にする顕著なリスクをもたらさないと結論付けました。しかし、この発見が決定的でないこと、そして将来のLLMsがより能力が高く危険になる可能性があることを警告しました。また、AIによる安全リスクの評価方法と倫理指針の開発、およびこのトピックに関する継続的な研究とコミュニティの議論の必要性を強調しました。この研究は、RAND Corporationによって実施された以前のレッドチーム演習の結果と一致しており、LLMの支援の有無に関わらず、生物学的攻撃計画の実行可能性に統計的に有意な差がないことも見出されました。しかし、両方の研究は、その方法論の限界とAI技術の急速な進化を認め、近い将来にリスクの風景が変わる可能性があることを認識しています。AIがより強力でアクセスしやすくなるにつれて、警戒と準備の必要性がより緊急になっています。
【ニュース解説】
OpenAIが行った新しい研究では、AIが将来の生物学的脅威の創出に果たす役割について調査されました。この研究は、特に大規模言語モデル（LLMs）であるGPT-4が、病原体や毒素の合成など、生物学的攻撃の開発と実行を支援する能力に焦点を当てています。研究の目的は、現代社会によって十分に理解されていない、または予期されていない「フロンティアリスク」に対処し、高度なAI能力の潜在的なリスクを評価および軽減することです。
研究では、生物学の専門家と学生レベルの参加者を含む100人が、インターネットのみにアクセスできるコントロールグループと、インターネットに加えてGPT-4にアクセスできる治療グループにランダムに割り当てられました。参加者は、生物学的脅威の創出に関連する一連のタスクを完了し、そのパフォーマンスが評価されました。結果として、GPT-4は学生レベルのグループの精度をわずかに向上させた以外、大きな改善をもたらさなかったことが明らかになりました。また、GPT-4が誤った情報を提供することがあり、これが生物学的脅威の創出プロセスを妨げる可能性があると指摘されました。
この研究は、現行のLLMs、特にGPT-4が、インターネット上の既存のリソースと比較して、生物学的脅威の創出を顕著に促進するリスクをもたらさないと結論付けました。しかし、将来のLLMsがより高度になり、より危険になる可能性があるため、この結果が決定的でないこと、そしてこの問題に関する継続的な研究とコミュニティの議論の必要性が強調されました。
この研究の意義は、AI技術の進化に伴い、生物学的脅威の創出におけるその潜在的な役割を理解し、適切な対策を講じることの重要性を浮き彫りにしています。AIがより強力でアクセスしやすくなるにつれて、その悪用の可能性に対する警戒と準備が必要です。また、AI技術の発展に伴い、倫理的なガイドラインの策定や、AIによる安全リスクの評価方法の改善が求められます。このような研究は、AIのポジティブな側面を最大限に活用しつつ、潜在的なリスクを最小限に抑えるための基盤を築くことに貢献します。
from OpenAI study reveals surprising role of AI in future biological threat creation.
