【ダイジェスト】
企業のAI製品を保護するための新しいセキュリティソリューションが登場しました。Prompt Securityは、AIを活用して企業のAIツールに対するプロンプトインジェクションやジェイルブレイクなどのリスクから保護すると主張しています。また、従業員が誤ってChatGPTのようなツールに機密データを供給することを防ぐ機能も提供しています。
現代の企業は、生成AI（GenAI）のメリットを享受しようとしていますが、これらの新しいツールが環境のセキュリティに与える影響についても懸念を抱いています。Dark Readingの最近の調査によると、GenAIを完全に採用することの潜在的なリスクとして、第三者ツールの不透明さ（46%）、GenAIのガイドラインやポリシーに関する合意の欠如（43%）、データガバナンスの懸念（39%）などが挙げられています。
これらのリスクに対処するため、Prompt Securityは、組織内のGenAIとのすべてのやり取りを保護することで、機密データの露出、有害コンテンツのブロック、その他のGenAI特有の攻撃から保護すると述べています。セマンティックデータの検査により、プロンプトインジェクション、ジェイルブレイキング、データ抽出などの脅威を防ぎます。また、文脈に基づいたLLMベースのモデルが機密データを検出し、赤字で修正することで、顧客や従業員の情報、知的財産を偶発的な露出から守ります。
さらに、このソリューションは組織内で使用されているAIツールの範囲をカタログ化します。セキュリティチームは、これらのツールがどのように使用されているかを確認し、アプリケーションやユーザーグループごとにアクセスポリシーを定義することができます。
Prompt Securityの共同創業者はOrca Security出身で、CEOのItamar Golanは以前OrcaでMLとAIの責任者を、CTOのLior DrihemはOrcaのイノベーション責任者を務めていました。シードラウンドの資金調達は500万ドルで、Hetz Venturesが主導し、Four Riversや複数のエンジェル投資家が参加しています。
企業がAIの力を最大限に活用しつつ、セキュリティリスクを最小限に抑えるためには、Prompt Securityのような革新的なソリューションが不可欠です。AIの進化に伴い、企業はこれまでにない種類の脅威に直面しており、それに対応するための新しい防衛策が求められています。Prompt Securityは、そのようなニーズに応えるために開発された製品であり、企業のAIセキュリティを強化するための重要なステップとなるでしょう。
【ニュース解説】
新しいセキュリティスタートアップであるPrompt Securityが、企業のAI製品を保護するためのソリューションを発表しました。このソリューションは、人工知能（AI）を利用して、企業が使用するAIツールに対するセキュリティリスクを軽減することを目的としています。特に、プロンプトインジェクションやジェイルブレイクといった攻撃から保護し、従業員が誤って機密データをAIツールに供給することを防ぐ機能を提供します。
生成AI（GenAI）は、テキスト、画像、音声などのコンテンツを自動生成する技術であり、企業はそのメリットを享受しようとしていますが、同時にセキュリティ上のリスクも懸念されています。例えば、第三者が提供するAIツールの動作が不透明であることや、GenAIに関するガイドラインやポリシーが統一されていないこと、データガバナンスに関する問題などが挙げられます。
Prompt Securityは、組織内でのGenAIとのやり取りを監視し、機密データの露出や有害コンテンツのブロック、その他のGenAI特有の攻撃から保護することを目指しています。セマンティックデータを検査することで、プロンプトインジェクションやジェイルブレイキング、データ抽出などの脅威を防ぎます。また、文脈に基づいた大規模言語モデル（LLM）を使用して機密データを検出し、修正することで、顧客や従業員の情報、知的財産を偶発的な露出から守ります。
このソリューションは、組織内で使用されているAIツールの範囲をカタログ化し、セキュリティチームがツールの使用状況を把握し、アプリケーションやユーザーグループごとにアクセスポリシーを定義できるようにします。
Prompt Securityの創業者は、セキュリティ企業Orca Security出身で、500万ドルの資金を調達しています。この資金は、企業のAIセキュリティを強化するための製品開発に使用されることでしょう。
この技術により、企業はAIを安全に活用することができるようになります。しかし、新しい技術は常に新しいリスクをもたらすため、Prompt Securityのようなソリューションが企業のセキュリティ体制を支える重要な役割を果たすことになるでしょう。ポジティブな側面としては、企業のイノベーションを促進し、競争力を高めることができますが、潜在的なリスクとしては、セキュリティソリューション自体が新たな攻撃のターゲットになる可能性があります。将来的には、このようなセキュリティソリューションがAIの安全な使用を保証する基準となり、長期的には企業の信頼性と持続可能性を高めることに貢献するでしょう。
from Prompt Security Launches With AI Protection for the Enterprise.
