大規模言語モデルへのペネトレーションテスト。攻撃者がプロンプトを送り込む前に。
AIはいまやビジネスに不可欠な存在となり、従来のテストでは想定されなかった攻撃対象領域を生み出しています。SubRosaのAIレッドチームは、実際の攻撃者と同じ手口で、あなたのLLMアプリケーションをPrompt Injection、データ漏洩、モデルおよびPluginの悪用について検証します。
Prompt Injection · データ漏洩 · モデルの改ざん · Pluginの悪用
LLMペネトレーションテストとは何か。
LLMペネトレーションテストとは、大規模言語モデルを基盤とするアプリケーションに対する実践的なセキュリティ評価です。モデル本体、そのプロンプト、データアクセス、そしてPluginや連携機能を対象に、攻撃者が悪用しうる手口を検証します。挙動を乗っ取るPrompt Injection、ガードレールを回避するJailbreak、学習データやシステムプロンプトの漏洩、そしてモデルが本来触れるべきでないシステムにまで到達するPluginチェーンなどです。単なるモデルのベンチマークにとどまらず、実際の運用環境で悪用可能な影響を実証します。
AIの攻撃対象領域。
プロンプトからPluginまで、攻撃者がLLMアプリケーションを悪用しうるあらゆる手口を検証します。
Prompt InjectionとJailbreak
モデルの挙動を乗っ取り、ガードレールを回避し、あるいはその指示を抜き取る、直接的および間接的なPrompt InjectionとJailbreakの手法。
データおよびプロンプトの漏洩
モデルとそのコンテキストウィンドウを通じて、学習データ、システムプロンプト、他ユーザーのデータが露出しないかを検証します。
モデルの改ざん
モデルの出力を劣化させ、偏らせ、あるいは操作して、有害または不正なアクションを引き起こさせる敵対的入力。
PluginおよびAPI連携のセキュリティ
モデルが呼び出せるツール、Plugin、連携機能の評価。注入されたプロンプトが実際のシステムやデータへと踏み込みうる箇所を検証します。
オフェンシブセキュリティを、AIに適用する。
AIレッドチームの専門性
当社のオフェンシブチームは、ネットワークやアプリケーションに向けるのと同じ敵対的な視点を、AIが実際に破綻する仕組みに合わせて適用し、LLMアプリケーションを検証します。
OWASP LLM Top 10へのマッピング
検出結果はOWASP Top 10 for LLM Applicationsにマッピングされるため、あなたのリスクは新たに確立されつつある業界標準に照らして整理されます。
実際の運用環境に即した検証
汎用的なモデルではなく、あなたの実際の運用環境、そのプロンプト、データアクセス、連携機能を検証します。だからこそ結果は、あなたが実際に抱えているリスクを反映します。
レッドチームから修復まで。
あなたのLLMペネトレーションテストの検出結果はSableに集約され、OWASP LLM Top 10にマッピングされ、優先順位付け、担当割り当て、オープンから再テストまでの追跡が行われます。これにより、AIリスクは一度きりのレポートではなく、継続的に管理されるプログラムになります。
- CriticalOpenIndirect prompt injection via docLLM01
- HighIn progressSystem prompt disclosureLLM06
- HighRetestedPlugin call reaches internal APILLM07
- MediumOpenGuardrail bypass via role-playLLM01
AIを守る。攻撃者がプロンプトを送り込む前に。
LLMペネトレーションテストを予約し、攻撃者があなたのAIをどのように悪用しうるか、そしてそれをどう封じ込めるかを正確に把握してください。