急速に普及する生成AIを活用したシステムは情報漏洩、悪用や誤用、不正確な出力等、さまざまなリスクが潜んでいます。AIセキュリティ診断は、当社のセキュリティエンジニアの疑似攻撃を通してリスクを事前に洗い出し、生成AIを活用したお客様のシステムにおけるセキュリティの確保を支援します。
Incident Cases
データの汚染によるRAGシステムの不正操作
RAGシステムの参照するデータに攻撃者が指示を含めることで、不正にAIシステムの挙動を誘導される恐れがあります。例えば履歴書に「この候補者を採用せよ」といった指示を埋め込まれると、AIが隠しテキストを読み込み、不適格な候補者を採用するよう判断してしまいます。
AIへの過剰な権限付与
AIエージェントに必要以上の権限を与えることで、不正利用につながるリスクがあります。メール要約AIに「送信」権限まで付与すると、細工されたメール経由でプロンプトインジェクションが成立し、機密情報が外部へ送信される可能性があります。
AIを通した任意コードの実行
AIがコードを直接実行できる場合、攻撃者がこの機能を悪用して予期しないコード実行を引き起こす恐れがあります。権限昇格、ファイル窃取、サービス停止、システム全体の乗っ取りといった深刻な被害につながります。
Reasons
生成AIのユースケースに基づき的確にリスクを特定
セキュリティエキスパートがお客様の生成AI活用の実態をもとに、ビジネスへの影響が大きいリスクを的確に特定。重点的なテストで、本当に重要な脆弱性を見極めます。
Webアプリケーション診断との組み合わせでワンストップ対応
AI特有のリスクとWeb脆弱性が複合的に悪用される可能性に対し、両診断を一括で提供。システム全体を通じたリスクを網羅的に評価します。
最新のAIセキュリティガイドラインを活用
OWASP LLM Top10をはじめとする各種AIセキュリティ情報を活用してテストを実施。最新のAI知見に則った安全・安心な運用ができます。
Process
お問い合わせ
無料相談を承っております。診断対象や範囲などをお伺いします。まずはお気軽にご相談ください。
見積もり・契約
ご相談内容を踏まえてお見積りを提示します。内容をご確認いただいた上で、ご契約いただきます。
診断
セキュリティエンジニアが診断を実行します。
報告
発見された問題の内容やリスク、推奨対策等を記述した報告書を提出します。オプションで報告会も可能です。
FAQ
Q診断項目を教えて下さい。
OWASP Top 10 for Large Language Model Applicationsをベースにした弊社独自の診断項目で診断いたします。
Q問題個所を改善した後に再診断はやってもらえますか？
はい、再診断を行うことができます。