AI セキュリティポスチャー管理 (AI-SPM) とは?

• AI-SPM は、シャドー AI を含むマルチクラウド環境全体にわたって、AI モデル、サービス、パイプライン、およびトレーニングデータを継続的に検出します。 
• AI モデルやトレーニングデータにアクセスできる人間および非人間のアイデンティティを特定し、権限が過剰なアクセスを明らかにするとともに、攻撃経路となり得る設定ミスを洗い出します。 
• AI リソースの脆弱性、悪用される可能性、およびビジネスへの影響とサイバーエクスポージャーを関連付けることで、チームが実際のリスクに焦点を当てた修正策を講じられるようにします。 
• AI-SPM と DSPM を併用することで、データへのアクセスを、そのデータが供給される AI リソース、およびその両方を悪用する可能性のあるアイデンティティに関連付けることができます。

AI セキュリティポスチャー管理 (AI-SPM) は、クラウド環境全体で稼働している AI リソースやデータに対するリスクを特定し、軽減するためのソリューションです。

AI-SPM ソリューションの特長

• AI モデル、サービス、パイプライン、トレーニングデータを検出
• 検出したリソースを分類
• AI リソースとアイデンティティ、インフラとの関係を可視化
• 設定ミス、過剰な権限、外部に公開されたデータなど、リソースをリスクにさらす要因を特定

AI-SPM は、クラウドネイティブ環境に特有の AI リスクに焦点を当てています。マルチクラウド、マルチアイデンティティ、大規模な非人間アイデンティティ、急速に拡大する AI の導入など、現代の環境の複雑さに対応しています。

AI-SPM プラットフォームは、セキュリティチームが次の 4 つの重要な問いに答えるための可視性を提供します。

1. AI モデル、サービス、トレーニングデータはどこに存在するのか?
2. それらにアクセスできるアイデンティティ (人間・非人間)。
3. そのアクセスは必要最小限か、それとも過剰な権限か?
4. 設定ミスや公開されたトレーニングデータが、攻撃経路を生み出していないか?

適切に導入されれば、AI-SPM は、単なる「一時点のスナップショット」ではなく、文脈に沿った AI リスクの「継続的な全体像」を提供します。データセキュリティポスチャー管理 (DSPM) と同じ基盤を活用し、機密データの検出対象を、そのデータを消費・生成する AI リソースにまで拡大します。

AI の導入はもはや当たり前となり、多くの業界において職場に欠かせないものとなっています。AI の急速な導入は業務を効率化しますが、その一方でアタックサーフェスを拡大し、サイバーリスクを高めます。チームはモデルのエンドポイントの立ち上げ、トレーニングパイプラインの接続、サードパーティ製 AI サービスの連携を数分で実行できます。その柔軟性ゆえに、AI リソースの所在やリソースが扱うデータ、アクセス権を持つ対象を把握することがますます困難になっています。

AI-SPM は、AI リソース、その設定、アクセス経路、およびそれらを利用するアイデンティティを可視化することで、このギャップを埋めます。 

例えば Tenable One Cloud Exposure は、AWS Bedrock、Amazon SageMaker、Foundry Tools (旧 Azure AI サービス)、Gemini Enterprise Agent Platform (旧 Vertex AI) など、さまざまなプロバイダーにまたがる AI リソースやソフトウェアを検出するため、シャドー AI 管理対象外のモデルが見逃されることはありません。

AI-SPM は、AI の設定管理や権限を機密性の高いトレーニングデータに紐付けることで、ガバナンスとコンプライアンスを強化します。また、クラウドセキュリティの成熟度が高まるにつれ、AI 特有のリスクをより広範なサイバーエクスポージャー管理プログラムに統合すると同時に、AI 特有のコントロールをクラウドネイティブアプリケーション保護プラットフォーム (CNAPP) に直接組み込みます。

1. AI リソースを自動的に検出して分類する

AI-SPM は、AWS、Azure、GCP 全体にわたって、AI モデル、サービス、ワークロード、ソフトウェアコンポーネントを継続的に検出します。自動検出とラベリングにより、すべての AI リソースを識別するため、管理されていない状態で実行されるものは一切ありません。

2. 機密性の高いトレーニングデータを特定し、保護する

AI-SPM は、企業秘密や個人を特定できる情報 (PII) などの機密性の高いトレーニングデータを分類し、組み込みの AI 設定ポリシーを適用して保護します。これは、保存場所を問わず機密データを検出・分類する DSPM と密接に連携して機能します。

3. AI の権限設定において最小権限の原則を適用する

AI-SPM は、クラウドインフラ権限管理 (CIEM) を AI に拡張することで、適切なアクセスポリシーを持つアイデンティティのみが独自の AI モデルにアクセスできるようにします。直感的なアクセス可視化機能により、過剰な権限を持つユーザーや非人間のアイデンティティを特定できるため、最小権限の原則を徹底できます。

4. 文脈に応じて AI リスクの優先順位を決定する

AI-SPM は、アラートを大量に表示する代わりに、リスクの深刻度を AI リソースの重要度、悪用される可能性、およびビジネスへの影響度と関連付けることで、チームが真に重要なリスクに集中できるようにします。

5. 確かな修正アクションに導く

AI-SPM は、過剰なアクセス権の取り消し、モデル設定の強化、あるいは公開されているトレーニングデータの保護など、状況に応じた修正の指針を提供します。さらに、クラウドセキュリティポスチャー管理 (CSPM) および CIEM との連携により、クラウドスタック全体での適用を効率化できます。

AI-SPM は、以下の 6 つのフェーズからなる継続的なサイクルを通じて機能します。

1. 検出

クラウド環境をスキャンし、AI モデル、マネージド AI サービス、トレーニングパイプライン、およびそれらを支えるワークロード (承認された AI ガバナンスの枠外で実行されている「シャドー AI」を含む) を検出します。

2. 分類

規制の枠組みやビジネスロジックに基づき、AI リソースおよびそれらによって利用される機密性の高いトレーニングデータに自動的にラベルを付与します。また、独自モデルや知的財産 (IP) のカスタム分類にも対応しています。

3. アクセス分析

人間ユーザー、マシンアイデンティティ、サービスアカウント、サードパーティ製連携機能など、AI リソースにアクセスできる対象 (ユーザーやリソース) を評価し、CIEM の機能と連携することで、過剰な権限を持つ AI 権限を検知します。

4. ポスチャー評価

AI および機械学習の設定をベストプラクティスのポリシーに照らして検証し、セキュリティ上の問題があるデフォルト設定、無効化されたログ、外部への公開や暗号化されていないトレーニングデータなどを特定し、それらのリスクと、影響を受ける AI リソースを直接紐付けます。

5. リスクモデリング

エクスポージャーグラフを活用して、設定ミスのあるリソース、権限が過剰に付与された非人間アイデンティティ、機密性の高い AI データ間の有害な組み合わせを可視化し、チームが攻撃経路を把握し、影響の大きいリスクに優先的に対処できるよう支援します。

6. 修正と対応

最も重要なエクスポージャーを優先的に特定し、CNAPP 全体にわたるガイド付き修復とポリシー自動化により修正します。

AI-SPM は、新たに浮上している大きな AI リスクに対応する、実用的で効果の高いユースケースを通じて価値を提供します。組織がリスクを低減するために活用できる 6 つの方法を以下に紹介します。

1. AI ガバナンスの対象外にあるシャドー AI を含め、すべての AI モデルとサービスを検出する。
2. 機密性の高いトレーニングデータを、サイバーエクスポージャーや悪用、データ改ざんから保護する。
3. 人間および人間以外のあらゆるアイデンティティに対して、独自の AI モデルへの最小権限アクセスを徹底する。
4. 設定ミスのあるリソースや特権が過剰なアイデンティティによって AI ワークロードが露出している攻撃経路を遮断する。
5. AI ガバナンスおよび AI コンプライアンスのフレームワークにおける AI 設定のベストプラクティスを提示する。
6. パイプラインの早い段階で、リスクの高い AI パッケージやコンポーネントを検出する。

AI-SPM は、DevSecOps ライフサイクルに AI リソースの可視性をもたらし、チームが「シフトレフト」を実践して、本番環境への展開前に高リスクな AI の利用や設定を特定できるようにします。CI/CD パイプラインに AI-SPM を組み込めば、保護されていないモデルエンドポイント、テスト環境に露出したトレーニングデータ、AI リソースへの過剰なサービスアカウント権限など、見落としがちなセキュリティ上の問題も検出できます。

こうした可視性を活かして、開発者は問題が環境全体に広がる前に、設定を強化し、AI へのアクセス権限を適切に制限し、トレーニングデータを保護できます。さらに AI-SPM は、過剰な権限を持つ認証情報を使用したモデルへのパブリックアクセスなど、リスクの有害な組み合わせを特定し、セキュリティやコンプライアンスを確保しながら、開発スピードを維持するための具体的な修正手順を提示します。

シャドー AI とは、未承認の SaaS AI アプリケーションから放置されたトレーニングジョブに至るまで、AI ガバナンスフレームワークの管轄外で立ち上げられたあらゆるモデル、サービス、AI 搭載ツールを指します。こうした管理の行き届かない AI は、攻撃者にとって格好の標的となる、監視されていないアタックサーフェスです。シャドー AI がもたらすリスクについて詳しく知りたい方は、「AI のセキュリティ確保における課題」をご覧ください。

AI-SPM は、承認された環境の枠を超えてスキャン範囲を拡大することで、シャドー AI に対処します。接続されたアカウントやサービスをスキャンして、AI リソースの所在を明らかにし、関連するトレーニングデータやアイデンティティと紐付け、機密情報のサイバーエクスポージャーを浮き彫りにします。

次に、ガイド付き修正により、シャドー AI を再び管理下に置くことができます。具体的には、設定の保護、リスクの高いアクセス権の取り消し、あるいは管理されていないモデルの廃止といった処理を行います。AI-SPM は、こうした未知の要素に対する可視性を回復することで、アタックサーフェスを縮小し、急速に拡大している追跡不能なリスクの要因を排除します。

新たに導入されつつある AI 規制や内部ガバナンスにおいて、組織は AI リソースの設定方法やアクセス権限の範囲を厳格に管理し、それを裏付ける証拠を提示することが求められています。AI-SPM は、これを効率的に処理できるようにワークフローを自動化します。

AI セキュリティポスチャー管理は、AI リソースとそのトレーニングデータを継続的に検出・分類し、設定や権限をポリシーに照らして検証。そのうえで、ポリシーからの逸脱をリスクスコア付きのダッシュボードで可視化します。監査やガバナンスレビューが行われる際、AI リソースと統制措置および修正措置を関連付けた証拠を提示できるため、環境が変化しても AI の運用態勢は常に監査対応可能な状態を維持できます。

本質的に AI-SPM は、的を絞った測定可能な方法でクラウドリスクを低減します。

• インフラストラクチャとアイデンティティの可視性に、AI による文脈情報を追加。
• アイデンティティ、設定、ネットワークパス、および AI リソースがどのように相互作用しているかを示す Exposure Graph を作成。
• 実際の攻撃経路を明確化。

リスクスコアリングでは、実際のリスクが優先されます。つまり、合成データを用いたサンドボックスモデルは、独自のトレーニングデータを公開する本番環境モデルよりもスコアが低くなります。 監視は継続的に行われるため、リスクの低減は一度きりの取り組みで終わりません。AI がセキュリティプログラムにどのように組み込まれるかについて、より広い視点から理解するには、AI サイバーセキュリティの原則をご覧ください。

AI-SPM と DSPM は、それぞれ異なる領域をカバーしながら、互いの機能を補完します。

• DSPM は、クラウドや SaaS 環境全体の機密データを検出、分類し、保護します。端的に言えば、DSPM によって「機密データはどこにあり、誰がアクセスできるのか」という点を把握できます。
• AI-SPM は、その対象を、データを消費・生成する AI リソース (モデル、パイプライン、AI サービス) にまで拡張します。これにより、次のような点を把握できます。
  • 「「そのデータにアクセスできる AI リソースはどれか?」 
  • 「リソースは適切に設定されているか?」 
  • 「どのアイデンティティ (人間・非人間) がモデル自体にアクセスできるのか?」 

Tenable One Cloud Exposure で DSPM と AI-SPM を併用することで、データの露出を、そのデータを利用する AI リソースや、それらをエクスプロイトできるアイデンティティと関連付け、より多層的な可視性を実現できます。

AI-SPM をサイバーエクスポージャー管理戦略に組み込むことで、セキュリティ態勢を強化できます。AI-SPM を DSPM、CSPM、CIEM とともに統合エクスポージャ管理プラットフォームで活用すれば、データ、インフラストラクチャ、アイデンティティ、AI にわたるリスクを 1 つのビューで把握できます。

• CSPM により設定ミスのあるリソースを検出。
• CIEM により過剰な権限を持つアイデンティティを特定。
• DSPM により検出結果をリスクにさらされている機密データに紐付け。
• AI-SPM により上記すべてを侵害される可能性のある AI モデルやサービスに関連付け。

これらが組み合わさることで、例えば、過剰な特権を持つ非人間アイデンティティが、機密データでトレーニングされた公開モデルにアクセスしてしまうといった、有害な組み合わせが明らかになります。個々の問題としては些細なものに見えるかもしれませんが、それらが組み合わさることで、悪用される可能性のある攻撃経路が形成されます。 AI の利用をより広範に統制しているチームには、Tenable One に含まれる Tenable AI Exposure との併用も有効です。

AI リスクを低減するには、基本的な検出にとどまらず、コンテキストに基づいた実践的なインテリジェンスを提供する AI-SPM ソリューションを選ぶことが重要です。具体的には、次のような特性を備えたプラットフォームのご検討をお勧めします。

• AWS、Azure、GCP の AI サービス全体にわたって一貫した可視性を確保し、マルチクラウド環境に対応。
• エージェントレスで API ベースのスキャンを採用することで、盲点をなくし、運用上の負担を軽減。
• シャドー AI を含むAIリソースを自動的に検出してラベル付け。
• 組み込みの AI 設定ポリシーにより、機密性の高いトレーニングデータを分類・保護。
• CIEM を拡張し、人間および非人間のアイデンティティ全体にわたって最小権限の AI 権限を適用。
• 設定ミス、アイデンティティ、データを、孤立したアラートではなく実際の攻撃経路として可視化。
• DSPM、CSPM、CIEM、CNAPP と連携することでリスクを統合的に把握。
• リスクスコアリングと、影響が最も大きいサイバーエクスポージャーを優先的に修正するためのガイド付き修正を提供。

Tenable の AI-SPM 機能は、AI-SPM、DSPM、CSPM、CIEM、脆弱性管理を統合した包括的なクラウドセキュリティプラットフォーム Tenable One Cloud Exposure の一部として提供されます。Tenable のソリューションでは、以下の点について高度な可視性を得ることができます。

• マルチクラウド環境全体にわたるすべての AI モデル、サービス、およびパイプライン
• 上記リソースが消費する機密性の高いトレーニングデータ
• アクセス権を持つ人間および非人間アイデンティティ
• 実際に悪用される可能性のある露出経路

Tenable は、AI リソースをクラウドの設定ミス、過剰な権限、露出したデータと関連付けることで、最も重要なセキュリティギャップを特定して修正できるよう支援します。また、Tenable One に含まれる Tenable Hexa AI を使用すれば、AI リスクに関する調査から解説、対応までチャット形式で行えます。

Tenable One Cloud Exposure の提供する AI セキュリティポスチャー管理機能について詳しくご覧ください。