新しいアタックサーフェスを管理するために、必ず守るべきAIセキュリティのベストプラクティス7つ

• チームがAIを導入するスピードは、セキュリティの確保よりも速い。
• シャドーAIは、従来のサイバーセキュリティツールでは見えないサイバーリスクや攻撃経路を作り出す。
• AI主導のサイバーエクスポージャー管理は、アタックサーフェス全体にわたるAIの使用を発見し、ガバナンスします。
• ジェネレーティブAIが平易な英語を脅威検索に翻訳し、滞在時間を短縮する。

従業員が内緒でAIツールを使用したり、開発者が誤ってクラウド全体に隠れた攻撃経路を開いてしまったり、単純なAIプロンプトが機密データを流出させたりした場合、それがAIエクスポージャー管理のギャップとなります。 これは大きな盲点であり、AIがどこで稼働しているのか、そしてそれがどのようにつながっているのか、セキュリティチームを闇に葬ることになる。

一方、同じセキュリティチームは、急速に変化する脅威の状況に対応するため、AIセキュリティツールの活用を迫られている。

これらの問題が重なると、組織は2つの課題に直面することになる：

1. AIがもたらすリスク
2. AIがもたらすサイバー防御強化のチャンス

See your entire AI attack surface and all its attack paths with Tenable One.

既知および未知のAI資産をすべて見つけるには、AIシステム特有の特性に対応したAIセキュリティ戦略が必要です。 これら7つのベストプラクティスは、実際のサイバーエクスポージャー管理の原則から導き出されたもので、AI導入のセキュリティ確保に役立ちます。

1.リスクを考慮したコンテキストを使用して、セキュリティ上の意思決定を正当化する

AIツールを選択する際は、意思決定の透明性が明確なものを優先すること。 モデルがどのようなデータに基づき、どのようにリスクをスコア化するのかを正確に理解する必要がある。 

脆弱性にフラグを立てた理由や修正アクションの優先順位をツールが説明できなければ、AIサイバーセキュリティ態勢に不確実性をもたらすことになる。 サイバーエクスポージャーの理由と優先順位付けのロジックについて完全な透明性を要求することで、信頼を構築し、リーダーシップに対してセキュリティ上の意思決定を正当化できるようにする。 

NISTのAIリスク管理フレームワークは、説明可能性を信頼の柱として強調している。

2. AIエージェントに最小権限アクセスを強制する

開発者はしばしば、膨大な量のデータを取り込むための、広範で過剰な権限でAIモデルを訓練する。 組織が犯しかねない重大なミスは、AIモデルのデプロイメント後にアクセス権を失効させることを怠ることだ。

ベスト・プラクティスとして、最小特権のアクセス・プロトコルを実施し、人間以外のアイデンティティやAIエージェントは、必要な瞬間のみ昇格した権限を保持するようにする。 サービスアカウントを厳密に監査し、AIモデルのランタイム機能に厳密に必要でないスタンディングアクセスを削除する。

3. アイデンティティ主導のサイバーエクスポージャーを防ぐ

クラウドでホストされるAIシステムは、過剰な特権や気づかれない役割を生み出すことで悪名高い。 単一のAIエージェントにS3バケットへの読み書きアクセス権を与えたまま忘れてしまうかもしれない。

アクセス範囲を厳密に設定するには、AIセキュリティポスチャ-管理 （AI-SPM）とクラウドインフラ権限管理（CIEM）を組み合わせる必要があります。 この統合により、アタックサーフェス全体で過剰な特権を持つアイデンティティを検出できるため、人間以外のアイデンティティが弱点になることはありません。

アイデンティティ主導のAIエクスポージャーを事前に阻止する。 Tenable Oneの使い方をご覧ください。

4. 敵対的なAI攻撃から身を守る

AIモデルは、プロンプトインジェクション、ジェイルブレイク、データポイズニングなど、従来のファイヤーウォールをすり抜ける脅威に直面している。 

攻撃者はこれらの方法を用いて、モデルを騙して機密データを暴露させたり、悪意のある命令を実行させたりする。 

攻撃者の先を行くには、OWASP Top 10 for LLM Applicationsのような、LLMアプリケーション専用のポリシーベースのガードレールを実装する。 これらのフレームワークは、チームがこれらの明確な脅威をよりよく理解し、悪用を積極的にモニタリングして、AIが出現した瞬間にサイバーエクスポージャーを封じ込めるのに役立ちます。

5. 統一されたAI在庫を維持する

あなたのチームがオープンソースのAIモデルやサードパーティのライブラリを使用している場合、あなたの組織はそれらのセキュリティ姿勢を継承します。 そのため、外部資産が環境に入る前に、その完全性を検証する必要がある。

すべてのAIソフトウェア、モデル、サービスの在庫を一元管理し、認識外の資産が存在しないようにする。 AIモデルがどこから来たのか、既知の脆弱性はないのかを正確に追跡する。 サードパーティのAIコンポーネントには、標準的なソフトウェアに適用するのと同じ精査を行う。

6. 攻撃経路を可視化し、脅威を予測する

攻撃者は生成AIを使用して、説得力のあるフィッシングキャンペーンやポリモーフィックマルウェアを作成します。 このようなマシンスピードの攻撃には、手作業では対抗できない。

サイバーエクスポージャー管理（AIのためのセキュリティ）を活用して、このカーブを乗り越えてください。 孤立したアラートに反応するのではなく、Tenable One for AI Exposureを活用し、攻撃経路のインサイトを得ることができます。 アイデンティティの弱点とインフラの欠陥がどのように組み合わさって重大なAIリソースがエクスプロイトされるかを確認し、攻撃者にエクスプロイトされる前にサイバーエクスポージャーの連鎖を断ち切ることができます。

7. サイバーエクスポージャー管理におけるAIセキュリティの一元化

最後に、AIセキュリティをサイロとして扱うことは避けよう。 孤立したAIサイバーセキュリティ・チームは、侵害されたAIモデルが他の業務にどのような影響を及ぼすかを確認するためのコンテキストを欠いていることが多い。

AIセキュリティを統合ビューに統合することで、断片的なセキュリティツールやデータを排除します。 AIリスクを包括的なサイバーエクスポージャー管理と関連付けることで、セキュリティチームが資産、アイデンティティ、脆弱性がどのように関連しているかといった全体像を把握し、ビジネスに最大のリスクをもたらすAIエクスポージャーに優先順位を付けることができます。

セキュリティのリーダーたちのために、AIの急速な導入と革新は2つの課題を生み出している。 データ漏えいやシャドーITを防ぐためには、サイバーエクスポージャー管理のギャップを埋める必要があり、同時に脅威の状況に対応するためにAIツールを導入する必要があります。

孤立点ツールではこの問題は解決できない。 Tenable Oneは、AI、インフラストラクチャ、エージェント、およびデータエクスポージャーを統合ビューに関連付け、攻撃対象全体にわたって優先順位を付けて修正を行います。

AIセキュリティ戦略の運用準備はできていますか？ Tenable One のデモを予約する。

サイバーセキュリティにおけるAIのベストプラクティスと、そのアタックサーフェスへの影響について、現在最も一般的な質問に答えよう。 

AI-SPM とは何ですか?

AI-SPMは、AI環境内のリスクを発見し、優先順位を付け、修正するセキュリティフレームワークです。 従来のセキュリティツールとは異なり、AI-SPMは、モデルの設定ミス、機密性の高い学習データのエクスポージャー、人間以外のアイデンティティにアクセスできる過剰なアクセス許可など、AI特有の脆弱性を特にターゲットとしています。

ジェネレーティブAIモデルを確保するには？

ジェネレーティブAIのためのセキュリティには、従来のファイヤーウォールを超えた多層的なアプローチが必要だ。 プロンプト・インジェクションやジェイルブレイクを防止するためにポリシーベースのガードレールを実装し、機密データへのアクセスを制限するために最小権限を強制し、すべてのサードパーティAIモデルとAIライブラリの統一インベントリを維持して、認識外で動作する資産がないことを確認する必要があります。

なぜAIのためのアイデンティティセキュリティが重大なのか？

AIモデルが機能するためには、人間以外のアイデンティティ（サービスアカウントなど）が必要だ。 過剰に特権化されたアカウントは、攻撃者が悪用される可能性のある隠れた攻撃経路を作り出し、侵害されたエージェントから機密性の高いクラウドインフラへと横方向に移動します。 セキュリティチームは、このようなサイバーエクスポージャーの連鎖を断ち切るために、最小権限を強制すべきである。

Learn more about how to secure all your known and unknown AI assets in a single exposure management platform.