AI セキュリティとは?

サイバーセキュリティにおける AI とは、機械学習の利用によるエクスポージャー管理の加速や修正の促進といったセキュリティのための AIと、従業員が生成 AI ツールを使用する場合などにおける、データの漏洩、ポイズニング、盗取を阻止するために AI モデルを保護する AI のためのセキュリティを融合させたものです。

キーポイント:

• 機械学習によって脅威検出を大規模に自動化し、攻撃者が操作できないように自組織の AI モデルを強化します。
• 専用の AI セキュリティポスチャー管理 (AI-SPM) によって、不正な AI モデル、プロンプトインジェクション、安全でないデータの取り扱いなどの AI 特有のリスクから組織を保護します。
• 既知のシグネチャの代わりに挙動パターンを分析し、従来のサイバーセキュリティツールを回避する新たなサイバー脅威や高度な AI 攻撃を捉えます。
• Tenable One は、AI を活用したアナリティクスを使用し、IT 資産、クラウドリソース、AI モデルを含むアタックサーフェス全体にわたる重大なエクスポージャーに優先順位を付けることで、最初に何を修正すべきかを示します。

人工知能サイバーセキュリティは、その中核において、次の 3 層のテクノロジーを利用しています。

• 機械学習: 統計モデルを使用してデータを分類し、ネットワークトラフィックおよび組織の AI モデル出力の全体にわたってパターンの逸脱を検出します。
• ディープラーニング: 多層化されたニューラルネットワークを使用してゼロデイ脅威の識別、ディープフェイクや AI モデル操作の特定といった複雑な問題を解決する、より高度なタイプの機械学習です。
• 自然言語処理 (NLP): システムが人間の言語を解釈して、従業員の AI プロンプトから機密データを検出したり、平易な言葉を使ってデータを照会できるようアナリストを支援したりできるようにします。

静的なシグネチャに依存する従来のセキュリティツールとは異なり、AI は統計分析を使って非構造化データを解析します。 AI は、従来のサイバーリスクに加えて、セキュリティチームならば発見に数週間かかることが多い、AI モデルを標的とした特殊な脅威を発見することができます。

検出、修正、ガバナンスを一元化させるために、AI は以下の 3 つの機能的な段階にまたがって動作します。

• 予測 AI: ユーザーアクティビティと AI モデルのやり取りにおける逸脱にフラグを立てることで、リスクの高いインシデントに優先順位をつけます。
• 生成 AI: リスクを分かりやすい言葉で説明すると同時に、従業員の AI プロンプトでの安全でないデータの取り扱いを監視することで、調査を迅速化します。
• エージェント AI: 自律的に動作することで、高度なタスクを完了し、脅威を阻止し、AI 利用規定 (AUP) を適用します。

この多層的なアプローチにより、組織は AI を活用してアタックサーフェス全体を守ると同時に、AI モデルを保護してイノベーションを推進することができます。

AI を利用した安全なイノベーションを実現する準備はお済みでしょうか。Tenable One が、AI 利用時のセキュリティを損なうことなく、生成 AI を活用してより迅速に分析を行う方法をご紹介します。

おおまかに言うと、AI は、通常のネットワーク、エンドポイント、ユーザーの挙動、従業員の AI の使用状況がどのようなものであるかといった環境固有の DNA を学習し、危険な逸脱にフラグを立てたりアクションを取ったりすることで機能します。

1.挙動のベースライン

AI モデルは、固定されたルールに依存せず、大規模なデータセットで訓練され、通常のアクティビティのベースラインを確立します。 システムは、典型的なログイン時間やデータ転送量、あるいは外部 AI モデルへの API 呼び出しなどの、組織固有の標準的なパターンを学習します。

2. 逸脱と脅威の検出

システムは、ベースラインからの逸脱を監視して、既存のシグネチャと一致しない異常を検出します。 AI は、従来のサイバーセキュリティツールでは見逃してしまうような新しいマルウェアの亜種、プロンプトインジェクション攻撃、ゼロデイ攻撃、フィッシングの試みを特定できます。

3. 複雑なパターン認識

システムは、ディープラーニングを利用して、一見無関係に見えるイベント間の気付きにくい複雑な関係を特定します。 些細なエンドポイントアラートと不審なネットワークリクエストを関連付けることで、人間のアナリストには見えない高度な攻撃経路を明らかにすることができます。

4. 予測に基づいた優先順位付け

脆弱性管理において、AI は静的な脆弱性深刻度スコアを超える機能を提供します。 予測に基づいた優先順位付けは、資産の重要度、実際の脅威インテリジェンス、エクスプロイトの可能性を分析することで、攻撃者に最も悪用される可能性の高い脆弱性を予測します。これにより、実際に最大のリスクをもたらすエクスポージャーの修正に注力できます。

5. 運用支援

NLP を利用すれば、自然言語を使ってデータと対話することで複雑なログの要約、リスクレポートの作成、セキュリティアシスタントへのアラートの説明の依頼などが可能となります。それにより、手作業による負担が軽減されます。

6. 継続的な適応

静的な検出ツールとは異なり、AI は変化するアタックサーフェスに継続的に適応します。 誤検出や新しいデータから学習することにより、エクスポージャーデータや脅威インテリジェンスと統合されるため、時間の経過とともに精度が向上します。

その結果、 AI によって、より適切な質問を行い、リスクの高い状態をより早く把握できるようになり、アラート疲れの軽減と、ノイズの排除が可能となります。それにより、重大なエクスポージャーに集中できます。

事前対策型のセキュリティをお求めでしょうか。Tenable の AI アシスタントなら、LLM を使用したデータの検索、リスクの要約、軽減ガイドラインの数秒での生成が可能です。その詳細をご覧ください。。

複雑な分析を自動化することで AI は戦力を増強させるものとなり、セキュリティチームは人員を増やすことなく防御を拡大できるようになります。

サイバーセキュリティにおける AI 活用の主なメリットは以下の通りです。

• 日常的なトリアージとデータの関連付けを自動化し、手作業による調査時間を短縮することで、生産性を向上させます。
• アラートノイズや誤検出を排除する挙動モデルを使用した正確な優先順位付けによって、事業の運営を脅かす重大なリスクのみに焦点を絞れるようにします。
• 生成 AI によって、複雑で技術的な検出結果を IT 部門向けの明確で実行可能な手順に変換し、発見から修正までの時間を短縮します。
• 従来のサイバーセキュリティツールとは異なり、AI は挙動の逸脱に基づいて新手の攻撃やゼロデイ攻撃を特定することで、従来のサイバー脅威と AI パイプラインを標的としたリスクの両方を網羅します。
• セキュアな環境で AI 技術を導入できるようガードレールを設け、従業員が機密データを漏洩させることなく、承認済みの AI ツールを安心して活用できる体制を整えることで、セキュアな AI イノベーション を実現します。

サイバーセキュリティにおける AI 活用のメリットを説明した当社の詳細なガイドで、セキュリティにおける AI の価値提案の全容をご覧ください。

すでに使用しているサイバーセキュリティツールを AI がどのように強化するかを以下に示します。

実際の AI 使用シナリオの詳細については、AI サイバーセキュリティの一般的なユースケースに関する当社の完全ガイドをご確認ください。

生成 AI により、アナリストは平易な言葉で複雑な環境を照会しやすくなります。ダッシュボードを手作業でフィルタリングすることなく、「使用されている未承認の AI モデルをすべて見せてくれますか?」といった質問をすることで、文脈をよく踏まえた回答を素早く得られます。

生成 AI には、以下の 2 つの効果があります。

• 迅速なトリアージ
• Tenable Exposure AI のようなツールは、生成 AI を使用して攻撃経路を自動的に発見し、リスクを説明し、AI の使用状況を監査し、アクションにつながる修正の痕跡を生成します。
• 攻撃者に対抗するスピード
• 生成 AI は、複雑な挙動を瞬時に解読することで対応を加速させ、ポリモーフィックマルウェアや自動化されたソーシャルエンジニアリングなどの高度な脅威を迅速に無力化します。

詳しくは、 当社サイバーセキュリティガイドにて、こちらの生成 AI のページをご覧ください。

AI を強力なものにしている性質は、一方で、以下のような新たなサイバーリスクや見過ごされがちなサイバーリスクも生みます。

1. クラウド環境における AI リスク - クラウド AI を導入することで、従来のセキュリティツールでは見逃されてしまう、シャドー AI やエンドポイントの露出などの固有のリスクが生じます。 これらの資産の保護については、クラウド環境における AI リスクについての当社のガイドでご確認ください。
2. モデルのバイアスとトレーニングの欠陥 - 不完全なデータに基づいてトレーニングされた AI モデルによって不正確な結果が生じ、脅威の見逃しや誤検出が引き起こされる可能性があります。
3. 説明可能性の欠如 (ブラックボックス AI) - AI モデルの仕組みが透明化されていなければ、システムがアカウントを一時停止した理由を経営幹部や監査担当者に説明したり、モデルが重大なアラートを却下した理由をコンプライアンス担当者に伝えたりすることができません。
4. データのプライバシーと漏洩 - 適切なセグメンテーションを使用しないと、LLM が誤って機密性の高いトレーニングデータを外部に公開してしまうおそれがあります。
5. プロンプトインジェクション攻撃 - 攻撃者が特定の入力を作成し、AI モデルを騙して内部ロジックを明らかにさせたり、安全フィルターをバイパスさせたりする可能性があります。
6. 自動化への過度の依存 - 人間による検証なしに意思決定を自動化すると、ニュアンスや文脈が欠落する危険性があります。
7. 攻撃者による武器化 - 攻撃者は AI を利用して、フィッシングの高速化、ディープフェイクの作成、ポリモーフィックマルウェアの作成を行っています。
8. 外国でホストされている信頼されていない AI モデル - 外国でホストされている低コストのモデル (DeepSeek など) を使用すると、西側諸国のプライバシー基準や安全ガードレールを回避してしまう可能性があります。

これらの課題についてさらに詳しく調査したい場合は、 AI がサイバーセキュリティ脅威の状況をどのように変化させているのか、また、AI が組織のセキュリティプログラムにどのように影響するのかをご確認ください。

AI の採用によって、データポイズニングやモデルの盗難などの特徴的なリスク経路が発生します。 AI システムを安全に導入するために、セキュリティチームは予測不可能な AI の挙動やマシン間認証にガバナンスを適応させる必要があります。

核となる戦略:

1. 透明性の要求 - 説明可能性に関する機能を備えたツールを選択することで、AI モデルがどのようにリスクをスコア付けして決定事項の正当性を証明するのかをより深く理解します。
2. 最小権限の適用 - AI モデルへのアクセス権の長期化を防止します。 ジャストインタイム (JIT) プロトコルを使用して権限を制限し、必要に応じてアクセス権を付与して、不要になったら取り消します。
3. アイデンティティの無秩序な増加の抑制 - AI セキュリティポスチャー管理 (AI-SPM) とクラウドインフラ権限管理 (CIEM) を統合して、クラウド環境における特権クリープを防止します。
4. AI モデル入力の堅牢化 - プロンプトインジェクション攻撃や敵対的な入力を、厳格な検証プロセスによって阻止します。
5. サプライチェーンの精査 - サードパーティのデータセットやオープンソースのモデルを監査して、完全性の問題や既知の脆弱性を発見します。
6. 敵対的 AI への対抗 - 防御的な AI を導入して、攻撃者が生成 AI ツールをフィッシングやマルウェアに使用するスピードや巧妙さに対抗します。
7. インサイトの運用可能化 - AI を使用して優先順位付けを自動化し、IT チームに修正手順を説明することで、検出の一歩先へ進みます。
8. AI 利用規定の定義 - 従業員がどの AI ツールを使用できるのか、安全に共有できるデータ分類はどれかを詳細に規定する明確なポリシーを確立して適用することで、機密性の高い IP が公開モデルに入り込まないようにします。

詳細をお知りになりたい場合は、 詳細は AI サイバーセキュリティベストプラクティスガイドをご覧ください。

AI モデルを社内に導入する際、または AI をお使いのセキュリティツールに統合する際には、AUP が組織のコンプライアンス要件に合致していることを確認する必要があります。

以下のように、AI ライフサイクルにガバナンスを組み込むことから始めましょう。

• 各 AI モデルの使用目的、トレーニングデータのソース、既知の制約を文書化します。
• 定期的なリスクアセスメントを実施して、AI モデルが悪用される可能性や機密データに対するエクスポージャーを評価します。
• 特にクラウド環境において、AI モデルとパイプラインへのアクセスを追跡します。
• NIST AI リスクマネジメントフレームワーク (AI RMF) や ISO/IEC 42001 のような信頼されているフレームワークに制御を整合させます。

ExposureAI のようなツールは、以下によって AI のコンプライアンスをサポートします。

• 意思決定、優先順位付け、リスク修正のための証拠を生成する。
• 監査証跡のために自然言語クエリと推奨事項のログを記録する。
• クラウド環境とハイブリッド環境全体にわたって、コンプライアンスに関連するエクスポージャーを強調する。

AI ガバナンスは、社内のステークホルダー、規制当局、顧客との信頼関係を構築する上で非常に重要です。 また、AI-SPM の台頭により、AI モデルを他の重要なワークロードと同様に保護するツールが利用できるようになりました。

Tenable One サイバーエクスポージャー管理プラットフォームは、2 つの異なる AI 機能を統合し、セキュリティのための AI と AI のためのセキュリティを網羅します。

しかし、AI は環境に根ざして初めて機能するものです。 そのため、業界最大のエクスポージャーデータリポジトリである Tenable Data Fabric が、Tenable One プラットフォームを支えています。 

Tenable Data Fabric には、エンドポイント、クラウド、OT、アイデンティティにわたる数百万のセンサーから得た、1 兆を超えるデータポイントが存在します。 この膨大なデータセットが、ExposureAI を支えています。機械学習とアルゴリズムにおいて 40 以上の特許を持つ AI リサーチエンジニアとデータサイエンティストの専門チームが、生データを意思決定インテリジェンスに変えるこのエンジンを開発しました。

優れたデータと専門家によるエンジニアリングをこのように組み合わせることで、以下の 2 つの重要な成果が生み出されています。

1. ExposureAI は、エクスポージャー管理業務の中核を担います。 生成 AI と予測的なインサイトを使用して、自然言語クエリを用いたリスクの高い資産の検出、複雑な攻撃経路の説明、そして実際に悪用される可能性に基づく修正の優先順位付けを支援します。
2. Tenable AI Exposure は、組織における生成 AI ツール利用のセキュリティ確保を支援します。 これによって ChatGPT Enterprise や Microsoft Copilot のような AI プラットフォームが各部門でどのように使用されているかを可視化できるため、AI 使用の管理、データの漏洩の検出、プロンプトインジェクションのリスク軽減を効果的に実現できます。

究極的には、Tenable One は、日々のワークフローにおける AI イノベーションのセキュリティを損なうことなく、AI のパワーを活用したサイバーリスク管理システムの拡張を支援します。 このプラットフォームによってアラートノイズが除去され、リスクの高い AI 利用が特定されるため、セキュリティチームは、ネットワーク、クラウド、アイデンティティ、AI モデルにおける重大なエクスポージャーの発見と修正に集中することができます。

Tenable One が世界最大のエクスポージャーデータセットと専門家主導の AI をどのように組み合わせ、セキュリティの盲点をなくせるよう支援するのかをご覧ください。

AI セキュリティは成長を続け、急速に発展している分野ですが、その速度と新しさゆえに数多くの疑問が存在します。また、日々生み出されるシナリオから、さらに多くの疑問が生じています。 ここでは、最も一般的で影響の大きな疑問のいくつかにお答えします。

サイバーセキュリティにおける AI とは何ですか?

サイバーセキュリティにおける AI は、AI パイプライン (データとモデル) の保護、および機械学習の適用によるエクスポージャー管理、脅威の検出、対応の自動化を融合させたものです。

サイバーセキュリティにおいて、予測 AI と生成 AI はどう違うのですか?

サイバーセキュリティにおいて、予測 AI はよく予測分析とも呼ばれています。予測 AI は、データのパターンを探して潜在的な脅威や悪意のある挙動を予測します。生成 AI は、要約、クエリ、応答などのコンテンツを作成することで、リスクへの対応を改善します。

AI は人間のアナリストに取って代わるのでしょうか?

いいえ。AI は、サイバー脅威の検出の高速化、データの要約、アラート疲れの軽減により、アナリストをサポートします。複数ステップからなるタスクを自律的に管理するエージェント型 AI でさえ、人間の努力の延長線上にあります。 AI には、いまだ戦略的な監督と最終的な検証が必要です。 結局のところ、AI は規模を拡大するのに役立ちますが、文脈に応じた判断、決定事項のエスカレーション、人間の専門知識を必要とする複雑なシナリオの舵取りには、アナリストが不可欠です。

DeepSeek とは何ですか? なぜサイバーセキュリティにおいて重要なのですか?

DeepSeek は中国で構築された LLM です。 これは、高性能でオープンアクセスな LLM が増加していることを示しており、攻撃者がこうしたモデルを利用する可能性があるため、AI の脅威モデルや悪用の考え方を見直す必要があるという重要な意味を持ちます。

AI-SPM とは何ですか?

AI-SPM は、クラウド環境の AI システムのモデル、パイプライン、データなどを監視し、セキュリティを確保します。 クラウドセキュリティポスチャー管理 (CSPM) を基盤として、AI 特有のリスクに合わせた機能を追加したものです。

医療や金融のようなコンプライアンスを重視する業界で AI を使用するリスクは何ですか?

診断モデルや不正検出エンジンのような、機密データに触れる AI ツールは、適切に保護されなければエクスポージャーを引き起こす可能性があります。 データの流れ、アクセス権、モデルの入出力を監視することは不可欠です。 AI-SPM と ExposureAI を使用することで、AI モデルが HIPAA や PCI DSS などのコンプライアンス要件を満たすようにできると同時に、顧客データへのリスクを最小限に抑えることができます。

AI が自組織のサイバーセキュリティプログラムにどのように適合するかを確認したい場合は、 Tenable One を今すぐご覧ください。