Anthropic社のレポートに見る、AIの脅威とAIによる新たな効率化との違い

AIによる効率化によってサイバー脅威が拡大する仕組み

Anthropic社のレポートによると、中国のAPT攻撃者は、開発の世界で使われるMCP (Model Context Protocol)インフラによく似たオーケストレーションレイヤーを構築しています。このレイヤーは、コーディング支援で使われる場合とは異なり、偵察、トリアージ、要約、基本的なエクスプロイトの手順を自動化します。そのワークフローの中心にはLLMが配置されています。この攻撃では、侵入活動の実行をAIが自律的に決定したわけではありません。人間の意図を構造化し、それをまとめて自動化し、LLMのスピードと効率によって増幅させているのです。その意味で、この攻撃は新たな形態の脅威ではなく、新たな拡大手法を取り入れた脅威と言えます。

経営幹部は、SF的な観点ではなく、運用の観点でこの攻撃に注目すべきです。以前なら10人がキーボードで行っていた定型作業を、今ではモデルに任せることができます。それは休むことなく、パフォーマンスを落とすこともなく、人間よりも速く非構造化データを処理してくれます。この進歩は、サイバーオペレーションの工業化と言ってよいでしょう。自律的でも創造的でもありませんが、効率は向上しています。

AIによる直近の脅威は、LLMによる既知の技法の悪用

今後12カ月間で最も現実的な脅威は、AIが首謀する一連の攻撃ではなく、LLMベースのツールを使って既知の技法の悪用を加速する攻撃者の急増だと考えられます。経営幹部は、3つの短期的な影響を見込んでおく必要があります。

現実的なリスクは、AIが自律的にサイバー攻撃を実行することではなく、LLMを使い既知の技法の悪用を加速し、攻撃のスピードと効率を高めて規模を飛躍的に拡大する攻撃者の急増です

1. スキャンと偵察活動の増加：現在でも既に、偵察活動を始めるのは容易になっています。LLMの統合により、最小限の監督で数十の標的に同時に攻撃を仕掛けるワークフローをスクリプトで書くことができます。技法自体に変わりはありませんが、規模と拡大能力が格段に高まります。
2. 攻撃サイクルの短縮：LLMを利用すれば、攻撃の初期段階を促進するコードサンプル、ペイロードのバリエーション、便利なスクリプトをすばやく生成および改良できます。ゼロデイ攻撃を生み出すことはできませんが、既存の脆弱性を悪用するハードルが下がります。そのため、防御側が対応に割ける時間はますます減ることになります。
3. 明瞭な文書の作成と流布：Anthropic社のレポートでは、短いながらも重要な指摘がなされています。それは、LLMが攻撃者向けに生み出している、整理されたメモ、情報の要約、内部ステータスの最新情報です。これは、侵害された環境を網羅したカタログが作成され、攻撃グループの間に出回って悪用される可能性が高まったことを示します。高い文書作成能力によるメリットは、ビジネス側だけではなく、攻撃者側にも及ぶのです。

AIが運用効率を劇的に向上

今回のレポートが示す長期的な影響は、経営幹部とサイバーセキュリティ担当者のどちらにとっても戦略面に強く及びます。これは、攻撃側と防御側の双方で運用にAIを統合する方法が変化していることを示しています。3つの新たなトレンドを、経営幹部は今理解しておくべきです。

1つ目の特に重要なトレンドは、AIがワークフローの1レイヤーになることです。

これは、今後の攻撃で、標的型のマルウェアよりも、適応型のオーケストレーションに重点が置かれる可能性があることを意味します。攻撃者は、スキャナー、ログパーサー、API、LLMを連携して、継続的かつ大規模な運用ができるようになるでしょう。

2つ目のトレンドは、検出での課題がシグネチャベースから行動ベースへと移っていくことです。攻撃者がモデルとの連携に汎用ツールを使うことが多くなると、防御側にとっては、検出に使える固有のバイナリが少なくなり、正規のツールが不正な方法で使われることが増えます。攻撃者にとってのメリットは、スピードと一貫性です。防御側にとってのメリットは、可視化と相関付けです。これによって、アーティファクトではなく、攻撃の意図を明確にするということです。

3つ目のトレンドは、SOC (セキュリティオペレーションセンター)に求められるスキルの進化です。アナリストには、侵入への対応方法に加えて、自律的なパイプラインを調査して対処する方法も理解することが求められます。最新のSOCで識別しなければならないのは、攻撃者がモデルを悪用した場合や、モデルが組織の環境内でハルシネーション(幻覚)を起こした場合です。そのためには、新しいプレイブック、新しいエスカレーションパス、新しいトレーニングが必要です。

サイバー防御に求められるのは、大規模なAI脅威への備え

AIとセキュリティの状況について経営幹部からよく尋ねられるのは、「それは現時点で、ビジネスにとって具体的に何を意味するのか」という点です。

自律型のサイバー攻撃に備える必要は(まだ)ありません。今日の脅威はそのような状況にはありません。いま必要なのは、攻撃者が以前と同じ量の攻撃を5～10倍のペースで実行することを想定しておくことです。

脆弱性の探索、偵察、簡単なスクリプトの作成は自動化が進むと思ってください。そうなると、現時点で悪用される確率が低いと思われる脆弱性が、明日にはそうでなくなる可能性もあります。攻撃者にとってテストのコストが劇的に下がるからです。また、組織内のエンジニアリングプロセスに似た、体系化されたワークフローを導入する攻撃者が増加することも予想されます。こうした攻撃者は、文書化、タスクの自動分割、モデルによる分析の生成といった機能を使って、人間のオペレーターの運用負担を軽減します。

このような事態に備えて、SOCチームは、プレイブック、エスカレーションパス、トレーニングを最新化して、マシンスピードで運用を行う攻撃者に対抗できるようにする必要があります。プレイブックには、自動化されたワークフローを示す挙動を組み込みます。エスカレーション基準には、個々のアラートの重大度が低いように見えても、高速に実行されるアクティビティを含めます。そして特に、トレーニングでAIを活用して、トリアージを迅速化し、不確実なモデル出力を検証できるようにすべきです。SOCはAIに支援された侵入をシミュレーションする卓上演習を実施して、アナリストがより迅速に意思決定を行い、攻撃の自動化と防御でのAI支援の両方に対応できるように訓練する必要があります。

最も重要な点は、AIを単にスタック内の1ツールだと考えてはいけないということです。AIは、ワークフローレイヤーの1つになりつつあります。この点が重要なのは、ワークフローレイヤーは生産のスピードとコストの両方を変えるためです。攻撃のスピードが上がってコストが下がれば、その先にあるのは攻撃の増加です。

この新たな環境で成功する組織は、同じように適応を遂げる組織です。サイバー運用の未来は自律性ではなく、加速性にあります。長期的な勝者となるのは、そのスピードで行動し、先手を打つことを学んだチームなのです。

AIを活用したSOCについては、以下のリソースでも解説しています。ぜひ併せてご覧ください。

• E-book「SOCにおけるAIの活用方法：ベストプラクティスとチェックリスト」
• ブログ「自動化のさらに先へ - 企業が目指すべき「自律型SOC」とは」