DECEIVEのご紹介：AIを活用した概念実証ハニーポット

Splunk SURGeは、概念実証段階のオープンソースのハニーポット「DECEIVE (DECeption with Evaluative Integrated Validation Engine)」を公開しました。これは、AIを活用することで新しいサイバーセキュリティツールやソリューションを容易に開発できることを実証するためのものです。DECEIVEは実運用レベルのツールではありませんが、サイバーセキュリティの課題解決において、これまで実現不可能だった新しいアプローチをAIによって実現できることを示しています。

このプロジェクトは私たちにとっても実験的なものでした。私たちは、セキュリティチームが独自のAI対応ソリューションを開発するために何が必要かを学びたいと思っていました。この学びのプロセスを念頭に置いてDECEIVEを設計しました。このツールが、同様のインテグレーションを探求するきっかけになれば幸いです。

では、DECEIVEについて詳しくご説明しましょう。

AIで生成した忠実度の高いハニーポット

従来、インタラクティブ性の高いハニーポットを作成するには、現実的な環境をシミュレートするために、オペレーティングシステムをインストールし、ユーザーアカウントを設定し、リアルな偽データを入力するなど、多大な時間と労力を要しました。DECEIVEでは、AIを活用して、これらの作業をすべて動的に行います。SSH経由でLinuxサーバー全体をシミュレートすることにより、面倒な設定作業を省き、攻撃者の標的になる実物に近い環境を構築できます。人手で行う必要があるのは、シミュレートするシステムのタイプを説明するプロンプトを作成することだけです。たとえば、次のように指示します。

You are a video game developer's system. Include realistic video game source and asset files. (これはビデオゲーム開発者が使うシステムです。本物のようなビデオゲームのソースファイルとアセットファイルを含めてください。)

構築後は、AIによるバックエンドが、操作の流れに沿った自然で適切な応答を返します。これにより、忠実度の高いリアルなハニーポットを最小限の労力で展開できます。

AIを活用したセッションサマリー

従来のハニーポットを超える機能として、DECEIVEではAIを使って攻撃者の行動を分析し、サマリーを生成できます。SSHセッションが終了すると、以下のファイルが自動的に生成されます。

• セッションサマリー：実行されたコマンドと、考えられる目的が記されます。
• 評価：セッションの性質が評価され、BENIGN (良性)、SUSPICIOUS (悪質な可能性あり)、MALICIOUS (悪質)のいずれかに分類されます。

この分析結果は構造化されたJSONログファイルとして保存されます。これにはユーザーが実行したすべてのコマンドとシミュレートされた出力の完全な記録が含まれています。そのため、セキュリティの観点から注意が必要なセッションを見つけ出すために、すべてのセッションを手動で調べる手間を省くことができます。

対象プロトコルを増やすための概念実証

現バージョンのDECEIVEはSSHを対象としていますが、アプローチとしてはHTTPやSMTPなどのプロトコルにも適用できます。APIエンドポイントもシミュレーション対象として良い候補でしょう。対象プロトコルが増えれば、幅広い環境をシミュレートして、さまざまな攻撃対象領域について攻撃者の行動をより深く理解できます。また、AIプロンプトを更新することで、特定の脆弱性をシミュレートする新しいハニーポットをすばやく展開することもできます。これは、セキュリティ研究者やブルーチームが最新の脆弱性について理解し、対処するのに役立ちます。特に脆弱性の詳細がまだわからない段階で状況が急速に変化しているような場合に有用です。

学びと実験のためのツール

DECEIVEは、単に攻撃者を欺くだけのツールではなく、セキュリティチームが日々のワークフローにAIを組み込むために何が必要かを理解する手助けとなります。DECEIVEを開発することで、私たちは以下の点を探求しました。

• AIモデルとセキュリティアプリケーションを連携させる際の複雑さ：この点は最終的に、予想よりもはるかに容易であることがわかりました。これは、SSHセッションがそもそも典型的なLLMチャットボットと非常によく似ているという性質による部分もありますが、それだけでなく、一般的なプログラミング言語向けに十分に成熟したLLMライブラリやAPIが多数利用できることにもよります。AIアプリケーションのコーディング経験があまりない私たちでも(特に私はサイバーセキュリティエンジニアであり、プロの開発者ではありません)、SSHプロトコル周りのすべての機能を含め、アプリケーションのプロトタイプを約2日で完成させることができました。
• 本物のような環境をシミュレートするプロンプトや応答の作成における難しさ：DECEIVEの開発で特に難しかった点を1つ挙げるとしたら、プロンプトの作成と言えるでしょう。エミュレーションの成否は、提供するプロンプトの品質に大きく依存します。初期バージョンのプロンプトは5分ほどで書くことができ、それでシステムの8割は完成しました。難しかったのは残りの2割で、シミュレートしたシステムが攻撃者を欺くほどリアルに動作するようになるまでに、かなりの調整が必要でした。幸い、インターネットではプロンプトエンジニアリングに関する無料のガイダンスが多数公開されており、便利なプロンプト開発ツールもいくつか手に入ります。
• 攻撃者の行動を解釈およびコンテキスト化するうえでのAIの役割：セッションサマリーと判断は、DECEIVEの当初の計画には含まれていませんでした。しかし、システムが形になり始め、「とにかく動くようにする」段階を過ぎた時点で、既存のLLM機能をもっと利用できないかと考え始めました。ハニーポットを分析する人の多くは、未知のものや注意すべきものが見つかったかどうかを判断するために、複雑なダッシュボードに頼らざるを得ませんが、この作業にはコストも時間もかかります。それをAIに任せれば、拡張性が大幅に高まり、分析だけでなく検出やアラート生成の自動化も実現できます。

責任ある使用

DECEIVEはあくまで概念実証であり、実運用レベルのソリューションではなく、Splunkがサポートする製品ではないことをご了承ください。可能性を探るための十分な機能は備えていますが、セキュリティの脆弱性に関する広範なテストは行われていません。SSHバックエンドがエミュレートされているため、ハニーポットを悪用する攻撃者に対して十分防御できますが(ただし、実際のシステムが動作しているわけではなく、現実世界からのネットワーク接続の送受信はできません)、ハニーポットのコード自体に欠陥がある可能性は完全には否定できません。攻撃を受ける可能性のある環境にDECEIVEを導入する場合は細心の注意を払ってください。

導入方法

DECEIVEはオープンソースのツールであり、実験に自由にご利用いただけます。導入手順は以下のとおりです。

1. GitHubからリポジトリを複製します。
2. READMEとSSH/config.ini.TEMPLATEファイル内のドキュメントに記載された設定手順に従って、SSHキーの作成、ユーザーとパスワードの設定、バックエンドLLMの変更などを行います(OpenAI、Google、またはAWS Bedrockモデルであればいずれも対応しています)。
3. お使いのLLMバックエンドに必要な環境変数を設定します(デフォルトのGPT-4oバックエンドを使用するためのOPENAI_API_KEYなど)。
4. SSH/prompt.txtファイルを変更して、エミュレートするシステムの種類を指定します。
5. ラボ環境で実行し、やり取りがシミュレートされ、詳細なセッションサマリーが生成されることを確認します。

デフォルトでは、システムはポート8022/TCPで受信SSH接続をリッスンします。UNIXまたはLinuxシステムでは、次のようなコマンドを使ってログインできます。

ssh guest@localhost -p 8022

設定ファイルではゲストアカウントに空のパスワードが指定されているため、パスワードの入力は求められません。必要に応じて設定ファイルでパスワードを指定してください。

次のステップ

DECEIVEは、AI対応セキュリティソリューションに向けた私たちの取り組みにおける、心躍る一歩です。このプロジェクトを構築し共有することで、サイバーセキュリティコミュニティの皆様がヒントを得て、これまで解決不可能または解決策を実行不可能と考えられていた問題をAIで解決する方法を探っていただければ幸いです。

DECEIVEは、AIと従来の技法を組み合わせることによって、よりインテリジェントで適応性の高いソリューションを構築できることを証明しています。この取り組みを進めれば、高度な偽装技術を展開し、AIを活用した革新的なセキュリティツールを開発するためのハードルはますます下がっていくでしょう。この心躍るフロンティアを一緒に探検しましょう！

このブログはこちらの英語ブログの翻訳、山村 悟史によるレビューです。