AI for SecurityとSecurity for AIの両立で新たな価値創造を

「Splunk Experience Day Tokyo 2025」では、午前にパネルディスカッションの場を設け、AIとセキュリティの未来像について識者に語り合っていただきました。ご登壇いただいたのは、ソフトバンク株式会社 常務執行役員 兼 CISO 兼 AI倫理委員長 飯田 唯史氏と、Co-founder of Robust Intelligence, Cisco Director of AI Engineering AIガバナンス協会 代表理事 大柴 行人です。飯田氏には日々セキュリティの最前線で指揮を執るCISOとして、そして大柴さんには、AIの未来を創る専門家としてご登壇いただき、大変興味深いお話を伺うことができました。そのハイライトをご紹介します。なお、モデレーターはSplunk Services Japan CTO 森 玄理が務めました。

AI for SecurityとSecurity for AIはどちらも大切な視点

この日のパネルディスカッションでは、まずAIとセキュリティの関係性を整理しました。セキュリティのためのAI＝AI for Securityと、AIのためのセキュリティSecurity for AIという2つの側面から未来のセキュリティについて解き明かす必要があるためで、前者はセキュリティをより高めるためのAI活用、後者はAIを活用するにあたってどのようなセキュリティが必要になるのか、という視点です。近い将来、これら2つの視点が基軸になり、価値の革命が起こりそうです。

議論は多岐にわたりましたが、その中で興味深かったのは、大きく3つの内容でした。まずは、AIが近い将来、自律的に動くチームメンバーのひとりになること。次に、AI同士が対話することが自然になり、人間の役割は監視と制御になるという指摘。最後に、AIガバナンスが経営課題の中心になるという未来像です。それぞれについて共有します。

AIが「自律的なチームメンバー」になる

飯田氏も大柴も、AIがセキュリティチームの一員として自律的に機能する未来を展望しています。具体的には、大柴が「複雑に絡み合ったシステム全体を俯瞰し、人間には不可能な洞察を与える賢者のような存在」としてのFoundation AIの可能性を提示し、飯田氏は「個々の作業を助けてくれる優秀な部下」になるとAIへの期待を表明しました。

飯田氏は、「AIは転職して居なくなることはありません。24時間×365日働いてくれる優秀な仲間として、アラート疲れなどの属人的な課題を解決してくれる存在になるかもしれません」と話します。AIが単純作業を代替することで、人間はより高度な脅威分析や戦略立案といった創造的な業務に集中できるようになり、チームのスキルレベルとパフォーマンスが向上することへの期待はあります。とはいえ、まだ属人的な作業は多く、AIへの置き換えに至っていない業務の方が多いのが実情です。

そこで大柴は「looking for a needle in a haystack (干し草の中から針を見つける。極めて困難で現実的でないことのたとえ。無駄骨)」という言葉を引用し、人間にとっては困難でも、AIは膨大なデータの中から脅威の兆候を検知することが得意であると解説。「将来は、多様なツールやシステムから自律的に情報を収集し、統合的に分析することで、人間が気づかないインシデントを発見してくれるようになるでしょう」と語りました。

実際にAIの認知限界は人間よりもはるかに高く、テキストデータだけでなくPDFや画像、動画など多様なデータを処理できます。ただし、AIによって得意分野と不得意分野はあります。大柴が推進するFoundation AIは、セキュリティ特化のLLMとして、この分野特有のログファイルやデータ構造、文脈を解釈する精度を高めるべく、日々進化しています。オープンソースLLMとして公開しているため、多くの人を巻き込んでさらなる進化を遂げそうだという大きな期待も寄せられています。

飯田氏が50以上の製品、30以上のベンダーを利用する自社の複雑なセキュリティ環境を明かしてくれた場面は、多くのCISOの共感を得たのではないでしょうか。Foundation AIでこうした複雑性を吸収できる可能性が示唆された際に、飯田氏の期待が単なる「業務効率化」から「環境全体のガバナンス」という、より戦略的な次元へと引き上げられたように感じました。「もうちょっとAIにハマってみようかなと思います」という言葉は、その変化を象徴する印象的な一言でした。

AIの信頼性確保がAIによる革新を後押しする

現在は、人間がAIに命令を出し、AIがそれにこたえてくれる段階です。それに対して、このセッションで語られる将来は、AIエージェント同士が自律的にコミュニケーションを取り、問題を解決するようになります。つまり、AIの役割が高度化し、AIが人のレビューを受けずに勝手に進めた施策に対して企業が責任を持つ時代が来る可能性があるのです。

その際に飯田氏が最も懸念するのはAIのブラックボックス化で、「AIエージェント同士が人間の言葉を介さずに会話を始めたときに、われわれはその内容をどうやって可視化し、制御すればいいのでしょうか」と問いかけます。

この問いに対して大柴氏は、AIのコミュニケーションを監視・制御するのもまたAIだとして、「HTTPプロトコルを暗号化するHTTPSのように、AIエージェント間の通信プロトコル(MCP：Model Context Protocol)にも、その正当性や安全性をAIが自動で検証するセキュリティレイヤーが組み込まれるようになります」と語ります。人間は、AI同士の交わす個別の対話を追う必要はありませんが、AIによるガバナンスシステム全体を監督することは必要です。この部分をクリアし、AIのリスクを低減する技術的な仕組みとして、Foundation AIはAIの妥当性検証や継続的モニタリング、ガードレールの仕組みを備えています。

「AIガバナンス」は信頼を土台にイノベーションを切り拓く経営課題

今後、AIの活用にあたって重要な課題になるのは、AIのリスクを低減し、信頼性を担保することです。そして、この領域は1つの企業やITベンダーが努力しても成し得ないことかもしれません。

大柴は、企業、政府、グローバルな規制団体が連携し、標準化されたフレームワークを構築することが不可欠であると述べました。制度やフレームワークの整備が重要で、欧米や日本でもさまざまなガイドラインが制定されています。これらと歩調を合わせながら、AIの活用を図っていく必要があるでしょう。こうした活動を加速するために、大柴は自身で「AIガバナンス協会」を設立しています。

飯田氏は、過去にRPAの活用を図った際に、全体の可視化やコントロールが困難だったという経験について語りました。その教訓を踏まえ、AIエージェントの管理、可視化、および統制が重要であるとします。

実際に、ソフトバンクでは、全社員が100のAIエージェントを作るという取り組みを実施しました。その結果、イノベーションは促進された一方、“野良AI”がセキュリティリスクになることが浮き彫りになりました。管理者がだれかわからないRPAのように、管理されていないAIが勝手に動き続けるのは大きな問題になります。「AIの振る舞いを可視化し、強制的に停止するスイッチのような仕組みが必要になりそうです」(飯田氏)。

AIエージェントは経営者や事業責任者がパートナーとして向き合うべき存在へ

AI for SecurityとSecurity for AIを両立させ、安全性を確保しながら技術革新を進めることで生み出される未来のAIは、自律的なエコシステムの中で活動するようになります。もはやツールではなく、経営者や事業責任者がパートナーとして向き合うべき存在になるでしょう。そして、人間は、AIのエコシステム全体のガバナンスを担います。

その時代は、思っているより早くやってきそうです。技術の進化に追随することは当然ですが、組織のガバナンスを維持し、倫理性という目に見えない指標にも目を配る必要があります。これらのバランスを取りながら、ビジネスを成長させていくために、いまからいろいろと考えておくことが重要だと感じられたセッションでした。

この日のディスカッションは、私たちが本イベントを通じて皆様と共に考えたかった未来像そのものでした。では、いまから何を考えておくべきなのでしょう。まず考えなければならないのは、自社に最適なAI活用のスタイルについてでしょう。企業やビジネスの現場ごとに事情や環境は異なります。他社の進め方を参考にしながら、自社に合うAIの活用方を模索してみてください。そして、そのためにも、ご来場の皆様や読者の皆様のようなプロフェッショナル同士が経験や知見を共有することが大切になります。ぜひ私たちSplunkもその輪に加えていただき、AIとセキュリティの未来に向けた価値創造を一緒に進めさせていただきたいと考えています。

Splunkは、シスコとの経営統合により、シスコのAI DefenceおよびFoundation AIと連携するセキュリティ運用の高度化を実現しました。AI Defenceは生成AIベースのポリシーエンジンで自然言語管理を可能にし、Foundation AIはCisco Security Cloud全体でAIを活用してファイアウォールのルール最適化や脅威検知を強化します。これにより、複雑な攻撃をリアルタイムで検知し、対応できるようになります。Splunk側ではログやイベントデータを一元的に分析し、AIによる予兆検知や運用自動化を推進。SOC監視効率を向上させ、セキュリティ人材不足の解消やコスト削減、迅速な復旧を支援し、企業のデジタルレジリエンスを強化します。

つまり、Splunkは、こうした時代にも最適な、信頼性の高いデータプラットフォームになります。自律的に動くAIエージェントが必要とする膨大なデータを集約することができますし、AI同士の複雑な対話や意思決定プロセスを可視化することもできます。Splunkは、AIの自律性と人間のガバナンスを両立させ、未来のセキュリティオペレーションの中核を支える存在になります。ぜひ、今後のSplunkにご期待ください。