SplunkのAI戦略：デジタルレジリエンスのための信頼性の原則

AIが私たちの生活、仕事、コミュニケーション方法に劇的な変化をもたらすことは間違いありません。AIは、新たな方法によってビジネスの課題を解決し、顧客に価値を提供してくれます。ただし、そのように広い範囲にわたって効果を得るには、包括的なアプローチが欠かせません。責任を持ってAIを開発することと、AI戦略のあらゆる側面に信頼性を組み込むことは、まったく異なります。後者こそ、Splunkが目指しているものです。

Splunkは、データとAIのイノベーターとして、「この不確実性の時代に、お客様と社員の安全を守るにはどうするべきか」「AIを活用することによって、デジタルレジリエンスを損なうのではなく強化するには、どうすればよいか」という難題に直面しました。答えを見つけるためには、AIがお客様、社員、パートナー、エコシステムに与える影響を俯瞰的な視点で考える必要がありました。

Splunkは、セキュリティとオブザーバビリティ市場のリーダーとして、お客様がAIのメリットを享受すると同時にあらゆる想定外の結果から保護されるよう支援します。また、より安全で強靭なデジタル世界を作ることに全力で取り組み、責任を持ってAI活用を推進することで、有意義な変化を生み出します。

AIの信頼性に関するSplunkの原則

以下の原則は、今後SplunkでAIを使用および開発するうえでの指針となります。これは厳格なプロセスの下に、Splunkのステークホルダーの参加と新たな規制の評価を通じて定められたものです。Splunkは、AIの使用は以下の原則に沿ったものであるべきだと考えています。

説明責任

人間による監視：AIシステムには、人間による監視を組み込みます。AIシステムのライフサイクルの各段階で責任者を明確に定め、責任者は各段階での結果に対し説明責任を負います。

透明性

ガラスボックスのアプローチ：AIシステムとそのデータの使用については、お客様とステークホルダーに対して、透明性をもち理解しやすい形で説明可能な状態にします。

プライバシー

データの信頼性：AIシステムは、個人のプライバシーおよび個人と組織のデータの機密性を尊重し保護する設計にします。

公平性

構造上の公平性：AIシステムの仕組みは、インクルーシブかつアクセシブルで、差別や偏見を退けるものにします。

レジリエンス

耐障害性：AIシステムの開発や導入は、たとえ不測の障害や悪質な攻撃が発生した場合でも、安全性、セキュリティ、回復力を維持できるように行います。

AIの信頼性に関する原則を守るための仕組み

Splunkは、上記の原則を行動に移すための組織的な取り組みを支えるフレームワークを作成しました。

これらの原則を実践することにより、適切な選択をとり、信頼を築き、望ましい成果を達成するという約束を果たしていきます。実践を進めていく中で、AIテクノロジーや関連法律の進化に合わせて適応していく必要は生じるでしょう。Splunkのフレームワークには継続的な学びと進化のプロセスを組み込んでおり、これによってテクノロジーや法環境の変化に先手で対応します。

製品へのAIの組み込み：Splunk製品にAIをどのように組み込むかについては、慎重かつ計画的なアプローチをとっています。AIを組み込んだ製品に関する理念は、以下の3つの考え方に基づいています。

• ドメインおよびSplunkに特化：デジタルレジリエンスの向上に最も効果的なAIは、セキュリティとオブザーバビリティ領域のユースケースに特化し、ワークフローと緊密に連携したものだと確信しています。これにより、適切な情報を適切なタイミングと場面で提供できます。
• 人間参加型(HITL：Human-in-the-Loop)：AIは人間に取って代わるものではなく、人間の隣で協力するものでなければなりません。つまり、AIは副操縦士として事実を迅速に伝え、発生した事象を要約し、重要なアラートを最前線に届ける役目を果たします。そして、操縦席においては、常に人間が座るべきです。
• オープン性と拡張性：Splunkプラットフォームに新たなAIを直接組み込む際は、お客様やパートナーが組織のポリシーやリスク許容度に合わせてSplunk提供のモデルを拡張したり、お客様独自のモデルを使用したりできるように設計します。また、そのモデルをSplunkのデータだけでなく他のデータストアのデータにも適用できるようにして、ソリューションの柔軟性を高めます。

業務へのAIの組み込み：AIの信頼性の確保は、Splunkの業務と文化においても、Splunk製品においてと同じくらい重要です。対象範囲も同様に、テクノロジー、人、プロセスのすべてにわたります。Splunkでは、AIの潜在的なリスクを認識しつつ、そのビジネスメリットを自社業務に取り入れています。

インクルーシブという考え方を、AIは理解しませんが、私たちは理解しています。そのため、バイアスや不正確性などの問題は、SplunkのAIアプローチを通じて認めるとともに知らせることで、積極的に対処できるようにしています。進むべき道は、明確なガイダンスとガードレールを定め、社員が効率的に働けるようにすることだと確信しています。私たちの包括的なアプローチは、イノベーションと変革を促進するものです。そして、その中心にあるのは、責任あるAIの活用です。

基本的にSplunkの業務におけるAIポリシーは、AIの信頼性に関する原則を前提としており、製品へのAIの組み込みに関する理念に通じます。つまり、「AIはSplunk社員の支援をするものであって、社員に代わって仕事をするものではない」ということです。

AIにおけるデータの使用と保護：データスチュワードシップは、妥協してはなりません。AIの時代には、なおさらです。Splunkはデータの使用とプライバシーについて、以前から真剣に取り組んでいます。さらに、データプライバシーに関するAI特有の課題に対処するため、取締役会レベルの委員会である「Cybersecurity & Data Responsibility Committee」を設置しています。

セキュリティに対するSplunkの取り組みは実を結んでいます。Splunkは11回連続して、ガートナー社によるSIEM部門のマジック・クアドラントでリーダーの1社に位置づけられました。私たちは、過去20年にわたって積み重ねたインサイトを活かし、AIユースケースでのデータプライバシーへの取り組みを拡大しながら、今後20年、そしてその先のニーズに対応できる体制を築いていきます。

AI (と人)をリードし続ける

AIという複雑なもののガバナンスには、部門横断的なアプローチが求められます。Splunkはこれを促進するために委員会を設置し、SplunkのAI原則の導入と統合を、上記のフレームワークの3本の柱にわたって監督させています。

委員会には社内のリーダーたちをそろえています。多様な視点を取り入れるため、製品とテクノロジー、法務、プライバシー、セキュリティ、市場開拓、人事、グローバルインパクト、マーケティングなど多岐にわたる主要部門のリーダーたちを集めました。委員会の役割は、AIのユースケースを製品開発と運用にわたって評価することです。これにより、AIの信頼性に関するSplunkの原則が、ライフサイクル全体を通じて遵守されることを保証します。

未来を見据えたAIの構築

AIの未来は非常に明るいものです。Splunkでは、AIがデジタルレジリエンスの構築に不可欠だと考えており、その思いはデジタル環境の複雑さが高まるにつれて一層強まっています。

同時に、進化の絶えないAIの分野で最前線に立ち続けるには、俊敏性と柔軟性が求められます。今後、規制やガバナンスが整備されることによって、AIに関する現在の懸念の一部は解消されるはずです。それまでは、Splunkを含め、AIの用途を開拓し開発を進める企業が、AIの安全かつ効果的な利用に対する責任の一端を担うことになります。

Splunkは口先だけでは終わらせず、有言実行します。SplunkのAI理念の実践について、詳しくはE-book『デジタルレジリエンスを強化するAIの理念』をご覧ください。

このブログ記事は、Kriss DeiglmeierとHao Yangが共同執筆しました。