SplunkサーチでサードパーティのLLMサービスを使ってインサイトをすばやく獲得

Artificial Intelligence Greg Ainslie-Malik

私たちはこの数年間、基盤LLM (大規模言語モデル)の価値を目の当たりにしてきました。インターネット上のコンテンツに基づく一般知識を基盤LLMから得られるようになり、それによってあらゆる知識労働者の生産性が大きく高まったのです。

Splunkのお客様は、このたびリリースされた最新版のMachine Learning Toolkit (MLTK) 5.6により、Splunkデータを使ってこうした基盤LLMの力を活用できるようになりました。例えば、以下のようなことを頼めるのです。

ここで注意しておきたいのは、入力したデータはLLMサービスプロバイダーに送信されるということです。また、基盤LLMは汎用目的でトレーニングされており、セキュリティやオブザーバビリティのユースケースに特化されてはいないことにもご注意ください。

このブログ記事では、MLTK 5.6を使ってLLMサービスをSplunkと統合する方法と、その統合を活用するための手始めとなるアイデアをいくつかご紹介します。

MLTK 5.6の新機能

MLTK 5.6では、生成AIをサーチパイプラインに組み込むために役立つ新機能がいくつか追加されています。簡単に言えば、外部LLMに接続したうえで、新しいサーチコマンドを使ったサーチでそのLLMを利用できます。その名も「ai」というサーチコマンドです。

LLMコネクター

MLTK 5.6には、[Connection Management]という新しいタブが追加されています。このタブで、外部でホストされているLLMへの接続を設定できます。現時点では、OpenAI、Azure OpenAI、Anthropic、Groq、Gemini、Amazon Bedrock、Ollamaが接続先としてサポートされています。

特定のプロバイダーへの接続に必要なものは、そのプロバイダーのURLとアクセス情報(トークンなど)のみです。接続後は、以下のような制御項目を設定してプロバイダーの利用を管理できます。

こうした設定により、Splunk内から外部LLMを利用する際の制御について基本的なスロットリングを指定できます。

設定

aiコマンドによるAIへの指示

LLMプロバイダーとの接続を確立した後は、Splunkサーチでaiコマンドを使ってそのプロバイダーを利用できます。Splunkデータを外部LLMへのプロンプトに埋め込めるため、SplunkデータをLLMからのインサイトで補強する際の柔軟性が高まります。

複数のLLMプロバイダーが設定されている場合は、サーチ時にproviderとmodelオプションを使って、利用するプロバイダーを指定できます。

サーチ

ここで、外部LLMへのデータ送信は自己責任であることに注意してください。この件については、OWASPが良心的にも、さまざまなリスクと軽減策を分かりやすくまとめてこちらで公開しています。Splunkではロール機能も新しく追加し、Splunk環境でaiコマンドを使えるユーザーを限定できるようにしました。ぜひご活用ください。

セキュリティが特に気になる場合は、Ollamaインスタンスを自前のインフラで実行するという方法も、効果的な対策となります。また、外部LLMの利用には、そのプロバイダーとの契約条項が適用されることにも注意してください。

ONNXの適用

MLTKの既存の機能について、今回のリリースではONNXの適用機能にいくつかのアップデートがあります。MLTKでONNXモデルを使って、多変量出力を予測できるようになりました。さらに、ONNXモデルをREST API経由でアップロードすることで、モデルトレーニング用のあらゆる既存デプロイパイプラインとの統合が一層簡単にできるようになりました。

MLTK 5.6を活用したSplunkユースケースのアイデア

サーチでLLMを活用しましょうと言われても、多くの場合は具体的なイメージがつかみにくいかもしれません。そこで、Splunkの新たなユースケースのアイデアに役立つ例をいくつか挙げてみました。

ユースケース

MLTK 5.6の始め方

それはとても簡単なことで、SplunkBaseにアクセスして最新のMLTKリリースをダウンロードするだけです。

MLTKの活用方法をもっと知りたい場合は、E-book『AIと機械学習を活用したセキュリティユースケース』『ユースケース入門ガイド:Splunk AIによるオブザーバビリティの強化』をご覧ください。

Splunkのメリットをどうぞお試しください。

このブログはこちらの英語ブログの翻訳、山村 悟史によるレビューです。

関連記事

LLMとSLM:大規模言語モデルと小規模言語モデルの違い
AI
5 分程度

LLMとSLM:大規模言語モデルと小規模言語モデルの違い

今日の言語モデルは、ChatGPTをはじめとする主要なAIの基盤になっています。このブログ記事では、LLMとSLMの違いについて詳しく説明します。
Splunk DSDLにおけるCisco Time Series Modelの活用
AI
8 分程度

Splunk DSDLにおけるCisco Time Series Modelの活用

Splunkは、時系列分析のためのオープンソース基盤モデル「Cisco Time Series Model」をリリースしました。DSDL を活用し、Splunk上のデータとシームレスに統合されるこのモデルの利用方法についてご紹介します。
Splunk Observability CloudのAI Assistantの構築
AI
15 分程度

Splunk Observability CloudのAI Assistantの構築

Splunk Observability CloudでAI Assistantを活用して、自然言語でオブザーバビリティデータを操作し、ワークフローを作成します。