エージェント型AIの導入を成功させるための5つの柱

混乱と急速な変化が続くAI環境において、リーダーはエージェンシーの時代に備えるために、今後の方向性を示す作業に取り掛かる必要があります。しかし、先行者利益が失われる前に、エージェンシー時代の急速な進化を先取りするための土台を効果的に築くにはどうしたらよいでしょうか。

パートIでは、デニス・E・テイラーのSFシリーズ小説『We Are Legion (We Are Bob)』(邦題『われらはレギオン』)を引き合いに出しながら、ガバナンスフレームワークを確立することの重要性、組織の優先順位とリスク許容度に基づくさまざまなレベルのAI監督、およびAIのチェックアンドバランスシステムに信頼較正プロセスを組み込む方法について説明しました。

しかし、「ボビバース(ボブの宇宙を意味する造語)」から得られる教訓はそれにとどまりません。ここで登場するのが、ボブのレプリカントの1人であるビルです。ビルがボビバースのオーケストレーターとして頭角を現したことは、なぜスピードよりも土台が重要なのかを考える上で重要な教訓を与えてくれます。ほかのボブたちが場当たり的な解決策を慌てて探り、考え出す中で、ビルはその場にとどまり、研究開発施設のスカンクワークス、SCUT通信ネットワーク、標準化された複製プロセス、「ボブ総会」によるガバナンス機構といったインフラを、時間をかけて構築したのです。複製浮動(ドリフト)によって最終的にボブたちがいくつかの派閥に分かれてしまったとき、何十年も場当たり的に活動してきたボブたちは、ガバナンスやアライメントの仕組みを後から構築するのに苦労しました。派閥によっては、文字通りファイアウォールを構築して、互いのネットワークを遮断することを余儀なくされたほどです。これに対し、長期的に成功を収めたボブたちは、ビルと同じように、大規模な連携を可能にするアーキテクチャとプロセスに早くから投資していました。この話は、人材やプロセスへの投資は余計なコストではなく、他の取り組みから価値が生み出されるかどうかを左右する土台だということをはっきりと示しています。

エージェント型AIのゴールドラッシュの中では、その導入と長期的な成功のための強固な土台を築かない限り、多くの組織がつまずき、目に見える成果を得られずに終わることでしょう。

私が現場での経験や数百人の経営幹部との対話から学んだ教訓は、リーダーは5つの重要な柱を構築すべしというものです。制約について理解し、アーキテクチャを慎重に設計し、予期せぬ事態に適応できるようにすることで、組織はエージェンシーを効果的に実装し、時代を先取りして、将来の成功を確かなものにすることができます。

多くの企業がエージェント型AIを採用しても、成功する企業が一握りである理由

エージェント型AIで注目すべきは、AIが勢いを増している技術であるという点のみならず、それにもかかわらず期待外れに終わる可能性があるという点で、多くの企業が共通の認識を持っていることです。McKinsey社はこの状況を「生成型AIのパラドックス」と呼び、企業の78%が生成型AIを使用しているにもかかわらず、約80%が収益に実質的な影響がないと報告した事実を指摘しました。

生産性と財務にもたらされる効果を高めるための解決策は、さらに多くのAIを導入することではありません。AIの導入方法を進化させることです。これは、汎用性の高い水平型の副操縦士から特定の役割に特化した垂直型のアプリケーションへの移行、そして最終的には、複雑なワークフローをエンドツーエンドで自動化するエージェント型システムへの移行を意味します。

BCG社によると、価値を生み出すAI機能の構築に成功している企業は5%に過ぎません。このような「未来を見据えて構築された」組織は、彼らが「10-20-70」と呼ぶ公式に従って、労力の10%をアルゴリズム、20%をテクノロジーとデータ、70%を人材とプロセスに費やしています[7]。私がこの数字を経営幹部の方々に伝えると、彼らが頭の中で自社のAIへの支出を計算し始めている様子が窺えます。ほとんどの企業は、労力の70%をテクノロジーに費やす一方、成功を左右する人材とプロセスには10%しか費やしておらず、この比率が逆転しているのです。

Forrester社は、高度なエージェントアーキテクチャを自力で構築しようとしても75%の企業はそれに失敗する、という現実的な見通しを示し、その原因としてガバナンスの欠如を挙げています。生成型AIからエージェント型AIへの移行は、自然な進化ではなく、複雑さという名の深い谷を飛び越えるような困難な取り組みです。単体で試すことができる生成AIとは異なり、エージェント型AIでは、導入の初期段階からエンタープライズワークフローとの深い統合と堅牢なガバナンスが必要になります。

しかし、75%が失敗するからといって、失敗が絶対に避けられないわけではありません。それは選択にかかっています。エージェントAIをテクノロジーの問題として扱う組織は失敗に終わりますが、能力を構築するための挑戦と捉える組織は成功を収めるでしょう。

AIエージェンシーを開発するための5つの柱

現場で成功と失敗の両方を見届け、アナリストの調査結果をまとめた私は、「エージェンシー」のあり方を定義する5つの柱を特定しました。経営幹部が構築すべき5つの柱とは、認識、設計、整合性、説明責任、および適応です。

• 認識とは、自律型システムができることと自律型システムの限界の両方を理解し、能力の進化に合わせて常に最新の状況を把握することを意味します。エージェント型AIの実装は、一度限りのトレーニングで済むようなものではありません。モデルの能力、失敗の種類、ドリフトのパターンに対して、オペレーショナルインテリジェンスを活用し続ける必要があります。私がパートIで説明した「人間参加型(HITL：Human-in-the-Loop)」、「人間監視型(HOTL：Human-on-the-Loop)」、「人間非介入型(HOOTL：Human-out-of-the-Loop)」という枠組みは、AIの能力に合わせて人間の監督の仕方を決める基盤を提供しますが、賢明な選択をするには認識が欠かせません。
• 設計とは、導入後にオーケストレーションについて考えるのではなく、最初から考慮してシステムを設計することを意味します。インフラには、マルチエージェントオーケストレーションプラットフォームと、アナリストが推奨するメッシュアーキテクチャを組み込む必要があります。また、設計にあたっては、オブザーバビリティ、セキュリティ、およびガバナンスを、後付けではなく基本的な要素として考慮することも必要です。
• 整合性の維持は、時間の経過に伴って整合性が失われるという厳しい現実に対処するものです。パートIで述べた初期の絶対的な信頼関係が有効なのは、運用環境の違いによって価値観が乖離する(小説で「複製浮動」と呼んでいる現象)までの間です。信頼較正に関する研究が進められる中で、信頼度スコアリング、説明可能性、パフォーマンス監視、および人間による定期的なチェックを組み込んだツールキットが提供されるようになりました。目的はドリフトを防ぐことではありません。学習し、適応するシステムでは、ドリフトは避けられません。目指すべきは、ドリフトを検出して再調整を続けていくことにあります。
• 説明責任とは、自律的な意思決定に対して明確な責任体系を確立するものです。業界のガバナンスモデルでは、信頼性、監査証跡、透明性、公平性が重視されます。「ガーディアンエージェント」の概念(他の自律システムを監視する自律システム)は1つの設計モデルとなっていますが、監視者を誰に監視させるのかについては、多くの企業が模索している段階です。
• 適応とは、エージェントによる変革には、テクノロジーの導入だけでなく、組織の見直しが必要になると認識することを意味します。McKinsey社は、ハイブリッドワークフォースを統括するM型スーパーバイザー、例外処理やワークフローの再構築を行うT型エキスパート、AIで能力を強化された現場担当者など、職務のあるべき未来像を提示しています。

エージェント型AI導入までの残り少ない猶予期間

Gartner社の調査によると、エージェント型AIに多額の投資を行っている組織は、2025年1月時点で19%にとどまっており、31%は様子見の姿勢であることが分かりました。その一方で、AIのタスク完了能力は、4カ月ごとに倍増しています。私の考えでは、あと4カ月もすれば、監視がなくても数日間確実に動作するAIシステムが登場する可能性があります。様子見を続けている組織は、自分たちが慎重な判断をしていると考えているようですが、実は取り返しのつかないほど後れを取っているのです。

AIの能力にガバナンスが遅れを取れば、派閥の形成や内部抗争が起こり、普遍的な信頼が永遠に失われるでしょう。

ITやサイバーセキュリティの幹部にとって、このメッセージは緊急に対処すべきものです。エージェンシーを構築すべきタイミングは、自律システムが普及する前です。普及した後では遅すぎます。SF小説と最新事例の両方に学びながら、今このタイミングで、認識、設計、整合性、説明責任、適応に向けた取り組みに投資する企業こそ、自律化技術がもたらす未来に翻弄されることなく、そのような未来を自ら切り開いていくことができるのです。

ボブは、ソフトウェアエンジニアから銀河コーディネーターへと転身させられる過程で次のような疑問を抱き始めます。「そもそも自らの意思でやろうと思っていたことを、他人から強制されてやるというのは一体どんな気持ちになるものなのだろうか」。今エージェンシーの構築に取り組んでいる経営幹部たちは、ボブのように誰かに強制されてその土台作りに取り組んでいるわけではありません。自律的なシステムが普及する未来で生き残るために、その能力を築くことを自ら選択しているのです。

選択をしなかったとしても、そのような未来は避けられません。何の準備もないまま、その日を迎えることになるだけです。

このブログはこちらの英語ブログの翻訳、前園 曙宏によるレビューです。