複数のAIエージェントが「同じデータ」でも判断を誤る仕組み

米VentureBeatは2026年11月3日、複数のAIエージェントが同じデータにアクセスしていても、互いに矛盾した業務判断を下す問題を取り上げました。記事には、SAPのデータ・アナリティクス部門で社長兼チーフプロダクトオフィサーを務めるIrfan Khan氏のコメントが掲載されています。

Khan氏は、エージェントが業務文脈を欠いたままデータにアクセスすると、判断を誤る可能性が高いと述べました。記事では、同じ数値を見ても部門ごとに異なる結論に至ること、単体では正しく動くエージェントの組み合わせが誤った結果を生むこと、データが蓄積するほど精度が落ちることという3つの問題を挙げています。具体例として示されているのが、調達・財務・コンプライアンスの3つのエージェントがそれぞれの役割を正しく果たしながらも、結果として取引先への支払いが長期間滞り、重要な取引先から取引の優先順位を下げられてしまうケースです。

記事が指摘する問題の核心は「ビジネスコンテキスト」の欠如です。ここで言う業務文脈とは、数値そのものではなく、その数値が何を意味するかを決めるプロセス・ポリシー・優先順位を指します。企業は長年、各システムの記録を中央のデータ基盤にまとめてきましたが、その過程でデータは発生元の業務ルールや意思決定の経緯から切り離されてきたと記事は説明しています。

1つのエージェントが単独で動いているうちは、この欠落は「データの問題」にとどまります。しかし業務プロセスを複数のエージェントで分担するようになると、欠落は「連携の失敗」に変わります。記事では、受注・在庫確認・発注・在庫減算のように複数のエージェントが処理を引き継ぐ場面で、手順が入れ替わると在庫の有無が確認される前に処理が完了してしまう例が紹介されています。Khan氏は、人同士の連携でも「誰がチーム会議を開いたか」「どこまで進んだかの管理」がなければうまくいかないのと同様に、人間が手順の引き継ぎを管理しなければエージェント同士も同じ失敗を繰り返すと述べています。

こうした問題への対策として記事が紹介するのが「business data fabric」という設計の考え方です。これはデータが複数のシステムをまたいで移動する際に、意味を保ったまま運ぶことを目指すアーキテクチャだと説明されています。データと意味づけを、それを使う際のプロセスやポリシーなどの業務知識と結びつけたまま、分散した環境にあるエージェントへ届けることを狙います。Khan氏はこの共有される文脈を「company memory（企業の記憶）」と表現し、KPIや業務慣行、蓄積された業務知識をエージェントに一貫して適用させる仕組みの必要性を説きました。