AIエージェントの「統制不能」、どう回避する？　AIベンチャーの会見から考察

　「AIエージェントはビジネスの在り方を根本的に変える可能性が高い」

AIエージェントの「統制不能」、どう回避する？　AIベンチャーの会見から考察

　こう語るのは、AIベンチャーの米Dataikuの日本法人Dataiku Japanの佐藤 豊氏（取締役社長　カントリーマネージャー）だ。同社が2025年5月14日に開いたAIエージェントの取り組みに関する記者説明会でのひとコマだ。

　同社はこの会見で、従来提供している「ユニバーサルAIプラットフォーム」においてAIエージェントを活用するソリューションを発表した。それらの内容については発表資料（注1）をご覧いただくとして、今回の発表の背景として佐藤氏が説明したAIエージェントの価値と課題の話が興味深かったので、本稿ではその内容を取り上げて考察したい。

●AIエージェントの「4つの価値」と「山積する課題」

　Dataikuは2013年にフランス・パリで創業し、2015年に米国ニューヨークに本社を移設。2019年にパートナー企業を通じて日本市場へ進出し、2022年に日本法人を設立した。「Everyday AI」をブランドメッセージに掲げ、データやAIの活用が日々の業務に完全に組み込まれる未来を構想している。従業員数はグローバルで1100人超、顧客数は700社以上とのことだ。

　2023年に現職に就任した佐藤氏は、データ分析ソフトウェアを手掛ける米Tableau（2020年にSalesforceが買収）の日本法人社長を務めてきた。以下、同氏の説明を紹介していこう。

　まず、AIエージェントについては、自律性の段階によって次のように分類できるという（図1）。

　レベル0の「RAGチャットボット」では、特定の情報を検索して質問に回答する。レベル1の「ツール活用型エージェント」では、特定の目的を達成するためにどのツールを使用するかを判断する。レベル2の「マルチタスク型エージェント」では、コンテキストに基づいてどのアクションを取るかを動的に判断する。そして、レベル3の「自律型エージェント」では、複数のシステムにわたって自律的に実行し継続的なプロセスを管理する。

　佐藤氏はこの分類について、「企業それぞれのニーズと成熟度に応じた段階的な導入を図るのが重要だ」と語った。レベル3だけをAIエージェントだとする解釈もあるだろうが、生成AIの活用段階として自律性に注目するのは分かりやすい捉え方だと言える。

　AIエージェントがもたらす価値についてはどうか。同氏は「現時点で4つのカテゴリーがあると考えている」として図2を示した。

　1つ目は「プロセス自動化」で、制御と適応性によってプロセスを合理化する。2つ目は「従業員支援」で、カスタマイズされたアシスタントを使用して主要な機能を強化し、タスクの実行を進展させて効率化を高める。3つ目は「企業インテリジェンス」で、企業全体の知識の活用とアクティビティーの最適化を大規模に推進する。4つ目は「新しいサービスとビジネスモデル」で、エンドツーエンドのエージェント構造を通じて活動を刷新して新しいサービスを開発する。同氏は、「AIエージェントはこれらによって、コスト削減、生産性向上、収益拡大を創出できる」と強調した。

●AIエージェントにおける3つの課題とは

　一方で、AIエージェントの課題についてはどうか。佐藤氏は「最初に個人が利用する単純なエージェントでさえ、課題は山積みだ」として、「機能が限定的」「データが不正確」「月末のピーク時にクラッシュ」といった点を挙げた（図3）。

　同氏は図4を示し、「単純なエージェントは、技術的にもハルシネーション（幻覚）が修正されないままだったり、アウトプットの品質を継続的に監視する方法がなかったりする」と指摘した。

　さらには「マルチエージェントシステムになると、エラーが積み重なって連鎖的な障害を引き起こしたり、サイロ化されたシステムで作成されたエージェントは統制不能となり、全体として混沌としてしまう」（佐藤氏）と警鐘を鳴らした（図5）。

　図3〜図5に示されている「単純なエージェント」（すなわち、汎用《はんよう》ビジネスエージェント）は、それぞれの業務アプリケーション向けのエージェントではなく、人に帯同する「パーソナルエージェント」だと捉えられる。要は、このエージェントの信頼性に大きな課題があるというのが同氏の主張だ。この点は後ほどまた話題に上げるので、覚えておいていただきたい。

　その上で、佐藤氏は改めてAIエージェントの課題として、「システムとの脆弱（ぜいじゃく）な接続」「障害の診断が不可能」「説明責任の欠如」の3点を挙げた（図6）。

　こうした課題に対し、同氏は「当社としては、AIエージェントを拡大しながら制御を維持するために、今こそエージェントのアーキテクチャとガバナンスを適切に構築することが重要だ」として、「エージェントのエンタープライズオペレーションをしっかり実行する」「エージェントを継続的に監視して最適化する」「エージェントの開発についても完全に管理する」といった支援をする構えだ（図7）。

　それが、今回発表されたソリューション「AIエージェントwith Dataiku」だ。

　AIエージェントの価値や課題についての佐藤氏の説明が分かりやすかったので、会見の質疑応答で筆者は「AIエージェントは多くの企業の業務システムにどのような形で入っていくと見ているか。例えば、個々の従業員が帯同するパーソナルエージェントが起点になって業務ごとのエージェントとつながるのか。もしくは人が業務ごとのエージェントと必要に応じて直接つながるのか」と聞いてみた。すると、同氏は次のように答えた。

　「当初はパーソナルエージェントが起点になるかもしれないが、それを個人で管理するとなると、やはり信頼性における懸念が拭えないのではないか。それに対し、業務対応のエージェントは当社のソリューションを適用していただければ、総合的にしっかりと管理できる。エンタープライズの業務システムでAIエージェントを活用するには、信頼性が非常に重要だということを重ねて強調しておきたい」

　佐藤氏の立場としては、Dataikuのソリューションをプッシュするのは当然だが、どのような入り方でも「信頼性」が非常に大事なポイントになるのも当然だろう。また、同氏が課題として指摘していたさまざまな点も技術的にハードルの高いところが多い。さらにコストパフォーマンスとして納得感が広がるかどうかも気になるところだ。

　それでもAIエージェントは早く手掛けて、自社にどう適用するかを探るべきだ。なぜならば、どの企業にとってもAIエージェントを使いこなすことが業務およびビジネスの変革に直結し、競争力の強化につながると考えるからだ。今回の佐藤氏の話を聞いて改めてそう感じた次第である。

（注1）Dataiku、ユニバーサルAIプラットフォームにAIエージェントの構築と制御機能を導入

○著者紹介：ジャーナリスト 松岡 功

フリージャーナリストとして「ビジネス」「マネジメント」「IT／デジタル」の3分野をテーマに、複数のメディアで多様な見方を提供する記事を執筆している。電波新聞社、日刊工業新聞社などで記者およびITビジネス系月刊誌編集長を歴任後、フリーに。主な著書に『サン・マイクロシステムズの戦略』（日刊工業新聞社、共著）、『新企業集団・NECグループ』（日本実業出版社）、『NTTドコモ リアルタイム・マネジメントへの挑戦』（日刊工業新聞社、共著）など。1957年8月生まれ、大阪府出身。