「AIワークフロー」は自治体に広がる“格差”を埋められるか？　実際に作成してみた

　こんにちは。「全国の自治体が抱える潜在的な課題を解決すべく、職員が自ら動けるような環境をデジタル技術で整備していく」ことを目指している川口弘行です。

【画像】自治体の生成AI利活用に向けたロードマップ

　毎年この時期の自治体では、来年度当初予算要求のための準備作業が行われています。筆者は自治体側で予算要求する立場であると同時に、事業者として予算要求のための説明資料や見積書を提供する立場でもあります。

　前年度と比較すると、今回はデジタル化に関する取り組みが少し低調かもしれません。

　その理由の一つとして、自治体情報システム標準化に伴うコスト増が挙げられます。標準化への取り組みが当初の計画通りに進んでいないこともあり、自治体も事業者も新しい取り組みに目を向ける余裕がないのだと思います。

　その中で、生成AI利活用に関する取り組みだけは、自治体の未来を変える取り組みとして、何とか予算を捻出しようと頑張っている自治体も多く見られます。

　筆者が開発、提供している生成AI関連のサービスも、数多くの自治体から問い合わせを受けています。そして自治体の中でも生成AI利活用に対する「格差」、より正確にいうと「生成AI利活用環境の違い」が生じてきているようにも感じています。

　ただ、筆者に寄せられる相談の中で「庁内での生成AI利活用が進まない」というものが多いのは事実です。特に生成AIによるチャットサービスの導入はしたものの、使われたのは最初の2カ月だけで、以降は誰も使わない、という話はよく耳にします。

　筆者の考えでは、自治体の生成AI利活用は3つのステージで整理できます。

　今回は、自治体の生成AI利活用の「3つのステージ」を踏まえながら、次のステップとして注目される「AIワークフロー」の可能性と、そこから見えるAIエージェント活用への道筋について考えてみたいと思います。

●ステージ1：AIチャット活用期――「プロンプト工夫」だけでは限界が見える

　まず、ステージ1は主にAIチャットを用いた利活用を進めている状態です。

　ここでは、生成AIからより良い回答を引き出すために、より良い質問を考えるという「プロンプトエンジニアリング」という手法が有効とされています。

　以前の記事で筆者は「プロンプトエンジニアリングの時代は終わった」と書きました。

（参考記事：プロンプトの悩み不要　自治体で使うべき「ChatGPT Plus」の機能とは？）

　当時は生成AIのクセを突いた小手先のテクニックがもてはやされていましたが、生成AI自体の進化により、そうした技術の多くは意味を持たなくなっています。ただし、「AIにより良く動いてもらうための指示を工夫する」という視点に立つと、プロンプトエンジニアリング自体はいまだに有効な手法といえるでしょう。

　しかし現実には、予算やセキュリティの制約によって、十分な機能や性能を持つサービスを利用できない自治体も多く存在します。そうした環境下の職員にとっては、どれだけプロンプトエンジニアリングを工夫しても期待した回答が得られなければ、利用が定着しないのも無理はありません。

●ステージ2：RAG導入期――「知識を足す」アプローチにも壁

　「期待外れ」の原因を探っていく中で、自治体が次に目を向けたのが、生成AIにあらかじめ参考となる情報を読み込ませ、その上で回答を得るという方法でした。

　生成AIがもともと持っている知識だけでは一般的な回答しか得られず、自分たちが本当に必要とする答えが得られないことから、生成AIに必要な知識を追加で与えたうえで回答を引き出そうとしたのです。

　ただ、生成AIが一度に理解できる文章の長さ（コンテキスト長）には上限があるため、大量の参考情報を読み込ませることができません。そこで、事前に元の情報を細切れの文章にしておき、関連のありそうな文章を選びだして、そのいくつかの文章だけを読み込ませることで、コンテキスト長の中でやりくりさせようとする手法が出てきました。

　この手法はRAG（Retrieval Augmented Generation）と呼ばれています。筆者は、庁内にある文章を参考情報としてRAGを活用し、生成AIからより適切な回答を引き出そうとする取り組みを「ステージ2」と位置付けています。

　自治体では2024年あたりからRAGに対する関心が高まっており、生成AI利活用の決定打だと考えられていました。しかしこれも期待通りには進んでいません。

　一番の原因はRAGの精度が高くないことにあります。もちろんさまざまなチューニングを施すことで精度をある程度高めることはできるのですが、自治体が期待する精度は「限りなく100％」であるのに対し、実際のRAGの精度は70%あたりがせいぜいでしょう。これでは仕事で使えるというには程遠い状況です。

●ステージ3：AIエージェント期――職員の“裏方”として動くAIへ

　筆者が考える「ステージ3」の状態とは、生成AIを使うことを特に意識せず、AIエージェントとして日常の業務の裏側で生成AIが職員の仕事をアシストするというものです。GensparkやManus、MicrosoftのCopilotなどはその状態に近いかもしれませんが、コストやセキュリティ制約などの関係で、まだまだ手を出せない自治体も多いでしょう。

　ちなみに、民間企業においてもAIエージェントの活用が期待されているものの、実際には導入しても「思ったほど期待通りに動かない」と感じているケースが多いようです。これは、「AIエージェントが業務の背景や文脈を自動で理解して適切に行動してくれる」と過剰に期待していて、その期待が裏切られていることが理由のようです。

　人間でもAIエージェントでも、作業を依頼する際の条件を定めないで「うまくやってください」と言うのは無理筋なのでしょうね。さらに言えば、AIエージェントが自律性を高めるのならば、職場全体で業務の背景や文脈を理解しやすい環境にする必要があるということでしょう。

●筆者が考える2026年の着地点：ステージ2.5

　そこで2026年度の段階で筆者が考える現実的な着地点をご紹介したいと思います。いわば「ステージ2.5」です。

　それは「AIワークフロー」です。

　具体的なサービス名でいうと、n8n（n8n）、Dify（LangGenius）、Opal（Google）、Agent Builder（OpenAI）が該当します。

　特徴は、生成AIやデータ処理などの機能がブロックになっていて、そのブロックをつなぎ合わせて一連の作業（ワークフロー）を自動的に実施できる点です。条件により処理を分岐させたり、繰り返し実行させたりというワークフローの制御もできるようになっています。

　筆者は以前から自社のサービスの一部分をこのAIワークフローを使って運用しています。例えば、生成AIを使って少し複雑な処理をさせるためには、ChatGPTのカスタムGPTを使うことが多かったのですが、安定した挙動をさせるためにプロンプトを工夫するなど、少し職人技のようなことをやっていました。

　これをAIワークフローに置き換えることにより、最初の生成AIで処理した結果を、別の生成AIでチェックし、その結果が良好ならば次の処理に進む、などの処理ができるようになりました。

　そこで、実際にAIワークフローを使って、不思議な挙動をするAIチャット「20th century AI chat」を作ってみました。ぜひアクセスして試してみてください。

　今回はAIワークフローサービスの中で、Difyというサービスを使ってみました。

　欧米ではn8nの人気が高いのですが、日本国内ではDifyの方が人気のようです。Difyはメニュー画面などの日本語化が進んでいるので、親しみやすいことも理由の一つだと思います。今回のAIチャットのフローは次の図のようなイメージです。

　非常に複雑に見えますが、いろいろな機能を後から追加したことにより、複雑に見えているだけです。

　今回のAIチャットは、少し変わったコンセプトで作っています。「もし20世紀末までの記憶しかないAIがあったら、どのような会話が成立するだろう」というものです。

　一般的に生成AIはナレッジカットオフと言って、ある時期までの知識しか有していません。そのため、なるべく最近の知識までを取り込むべく改良が繰り返されています。今回は逆に知識を持たないAIにするべく工夫しました。

　プロンプトで「あなたは2000年末までの知識しか持っていないAIです」としても、そのような振る舞いを見せてくれません。そこで、ユーザーとの対話の中で関連するキーワードを年代とともに抽出し、それらのキーワードを使ってWeb検索したものを事前情報として保持するようにしています。

　そして最終的な回答を生成する際に、その事前情報のうち、2001年以降の内容については「知らないふりをする」ように指示を加えています。知識を持たないようにするために知っている情報を排除するという、トリッキーな仕組みにより、概ね期待どおりの応答がされています。「知らない」を実現するのは思ったよりも難しいようです。

　このように「プロンプトでは制御できない緻密さで挙動を制御する」ことができるのは、AIワークフローを使うメリットの一つではないかと思います。

　また、画像をアップロードした場合は、画像を認識できる別のLLMを呼び出して画像を解析し、その画像を回答に反映するようにしたり、AI自身の話題（AIの名前は？　誰が作ったの？　など）になった場合は、あらかじめ作成したAIの架空の設定情報を文書ファイルとして読み込ませたRAGを使って回答を生成するようにしています。

　自治体の現場でAIワークフローを使う場合でも、質問の趣旨によってRAGで使う文書ファイルを使い分けるよう分岐して、適切な分野の知識で回答させるなどの応用もできそうです。

　さらにAIワークフローの多くは外部サービスとの連携もできます。

　今回作成したAIチャットでも、一日あたりの利用回数を制限させたかったので、利用回数をカウントするWebサービスを作成して、それをワークフローの中から呼び出すようにしました。チャットでやり取りする度に利用回数はカウントされており、あらかじめ指定した上限値に達成した段階で終了メッセージを表示させる仕組みにしています。

　実際にこのAIチャットを試してみて、AIワークフローの可能性を少しでも感じ取ってもらえると嬉しいです。

●AIワークフローがつなぐ未来

　筆者の理解では、AIエージェントは利用者の指示を受け取って、その場で適切な処理を自律的に選択し動作させる仕組みです。そうならば、AIワークフローは一連の作業をひとまとめにして「適切な処理」として選択できるようにした状態であるといえます。

　つまり、自分たちの仕事をワークフローとして定義し、いつでも呼び出せるようにしておくことで、当面の間は人間がそれを呼び出し、将来はAIエージェントが呼び出して業務を遂行する、という未来の姿がイメージできるかと思います。

　現時点で自治体の職員が取り組めることは、仕事をパッケージング化（ワークフロー化とマニュアルなどの整備）することなのではないでしょうか。

　次回はAIワークフローの利用と情報セキュリティ対策の両立について一緒に考えていきましょう。

●著者プロフィール：川口弘行（かわぐち・ひろゆき）

川口弘行合同会社代表社員。芝浦工業大学大学院博士（後期）課程修了。博士（工学）。2009年高知県CIO補佐官に着任して以来、省庁、地方自治体のデジタル化に関わる。

2016年、佐賀県情報企画監として在任中に開発したファイル無害化システム「サニタイザー」が全国の自治体に採用され、任期満了後に事業化、約700団体で使用されている。

2023年、公共機関の調達事務を生成型AIで支援するサービス「プロキュアテック」を開始。公共機関の調達事務をデジタル、アナログの両輪でサポートしている。

現在は、全国のいくつかの自治体のCIO補佐官、アドバイザーとして活動中。総務省地域情報化アドバイザー。公式Webサイト：川口弘行合同会社、公式X：@kawaguchi_com