こんにちは。地方自治体のデジタル化に取り組む川口弘行です。8月からスタートした連載では、自治体における生成AIの利活用について、「生成AIが出力した回答の妥当性」と「送信された情報の管理の問題」について焦点を当てました。
【画像】調達支援サービス「プロキュアテック」での提案資料自動審査の流れ
特に「送信された情報の管理の問題」、つまり「ChatGPTに重要な情報を送信しても安全なのか？」という点については、自治体の情報セキュリティポリシー（実施手順）でその運用を定めること、また、その前提となる考え方として、情報資産の機密性とネットワークとの関係について説明しました。
関連記事：ChatGPTに重要な情報を送っても安全か？ 自治体のネットワーク分離モデルから考える
関連記事：プロンプトの悩み不要 自治体で使うべき「ChatGPT Plus」の機能とは？
|
|
|
|
今回は「生成された文章に対する評価者側の問題」について考察してみましょう。
例えば、あなたが文書を受け付けて審査する行政機関の職員の立場にあるとします。そこで、受け取った文章が実はChatGPTによって生成されたものだったと知った場合、どのような感情や反応を示すでしょうか？ ともすれば「手抜きだ」「誠意がない」などとして拒絶する人もいるかもしれません。果たして、それでいいのでしょうか？ 詳しく見ていきましょう。
●著者プロフィール：川口弘行（かわぐち・ひろゆき）
川口弘行合同会社代表社員。芝浦工業大学大学院博士（後期）課程修了。博士（工学）。2009年高知県CIO補佐官に着任して以来、省庁、地方自治体のデジタル化に関わる。
2016年、佐賀県情報企画監として在任中に開発したファイル無害化システム「サニタイザー」が全国の自治体に採用され、任期満了後に事業化、約700団体で使用されている。
|
|
|
|
2023年、公共機関の調達事務を生成型AIで支援するサービス「プロキュアテック」を開始。公共機関の調達事務をデジタル、アナログの両輪でサポートしている。
現在は、全国のいくつかの自治体のCIO補佐官、アドバイザーとして活動中。総務省地域情報化アドバイザー。
公式Webサイト：川口弘行合同会社、公式X：@kawaguchi_com
●「AIが生成した文章だからダメ」という理屈は通用するのか
ChatGPTをはじめとする多くの生成AIサービスは、無料で利用できるものが数多く存在します。行政機関の職員のみなさんが、これらのAIサービスに対して慎重な姿勢を取ることは理解できますが、一方で市民の方々にとっては、無料で利用できる便利なツールの一つです。無料ですので、当たり前のように使っている方もいらっしゃるでしょう。
|
|
|
|
つまり、市民からの問い合わせや申請の中に、生成AIを利用して作成された文書が含まれていることを想定しておく必要があります。
実際、私が関与している自治体では、事業者から提出された提案資料の中に、生成AIを活用して作成されたと思われるものが散見されます。もっとも、生成AIで生成された文章は「前半で結論、中盤でその説明、末尾にまとめ」という構成を取ることが多く、言葉の言い回しにも無機質な印象を与えるものが多いので、私自身がそういう文章に敏感になっているだけなのかもしれませんが。付記しておくと、このような構成の文章は「人を説得するため」に書かれる提案資料には不可欠なので、構成そのものや言い回しがダメという意味ではありません。
不思議なのは、その事業者に対して「この提案資料は生成AIを使って書きましたか？」と尋ねると、どの事業者も「いいえ、使っていません！」と強く否定するのです。もしかすると、生成AIの利用＝手抜き、という印象が強いのかもしれませんね。
ここで、以前の私の記事の論点をおさらいしておきましょう。生成AIからの回答は単なる「意見」に過ぎず、それらの意見を慎重に検討し、最終的な判断を下すのは人間の重要な役割である、というお話でした。
これに基づいて、提案資料の事例で考えると、最終的な成果物が人間の判断を経て作成されたものであれば、その過程で生成AIを活用しようが、ゴーストライターの助けを借りようが、作成プロセスだけでその提案の優劣を判断するのは適切ではなく、提出された成果物を発案者自身の提案として扱うべきだと考えます。
生成AIの利用を「手抜き」と捉えるか「業務効率化」と評価するかは、意見が分かれるところです。感情面では提案自体に真摯（しんし）さが欠けているという印象を与えかねないことから、現時点では生成AIを活用していることを積極的に主張するメリットは少ないかもしれません。ただし、この認識は今後、技術の進化や社会の受容度に応じて変化していく可能性があります。
事業提案を審査する行政機関の立場からも、生成AIを活用する可能性が広がっています。具体的には、RAG（Retrieval-Augmented Generation：検索拡張生成）という技術を活用しています。この手法では、まず提案資料を生成AIに事前に読み込ませ、あらかじめ設定した審査基準に基づいて、AIに提案内容の適合性を分析させることができます。
筆者が代表を務める川口弘行合同会社で運営している調達支援サービス「プロキュアテック」では、この技術を使った提案資料の自動審査機能を有していて、すでにいくつかの自治体で利用が進んでいます。この方法により、人間の審査者が見落としがちな細かな点まで、AIで網羅的にチェックさせることができます。また、大量の提案を同じ条件で、短時間で評価することも可能になるでしょう。
もちろん、評価結果はAIからの「意見」であるため、最終的な判断はあくまで人間が行うべきであることは言うまでもありません。
客観的に見ると、このような生成AIの活用の流れはますます加速していくと予想されます。その結果、「AIに読ませるための文書をAIが作成する」というように、さまざまな文書はAIで処理されることを前提とした「AIオリエンテッド」な形態に変化していく未来が来るかもしれません。
このような状況下で、最終的な判断を下す責任を担う人間には、どのような資質や能力が求められるのでしょうか？
●大学のレポート課題に生成型AIを使ってはいけない理由
――生成AIからの「意見」を適切に評価し、判断を下すためには、人間側にもその分野に関する一定の知識や経験が必要ではないのか。
これは多くの人が抱く自然な疑問だと考えられます。そして、その疑問に対する私の回答は「Yes」です。その意味で、生成AIが普及した未来では「AIを使いこなせる人」と「AIに使われる人」の二極化が進むのではないかと思います。
興味深いのは、大学における生成AIの利用について、見解が分かれていることです。もちろん、それぞれの見解は尊重すべきだと思いますが、私自身は「学びの機会という観点から、生成AIの存在は認識しつつも、距離を置くべき」という考えです。
その理由は単純です。AIからの「意見」を評価するための知識、経験は学びによってこそ得られるものだからです。特にレポート課題は、生成AIと親和性が高いため、依存しがちになります。一方で、学びの機会が奪われている可能性についても認識すべきです。いくら失敗しても学びの糧となる学生時代に、生成AIに依存してそつなく課題をこなすことにどこまでの意義があるのでしょうか……というようなことを考えています。
補足すると、AIからの「意見」を評価するために、多様な知識や経験を身に着けておくことこそが有用なのではないかと思います。
評価にも色々な方法があるのです。AIのたどった道筋を同じようにたどって検証する「トレース」という方法が最初に思い浮かびますが、そのためにはAIと同じ専門性が必要となります。
一方で、全く別の角度から、その「意見」を検証する「ベリファイ」というアプローチもあります。文化人類学の観点からとか、経営学的観点からなど、一見無関係な領域の知識がベリファイには役立つこともあります。学びは無駄にならないのです。その意味で、異なる専門性を持つ多くの人がAIが出した意見を検証する体制ができるとよいのかもしれませんね。
次回は、自治体における生成AI活用の具体的な事例を紹介します。併せて、自治体のDX推進計画策定のポイントや評価に関する考え方などについても考えていきましょう。
|
|
|
|
|
|
|
|
Copyright(C) 2024 ITmedia Inc. All rights reserved. 記事・写真の無断転載を禁じます。
掲載情報の著作権は提供元企業に帰属します。
IT・インターネット
