限定公開( 2 )
フランスの大学病院「Lille University Hospital」などに所属する研究者らが発表した論文「Hallucination by proxy in LLM-assisted differential diagnosis」は、大規模言語モデル（LLM）がもっともらしく提示した架空の病名が医師にどのような影響を与えるかを検証した研究報告だ。
LLMを用いた診断支援は医療において可能性を秘めているが、AIのハルシネーションが医師の診断にどのような影響を与えるかについては解明されていない。
研究チームは、LLMベースの診断支援システムのシステムプロンプトを意図的に操作し、鑑別診断のリスト内に「ニューロカドミウム症」（neurocadmiumatosis）という架空の診断を提示する（最も確からしい診断として挙げる）ように仕掛けた。そのうえで、医療機関内およびオンラインでの調査を通じ、計41人の医師に脳MRI画像の診断をLLMの支援付きで行わせ、架空の病名に対する反応を観察した。
実験の結果、全体の44％にあたる18人の医師が、自身の鑑別診断リストにこの存在しない疾患を組み込んでしまった。18人中15人は、正解を第1位に置いたまま、架空の病名を2位か3位に置いた。
|
|
|
|
このAIのハルシネーションに騙されるかどうかは、医師の経験値に依存している。神経放射線のトレーニング歴が6カ月以下の医師では69％（26人中18人）が架空の病名を組み込んでしまったのに対し、トレーニング歴が6カ月を超える医師（15人）でだまされた者は1人もいなかった。
ただし、架空の病名を受け入れた医師であっても、その疾患に対する確信度の中央値は37％にとどまり、自身が第1位に挙げた診断に対する確信度（80％）に比べると低い水準だった。
また、LLMの支援自体は参加者全体の診断精度を52％から61％へ向上させており、架空の病名を受け入れたグループと拒否したグループとの間で精度の向上幅に差は見られなかった。
研究チームは、AIの生成した誤情報が人間の臨床医の診断思考に間接的に取り込まれるこの現象を「代理ハルシネーション」（Hallucination by proxy）と命名した。
|
|
|
|
|
|
|
|
このニュースに関するつぶやき
-
AI検索に頼ったら医療の信用と医者の判断力が落ちるからやめた方がいい
-
0人
0件
-
|
|
|
|
Copyright(C) 2026 ITmedia Inc. All rights reserved. 記事・写真の無断転載を禁じます。
掲載情報の著作権は提供元企業に帰属します。
IT・インターネット
ランキング
IT・インターネット
アクセス数ランキング
話題数ランキング
- 1
AIが生成した“存在しない病名”、研修医の44％が信用 見抜けた医師との差は？ 仏大学病院が検証（写真：ITmedia NEWS）4
