生成AIのうそ見破る技術開発加速

日立製作所が開発した、生成ＡＩ（人工知能）の文章に「透かし」を入れる技術のデモ画面（同社提供）

　生成ＡＩ（人工知能）による「フェイク（うそ）ニュース」を見破るため、電機大手などが技術開発を急いでいる。ＡＩ自身がつくり出す偽情報「ハルシネーション（幻覚）」も社会問題化。世界的に法規制の流れが強まる中、急速な普及で表面化する課題の解決に力を入れている。

　日立製作所はこのほど、生成ＡＩが作成した文章かどうかを見分ける技術を開発した。複数の類義語の中から、ＡＩの使用が判別できる単語を、お札の偽造防止技術になぞらえた「透かし」として設定。この単語が多用されていれば、ＡＩによる「透かし入り」の文章と見なす仕組み。

　「透かし」を多重に設定することで判別の精度を高める。プログラミング言語を含め、さまざまな言語にも対応可能だ。こうした「電子透かし」技術は、画像や動画でも開発・導入が進んでおり、先端ＡＩイノベーションセンタの永塚光一氏は「各国で法規制が急速に進んでいる。生成元を示す技術の開発は加速しそうだ」と話す。

　富士通が開発したのは、生成ＡＩの回答の根拠を抽出・検証し、矛盾点を提示する技術。例えば、道を渡ろうとする人の画像から、ＡＩが道路交通法違反を見つけ、それが間違っている可能性がある場合、矛盾点を示しながら「ハルシネーションが疑われます」などと指摘する。

　同社はこのほか、ＳＮＳに投稿された文章や画像などからフェイクニュースの検知や社会的影響度を評価する技術も、２０２７年度までに開発する方針だ。

　生成ＡＩを巡っては、フェイクニュースを選挙や被災地で悪用する例が世界中で頻発。このため欧州連合（ＥＵ）では５月、生成ＡＩを包括的に規制する「ＡＩ法」が成立した。日本政府も今月から法規制の議論に着手、早ければ来年の通常国会に関連法案の提出を目指している。　

富士通が開発した、生成ＡＩ（人工知能）が誤った情報を作り出す「ハルシネーション（幻覚）」の有無を判定する技術のデモ＝６月４日、川崎市

生成ＡＩのうそ見破れ＝技術開発が加速、法規制見据え

このニュースに関するつぶやき

ピックアップ

新着のニュース

注目のニュース

IT・インターネット

ランキングIT・インターネット

アクセス数ランキング

話題数ランキング

困ったときには