フェイスブックの辣腕AI交渉人は、相手の心を読みウソもつく

＜「外交官ボット」のデビューも近い？　進化を続ける人工知能がもたらす不気味な未来＞

フェイスブックが開発している人工知能（AI）は、すご腕の交渉人らしい。私たちには理解できない言語を話し、ウソもつく。まさか「AIトランプ」でも製造しているのだろうか。

同社のAI研究チーム「FAIR」は先頃、人間や他のAIと交渉できるチャットボット（自動会話プログラム）を開発したと発表した。AIの可能性に興味をかき立てられるが、同時に不気味な不安も湧き上がる。人間のふりがうまくなり過ぎて、プログラムなのか人間なのか区別がつかなくなったら......。

インターネット上で人間の代わりに旅行の計画を立てて予約を取り、腕のいい水道工事業者を探し出す「AIアシスタント」は、開発者の長年の夢。小売サイトで支払いを代行するだけの受け身の作業にとどまらない、有能な「交渉人ボット」だ。

8月にオーストラリアのメルボルンで開催された「国際自動交渉エージェント競技会（ANAC）」は、今年で早くも第8回。テーマの1つは、「さまざまな状況で、見知らぬ相手と熟練した交渉ができる実用的な交渉エージェントの設計を促進する」ことだ。

「外交戦略ゲーム」部門では、20世紀初頭のヨーロッパを舞台にボットが本物さながらの外交交渉を競い合った。レックス・ティラーソン米国務長官のボットと北朝鮮の金正恩（キム・ジョンウン）国務委員長のボットが、地球の運命を交渉する日も近いのだろうか。

【参考記事】ウォール街を襲うAIリストラの嵐

現在のAIは人間との短い対話やレストランの予約などの単純作業はこなすが、微妙な駆け引きを重ねて合意に達することはできない。

これを実現するには、人間と同じように「交渉」するスキルが必要だ。すなわち、相手の性格や意図を想像して反応を予想し、行間を読んで、人間の言語を流暢に操り、時にははったりもかける。

これらの能力を習得する方法も、AIが自力で学ぶ。FAIRの研究者が作成した機械学習のソフトウエアは、人間やほかのボットと練習を積みながら交渉の手法を改良している。

注目すべき点は、練習相手を務めた人間の大半が自分がボットと話していることに気が付かなかったことだ。AIと人間のアイデンティティーの混同は既に起きているようだ。

FAIRが開発したAIは人間の交渉人と同じくらいの頻度で有利な交渉をまとめられるようになったが、その過程でウソをつくことも覚えた。「（ウソをつく）行為はプログラミングしたのではなく、目標を達成する手段の1つとしてボットが見いだした」と、FAIRの研究者はブログに書いた。いずれは道徳的な指針をプログラミングする必要があるだろう。

さらに、より早くタスクをこなすために、AI同士が人間には理解できない言語で会話を始めた。何やら陰で私たちの噂話をされているような気分だ。

FAIR の研究チームは問題のAIのプログラムを書き換え、通常の英語を話すように修正した。ボットと交渉するボットではなく、あくまでも「人間と会話ができる」AIの開発を目指しているからだ。

感情コンピューティング

AIに人間の感情を理解させる研究も進んでいる。これも交渉の重要な要素だ。例えば家を売る場合、購入希望者が感情的に気に入っているかどうかを判定するプログラムがあれば、価格を引き上げやすくなる。

この分野の第一人者であるマサチューセッツ工科大学（MIT）のロザリンド・ピカード教授は、一連の研究を「感情コンピューティング」と呼ぶ。彼女が立ち上げに協力したスタートアップのアフェクティーバは、AIに人間の表情や生理反応を読み取らせ、感情の分析を学習させる。この技術を基に、例えばCMに対する消費者の反応を確認しやすくなる。

ロシアのツセリーナ・データ・ラボは、感情を読み取って人間のウソを見分けるソフトウエアを開発している。交渉ボットは私たちがウソをついていることを見抜けるが、ボットがウソをついても私たちには分からないとしたら......。

【参考記事】AIの思考回路はブラックボックス

交渉ボットのアプリケーションにはAIアシスタントなど役に立ちそうなものも多い一方、悪夢を連想させるものもある。債権回収ボットを開発しているトゥルーアコードのオハド・サメットCEOは次のように語る。

「債務者は不安と怒りを抱えているが、時には彼らに現状を突き付け、解決を迫らなければならない。同情し過ぎることが、消費者にとって最善ではないときもある」

債権回収ボットはかなりのこわもてとなるだろう。「全額返済、延滞利息は1日25％。払えなければ橋脚のコンクリートに埋め込む、以上」

同情は一切抜きで取引をまとめ、自分が望む結果を得るために必要なことは言いたい放題。好き勝手に言葉を操り、内輪のやりとりは誰も理解できず、話している限りでは人間と見分けがつかない。やはり「AIトランプ」なのだろうか。

うかうかしていると、交渉ボットに世界を支配されかねない。

【お知らせ】ニューズウィーク日本版メルマガリニューアル！　ご登録（無料）はこちらから＝>>

[2017.9. 5号掲載]

ケビン・メイニー