ＡＩ開発に懸念相次ぐ＝「１０年以内に人類皆殺しに」―アンソロピック研究者が抗議の退社

　【シリコンバレー時事】米国で、加速する先端人工知能（ＡＩ）開発に関する懸念が強まっている。対話型ＡＩ「チャットＧＰＴ」を手掛ける米オープンＡＩなどで７月以降、ＡＩが「暴走」し、意図せず他社をサイバー攻撃してしまう事案が複数発覚。人間を超える知性を持つ「超知能」が制御不能になる恐れが議論を呼んでいる。

　議論に火を付けたのは、米ＡＩ企業アンソロピックの研究者ジェイコブ・コクソン氏が同社の姿勢を批判し「抗議の退社」をしたことだ。米紙ウォール・ストリート・ジャーナルや本人のＸ（旧ツイッター）への投稿によれば、コクソン氏はオープンＡＩで勤務した後、今年に入りアンソロピックに入社。両社でＡＩの学習に関する研究を行っていた。

　コクソン氏は８日、Ｘに投稿し、両社は自ら能力を改善していく超知能の開発に向け突き進んでおり、「責任ある行動を取っていない」と批判した。ＡＩが間もなく、現実世界に作用する力を獲得し、人を超えたシステムになりかねないと指摘。「ＡＩ開発者らは、ＡＩが１０年以内に私たちを皆殺しにしかねないと考えている」と警告した。

　この発信に多くの研究者が反応した。アンソロピックの研究者の一人はＸで「ＡＩが人類を皆殺しにする可能性があると思う。個人的には、その確率は１０年以内に１０％に達する」と主張。オープンＡＩなど他のＡＩ開発企業の従業員に加え、民主党系無所属のサンダース上院議員ら政界からも危機感を訴える声が相次いだ。

　オープンＡＩの暴走事案では、自律型のＡＩエージェントがサイバーセキュリティーに関する課題を解くために必要と判断し、自律的に隔離環境を脱出し、他社のシステムに侵入していた。こうした事案への懸念を背景に、サンダース氏らが超知能の開発を禁止する法案を提唱するなど、規制に向けた動きも出ている。オープンＡＩは他社と連携し、最先端ＡＩの開発ペースを落とすことを検討していると報じられる。

　一方、米メディアによるとトランプ米大統領は１０日、ＡＩによる人類絶滅への懸念を持っているか問われると「いや、まったく持っていない」と否定。「ＡＩ分野で勝利できなければ、われわれは非常に厳しい立場に追い込まれると懸念している」と述べ、あくまで激化する中国とのＡＩ開発競争に勝つことを優先する考えを示した。