米カリフォルニア州知事がAI規制検討 「キルスイッチ」導入義務化も

AIの急速な進歩に懸念が高まる中、アメリカ西部カリフォルニア州の知事は、AI企業の規制に向けた行政命令を発令しました。

カリフォルニア州のギャビン・ニューサム知事は18日、AIの規制に向けて専門家のグループを集め、2か月以内に意見を取りまとめるよう求める行政命令を出しました。

検討する規制の内容については、AI企業が独立した第三者から安全性の評価を受けることや、AIが暴走した際にシステムを強制停止する「キルスイッチ」の導入を企業側に義務付けることなどが含まれています。

ニューサム知事は「アメリカ政府が国民を守る責任を放棄する中、カリフォルニア州は全米で最も厳格なAI規制の枠組みを構築している」とコメントしています。

AIをめぐっては、開発企業のトップが相次いで人間が制御できなくなるおそれがあるとして「開発ペースを遅らせるべき」などと懸念を表明していて、規制を求める声が高まっていました。