ＡＩを常に人間の制御下に＝開発で指針案公開―米マイクロソフト

　【シリコンバレー時事】米マイクロソフトは１４日、同社が人工知能（ＡＩ）モデルを開発するに当たって順守する行動指針の原案を公開した。安全性確保のため、能力を多少犠牲にしてもＡＩを常に人間の制御下に置くことを柱とし、ＡＩに許されない行動を規定した。

　広く意見公募を行った上で、２０２７年から開発現場での適用を開始する。原案では、ＡＩが人々の生活を支援するよう「人間が制御権を保持し続けなければならない」との考えを原則に置く。あらゆる場面でＡＩモデルは人間の監督を回避したり、停止命令に抵抗したりしてはならないと明確化。暴走対策のため、ＡＩが独自に目標を設定してはならないと定めた。