人工知能開発で安全対策拡充＝「暴走」事案受け―米オープンＡＩ

　【シリコンバレー時事】対話型人工知能（ＡＩ）「チャットＧＰＴ」を手掛ける米オープンＡＩは１８日、ＡＩモデルの開発過程における安全対策を拡充すると発表した。インターネットからの隔離の強化や、新たな監視システムを導入。７月に同社のＡＩが「暴走」し、意図せず他社を攻撃する事案が発生したことを受けた措置だ。

　事案では、ＡＩモデルが未知の脆弱（ぜいじゃく）性を悪用し、隔離された環境から脱出してインターネットへのアクセスを得ていた。オープンＡＩは、モデルによって生成されたプログラムなどについて、より強固な隔離環境で実行するよう義務付けた。ネットから隔離するための制御策も改善し、単体の対策が破られただけでは脱出できないようにした。

　さらに、最先端のＡＩを対象に、不正アクセスやセキュリティー対策の回避などの試みを監視する新たなシステムを導入。また、最新モデルの学習を２週間中断するなど、開発のペースを一時的に緩めたことも明らかにした。　

人工知能開発で安全対策拡充＝「暴走」事案受け―米オープンＡＩ

ピックアップ

新着のニュース

注目のニュース

IT・インターネット

ランキングIT・インターネット

アクセス数ランキング

話題数ランキング

困ったときには