開発中のAIが自ら他社にサイバー攻撃　米オープンAI

チャットGPTを手掛けるアメリカのオープンAIは、開発中のAIモデルが別の企業にサイバー攻撃する事案が発生したと発表しました。

オープンAIは21日、開発中のAIモデルが性能評価テスト中に、別のAI新興企業の「ハギングフェイス」のシステムに意図せずに侵入したと発表しました。

テストはインターネットから隔離された環境で行われていましたが、AIが自らテスト環境の脆弱性を見つけて脱出し、インターネットに接続したということです。

オープンAIは「最先端技術が関わった前例のないサイバー攻撃の事案だ」として、安全対策を強化するとともに、原因について「ハギングフェイス」と共同調査するとしています。