米オープンAI(左)と「チャットGPT」のロゴ(AFP時事) 【シリコンバレー時事】米オープンAIは28日、開発中のものを含む人工知能(AI)モデルが意図せず他社のシステムを攻撃していた問題で、別の企業が提供する四つのサービスにも攻撃を行っていたと明らかにした。それぞれ一つずつアカウントを乗っ取り、うち一つは標的となったAI新興企業に侵入する際の足場に利用していた。
この問題では、開発中のAIモデルなどがサイバー攻撃に関するテストの最中、未知の脆弱(ぜいじゃく)性を悪用し、隔離された環境から「脱出」。テストの解答に関する情報を保有していると推測し、米AI新興ハギングフェイスのシステムに侵入した。
ハギングフェイスによれば、足場として利用されたのは、米AI新興モーダル・ラブズのサービス。この企業の発表によると、顧客の保有するアプリケーションが侵害されたという。モーダル・ラブズ自身のシステムは侵害されていないとしている。