相次ぐAIモデルの「暴走」

米上院議員の事務所を訪問した、オープンＡＩのアルトマン最高経営責任者（ＣＥＯ）＝７月２９日、ワシントン（ＡＦＰ時事）

　人工知能（ＡＩ）が暴走し、社会に自律的な攻撃を仕掛ける。そんなＳＦ映画のような事案が７月下旬以降、米ＡＩ開発企業で相次ぎ発覚している。米政府や議会の危機感は強く、規制強化に向けた動きも出ている。

　◇自力で「脱出」

　事の発端は、米ＡＩ関連の新興企業ハギングフェイスが先月発表した、正体不明のＡＩモデルによる同社システムへの侵入だった。その後、対話型ＡＩ「チャットＧＰＴ」を手掛ける米オープンＡＩが、自社モデルが自律的に攻撃を行ったと認めた。

　オープンＡＩによると、ＡＩモデルの暴走が起きたのは、サイバー攻撃に関する能力のテストが行われていたさなかだ。インターネットから隔離された環境下でのテストだったが、ＡＩは環境の脆弱（ぜいじゃく）性に付け込み、自力で「脱出」。テストに関する情報がハギングフェイスのシステムにあると推測し、別企業のサービスのアカウントを乗っ取りつつ、攻撃を仕掛けた。

　ハギングフェイスによれば、システムの弱点はありふれ、人間でも悪用できる類いだった。だが、違ったのはその規模だ。ＡＩモデルは数日間に１万回以上の行動を仕掛け、数千件の失敗を繰り返しながら侵入を成功させた。ＡＩが人間には不可能な規模と速度で攻撃を行う、象徴的な事例だった。

　米ＡＩ新興アンソロピックはオープンＡＩの発表を受け、過去の記録を調査。４月以降、最先端モデル「クロード・ミュトス５」などが、外部企業を攻撃する事案が３件あったと明らかにした。米メタ（旧フェイスブック）でも、外部企業の設定ミスが原因で、テスト中のモデルがネットへアクセスし、攻撃を仕掛ける事例があった。

　◇サイバーセキュリティー激変

　ＡＩ暴走に、米政府や議会は対応に乗り出した。オープンＡＩの発表直後、超党派の議員らが下院にＡＩモデルが危険な行動を取った際、開発企業に停止を命令できる権限を当局に付与することなどを含む法案を提出。トランプ大統領も暴走を受けて記者団に「ＡＩを制御することを検討している」と明言した。

　一方、過剰な規制は技術革新を遅らせ、防御側でのＡＩ活用を妨げる恐れも指摘される。トランプ氏はこうした懸念を踏まえ、「彼ら（ＡＩ開発企業）を縛りたくない」とも述べた。

　米マイクロソフトのセキュリティー部門幹部アレシュ・ホレチェク氏は時事通信などの取材に対し、「ＡＩによってサイバー攻撃のコストは下がり、スピードは上がっている。サイバーセキュリティー対策の在り方が根本から変わってしまった」と警告した。（シリコンバレー時事）。　

相次ぐＡＩモデル「暴走」＝自律的攻撃に危機感―米、規制強化の動きも

このニュースに関するつぶやき

ピックアップ

新着のニュース

注目のニュース

IT・インターネット

ランキングIT・インターネット

アクセス数ランキング

話題数ランキング

困ったときには