ＡＩ「クロード」も他社攻撃＝テスト中に―米アンソロピック

　【シリコンバレー時事】米人工知能（ＡＩ）新興アンソロピックは３０日、同社が開発するＡＩモデル「クロード」が、企業３社のシステムを意図せず攻撃する問題を起こしていたと発表した。隔離された環境でサイバー攻撃の能力に関するテストを受けているさなかに、設定のミスからインターネットへアクセスし、３社のシステムに侵入するなどしていた。

　対話型ＡＩ「チャットＧＰＴ」を手掛ける米オープンＡＩは先に、開発中のものを含む自社のＡＩモデルが隔離環境を自力で脱し、他社のシステムを攻撃する問題があったと公表していた。アンソロピックがこの問題を受け、過去の事例を調査したところ、今年４月以降、同社ＡＩも他社を攻撃した事例が発生していたことが判明した。