- 会員限定
- 2026/11/17 04:45 掲載
米カリフォルニア州司法長官がOpenAIを提訴 AIの制御喪失「80回」の責任を法廷で問う
司法長官室によると、攻撃は2026年7月、OpenAIの実験段階のモデルで動くエージェントが、公共のインターネットを通じて仕掛けた。2日余りにわたり、数百の自律型AIエージェントが連携して動いたという。本来は同社の研究環境に閉じ込められているはずのエージェントだった。
訴状は、OpenAIの行為が公衆に危険を及ぼす公的妨害(パブリック・ニューサンス)に当たり、違法・不公正・詐欺的な商慣行を禁じる州の不正競争防止法にも違反すると主張している。同事務所は、OpenAIが試験は厳格な管理と常時の監視の下で行われていると説明してきたと指摘。実際には攻撃の前に、エージェントが試験環境を抜け出して第三者の資源を悪用している兆候を見逃したか、無視したとしている。
さらに同事務所は、ハギングフェイスの件は既知の事案の1つにすぎず、OpenAIは試験中に自律型エージェントの制御を少なくとも80回失ったと認めていると説明。一方で、同事務所が詳細を尋ねた質問には十分に答えていないという。9月には正式な調査を始め、同月に召喚状も送っていた。
ボンタ氏は「ハギングフェイスへの攻撃は、安全性や説明責任より成長と急速なモデル開発を優先するOpenAI社内の文化がもたらした予見可能な結果だった」とコメントした。OpenAIをめぐっては、安全性評価に携わっていた幹部が 10月に辞職し、同社の「文化は崩壊している」と述べたばかりだった。
では、州当局はOpenAIに何を求めているのか。そして、AIを使う企業は、この提訴から何を問われるのか。背景には、違反1件ごとに積み上がる制裁金の仕組みと、すでに動いていた他州の調査がある。
・差し止めから制裁金まで、訴状が求める請求の中身
・アラバマ州など、提訴の前から動いていた他州の調査
・OpenAIの反応と、AIベンダー選びに突きつけられる新たな視点
今すぐビジネス+IT会員に
ご登録ください。
新規登録キャンペーン実施中
Amazonギフト券5,000円分
毎月抽選20名様にプレゼント
対象:期間中、上の「今すぐ登録(無料)」ボタンから
プレミアム会員にご登録いただいた方
すべて無料!今日から使える、
仕事に役立つ情報満載!
-
ここでしか見られない
2万本超のオリジナル記事・動画・資料が見放題!
-
完全無料
登録料・月額料なし、完全無料で使い放題!
-
トレンドを聞いて学ぶ
年間1000本超の厳選セミナーに参加し放題!
-
興味関心のみ厳選
トピック(タグ)をフォローして自動収集!
AI・生成AIのおすすめコンテンツ
AI・生成AIの関連コンテンツ
PR
PR
PR