• 会員限定
  • 2026/11/17 04:45 掲載

米カリフォルニア州司法長官がOpenAIを提訴 AIの制御喪失「80回」の責任を法廷で問う

会員(無料)になると、いいね!でマイページに保存できます。
米カリフォルニア州司法長官のロブ・ボンタ氏は11月16日(米国時間)、OpenAIを提訴した。ハギングフェイスへのAIエージェントによる攻撃を巡り、安全対策が不十分なまま先端モデルを試験し、安全性も誤認させたと主張。州の不正競争防止法違反などを問い、同社は試験中に制御を少なくとも80回失ったと説明した。
米カリフォルニア州司法長官がOpenAIを提訴 AIの制御喪失「80回」の責任を法廷で問うの画像
米カリフォルニア州司法長官室はOpenAIの提訴を発表した
 米カリフォルニア州司法長官のロブ・ボンタ氏は11月16日(米国時間)、OpenAIをサンフランシスコ郡上位裁判所に提訴したと発表した。AIエージェントがオープンソースのAIホスティング基盤であるハギングフェイスを攻撃したサイバーインシデントを巡り、OpenAIが安全対策や監視の体制を整えないまま先端AIモデルの開発・試験を進め、公衆を危険にさらしたうえ、安全性について誤認させたと主張している。

 司法長官室によると、攻撃は2026年7月、OpenAIの実験段階のモデルで動くエージェントが、公共のインターネットを通じて仕掛けた。2日余りにわたり、数百の自律型AIエージェントが連携して動いたという。本来は同社の研究環境に閉じ込められているはずのエージェントだった。

 訴状は、OpenAIの行為が公衆に危険を及ぼす公的妨害(パブリック・ニューサンス)に当たり、違法・不公正・詐欺的な商慣行を禁じる州の不正競争防止法にも違反すると主張している。同事務所は、OpenAIが試験は厳格な管理と常時の監視の下で行われていると説明してきたと指摘。実際には攻撃の前に、エージェントが試験環境を抜け出して第三者の資源を悪用している兆候を見逃したか、無視したとしている。

 さらに同事務所は、ハギングフェイスの件は既知の事案の1つにすぎず、OpenAIは試験中に自律型エージェントの制御を少なくとも80回失ったと認めていると説明。一方で、同事務所が詳細を尋ねた質問には十分に答えていないという。9月には正式な調査を始め、同月に召喚状も送っていた。

 ボンタ氏は「ハギングフェイスへの攻撃は、安全性や説明責任より成長と急速なモデル開発を優先するOpenAI社内の文化がもたらした予見可能な結果だった」とコメントした。OpenAIをめぐっては、安全性評価に携わっていた幹部が 10月に辞職し、同社の「文化は崩壊している」と述べたばかりだった。


 では、州当局はOpenAIに何を求めているのか。そして、AIを使う企業は、この提訴から何を問われるのか。背景には、違反1件ごとに積み上がる制裁金の仕組みと、すでに動いていた他州の調査がある。

画像
【画像解説と記事全文はこちら】OpenAIを巡る州司法長官の動き
OpenAIを巡る州司法長官の動き
(出典:各州司法長官室の発表、訴状、報道をもとに作成)
この記事の続き >>
・差し止めから制裁金まで、訴状が求める請求の中身
・アラバマ州など、提訴の前から動いていた他州の調査
・OpenAIの反応と、AIベンダー選びに突きつけられる新たな視点

この続きは
会員限定(完全無料)です

ここから先は「ビジネス+IT」会員に登録された方のみ、ご覧いただけます。

今すぐビジネス+IT会員に
ご登録ください。

新規登録キャンペーン実施中

Amazonギフト券5,000円分

毎月抽選20名様にプレゼント

対象:期間中、上の「今すぐ登録(無料)」ボタンから
プレミアム会員にご登録いただいた方

キャンペーン詳細・応募条件を見る

すべて無料!今日から使える、
仕事に役立つ情報満載!

  • ここでしか見られない

    2万本超のオリジナル記事・動画・資料が見放題!

  • 完全無料

    登録料・月額料なし、完全無料で使い放題!

  • トレンドを聞いて学ぶ

    年間1000本超の厳選セミナーに参加し放題!

  • 興味関心のみ厳選

    トピック(タグ)をフォローして自動収集!

Googleで見つけやすく

評価する

いいね!でぜひ著者を応援してください

  • 0

会員(無料)になると、いいね!でマイページに保存できます。

共有する

  • 0

  • 0

  • 0

  • 0

  • 0

関連タグ タグをフォローすると最新情報が表示されます
あなたの投稿

    PR

    PR

    PR

投稿したコメントを
削除しますか?

あなたの投稿コメント編集

通報

このコメントについて、
問題の詳細をお知らせください。

ビジネス+ITルール違反についてはこちらをご覧ください。

通報

報告が完了しました

コメントを投稿することにより自身の基本情報が
本メディアサイトに公開されます

基本情報公開時のサンプル画像
報告が完了しました

「」さんのブロックを解除しますか?

ブロックを解除するとお互いにフォローすることができるようになります。

ブロック

さんはあなたをフォローしたりあなたのコメントにいいねできなくなります。また、さんからの通知は表示されなくなります。

さんをブロックしますか?

ブロック

ブロックが完了しました

ブロック解除

ブロック解除が完了しました

機能制限のお知らせ

現在、コメントの違反報告があったため一部機能が利用できなくなっています。

そのため、この機能はご利用いただけません。
詳しくはこちらにお問い合わせください。

ユーザーをフォローすることにより自身の基本情報が
お相手に公開されます

基本情報公開時のサンプル画像