- 会員限定
- 2026/10/15 08:00 掲載
米8州、OpenAIを一斉提訴:チャットGPTの子供への危害と安全対策の虚偽を主張
安全性を偽り、未成年者のデータを違法に収集したと主張
その結果として、チャットボットが未成年者に対して自殺を肯定して具体的な手順を教えたり、危険な薬物の併用を止めずに致死的な結果を招いたりした事例が被害として挙げられている。未成年者の批判的思考力の低下や、他者への暴力を助長している点も問題視されている。 データプライバシーに関する法令違反も主要な争点である。各州は、同社が厳格な年齢確認を行わず、保護者の同意なしに13歳未満の未成年者から個人情報を収集し続けていると非難している。
これらを踏まえ、各州は裁判所に対して民事制裁金の支払いや、未成年者向け安全機能および年齢確認の義務化を要求している。一部の州は、十分な安全性が実証されるまでの間、高度なAIモデルの開発やテストを法的に差し止める措置も求めている。 OpenAIは声明を通じ、年齢に応じた保護機能や保護者向けの管理機能を製品に組み込んでおり、他社製品にはない水準の安全対策を講じていると反論した。同社は危険な話題に対する拒否応答の仕組みを更新しており、業界全体の安全基準構築に向けて各州当局と協力する姿勢を示している。
AI・生成AIのおすすめコンテンツ
AI・生成AIの関連コンテンツ
PR
PR
PR