米メタ、10代の自殺・自傷リスクを示す「Meta AI」の会話を保護者に通知

　この機能は、Instagramの監督機能を利用する保護者が対象となる。メタは専門家と協力して自傷を示唆する婉曲的な表現を含む兆候を検知するAIシステムを開発した。


　AIが危険性を検知すると手動レビューが行われ、意図が曖昧な場合でも安全を優先して保護者に通知する。プライバシー保護の観点からメタは10代のプライバシーに配慮するとしているが、公式発表では保護者への通知に会話内容がどの程度含まれるかを詳しく説明していない。 　

　保護者には専門的支援リソースが案内される。また、保護者がより厳格な「Limited Content」設定を有効にすると、Meta AIが対応できる会話の範囲が通常設定より制限される。メタは将来的に、会話から自殺の差し迫った危険が示唆された場合、緊急サービスへ連絡する機能も導入する方針だ。

　メタは2026年3月、児童搾取対策や安全性に関する説明を争点としたニューメキシコ州の裁判と、依存を促すとされたプラットフォーム設計を争点としたカリフォルニア州の裁判で、相次いで責任を認定された。メタはいずれの判断も争う姿勢を示しているが、相次ぐ訴訟や規制当局の監視により、未成年者向け安全対策への法的・社会的圧力が強まっている。