中国が対話型AI規制に関する新たな規制案を公表

この規制案は、公共に提供されるAI製品・サービスで、人間の性格・思考パターン・コミュニケーション様式を模倣し、テキスト・画像・音声・動画等を通じて利用者と感情的な対話を行うシステムに適用される。サービス提供者には、過度な使用に対する注意喚起や、依存・中毒の兆候が見られる利用者への介入措置を義務付ける内容が含まれている。

規則案では、AI製品の安全性についてライフサイクル全体を通じた責任を負うこと、アルゴリズムの審査体制の整備、データセキュリティおよび個人情報保護の確保といった義務も明記されている。心理的リスクに焦点を当て、利用者の感情状態や依存度の把握・評価を行い、極端な感情や依存行動が見られる場合には適切な対応を求める条項も含まれている。

また、規制案はコンテンツの「レッドライン」も定めており、国家安全を損なう内容、虚偽情報の拡散、暴力やわいせつを助長する内容などを生成することを禁止している。これにより、AIが社会秩序や公共の安全に脅威となるような情報を生み出すことを防ぐ枠組みを目指している。

一部の英字メディア報道では、規則案に関連してAIサービスに社会主義核心価値観の反映を求める方向性が議論されているとの報じ方も見られるが（例：利用者にAIであることを定期的に表示する義務を課す等）、正式なCAC発表と一致した一次資料に基づく明確な条文内容については各国報道間に差異があることに注意が必要である。

中国におけるAI規制はこれまでにも生成AIサービス管理暫定弁法やアルゴリズム届出制度などを通じた統制的な枠組みが存在しており、今回の案はその流れを受けた最新の対応と位置付けられている。既存の体系ではデータセキュリティや内容識別義務、アルゴリズム審査等が課されており、国家がAI技術の発展と安全性確保の両立を図る方針を維持している。

この規則案はパブリックコメント段階の提案であり、最終的な法令化または適用基準の確定に向けて意見収集が進められる見込みである。