EU、AIチャットボットやディープフェイクに透明性義務…AI規制法の新規則を適用

　新規則では、チャットボットなど人と直接対話するAIシステムについて、利用者がAIと対話していることを認識できるように明示しなければならない。ただし、利用状況や文脈からAIとの対話であることが明らかな場合などは例外となる。

　生成AIシステムの提供者には、AIで生成・加工した音声、画像、動画、テキストに、機械で検出できる識別情報を付与することが求められる。また、実在する人物や出来事などを本物のように見せるディープフェイクを業務で公開する場合は、AIで生成・加工したコンテンツであることを受け手に明示する必要がある。

　規則はEU域外の企業も対象となり、EU市場にAIシステムを提供する場合や、AIシステムの出力がEU域内で利用される場合などに適用される。

　このほか、欧州委員会のAI Officeは、汎用AIモデルの提供者について規則順守を監督し、システミックリスクを伴うモデルには追加的なリスク管理を求める。

　チャットボットやディープフェイクなどに関する透明性義務に違反した企業には、最大1,500万ユーロ、または前会計年度の全世界売上高の3％のいずれか高い額の制裁金が科される可能性がある。

　企業には、生成物の表示方法やAIの利用状況を把握し、取引先を含めて誰がどの義務を負うのかを確認する対応が求められる。