総務省、生成ＡＩの信頼性評価基盤を構築へ

総務省は、生成ＡＩの信頼性を評価・公表するための基盤システムを整備する方針を固めた。来春にも、総務省所管の 情報通信研究機構（ＮＩＣＴ）において開発に着手し、２０２６年度中に試作モデルを提供する。

この基盤システムでは、まず複数の評価用ＡＩが対象となる生成ＡＩに対して様々な自動生成質問を行い、その回答を検証する仕組みを設ける。人間による定期的な監査も併用し、評価用ＡＩ自身が適正に機能しているかどうかもチェックする。

評価・公表の内容として、総務省は次のような７項目を想定している。〈１〉差別的な表現・プライバシー侵害の有無〈２〉犯罪につながる内容の有無〈３〉誤情報および根拠を欠くものの有無〈４〉バランスの取れた内容か〈５〉日本の文化に忠実な内容か〈６〉人を欺くものではないか〈７〉未知のリスクに対応できるか。

林芳正総務省大臣は、１８日の閣議後記者会見で「来年度中に企業が試行的に利用できるよう環境整備に努める」と述べた。評価基盤にはＮＩＣＴが収集する大量の日本語データや公文書を活用する構想も示しており、「外国製ＡＩへの過度な依存を避けるためにも、日本の文化や歴史などの正しい理解を備えたＡＩの開発力の強化が必要だ」と指摘している。

海外製の生成ＡＩの利用が国内でも広がっている中で、国内基準に基づいた「信頼できるＡＩ」の位置づけを明確にし、行政・企業等で優先的に活用されるよう促すものと位置付けられている。また、将来的には政府系機関として設立が予定されている「AIセーフティ・インスティテュート」の評価制度にもこの基盤システムを活用する可能性がある。。