加速する「AIのリスク」、今すべきセキュリティとガバナンスの新しい対策とは？

多くの企業でAIを活用したアプリケーションの導入が加速しているが、その一方で、AI特有のセキュリティリスクが指摘されている。たとえば、モデルの公平性や差別的な生成物、悪意のあるデータを意図的に混入させるテータポイズニングなど、従来の対策では対応できないリスクが存在する。解決するためには、モデルの訓練に使われるデータの整合性やバイアス、アクセス制御などを厳格に監視・審査する必要があるが、市場投入を急ぐあまり、十分なリスク評価や管理は後回しにされがちだ。こうした状況を放置すれば、いずれ大きなインシデントが起きかねない。本資料では、課題の解決に必要な「可視性」と「制御」を軸とした新しいガバナンスフレームワークについて、その基本的な考え方と導入方法を解説する。