「誤検知するAI」に頼り切ったエンドポイントセキュリティは危険、解決策はあるのか

ありがとうございます！
いいね！した記事一覧をみる

会員になると、いいね！でマイページに保存できます。

巧妙化する一方のサイバー攻撃に対応する手段として、AI（人工知能）を活用するエンドポイントセキュリティ製品が近年注目を浴びている。その有効性は広く認められてはいるものの、万能ではないことにも注意が必要だ。エンドポイントセキュリティにおけるAIの限界とは何か、そしてその限界を超えるための策を解説しよう。

機械学習は万能ではない

（Photo/Getty Images）

エンドポイントセキュリティをAIだけに頼る危険性

　現在、AIと呼ばれるものは事実上「機械学習モデル」である。そして、情報セキュリティの世界では機械学習は目新しいものではなく、すでに十数年前からセキュリティ製品に実装されてきた。それ以降も多くのサイバー攻撃被害が発生していることを踏まえるだけでも、「AIだから安心」ということはあり得ないのがわかるだろう。

　とはいえ、「十数年もあればAIも進化し、万能に近くなっているのでは？」という意見もあるかもしれない。だが、情報セキュリティは“悪意との戦い”であることを思い出してほしい。サイバー犯罪者はAIの裏をかこうと日夜積極的に“努力”しているのだ。

　情報セキュリティ、特にエンドポイントセキュリティをAIだけに頼るのは危険である。実際に、2019年にはAI型マルウェア対策製品で大量のすり抜け被害が発生した。これを受けて多くのアナリストがAIのみに依存することの危険性を指摘している。

　機械学習には弱点があり、人間が見ればまったく関係のない複数の事象に何らかの関連性があるように錯覚してしまうことがある。また、人間にはわからない細かい不正な信号を挿入して、悪意のある行動を正常だと認識させることもできる。こうした機械学習の弱点を突いて、AIエンジン混乱させる手口をデータポイズニングという。

　たとえば、あるコンピューターウイルス研究所のAIが1日100万件のファイルを処理しているとする。この中にはクリーンファイルも有害ファイルもある。そこにサイバー犯罪者がクリーンファイルに似た悪意あるファイルを送り続けると、クリーンファイルと有害ファイルの境界線が徐々に曖昧になる。するとこの機会学習モデルの品質が低下して、最終的には誤検知を起こし始める恐れがあるのだ。こうした攻撃に、どうやったら対抗できるのだろうか。

この記事の続き >>
・機械学習によるマルウェア対策の仕組み
・機械学習だけに頼らず、エンドポイントセキュリティを確保するには？
・実はシンプル、多層防御でサイバー攻撃に対抗できる