「誤検知するAI」に頼り切ったエンドポイントセキュリティは危険、解決策はあるのか

エンドポイントセキュリティをAIだけに頼る危険性
現在、AIと呼ばれるものは事実上「機械学習モデル」である。そして、情報セキュリティの世界では機械学習は目新しいものではなく、すでに十数年前からセキュリティ製品に実装されてきた。それ以降も多くのサイバー攻撃被害が発生していることを踏まえるだけでも、「AIだから安心」ということはあり得ないのがわかるだろう。とはいえ、「十数年もあればAIも進化し、万能に近くなっているのでは?」という意見もあるかもしれない。だが、情報セキュリティは“悪意との戦い”であることを思い出してほしい。サイバー犯罪者はAIの裏をかこうと日夜積極的に“努力”しているのだ。
情報セキュリティ、特にエンドポイントセキュリティをAIだけに頼るのは危険である。実際に、2019年にはAI型マルウェア対策製品で大量のすり抜け被害が発生した。これを受けて多くのアナリストがAIのみに依存することの危険性を指摘している。
機械学習には弱点があり、人間が見ればまったく関係のない複数の事象に何らかの関連性があるように錯覚してしまうことがある。また、人間にはわからない細かい不正な信号を挿入して、悪意のある行動を正常だと認識させることもできる。こうした機械学習の弱点を突いて、AIエンジン混乱させる手口をデータポイズニングという。
たとえば、あるコンピューターウイルス研究所のAIが1日100万件のファイルを処理しているとする。この中にはクリーンファイルも有害ファイルもある。そこにサイバー犯罪者がクリーンファイルに似た悪意あるファイルを送り続けると、クリーンファイルと有害ファイルの境界線が徐々に曖昧になる。するとこの機会学習モデルの品質が低下して、最終的には誤検知を起こし始める恐れがあるのだ。こうした攻撃に、どうやったら対抗できるのだろうか。
・機械学習によるマルウェア対策の仕組み ・機械学習だけに頼らず、エンドポイントセキュリティを確保するには? ・実はシンプル、多層防御でサイバー攻撃に対抗できる
今すぐビジネス+IT会員にご登録ください。
すべて無料!ビジネスやITに役立つメリット満載!
-
ここでしか見られない
1万本超のオリジナル記事が無料で閲覧可能
-
多角的にニュース理解
各界の専門家がコメンテーターとして活躍中!
-
スグ役立つ会員特典
資料、デモ動画などを無料で閲覧可能!セミナーにご招待
-
レコメンド機能
あなたに合わせた記事表示!メールマガジンで新着通知
関連タグ