たまに役立つセキュリティ豆知識 第111回

ディープフェイクや詐欺メール判別をお任せ

AIを頭良くする「ディープラーニング」技術はセキュリティ分野でも大活躍

進展著しいAI技術の根幹です

人の脳をまねた学習の仕組み

Ｑ：「ディープラーニング」ってなに？

Ａ：多層構造のニューラルネットワークを使い、AIが大量データから特徴を自動学習する技術のこと。

^{おすすめの関連記事
Chatworkで社長から緊急連絡!? それはなりすましで企業から金銭を騙し取る「ニセ社長詐欺」ですよ！}

　脳の神経細胞の仕組みを利用した「ニューラルネットワーク」を用いる機械学習の手法の1つ。「深層学習」とも。

　多層構造の人工ニューラルネットワークを使って、大量のデータから特徴を自動で学習する技術。人間が細かくルールを設定しなくても、AI自身がデータの傾向を分析し、パターンを見つけ出す点が大きな特徴であり、画像認識や音声認識、自動翻訳といった分野で活躍する。

　また、ディープラーニングはセキュリティ分野でも活躍している。

　たとえばフィッシングメール検知の分野では、単語や送信元だけでなく、文章の構成やクセ、過去の詐欺事例との類似性などを総合的に判断して不審なメールを高精度で見抜く。そしてネットワーク監視では通常と異なる挙動を学習し、未知のマルウェアや不正アクセスを発見できるようになる。

　一方で、ディープラーニングを活用したAIが必ずしも万能ではないことにも注意したい。

　学習データに偏りがあると誤検知が増えるほか、AIの判断理由が人間にはわかりにくいという「ブラックボックス問題」も存在する。さらに、AIの検知を回避するよう設計された攻撃手法も登場しつつあり、過信は禁物。セキュリティ対策でAIに頼る場合は、人間の監視や的確な運用ルールと組み合わせることが必要だ。