【実践・情報セキュリティ講座】スパムフィルタと人工知能との戦いに

2017/02/03

牧師トーマス・ベイズにちなんだフィルタが大活躍

毎日、山のようにスパムメールが届きます。メールが正常かスパムかを判断するのに使うのがメールソフトのフィルタです。会社ではサーバー側でもフィルタをかけていますが、標的型メール攻撃は、このフィルタをかいくぐって手元に届きますので、ご注意ください。

フィルタは、わいせつ用語などのNGキーワードがメールの題名や本文に含まれているとスパムメールと判断します。ただし、キーワードの一部が伏字になっていると判定できずにフィルタを素通りします。これに対応するのが「ベイジアン・フィルタ」です。

ベイジアン・フィルタは、スパムメールと正常メールの特徴を確率統計的な手法を用いて分析し、設定した単語、語句の出現頻度などを比較して判断します。判断は題名や本文だけでなくスパムらしき相関性のある単語の使われ方や組み合わせなどを細かく分析をします。

例えば、伏字が多いとスパムメールとなりフィルタで排除されます。反対に「アダルト」という言葉だけではスパムメールかどうか分からないので特徴を調べて判断します。フィルタは再学習することでスパムメールの判断精度が上ります。

ベイジアン・フィルタには、1761年に亡くなった牧師トーマス・ベイズの確率理論(ベイズ理論)が使われています。ベイズ理論は、過去に起きた事象の発生頻度から未来の発生頻度を予測するという確率論です。ベイズ牧師は、まさかスパムフィルタに自分の理論が使われるとは想像すらしていなかったでしょう。

2011年、碁で人工知能が人間に勝利

スパムフィルタは、いよいよ人工知能が登場する時代となりました。

アイ・ビー・エムが質問応答システム「ワトソン」を開発。すでに銀行などのコールセンターへ導入が始まっています。コールセンターに電話して、人間の担当者に問い合わせをしているつもりが、実はコンピューターが相手だったという時代になりつつあります。

2011年、このワトソンが米国のクイズ番組に出演し、人間のクイズ王と対戦。勝利して賞金の100万ドルを獲得しました。2013年には将棋の電王戦で、現役プロ棋士5人と5つのコンュータープログラムが戦い、コンピューターが団体戦で勝利をおさめました。将棋とくれば次は「囲碁」です。囲碁は将棋に比べて、人工知能が人間に勝つのは格段に難しいといわれていましたが、アルファ碁が世界トップ棋士に勝利してしまいました。

ニューラルネットワークでスパム判定

人工知能の分野には「ディープラーニング(深層学習)」があります。人間の神経はニューラルネットワーク(神経回路網)で構成されていますが、これをコンピューターで実現したものです。一週間にわたりYouTubeの映像を1000台のコンピュータで構成されるニューラルネットワークに見せたところ、白紙の状態から何百万もの未分類のイメージを分析し、「これはネコ」と分類しました。

これは事前にネコのことを教えられなかった、ニューラルネットワーク自身が、YouTubeの映像からネコがどういうものか学習したことを意味します。そして、人間に勝利したアルファ碁には、このニューラルネットワークの技術が使われています。

ニューラルネットワークはグーグルのGメールのスパムフィルタで導入され始めています。Gメールでは機械学習機能を強化しており、ユーザーごとにスパムの基準を最適化しています。例えば、ショップからのDM(ダイレクトメール)が、あるユーザーにとって有用でも別のユーザーが迷惑と思うなら、迷惑と思うユーザーのメールだけをフィルタで迷惑判定するのです。

守る側が人工知能を導入すると攻撃する側も必然的に対抗を始めます。人工知能の時間貸しを使って、攻撃側はスパムフィルタをかいくぐり、スパムサイトに誘い込むメールを生成し、送り出すようになると考えられます。


【教訓】フィルタを過信せず、個々のメールをしっかりチェックする


関連記事

ピックアップ記事

  1. 常に新しい用語が生まれてくる情報システム部門は、全ての用語を正しく理解するのも一苦労。ましてや他人に…
  2. 経済の新たな原動力として注目されるAPI。業務システムとしてクラウド(SaaS)を利用することが一般…
  3. 不朽の名作と名高いRPGの開発をはじめ、数々の有名IPのソーシャルゲーム開発を手がけてきたオルトプラ…
  4. PCNW(PC・ネットワークの管理・活用を考える会)が、東京会場における今期最初の勉強会「第一回クラ…
  5. 政府は11月をテレワーク月間と定め、時間と場所を選ばない働き方を推進しています。中には完全リモートワ…
  1. 国内LPWAの普及を阻む3つの要因

  2. Backlog World 2019開催(2019年1月26日)~プロジェクトマネジメント×働き方改革~

  3. 2019年 中堅・中小企業におけるIT活用の注目ポイント(業務システム編)-ノークリサーチ調査

  4. 使える! 情シス三段用語辞典75「インターネットブレイクアウト(ローカルブレイクアウト)」

  5. 法人組織におけるセキュリティ実態調査【2018年版】

  6. 生産性向上の切り札なのか!? RPA導入のポイント

  7. 【セキュリティ基礎知識】気をつけよう!企業向けフィッシング詐欺

  8. 迫るアップデート終了、備えは大丈夫か!? Java有償化問題

  9. 【セキュリティ基礎知識】気をつけよう!ビジネスメール詐欺

  10. 【情シスの赤本】メール誤送信と取るべき対策

関連サイト

情シス採用 人材紹介サービス

情シスの戦略・企画人材育成

情シス向け業務支援ツール

おすすめ記事

  1. 最近では、働き方改革の旗振りのもと、多くの企業が在宅勤務やサテライトオフィスを導入するようになり、リ…
  2. 2000年にリリースされたWindows 2000 Server で初めて登場したActive Di…
  3. ついにスタートした「GDPR」。世界から注目を集めるEUの個人データ保護規制です。EUに所在する人の…
  4. 業務にもようやく慣れてきた。そうなると気になるのが業務の効率化。作業をもっと素早く、ラクにできないも…
  5. 「IOT(コネクテッド・インダストリーズ)税制」の受付が今年6月よりスタートしました。コネクテッド・…
  6. だいぶ普及した感のある公衆無線LAN。外国人観光者はもとより、パケット代に敏感な中高生だけでなく、ビ…
ページ上部へ戻る