サイバーセキュリティの果てしないいたちごっこを根本から変えるものが登場しました。人工知能 (AI) です。しばらく前から、AI は機械のスピードで脅威を突き止められる画期的な防衛ツールと謳われるようになっています。では、AI の登場でハッカーのほうは賢くなっているのでしょうか。大仰で不安をかきたてる答えですが、その可能性は高そうです。問題は、賢くなっていることだけではありません。スピードも効率も上がり、危険なほど拡張性に富むようになってきました。

この記事では、人工知能によるハッキングという物騒な世界を詳しく紹介し、ハッカーが AI で武装化しつつある現状、迫り来る新世代のサイバー攻撃、そしてデジタル セキュリティのこうした変化に備えるための対策について解説します。

AI 攻撃とは?

AI を利用するサイバー犯罪とは、デジタル世界で人工知能 (AI) が使われる犯罪活動の総称です。攻撃者は、機械学習、大規模言語モデル (LLM)、自動化などを使って犯罪行為を計画し、実行しては強化しています。

AI によるハッキングで脅威が解き放たれれば、危険がひとつ発生するだけでは済まず、多岐にわたって問題が生じます。まず、AI による強化を受けて自動攻撃が大量に発生します。例えば、どんなに識別能力が高い人でも騙されかねないほど真に迫ったフィッシング キャンペーンなどです。他方では、高い精度で対象を絞った攻撃がますます巧妙になっています。もはや、SF 映画のような架空の話ではありません。そのような攻撃手段が今まさに開発され、実行されているのです。多層的でインテリジェント、かつ真に包括的な対策で私たちのデジタル ライフを守るには、AI 主導のハッキングをこうした全範囲にわたって認識することが欠かせなくなってきました。

AI は攻撃者をどう強化するか

AI は軍備増強の強力な手段になっており、あらゆるスキル レベルでサイバー犯罪者を支えています。経験が浅い攻撃者にとって、参入のハードルは劇的に下がりました。WormGPT などの使いやすい不正 AI ツールをダーク ウェブから入手するだけで、高度な機能を利用できるようになったからです。そのようなツールがあれば、マルウェアも作れますし、信憑性の高いフィッシング メールも捏造できます。以前なら、かなり高度な専門技術が必要でした。

一方、国家の支援を受けているエリート ハッキング集団も、手間と時間のかかる工程、例えば偵察や脆弱性スキャンなどの段階を自動化できます。そうなると、人間の犯罪者はもっと得意なこと、独創的な侵入戦略を考え出し、手間はかかるが実入りのよさそうな標的に専念できるようになります。

AI がサイバーセキュリティにもたらす影響

以下の統計をご覧ください。

こうした統計から、明確な状況が見えてきます。AI がサイバー脅威の世界を急激に変えつつあるということです。データ侵害のコストが平均で 488 万ドルという脅威的な数字も、攻撃が成功した場合に金銭的な影響が深刻になっていることを裏付けています。ダーク ウェブで悪意のある AI ツールをめぐる話題が 200% 増加したことにも、犯罪者が AI 技術を積極的に採用し、改良している現状がうかがえます。

そのうえ、MaaS (サービスとしてのマルウェア) や FaaS (サービスとしての詐欺) のプラットフォームも急増が確認されており、ダーク ウェブの開発者が WormGPT や FraudGPT といった AI ベースのツールを開発し、パッケージングして販売しています。違法なデータで訓練されたこのような大規模言語モデル (LLM) は、倫理的な保護の壁を崩し、悪意のあるプログラムを書く、説得力の高い詐欺メールを作る、狙いやすい脆弱性を見つけるといった犯罪行為を助長します。

このような傾向からも、AI の軍拡競争が今まさに進行中であることは明らかであり、AI を使った堅牢な防御は今まで以上に欠かせなくなっています。

AI によってハッカーは賢くなっているか?

AI のおかげでハッカーは、標的を広げる、送信する詐欺メッセージを増やす、配信を加速するといったことが可能になりました。それは確かですが、ハッカーの素の知性や創造性が高くなったとは限りません。むしろ、AI は前例のない軍備増強の手段になっており、従来のスキルが 3 つの点で簡単になっています。

規模の拡大と高速化

どれほど賢くても、人間のハッカーには時間的な制約があります。一度に分析できるシステムは 1 つ、書けるコードは 1 つ、作成できるメールは 1 通に限られているからです。AI がこの制約を取り除きます。何千ものネットワークを同時にスキャンし、同一のフィッシング メールを 1 時間もかからずに何百万通と生成し、何十億というパスワードの組み合わせもひと晩あれば試せます。人間の能力をはるかに超える規模とスピードで情報を処理し、タスクを実行できる AI こそ、攻撃の天才と呼べる存在なのです。

参入障壁の引き下げ

これまで、高度なサイバー攻撃をしかけるには、プログラミング、ネットワーク設定、セキュリティ システムに関して十分な技術的経験が必要でした。AI はこの当然の障壁も崩しています。WormGPT のようなツールさえあれば、プログラミングの知識がほぼ皆無のアマチュア詐欺師でも、簡単なアプリだけで有効なマルウェアを生成し、ディープフェイクの音声クローンを作り出せるようになっています。その意味で、攻撃者の予備軍だった層がこれまでより有能に、危険になってきたのだといえます。

自動化で発揮される創造性

AI の最大の利点は自動化です。ハッカーは、偵察や初期アクセスなど、時間ばかりかかる退屈な作業から解放されます。何週間もかけて侵入経路を探さなくても、AI がその面倒な作業を肩代わりし、システムの弱点を自動的に見つけ出しては、既存のコードを悪用して実効的な悪意のあるソフトウェアを構築してくれます。人間が直接手をかける必要はありません。そのため、人間のハッカーは複雑な内部ネットワーク上を移動する、ハイエンドのセキュリティ システムを無効化する、最終的な目的を達成する画期的な手口を開拓するといったことに専念できるのです。

AI を利用する攻撃の主な特徴

AI 主導のサイバー攻撃は、人間が動かす従来の手口と明らかに異なる特徴をいくつか持ち合わせています。その一部を以下にまとめました。

  • 超自動化: 従来のサイバー攻撃は、手書きのプログラムと人間中心の作戦に依存することがほとんどでした。一方、AI 主導のサイバー犯罪は機械学習、大規模言語モデル、自動化を利用して作戦を計画、実施、強化します。しかも、そうしたツールは 24 時間 365 日、人間にはありえないスピードではたらきます。
  • 大ボリューム: 従来の攻撃で、サイバー犯罪者はフィッシング メール 1 通の作成に何時間もかけ、脆弱性のスキャンに何日も要していたことでしょう。AI を利用する攻撃なら、個別化された本物っぽいメールを機械学習モデルが何千通だろうと何百万通だろうと秒単位で生成します。空前のスピードとボリュームでネットワークからセキュリティ上の欠陥を見つけ出します。
  • 適応型: 一定のスクリプトを踏襲する従来のマルウェアとは違い、AI を利用する脅威は学習と適応が得意です。AI 主導の攻撃は、システムのセキュリティ防御を分析したうえで、独自のコードや挙動をリアルタイムで書き換えて回避策を見いだします。
  • ステルス性: 処理を自動化し、驚くほどの精度で人間の言動を真似る AI の攻撃は、既知の静的な脅威を探す従来のセキュリティ システムでの検出をしばしばすり抜けます。そのため、従来の手法では検出もブロックもきわめて難しくなっています。
  • 高度な個別化: AI は、ソーシャル エンジニアリングの形を変えました。ソーシャル メディアをはじめとする公開ソースからデータを集めて学習し、高度に個別化されたフィッシング メールやメッセージ、あるいは識別の難しいディープフェイク音声を作り上げるようになっています。こうしたメッセージは、個人の私生活や仕事について細かいところまで研究し、信頼を築こうとします。

AI がサイバー攻撃を増強

このような特徴を備えた AI は、偵察から実行、すり抜けまで、サイバー攻撃のライフサイクルの各段階を爆発的に強化しつつあります。AI がサイバー犯罪者にもたらす影響を正しく把握するために、ハッカーが悪質な意図に AI を使いこなしている現状を確かめておきましょう。

脆弱性の探索と悪用を自動化

標的の武装に存在する弱点を見つけるために、ハッカーには時間のかかる作業が必要ですが、一定の技術があればその時間を大幅に短縮できます。これには、次のような手法があります。

  • AI によるファジング: ランダムまたは半分ランダムなデータをプログラムにフィードして、そのプログラムがクラッシュしたり予期しない動作を起こしたりするかどうか調べ、潜在的な脆弱性を明らかにする手法です。AI はこのとき、従来より有効な入力を生成するので、見つかりにくいバグの発見が早くなります。
  • 大規模なコード解析: AI を使えば、ハッカーは 1 つのアプリケーションのソース コードを丸々すべて分単位でスキャンでき、人間のアナリストなら何日も何週間もかかってしまう弱点を突き止めることができます。

ソーシャル エンジニアリングが極端に個別化

ハッキングに関して AI が最も直接的に危険なのは、人間どうしの信頼を悪用できる点です。AI を利用するソーシャル エンジニアリングは、究極のなりすましと欺瞞という新たな世界をもたらしました。狙った相手がソーシャル メディアに送った公開の投稿、職歴、オンラインの言動などを分析すれば、コンテキストだけでは本物のメールと見分けがつかないフィッシング メールを作成することができます。

AI 主導のマルウェアと回避力の高いコード

ウイルス対策ソフトウェアやセキュリティ システムは、悪意のあるコードすなわちマルウェアの既知のパターンを識別することで機能するのが一般的です。このパターンをシグネチャといいます。AI を使うと、マルウェアはポリモーフィック (多態性) になります。つまり、可変の暗号鍵を使って、新しく感染するたびにコードを変えることができ、シグネチャベースの検出を回避できるということです。メタモーフィックなマルウェアはさらに高度で、もともとの悪質な機能は維持したまま、基礎にあるロジックを完全に書き換えることができます。マカフィーなどのソリューションは、既知のシグネチャを探すだけではなく、不審な動作を見極めることに重点を置くため、進化し続けるこうした脅威に必要な対策を講じられます。

ディープフェイクによる AI ハッキング

ディープフェイクによる AI ハッキングとは、AI を利用して非常にリアルな音声または動画コンテンツを捏造する行為です。こうした合成メディアは、本物そっくりに個人になりすまし、音声や外見を悪用して虚偽情報を拡散したり、ID・個人情報盗難や詐欺行為を実行したり、信頼を損ねたりします。

参考: How to Spot a Deepfake on Social Media

音声クローニングを利用するビッシングやなりすまし詐欺

AI の利用を特に警戒しなければならないのが、音声クローニングによる音声フィッシング、いわゆるビッシングです。ソーシャル メディア上の動画や公開の音声メールなど、ある人の音声が数秒分もあれば、AI はそっくりのクローン音声を作り出せます。企業が相手なら、詐欺師は CEO の公式インタビューなどから短い音声データを拾うことさえ可能で、その音声を真似れば、偽の音声メッセージを作成して不正な電子送金を財務部門に指示することもできます。

パスワードのクラッキングがかつてなく高速に

AI モデルは、漏洩したパスワードの膨大なデータセットを解析して、パスワードを設定するときによく使われるパターン、代替候補、構造を学習します。aaaa の次は aaab などといちいち入力するかわりに、AI を活用するクラッカーは Password2024! とか Winter!23 などから試し始めるかもしれません。コンテキストや人の心理から学習するからです。こうすると、アカウントの侵害に必要な時間は大幅に短くなります。

参考: Weak Passwords Can Cost You Everything

ブルート フォース (総当たり) 攻撃

これまでブルート フォース (総当たり) 攻撃といえば、正解が見つかるまでユーザー名とパスワードの組み合わせを何通りも試す手法でした。AI を使えば、機械学習の活用で認証情報の推測が大幅に効率的になります。システムにアクセスできるようになるまで、1 秒間に何十億回とまでは言わないまでも、それに近い回数を試行できるからです。

CAPTCHA のクラッキング

CAPTCHA のクラッキングとは、自動化したディープ ラーニングまたはアルゴリズムベースのソリューションを使って、人間とボットを識別する仕組みである CAPTCHA チャレンジを迂回する手口です。画像または音声を使うかなり複雑な CAPTCHA でさえ AI モデルは効果的に解決できるようになってきたため、これはセキュリティ上の深刻な懸念になっています。

敵対的な AI 攻撃

各組織がセキュリティに利用している AI システムそのものを攻撃する手法です。主に次の 2 つが知られています。

  • モデル ポイズニング: 企業の AI モデルの訓練に使われるデータをわずかに改変する手法です。例えば、顔認識のセキュリティ システムに、特定の人の顔の画像を、誤ったラベルとあわせて何千何万とフィードします。そうすると、検出されずに防犯カメラの前を通過できる可能性があります。同じように、スパム フィルターの訓練データにポイズニングをしかければ、フィッシング メールでも安全とマークされてしまいます。
  • 回避攻撃: ほとんど識別できないくらい些細な変更を画像に加えることによって AI モデルを不正操作する手法です。例えば、停止の標識を速度制限の標識と誤認識させることもできるため、自律運転にとってはそら恐ろしい脅威になります。サイバーセキュリティの世界で考えても、AI ベースの脅威検出システムで認識されないようマルウェアを進化させられるということです。

自律型 AI スウォーム

自律型ハッキング エージェントとは、人間による直接的な操作を必要とせずに、サイバー攻撃キャンペーンをすべて実行できるインテリジェント システムです。AI スウォームとも呼ばれています。X という企業から顧客データ盗み出すなどの目標を設定してプログラミングされており、偵察、脆弱性の特定、侵害の実行、データの抜き出しまでのキルチェーンをものの数分間で設計します。そのうえ、24 時間 365 日休むことなく独立して実行します。人間のハッカーには、目標が完了してから通知が届きます。

参考: ChatGPT: A Scammer’s Newest Tool

これまでにない脅威の世界を乗り越えるには

悪意のある AI と守る側の AI。この両者の衝突から、サイバーセキュリティの世界では技術をめぐる新たな軍拡競争が始まっています。ハッカーは AI を武器に、回避能力の高い攻撃を自在の規模でしかけてきます。一方の防御側は、さらにスマートで高速の、そして予測能力に優れたセキュリティ システムを世界中で構築しつつあります。

AI を利用するハッキングの急速な進化には圧倒されそうになりますが、防ぐ手だてがないわけではありません。自身のデジタル上の安全については、自分が積極的・主体的に行動することです。必要なのは、今まで以上にスマートな最新のセキュリティ対策だけです。ハッカーが駆使する AI 主導の手口について全体的に把握し、その知識をもっていれば、自信をもってセキュリティを保ち続けられる防御戦略を万全に整えることができます。

一人ひとりの自覚こそ、AI には模倣できない強力なセンサーです。不審なメールを見たらまず疑ってかかる、緊急の要請は必ず確かめる。そのような対応をとるたびに、皆さんは大切な役割を果たすことになります。皆さんのパートナーとして、マカフィーは皆さんに必要なツールとインサイトを提供しています。情報を踏まえた直感と、マカフィーのインテリジェントなテクノロジーがあれば、堅固な防衛陣を築き、安心してデジタル世界を渡り歩くことができます。

AI によるサイバー攻撃を抑える具体的な手順

  • ログインを強化する: パスワード マネージャーを使って、長く複雑な一意のパスワードをアカウントごとに作成しましょう。それ以上に重要なのは、侵害の強力なバリアとして、可能な限り多要素認証 (MFA) を設定することです。
  • 通信を吟味する: 緊急性を訴えるようなメール、メッセージ、音声通話には特に警戒しましょう。思いがけない緊急の要請があった場合は、対応しようとする前に必ず、信頼できる別のチャネルを介して確かめてください。
  • すべて最新の状態に保つ: オペレーティング システム、Web ブラウザー、各種アプリケーションは速やかに更新しましょう。更新データには、ハッカーに悪用されかねない脆弱性を解決する重要なセキュリティ パッチが含まれていることも少なくありません。
  • AI を活用する防御策を導入する: AI 主導の脅威に対抗する最も有効な手段は、AI 主導の防御策を講じることです。マカフィーなど、AI を使って巧妙な攻撃をリアルタイムで検出しブロックする総合的なセキュリティ ソリューションを使いましょう。

AI の二面性: 剣にも盾にもなる

AI は、サイバーセキュリティの世界で文字どおり諸刃の剣です。かつてない速度、パターン認識、自動化などハッカーにとって有効な武器となる、まさにその同じ機能が、私たちにとってはこの上ない盾になります。真に迫ったメールを作成するよう訓練できる AI モデルは、そのようなメールにおける言語上の些細なパターンを認識するように訓練することもできます。脆弱性を見つけて悪用できる AI は、その脆弱性を修正し保護する目的にも使えるのです。

今後、サイバー犯罪における AI はますます自律性を獲得し、利用しやすくなっていきます。自律的な攻撃が大量に出現し、そこでは複数の AI エージェントが連携して、人の手を必要とせずに侵害を実行するようになります。しかも、ダーク ウェブでは AI ハッキング ツールの商品化が続き、巧妙な攻撃機能を利用できる犯罪者が増えていきます。

もちろん、未来は暗いだけではありません。防御側の AI も同じくらい急速に進化しています。攻撃者が賢くなるのに応じて、私たちの保護機能もスマート化しつつあります。そして、マカフィーをはじめとするメーカー各社は AI を活用する次世代のセキュリティを開発し、これからの脅威を無力化する最前線に立っています。

最後に

人工知能 (AI) によるハッキングの時代は目の前に迫って、いや、すでにもう到来しています。AI はハッカーに超人的なスピードをもたらし、複雑なタスクを自動化して、参入の障壁すら引き下げました。その影響は、超リアルなフィッシング、適応型のマルウェア、悪意のある AI ツールの商品化という形で出現しつつあります。

攻撃に利用できるその同じ AI は、私たちの防御対策としてももちろん有力です。McAfee Smart AI テクノロジーは、ディープ ラーニング、コンテキスト分析、ビヘイビア モデリングを基盤に開発されています。それが何兆という脅威の信号を継続的に処理しながら、詐欺やディープフェイクの検出機能ウイルス対策ソリューションなどのリアルタイム保護機能を提供します。デバイス、アプリ、Web をすべて網羅する可視化によって、実害が出る前に悪意のある活動をプロアクティブに識別し、ブロックします。フィッシングの試みの阻止、ゼロデイ マルウェアの検出、異常な挙動の識別など何に対しても、McAfee Smart AI はサイバー犯罪者の先手を取ってユーザーのデジタル タッチポイントを隅々まで保護するよう設計されています。

常に最新の情報を確保し、サイバーセキュリティ意識の土壌を培いながら、次世代の AI 主導ツールへの投資を続けていけば、どんなリスクや虚偽情報が待ち受けていようと、それに立ち向かえる力を手にすることができます。