本文へスキップ
D-chain
メニュー ▾
← ブログ一覧
フィッシング生成AIビジネスメール詐欺中小企業

AIフィッシング対策は、基本の習慣と確認の手順から ── AIエージェントを見張り役に

「怪しいメールは、日本語が不自然だから見れば分かる」は通じなくなりました。生成AIで、メールの文面が自然になったからです。さらに最近は、国内の企業や組織への不正アクセスによる情報漏えいが相次いでいます。経済産業省も2026年10月9日、こうした「被害が相次いで発生」しているとして注意を呼びかけました。漏れたメールアドレスや電話番号は、攻撃者が宛先を選び、本物らしく見せる材料になります。この記事では、見分け方だけに頼らず、ふだんの習慣と、いつもと違う依頼を別の経路で確かめる手順で防ぐ考え方を整理します。最後に、AIエージェントを見張り役にする使い方も紹介します。

AIフィッシングとは ── 文面は人間の専門家並みになった

AIフィッシングは、生成AIを使って作られたフィッシングメールや詐欺メッセージのことです。手口そのものは新しくありません。変わったのは、自然な文面を、相手に合わせて、大量に作る手間と費用が下がったことです。

2026年に学術誌に載った実験※では、AIが標的の情報をインターネットで調べ、文面まで自動で作りました。そのメールのリンクのクリック率は54%で、人間の専門家が作ったメールと同じでした。一般的なフィッシングメールは12%です。AIがまとめた標的の人物像も、88%が正確で十分な内容でした。

「見た目でおかしいと気づく」ことに頼る対策は、効きにくくなっています。

※ Heidingほか「Evaluating Large Language Models' Ability to Automate Spear Phishing」（Expert Systems with Applications 第314巻。2026年2月にオンライン公開、6月の号に掲載）。参加者101人の実験です。

漏えいしたメールアドレスや電話番号が「材料」になる

AIが巧妙な文面を作れても、宛先が分からなければ届きません。宛先と、本物らしく見せる材料になるのが、公開されている情報と、漏えいした情報です。

IPA（情報処理推進機構）は、2026年3月に注意を呼びかけた「社長等をかたる詐欺メール」について、差出人名や宛先を「公開情報や漏えい情報から取得していると推察」しています。会社のWebサイトに載っている社長名と、どこかで漏れたメールアドレスを組み合わせれば、社員に「社長からのメール」を送れます。

漏えいは珍しいことではなくなっています。個人情報保護委員会が2026年度の第1四半期（4〜6月）に処理した漏えい等の報告は、民間の事業者の分だけで5,451件でした。東京商工リサーチの集計では、上場企業とその子会社が公表した個人情報の漏えい・紛失事故のうち、100万件以上のものが2026年は10月5日時点で10件ありました。2025年は1年間で6件です。この中には、メールシステムへの不正アクセスで、1,000万件を超えるメールアドレスが漏えいした事案も含まれます。

大事なのは、自社が漏えいしていなくても、社員や取引先のメールアドレスや電話番号は、別の会社やサービスから漏れているかもしれないということです。漏れた情報は、メールだけでなくSMS（ショートメッセージ）や電話での詐欺にも使われるおそれがあります。警視庁も、漏えいしたメールアドレスや電話番号に、実在の企業や官公庁を装ったメールやSMSが届くことに注意を呼びかけています。漏えいした情報を悪用した詐欺の電話がかかってくることにも、注意が必要だとしています。

なりすましメールの事例 ── 社長名のメールからLINEへ

中小企業にとって身近なのが、社長や上司になりすまして送金させる手口です。

警視庁は2026年1月、社長や上司の名前をかたったメールに注意を呼びかけました。業務を名目にLINEグループを作らせて経理担当者を入れ、取引相手への支払いとして、すぐに送金するよう指示する手口です。被害も出ています。IPAによると、同じ手口の相談は2025年12月中旬から急に増え、2026年3月10日までに106件寄せられました。

この手口にAIが使われているかどうかは、公表資料からは分かりません。ただ、フィッシング対策協議会の2026年9月の月次報告では、前月に続いて、指示文（プロンプト）が消し忘れたまま残ったフィッシングメールが確認されています。AIに文面を書かせたときの指示文です。中身までは公表されていませんが、攻撃者が文面づくりにAIを使っている跡と言えます。同じ月の報告件数は94,661件で、前月から12,323件増えました。AIで文面を作る流れは、すでに始まっていると見てよいでしょう。

製造業に置き換えると、たとえば次のような場面です。

  • 取引先の担当者名で「振込先の口座が変わりました」というメールが届く
  • 出張中の社長の名前で「至急この請求を払ってほしい。今は電話に出られない」と届く
  • 実在する部品の型番や納期に触れた、本物そっくりの問い合わせに添付ファイルが付いている

フィッシングメールの見分け方は、人の目だけに頼らない

差出人のアドレスを確かめる、URLの綴りを見る。こうした見分け方は今も有効です。IPAも、社長をかたるメールの多くは差出人がフリーメールのアドレスだと指摘しています。

ただ、見分け方は「相手がミスをしてくれる」ことに頼っています。AIで不自然な日本語は手がかりになりにくくなり、漏えい情報で宛先や名前も本物になります。見分け方だけに頼らず、見分けられなかったときにも引っかからない習慣と手順を先に作っておくことが大切です。

AIフィッシング対策① 一人ひとりの習慣 ── 開く前に一度止まる

まず、一人ひとりが毎日の中でできることです。どれも新しい話ではありませんが、文面が自然になったいまほど役に立ちます。

  1. リンクや添付ファイルを開く前に、差出人と行き先を確かめる。 パソコンならリンクにマウスを重ねる、スマートフォンなら、リンクのプレビューを無効にしたうえで長押しすると、リンク先を読み込まずに実際の行き先が表示されます。知っている会社のアドレスと違えば開きません。心当たりのない添付ファイルは、開く前に送り主へ電話などで確かめます
  2. ログインは、メールのリンクから入らない。 取引先のサービスや銀行には、ブックマークや公式アプリから入ります。「至急ログインして確認を」と書かれていても、いつもの入り口から入って確かめます
  3. パスワード管理ツールを使う。 パスワード管理ツールは、登録したサイトとアドレスが違うと、IDとパスワードを自動で入力しません。いつもは自動で入るのに入らなければ、偽サイトを疑うきっかけになります。そのとき、パスワードを手で貼り付けないことが大切です。英国の国家サイバーセキュリティセンター（NCSC）も、パスワード管理ツールは偽のWebサイトを見分けるのが人間より得意だとしています。サイトごとに別のパスワードを使えるので、使い回しによる不正ログインも防ぎやすくなります

あわせて多要素認証を使います。パスワードに加えて、スマートフォンに届く確認コードや指紋などでも本人かどうかを確かめる仕組みです。パスワードが漏れても、ログインされにくくなります。ただ、確認コードは偽サイトに入力すると盗まれることがあります（NCSC）。対応しているサービスでは、パスキーに切り替えます。パスキーは、指紋や顔認証でログインできる、サイトごとの鍵です。登録したサイトでしか使えないため、偽サイトにログインさせられる心配がありません。

AIフィッシング対策② 会社で決める手順 ── いつもと違う依頼は別の経路で確認する

フィッシングで盗まれるのは、主にパスワードなどのログイン情報やカード番号です。これは前の節の習慣で守りやすくなります。一方、社長名のメールや振込先の変更のように、従業員をだまして攻撃者の口座へ送金させる手口は「ビジネスメール詐欺」と呼ばれます。送金は仕事として頼まれるので、一人ひとりの注意だけでは止めにくくなります。そこで会社として、次の2つを決めておきます。

  1. いつもと違う依頼は、別の経路で確認する。 急な送金、振込先の変更、取引先や社員の情報を送ってほしい、といった依頼がメールやLINEで届くことがあります。そのときは返信せず、以前から登録してある電話番号に自分からかけて確かめます。メールに書かれた電話番号は使いません。「急ぎ」「内密に」「今は電話に出られない」と言われたときほど、確認が取れるまで応じません。社長自身が「私はメールやLINEで急な送金を頼まない」と社員に伝えておくと、確認しやすくなります
  2. 「おかしい」と思ったら報告する先を1つ決め、報告した人を責めない。 開いてしまった、入力してしまった、という報告が早いほど、被害は小さくできます。報告しづらい雰囲気があると、そのぶん攻撃者が時間を稼げます。報告されたメールは社内で共有し、どこで気づけたかを話しておくと、次に活きます

決めた手順は紙に書いて、経理の机の見えるところに貼っておくと、急いでいるときにも思い出せます。

AIエージェントを見張り役に ── 守る側もAIを使う

習慣と手順に加えて、守る側もAIを使えます。人が見落とすところを、AIエージェント（指示に沿って調べ、判断の材料をそろえてくれるAI）に先に見てもらう使い方です。

AIフィッシングの節で紹介した研究者らは、2024年の論文で、GPTやClaudeなど4つの生成AIを試しています。その結果、分かりにくいものも含めて、フィッシングメールの悪意を見抜く高い力を示したと報告しています。ただし、人より精度がやや低いことも多かったとしています。AIは見張り役であって、最後に決める役ではありません。

たとえば、社員が「怪しい」と報告したメールを、AIエージェントに調べてもらいます。差出人のドメイン、なりすましかどうかの判定結果、リンク先のアドレスを見て、「危ない」「確認が必要」「問題なし」と理由をつけて返す使い方です。振込先の変更なら、登録済みの取引先の情報と照らし合わせ、違うところを一覧にします。

任せるときは、2つのことに気をつけます。1つ目に、「問題なし」は依頼に応じてよいという意味ではありません。AIの判定は立ち止まるきっかけで、確認の手順は省きません。2つ目に、AIもだまされます。メールの本文に、AIへの指示をこっそり仕込む手口があるからです（プロンプトインジェクション）。AIの安全性を扱う国際的なプロジェクトOWASPは、これを生成AIのアプリのリスクの1番目に挙げています。AIエージェントには読んで判定するところまでを任せ、返信や送金の権限は持たせません。

それでも返信や支払いの操作まで任せる場合は、十分なリスク管理が必要です。OWASPは、AIエージェントに機能や権限、自分で動ける範囲を与えすぎることを「過剰な自律性」として、リスクの3番目に挙げています（この項目は生成AIのリスク、これからとこれまででも取り上げました）。求めている対策は、たとえば次の3つです。

  • 使える機能と権限は、必要な最小限にする
  • 影響の大きい操作の前に、人が確かめて承認する（ヒューマン・イン・ザ・ループ、HITL）
  • AIエージェントの操作を記録し、あとから確かめられるようにする

怪しいメールや取引先の情報をAIに見せるときは、会社が契約した法人向けプランを使ってください（参考: 生成AIを学習させない設定はどこにある？）。

まとめ

AIフィッシングへの備えは、新しい道具を買うことより、開く前に止まる習慣と、いつもと違う依頼を別の経路で確かめる手順から始まります。そのうえで、AIエージェントを見張り役に加えます。どれも、AIが出てくる前から大事だった基本の延長です。

参考文献

公開情報（2026年10月17日〜27日取得）。

CONTACT

AI導入・セキュリティのご相談はお気軽に

中小企業のAI導入とセキュリティを、ご提案から運用まで伴走します。初回30分は無料でご相談を承ります。

お問い合わせ