AIチャットボットのフィッシング詐欺検出能力を実測比較―Gemini・ChatGPT・Claudeの精度と限界
外国メディアがGemini、ChatGPT、Claudeの3つのAIチャットボットにフィッシング詐欺メール20件の識別能力をテストしました。偽造メール識別では全AI満点でしたが、本物のAmazon公式メールの判定では誤判定が発生。補救アドバイスではChatGPTが最も安定した回答を提供し、Claudeは架空の連絡先を提示するなど「AI幻覚」が確認されました。
手口の概要
オンラインショッピングの繁忙期(ブラックフライデーやダブル11など)には、フィッシング詐欺が急増します。2025年だけで、Amazonプラットフォームから7万以上の偽造ウェブサイトと1万4千の詐欺電話が削除されています。詐欺者は正規のAmazonメールに酷似した偽造メールやSMSを送信し、ユーザーを騙して個人情報やクレジットカード情報を入力させようとします。
詐欺メールの見分け方
第1段階:明らかな偽造メール
テスト対象の偽造メールには以下の特徴がありました:
- 偽の注文確認メール
- プライム会費更新の脅迫メール
- ギフトカード購入要求
- Amazon公式を装ったフィッシングSMS
3つのAIすべてがこれらを正確に識別できましたが、一般ユーザーは以下の点に注意してください:
- 公式メールは通常、明確な注文番号や日付を含みます
- 緊急対応を求める文言("すぐに行動してください"など)は警戒信号です
- メール内のリンクを直接クリックしてログインしないでください
第2段階:本物のメール判定での問題
テストの第2段階では、実際のAmazon公式メール(ログイン警告とリクエスト払い戻しメール)が提示されました:
- Gemini:本物のログイン警告を詐欺と誤判定(過度に慎重な判定)
- Claude:本物の払い戻しメールの送信者アドレスを不審と判定
- ChatGPT:両方とも正しく本物と判定し、公式検証アドレス(verify@amazon.com)へのメール転送を提案
AIツールの限界
AIチャットボットは以下の理由で完全には信頼できません:
-
メールのコード情報を読めない:AIはメールのヘッダーやサーバー情報などの技術的な詳細を直接確認できず、テキスト内容だけで判断します。
-
過度な警戒による誤判定:真のメールと詐欺メールの特徴が重なる場合、AIは安全側に判定して本物のメールも詐欺と判定することがあります。
-
AI幻覚(ハルシネーション):Claudeの実例のように、存在しない公式連絡先(reportphishing@amazon.com)を提示する誤りが発生します。正式な報告先はreportascam@amazon.comです。
被害を防ぐポイント
最も安全な確認方法:
- メール内のリンクは絶対にクリックしないでください
- 新しいブラウザタブを開き、直接Amazonの公式サイト(www.amazon.com)にアクセスしてください
- アカウント内から同じ通知があるか確認してください
- または疑わしいメールをAmazonの公式アドレスに転送して確認してください
緊急時の補救措置(もしクリックして情報を入力した場合):
- 冷静に対応する:パニックに陥らないでください
- 銀行に連絡:クレジットカード会社に連絡してカードを停止してください
- パスワード変更:Amazonアカウントと他のサイトのパスワードを変更してください
- 全デバイスでログアウト:Amazonアカウントから全デバイスをログアウトしてください
- 二要素認証を有効化:セキュリティ強化のために二要素認証を設定してください
- メール転寄設定確認:詐欺者がメール転寄ルールを設定していないか確認してください
- 注文と配送先確認:アカウントの注文履歴と登録配送先をチェックしてください
相談窓口
- Amazon公式サポート:公式ウェブサイトのカスタマーサービスから連絡
- クレジットカード会社:詐欺報告と緊急対応
- 警察:被害が大きい場合は地元警察に届け出てください
- 米国の場合:電話番号詐欺報告先 7726
まとめ
AIツールは大多数の詐欺メールを識別できる有用な補助手段ですが、完全には信頼できません。疑わしいメールを受け取った場合の最も安全な対応は:
- AIツールで参考意見を得る
- 必ず公式ウェブサイトで直接確認する
- メール内のリンクは絶対にクリックしない
このアプローチにより、詐欺と本当のアカウント警告の両方に対応できます。
情報源: ezone.hk 即時科技生活