中国、AI生成コンテンツを使った詐欺事件で190人以上を起訴

手口の概要

AIを悪用した詐欺は以下のような方法で実行されています：

• なりすまし詐欺：AI生成の画像、音声、映像を使用して知人や権威ある人物になりすまし、被害者の信頼を獲得してから詐欺を実行
• 情報システムへの侵入：AI技術を用いて政府や企業のシステムに侵入し、個人情報や資産を盗難
• 虚偽情報の拡散：AIツールを使用してオンライン上で根拠のない情報を流布し、公共秩序を混乱させる

見分け方・警戒ポイント

中国当局が報告している疑わしい活動の兆候には以下が含まれます：

• 不明なアカウントからの頻繁なビデオ通話
• 録音された通話や繰り返しの顔画像収集の試み
• 海外からのビデオ通話リクエスト
• 不自然な音声や映像の品質（明らかな違和感、同期のズレ）
• 急いで金銭送付を促す通知

被害を防ぐポイント

• 動画通話で金銭に関する重要な決定をしない
• 知人からの連絡でも、大型送金前に別の手段で本人確認する
• 不自然に思える映像や音声は、当局のAI検出ツールで確認する
• SNSやメールで個人情報を過度に共有しない
• 政府や企業からの突然の連絡は、公式チャネルで確認する

当局の対策

中国の警察は以下の措置を実施しています：

• AI生成コンテンツを識別する機能を備えた国家詐欺防止センターのアプリを運用
• 疑わしい動画、音声、画像をアップロードしてAI改ざん痕跡を検出
• AI生成・合成コンテンツへのラベル表示を義務化
• AI関連の大規模言語モデル等における潜在的なセキュリティリスクを監視
• 2026年上半期に600件以上のAIアプリケーションサービス点検を実施

相談窓口

詐欺被害や疑わしいAIコンテンツを発見した場合は、各国の警察機関や詐欺防止センターに報告してください。