警察がAI悪用犯罪に対応強化、ディープフェイク検知システムを高度化

AI不正加工物犯罪とは

AI技術を悪用した犯罪が急速に増加しています。ディープフェイク（深層学習による顔・声の合成）を用いた性犯罪から始まり、名誉毀損、投資詐欺、ボイスフィッシングなど多岐にわたる犯罪に利用されています。

警察の対応強化内容

韓国警察庁は、AI不正加工物に対する検知・分析体系を大幅に強化します。主な施策は以下の通りです。

検知技術の高度化

• 2024年から運用中のディープフェイク検知システムに韓国人向けデータを学習させ、精度を向上
• 映像・画像だけでなく、音声や文字も同時に検知するマルチモーダル検知技術を開発中
• 2025年から2027年にかけて、偽造・加工コンテンツの真偽判定システムを開発（予算91億ウォン）

犯罪追跡体系の構築

• 生成型AI各サービスのプログラム実行履歴や命令記録の分析技術を開発
• 加工に使用されたプログラムの特定と変形データの分析手法を確立
• 生成から流布までの全過程を分析し証拠を抽出する自動化ツールを開発（2026年～2029年、予算100億ウォン）

人員体制と協力体系の整備

• 全国の都道府県警察にAI専門分析官を配置
• 現場捜査官と分析官向けの専門教育を拡大
• 民間・官公庁・学界の専門家グループを運営し、最新のAI技術動向や検知事例、新しいプログラム分析成果を共有

被害を防ぐポイント

見分け方

• 不自然な動きや顔の歪みに注意
• 音声と映像の同期が取れていない、背景が歪んでいるなどの違和感
• 信じられない投資話や突然の金銭要求

対策

• 親友や家族からの連絡でも、金銭や個人情報が求められた場合は必ず別の方法で本人確認
• SNSやメッセージで受け取ったリンクは安易にクリックしない
• 不審な映像や音声を見かけたら、警察に通報

相談窓口

• 韓国警察：「サイバー犯罪申告」サービス
• 国家情報院：不正加工映像申告センター
• 地域の警察署の相談窓口