知らないと騙される！AI犯罪9つの手口と防ぎ方(ep.83)

おちつきAIラジオ第83回（EP.083）／配信日: 2026.07.03／再生時間: 01:48:53

この回の概要

この回は、AIを悪用した犯罪の具体的な手口をしぶちょーが集めた実例をもとに紹介し、ディープフェイクや音声クローン、ジェイルブレイクされたAIサービスがどのように詐欺やサイバー攻撃、経歴偽装に使われているかを解説する回です。聴くと、香港やフェラーリで起きたディープフェイク詐欺事件、日本初の生成AI悪用ランサムウェア事件、犯罪者向けAIサービス「WormGPT」の実態、AIエージェントを使ったサイバー攻撃、音楽配信の不正利用、北朝鮮IT労働者による経歴偽装など、AIが「本物であることを証明しにくいもの」をどう悪用しているかが具体的にわかります。

冒頭でしぶちょーは、2025年の世界の金融詐欺被害総額が4420億ドル(約66兆円)に上り、AIの普及によって2024年の詐欺被害は前年比54%増加したという数字を紹介します。AIを使った詐欺は従来型の詐欺より4.5倍利益が出やすいとされ、犯罪の「産業化」が進んでいるとして、実際の事例を知ること自体が防御につながると話します。

最初の事例は、イギリス系エンジニアリング企業の香港支社で起きたディープフェイク会議詐欺です。財務担当者がCFOと複数の同僚とのビデオ会議に招待されましたが、全員がディープフェイクの偽映像・音声合成で、担当者は15回に分けて約40億円を送金してしまいました。2024年1月に発生し、資金は回収されず逮捕者も出ていません。一方フェラーリでは2024年7月、幹部のスマホにCEOを名乗るWhatsAppメッセージと電話が届きましたが、事前に交わした「おすすめの本のタイトル」を尋ね返したところ相手が答えられず、偽物と見抜いて被害を防いでいます。しぶちょーとかねりんは、狙われる相手との関係の距離感によって詐欺の成功率が変わる点や、ソーシャルエンジニアリングの怖さについて話し合いました。

次に紹介されたのは音声クローンを使った身代金要求詐欺です。フロリダでは娘の声のクローンを使って親に事故を装って電話をかけ、1万5000ドルを騙し取った事例が、アリゾナでは誘拐を装った電話がかかってきたものの、本人に直接連絡して無事を確認したことで被害を防いだ事例が紹介されました。娘の声はSNS投稿の3秒程度の音声から作成できるといい、対策としては電話を切らせないよう仕向ける手口に対して冷静に本人確認をすることの重要性が語られます。あわせて、コンビニがウイルス感染を装ったギフトカード詐欺に対抗するため、専用のカード商品を用意して購入者を止める仕組みや、SIMスワッピング対策としての物理トークンによる二段階認証についても話が及びました。

次のパートでは、専門知識がなくても犯罪ができてしまう「犯罪の産業化」が取り上げられます。2024年、川崎市在住の25歳の男性が生成AIを使って自作のランサムウェアを作成し知人に送付した事件は、生成AI悪用型のウイルス作成として日本初の有罪判決(懲役3年、執行猶予4年)となりました。作業時間はわずか6時間だったといいます。さらに、正規のLLMをジェイルブレイクした犯罪者向けサービス「WormGPT」や「FraudGPT」が月額数千円のサブスクリプションで提供され、フィッシングサイトや犯罪用コードの作成に使われている実態も紹介されました。加えて、中国系の企業がAnthropicのClaude Codeを「防御テストのロールプレイ」と思い込ませる手法でガードレールを回避し、テック企業へのサイバー攻撃に悪用した事例では、Anthropicが2024年9月に不正利用を検知し対象アカウントを封じ込めています。

続いて紹介されたのは、音楽配信サービスの再生数を不正に稼いだ事例です。アメリカのマイケル・スミス氏はAIで数十万曲を作曲し、大量のボットアカウントに再生させることで検知を回避しながら4年以上にわたり800万ドル以上を稼いでいたとして逮捕され、判決を待っている状態です。最後に紹介された経歴偽装の事例では、アリゾナ在住のクリスティーナ・チャップマンが、AIで作成した偽の履歴書や顔写真、リアルタイムのディープフェイクを使い、北朝鮮のIT労働者を300社を超えるアメリカ企業の正社員として潜入させる仲介役を担っていました。稼いだ約1700万ドルは北朝鮮の兵器開発の資金源になったとされ、チャップマンは懲役8年6ヶ月の判決を受けています。

しぶちょーは、これらの事例に共通するのは声や顔、経歴、再生数といった「本物であることを証明しにくいもの」がAIによって代替され、詐欺の手段になっている点だと総括します。かねりんは、新しい技術を早く自分で触っておかないと被害に遭いやすくなるとし、実際に自分で使ってみることでAIにどこまでのことができるかの感覚が身につき、結果として詐欺や偽物を見抜く目にもつながると話しました。結論として、AIエージェントを利用する際は違法性が阻却されるわけではなく責任の所在は利用者自身にあるため、悪用しないことはもちろん、意図せずエージェントが不適切な行動を取らないよう注意する必要があると締めくくられています。

目次（タイムスタンプ）

0:00:00 オープニング
0:00:27 今日のテーマ AI犯罪の最前線
0:02:00 AI詐欺の被害が急増しているデータ
0:05:44 香港ディープフェイク会議詐欺 40億円
0:12:00 フェラーリCEOなりすましを撃退した一言
0:19:20 企業のセキュリティ抜き打ちテスト
0:20:37 3秒の声で成立する音声クローン詐欺
0:33:15 生成AIで作る自作ランサムウェア日本初の有罪
0:36:50 月額課金の犯罪用AI WormGPTとFraudGPT
0:42:26 AIエージェントによるハッキング事例
0:52:19 AIで量産した曲による音楽配信詐欺
0:58:22 正社員は北朝鮮なりすまし労働者事件
1:06:00 総括知ることが最大の防御になる
1:17:47 雑談 Claude MaxからCodexへ乗り換え談義
1:28:13 雑談 G検定に挑戦する企画

今回の要チェックキーワード

ディープフェイク（Deepfake）: AIを用いて、実在する人物の顔や声を本物そっくりに合成・改変した偽のメディア（動画や音声）のこと。
音声クローン（Voice Cloning）: 数秒程度の短い音声データから、本人の声質や話すテンポ、抑揚までをAIで精密に再現する技術。
ソーシャルエンジニアリング（Social Engineering）: システムへの不正侵入などを行わず、「権威」や「緊急性」を装って人間の心理的な隙を突き、機密情報を盗み出したり送金させたりする手法。
ランサムウェア（Ransomware）: 感染したコンピュータのデータを勝手に暗号化し、「元に戻したければ身代金（ランサム）を支払え」と要求する悪意のあるソフトウェア。
ジェイルブレイク（Jailbreak）: プロンプトを巧妙に言い換えるなどして、AIモデルに設定された倫理的・セキュリティ的な安全装置（ガードレール）を意図的に外させる行為。
エージェント型AI（Agentic AI）: 人間がすべての手順を指示しなくても、与えられた目標（偵察、ハッキングなど）に対して自律的に計画を立て、実行まで進めることができるAI。
プロンプトインジェクション（Prompt Injection）: AIへの入力文（プロンプト）の中に悪意のある指示を紛れ込ませ、AIを乗っ取って機密情報の漏洩や不正な動作を引き起こさせる攻撃手法。の利用時に求められる、身分証明書や顔認証などを用いた厳格な「本人確認」の手続き。 —----------------------------

この回でわかること（Q&A）

香港のディープフェイク会議詐欺とはどんな事件？

イギリス系エンジニアリング企業の香港支社で、財務担当者がCFOと複数の同僚に見えるディープフェイクのビデオ会議に招待され、指示通り15回に分けて約40億円を送金してしまった事件です。2024年1月に発生し、資金は回収されず逮捕者も出ていません。

フェラーリはどうやってディープフェイク詐欺を見抜いた？

2024年7月、幹部のスマホにCEOを名乗るWhatsAppメッセージと電話が届き声も話し方もそっくりでしたが、事前にやり取りしていた「おすすめの本のタイトル」を尋ね返したところ相手が答えられず、偽物と見抜いて送金を防ぎました。

音声クローンを使った詐欺にはどう対策すればいい？

電話を切らせないまま焦らせて振り込ませる手口が定番なので、いったん電話を切って本人に直接連絡し無事を確認することが有効です。番組ではアリゾナの事例で、本人確認によって誘拐を装った詐欺の被害を防げたことが紹介されています。

WormGPTとは何か？

正規のLLM(元はGrokとされる)をジェイルブレイクして作られた、犯罪者向けに何でも答えてしまう生成AIサービスです。月額数千円のサブスクリプションで提供され、フィッシングサイトや犯罪用コードの作成などに使われています。

日本で生成AIを悪用したランサムウェア事件はあった？

2024年、川崎市在住の25歳の男性がITの専門知識がないまま生成AIを使ってランサムウェアを自作し知人に送付した事件があり、生成AI悪用型のウイルス作成としては日本初の有罪判決(懲役3年、執行猶予4年)となりました。

この回を聴く

「おちつきAIラジオ」は、日々のAIトピックを現役のAIエンジニア（しぶちょー）と元刑事のポッドキャストプロデューサー（かねりん）がやさしく解説する対談番組です。