「生成AI」は便利な反面、犯罪などに悪用されてしまう場合もあります。今回は「生成AI」が悪用される事例と、気をつけたいポイントについて説明します。

1.フェイクニュース

メディアやSNS等で、本当ではない記事が公開されることがありますが、これらの記事をフェイクニュースなどと呼びます。

生成AIにより、もっともらしい偽画像・偽映像・偽ニュース記事等を簡単に作成し、発信できるようになり、インターネットに流れるフェイクニュースが問題となっています。令和6年能登半島地震の発災直後には、フェイクニュースが流通・拡散され、救命・救助活動に支障が出るなどの悪影響が生じました。

 

インターネット上で発信されている情報は、すべてが真実とは限りません｡本物に見える映像だからといって、すぐに信じないで、他の情報と比べてみて本物かどうか確認してください。

2.有名人が「儲かる」と勧める偽動画（SNS型投資詐欺）

 

詐欺犯人が、生成AIで著名人が投資を勧める詐欺広告を作成してSNSで投資を勧誘し、グループチャット（複数人でメッセージ等をやり取りし、インターネット上で会話を行える場）などで信用させて、金銭等をだまし取る詐欺も発生しています。

 
・取引業者が金融商品取引業者等に登録されているかを確認してください！

・SNSでの儲け話に注意！

・「個人名義の口座」には振り込まないで！

3.警察官になりすました者とのビデオ通話

ニセ警察詐欺という手口には、
➊ニセの警察官から電話が来て｢逮捕状が出ている」などと脅されトークアプリに誘導される。
➋トークアプリのビデオ通話で、偽の警察手帳や逮捕状を画像で見せられる。
➌ニセの警察官から、あなたの口座のお金を調査するので、全額指定口座にお金を振り込むよう指示される。
➍犯人にお金を振り込んでしまい、被害に遭う。
といったものがあります。

そして、➋の際に生成AIを悪用して自分の顔に実在する警察官の顔を合成し、警察官になりすましてビデオ通話を行った可能性がある詐欺も発生しています。

 
警察官がビデオ通話で警察手帳や
逮捕状を示すことは、
絶対にありません。


警察官をかたる者とのビデオ通話などついて、動画でわかりやすく説明しています。
リンク：特殊詐欺根絶アクションプログラム・東京
https://action.digipolice.jp/

　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　

サイバーセキュリティに関する動画をYouTube警視庁公式チャンネル内で公開しています。
警視庁サイバーセキュリティ対策本部Ｘ（旧Twitter）公式アカウントでも情報発信を行っています！
警視庁サイバーセキュリティ対策本部X（旧ツイッター）公式アカウント

防犯アプリ「デジポリス」
お近くの犯罪発生状況や防犯ブザーなどの防犯機能を提供しています。