第11回:「生成AI」って何?-part2-
生成AIの悪用事例と気をつけたいポイント
警視庁サイバーセキュリティ対策本部
2016年4月、複雑多様化するサイバー空間の脅威に対処することを目的に設置された警視庁の組織。その業務の一つに、都民及び都内に所在する事業者等に対するサイバーセキュリティ対策や広報啓発活動を実施して、都民生活及び社会経済活動の安全・安心を確保するものがある。
2026/01/21
5分でわかるサイバーセキュリティー教室
警視庁サイバーセキュリティ対策本部
2016年4月、複雑多様化するサイバー空間の脅威に対処することを目的に設置された警視庁の組織。その業務の一つに、都民及び都内に所在する事業者等に対するサイバーセキュリティ対策や広報啓発活動を実施して、都民生活及び社会経済活動の安全・安心を確保するものがある。
「生成AI」は便利な反面、犯罪などに悪用されてしまう場合もあります。今回は「生成AI」が悪用される事例と、気をつけたいポイントについて説明します。
メディアやSNS等で、本当ではない記事が公開されることがありますが、これらの記事をフェイクニュースなどと呼びます。
生成AIにより、もっともらしい偽画像・偽映像・偽ニュース記事等を簡単に作成し、発信できるようになり、インターネットに流れるフェイクニュースが問題となっています。令和6年能登半島地震の発災直後には、フェイクニュースが流通・拡散され、救命・救助活動に支障が出るなどの悪影響が生じました。
詐欺犯人が、生成AIで著名人が投資を勧める詐欺広告を作成してSNSで投資を勧誘し、グループチャット(複数人でメッセージ等をやり取りし、インターネット上で会話を行える場)などで信用させて、金銭等をだまし取る詐欺も発生しています。
ニセ警察詐欺という手口には、
➊ニセの警察官から電話が来て「逮捕状が出ている」などと脅されトークアプリに誘導される。
➋トークアプリのビデオ通話で、偽の警察手帳や逮捕状を画像で見せられる。
➌ニセの警察官から、あなたの口座のお金を調査するので、全額指定口座にお金を振り込むよう指示される。
➍犯人にお金を振り込んでしまい、被害に遭う。
といったものがあります。
そして、➋の際に生成AIを悪用して自分の顔に実在する警察官の顔を合成し、警察官になりすましてビデオ通話を行った可能性がある詐欺も発生しています。
警察官をかたる者とのビデオ通話などついて、動画でわかりやすく説明しています。
リンク:特殊詐欺根絶アクションプログラム・東京
https://action.digipolice.jp/
サイバーセキュリティに関する動画をYouTube警視庁公式チャンネル内で公開しています。
警視庁サイバーセキュリティ対策本部X(旧Twitter)公式アカウントでも情報発信を行っています!
警視庁サイバーセキュリティ対策本部X(旧ツイッター)公式アカウント
防犯アプリ「デジポリス」
お近くの犯罪発生状況や防犯ブザーなどの防犯機能を提供しています。
5分でわかるサイバーセキュリティー教室の他の記事
おすすめ記事
リスク対策.PROライト会員用ダウンロードページ
リスク対策.PROライト会員はこちらのページから最新号をダウンロードできます。
2026/03/05
中澤・木村が斬る!今週のニュース解説
毎週火曜日(平日のみ)朝9時~、リスク対策.com編集長 中澤幸介と兵庫県立大学教授 木村玲欧氏(心理学・危機管理学)が今週注目のニュースを短く、わかりやすく解説します。
2026/03/03
ネット風評被害を叩き企業の信頼を守る
ネット社会の「カイシャの病院」として企業の風評被害を治療・予防するソルナは昨年7月、代表交代をともなう事業承継を行いました。創業者の三澤和則氏が代表取締役を退任し、新たに安宅祐樹氏が就任。これまでのサービス価値をさらに高め、企業の信頼の基盤を保全していく構えです。新社長の安宅氏に事業承継の経緯と今後の展望を聞きました。
2026/03/02
※スパム投稿防止のためコメントは編集部の承認制となっておりますが、いただいたコメントは原則、すべて掲載いたします。
※個人情報は入力しないようご注意ください。
» パスワードをお忘れの方