2018/10/11
AIブームとリスクのあれこれ
■誰でも入手できるAIアルゴリズム
このビデオはどのようにして作るのでしょうか。まず複雑な命令コード一式をコンピューターにインストールし、次にビデオ加工する人物の様々なイメージと音声を読み込みます。この後コンピュータープログラムは、その人物の顔の表情や動きだけでなく、声や話し方のパターンまで含め、そっくり真似できるように学習します。対象とする人物のビデオ画像や音声がたくさんあればあるほど、ディープフェイクは自由自在に偽の発言を作り出すことができるそうです。
こうしたビデオは、インターネットからプログラムコードを有料または無償でダウンロードして作れるというから驚きです。以前、この連載で述べた「3Dプリンターによる銃製造マニュアルのダウンロード」とほとんど同じでしょう。
考えてみれば、ネット上には政治家やタレント、セレブなどを撮ったビデオ映像があふれています。こうした素材に興味を持つ者はだれでも簡単にインターネットからソースコードをダウンロードし、手軽にフェイクビデオが作れる。これだけでも、なんとなく嫌な予感がするではありませんか。
米国のある専門家はこう指摘します。「私たちが観ている人物が本人なのか、本人が話していることなのか、それともフェイクなのか区別できない時代に入りつつあります。これは大きな問題です」と。アメリカ国防高等研究計画局(DARPA)は、すでにこうしたフェイク画像や映像を見破るための技術の開発に着手しているそうですが、今のところ、フェイクを特定するためのプロセスがとても複雑で、かつ時間もかかると言われています。
しかし仮に世の中にディープフェイクが広まっても、ユーザーはそれを危険なものとは見做さないでしょう。むしろ面白がって繰り返し観るに違いない。過激なYoutube映像ほど数えきれないほどの人が閲覧している現状からもそれは明らかです。しかし、それに慣れ親しんで感覚が麻痺してしまうとやっかいです。自分が観ている映像の真偽の判断がつかず、リテラシーが崩壊してしまうのですから。
■ディープフェイク・ビデオがもたらすさらなるリスク
筆者が観た限りでは、フェイクビデオにはパロディやウケをねらって一目で加工したことがわかるようなものから、先ほどのオバマ前大統領のような真偽の区別がつかないリアルなものまでいろいろあります。一般にこの種のフェイクビデオは、今現在はコメディなどで使われていて、あまり害はなさそうにも見えます。とは言え、その延長上に犯罪リスクの危険性を考えないわけにはいきません。
例えば映画俳優や実業界のセレブなどは世間から注目と賞賛を浴びる一方で、彼ら彼女らを心よく思わない人々もいる。そんな人たちが悪意をもって、いやがらせとか報復のために俳優やセレブを貶めるようなディープフェイク・ビデオを作り、ネットに拡散させるかもしれません。
しかし実のところ、ディープフェイクの拡散をもっとも警戒しているのは米国の政治家や情報当局なのです。最悪の場合、例えば次のような国家レベルの脅威となり得るようなケースが考えられると言います。
(1)大統領や議員選挙などで相手候補者に「トンデモ発言」を言わせたビデオを流して足を引っ張る。
(2)証拠映像をきっかけに告訴された政治家や実業家が、「それはディープフェイク映像だ。私は一言もそんなことは口にしていない」と弁解し、言い逃れの手段に利用する。
(3)国民を分断したり、良好な国家間の関係を破たんさせる目的で、だれかがトランプ大統領のような国のトップにとんでもない発言をさせた映像を流す。とうてい容認できないような人種差別的発言とか、相手国を挑発して戦闘態勢をとらせるような発言です。こんなことが起これば世界は大混乱するでしょう。
さて、これらは米国の話ではありますが、日本はどうなんでしょうか? 国内でディープフェイク・ビデオがネット上にアップされるのは時間の問題かもしれません(いや、どこかでもう映像が流れているかも?)。もしそうなったら、私たちはどう対処すればよいのでしょうか。あまり先行きのことを懸念するのは健康によくありません。けれども今後、まったく気づかないうちにこの種のビデオのとりこになったり、完全に騙されて誤った認識を持つリスクを抱えていることを、私たちは心の隅にとどめておく必要があるのではないでしょうか。
(了)
AIブームとリスクのあれこれの他の記事
おすすめ記事
-
-
リスク対策.com編集長が斬る!【2024年4月16日配信アーカイブ】
【4月16日配信で取り上げた話題】今週の注目ニュースざっとタイトル振り返り/特集:熊本地震におけるBCP
2024/04/16
-
調達先の分散化で製造停止を回避
2018年の西日本豪雨で甚大な被害を受けた岡山県倉敷市真備町。オフィス家具を製造するホリグチは真備町内でも高台に立地するため、工場と事務所は無事だった。しかし通信と物流がストップ。事業を続けるため工夫を重ねた。その後、被災経験から保険を見直し、調達先も分散化。おかげで2023年5月には調達先で事故が起き仕入れがストップするも、代替先からの仕入れで解決した。
2024/04/16
-
工場が吹き飛ぶ爆発被害からの再起動
2018年の西日本豪雨で隣接するアルミ工場が爆発し、施設の一部が吹き飛ぶなど壊滅的な被害を受けた川上鉄工所。新たな設備の調達に苦労するも、8カ月後に工場の再稼働を果たす。その後、BCPの策定に取り組んだ。事業継続で最大の障害は金属の加温設備。浸水したら工場はストップする。同社は対策に動き出している。
2024/04/15
-
動きやすい対策本部のディテールを随所に
1971年にから、、50年以上にわたり首都圏の流通を支えてきた東京流通センター。物流の要としての機能だけではなく、オフィスビルやイベントホールも備える。2017年、2023年には免震装置を導入した最新の物流ビルを竣工。同社は防災対策だけではなく、BCMにも力を入れている。
2024/04/12
-
民間企業の強みを発揮し3日でアプリ開発
1月7日、SAPジャパンに能登半島地震の災害支援の依頼が届いた。石川県庁が避難所の状況を把握するため、最前線で活動していた自衛隊やDMAT(災害派遣医療チーム)の持つ避難所データを統合する依頼だった。状況が切迫するなか、同社は3日でアプリケーションを開発した。
2024/04/11
-
-
組織ごとにバラバラなフォーマットを統一
1月3日、サイボウズの災害支援チームリーダーである柴田哲史氏のもとに、内閣府特命担当の自見英子大臣から連絡が入った。能登半島地震で被害を受けた石川県庁へのIT支援要請だった。同社は自衛隊が集めた孤立集落や避難所の情報を集約・整理し、効率的な物資輸送をサポートするシステムを提供。避難者を支援する介護支援者の管理にも力を貸した。
2024/04/10
-
リスク対策.com編集長が斬る!【2024年4月9日配信アーカイブ】
【4月9日配信で取り上げた話題】今週の注目ニュースざっとタイトル振り返り/特集:安全配慮義務
2024/04/09
-
※スパム投稿防止のためコメントは編集部の承認制となっておりますが、いただいたコメントは原則、すべて掲載いたします。
※個人情報は入力しないようご注意ください。
» パスワードをお忘れの方