２０２０年４月１７日
文字数 3,309文字
2020年4月17日
眼の見え方がよくない。屋内が長く、焦点距離が近いせいかもしれない。
番組は見逃したが、『NHK』が2020年4月8日にサイトに掲載した『ディープフェイクの脅威』は興味深い。ディープフェイク自体は2019年6月にFacebookのマーク・ザッカーバーグCEOの偽動画や女優のキム・カーダシアンのフェイクポルノなどの問題がニュースになったので知っている。この記事では一般人が悪意の標的になる事態も起きているという。
“水道水にコロナ入っている”“中国でトイレ紙の生産が止まり日本で不足”これらは全てうその情報だ。新型コロナウイルスの感染拡大の影響でネット上に、こうしたうそ＝フェイクの情報がまん延している。その影響は大きい。そしてこうしたフェイクがいま、日々“進化”している。例えばこちらの動画。
タレントの渡辺直美さんの映像と思いきや、実は一般人の顔を渡辺直美さんの顔に置き換えて作られた偽物、フェイクだ。渡辺さんの顔を、数万点ものパーツに分解、表情ひとつひとつをA I=人工知能が、ディープラーニングすることで作られる「ディープフェイク」という技術が用いられている。単に顔をすげ替えるだけではなく、顔の表情を自然に動かすことが出来るのだ。この動画では渡辺直美さんの口元を変えている。他にもオバマ前大統領など著名人のディープフェイクがネット上で出回っている。映画などで活用するために開発されたこの「ディープフェイク」の技術。悪用されて傷つけられる人々が急増している。
フェイクがリアルになる恐怖
オーストラリアで暮らすノエル・マーティンさん（２５）が、ある日ネット上で目にしたのは身に覚えのない自らのポルノ動画だった。
マーティンさんの顔とポルノ女優の顔がすげ替えられていたのだ。
フェイク動画が投稿されたサイトには、マーティンさんの名前や住所などの個人情報までのっていて、まるでマーティンさんが投稿したかのように見せかけられていた。
フェイクに使われた写真を見ながらマーティンさんは「高校卒業後、大学に入学したころの写真です。大学のパーティーに行く前に撮りました」と思い出の写真だったことを話してくれた。
フェイスブックを愛用し、約１,０００人の友人とつながっていたマーティンさん。フェイスブックには友人との食事や旅行、家族と撮った数多くの写真があった。日々の何気ない投稿写真が、ディープフェイクに利用されていたことにマーティンさんは大変ショックを受けたという。「ショックでした。何が起こっているのかわからなくて、胃がキリキリ痛み、吐き気もしました。とにかく怖かったんです」。誰の仕業なのか心当たりがないマーティンさんは弁護士や警察に相談。サイトの運営者にも削除を求めたが、ディープフェイクはすでに拡散、打つ手はなかった。事態の改善が図られない中、マーティンさんは意を決してメディアに被害を告白した。
「私はＳＮＳの画像を盗まれ、多くのポルノサイトに投稿されました」
しかし、むしろ事態は悪化、ネットでは、ひぼう中傷が増しただけだった。
ノエル・マーティンさん
「私にはフェイクと分かりますが、雇用主や友達、私を知らない誰かが見たとき、これを私だと思うのではないでしょうか。時間が経つごとに、どんどん映像がリアルになっていくのです」（ノエル・マーティンさん）。
ターゲットは世界中の女性 米大統領選も！
オーストラリアだけでなく、世界で問題となっているディープフェイク。オランダのサイバーセキュリティー会社ディープトレースの調査では、ネット上にあるフェイク動画の数は、約半年間で２倍、１万４,０００件以上に増加したとの結果が出ている。そのうち９６%の動画が女性をターゲットにしたものだという。
アメリカ ニューヨーク NPO団体「サンクチュアリ・フォー・ファミリーズ」
ディープフェイクに立ち向かう団体を取材した。１９８４年から女性の暴力被害などに対応してきたアメリカのニューヨークにあるＮＰＯ団体「サンクチュアリ・フォー・ファミリーズ」だ。いま一番の課題は、国境を越えてやり取りが行われるディープフェイクのサイトの取り締まりだ。この日、取り締まりの対象として、あるフェイクポルノ専門サイトが話題にあがった。そのサイトにはフェイクポルノ製作依頼の投稿が数多く寄せられていた。
こうした依頼に対し、“作成に応じる”という数多くのコメントも記されていた。こうしたフェイクポルノ専門サイトのターゲットは、世界中の女性だ。
女性を傷つけるディープフェイクのサイト運営管理者は悪びれもせずこう主張する、“サイトはあくまでテクノロジーの進化のためだ。”「人々がディープフェイクの技術を学ぶためにサイトを運営しています。たまたまポルノが人々の興味を誘っただけ。物事には負の側面もあるといことです。ディープフェイクは単なる道具です。それをどう使うかを決めるのは人間です」（フェイクポルノの作成を依頼できるサイト運営管理者）。ディープフェイクの脅威は、ポルノにとどまらない。ことし（２０２０年）秋に行われる予定のアメリカ大統領選挙にも及んでいる。
この４枚の写真は、すべてＡＩが作り出した実在しない人物たちだ。ＳＮＳにこうした実在しない人物の偽アカウントを作り、トランプ大統領を支持する投稿を拡散させていったのだ。
ディープフェイクへの対応策は？
フェイスブック社はことし、ディープフェイクの一部を削除する方針を打ち出した。ただ、どこまでを表現の自由と捉えるかの判断が難しく、規制は限定的であるべきだとしている。
「人々が自由に表現し意見交換できるようにすると同時に、利用者が見たくない内容から守る必要もあり、このバランスをどうとるのかが難しいのです」（フェイスブック社 プロダクトマネージャー アントニア・ウッドフォードさん）。
世界中の研究者も、対策に追われている。ニューヨーク州立大学、リュー・シーウェイ教授の研究室では、ＡＩを使って動画の真偽を見破る技術を開発した。偽の動画、フェイクが作成さられたときに生じる顔のわずかなゆがみを検知し、ディープフェイクを見つけ出す技術だ。しかし、見破る技術が高まれば、それを利用してディープフェイクを作成する技術も高まる。「いたちごっこの状況が続いている」とシーウェイ教授はいう。
「どんなに高度な検知技術があっても、より精巧なフェイク動画が検知を逃れます。『ネット動画は全て信じない』というような過剰反応をする人もいますが、私たちはそれくらい気をつけないといけません」（リュー・シーウェイ教授）。
実は、いま日本でもディープフェイクのポルノ動画が拡散されている。しかし日本ではディープフェイク自体を規制する法律はなく、作りたい放題の状況だ。世間にあふれる嘘の情報=フェイクにどう対抗していくのか。まずはＳＮＳを使う我々ひとりひとりが意識を高めることともに、各国が連携して規制する対策が望まれている。
この記事が明らかにしているのは、ディープフェイクの技術がソジニーや機会主義、世論誘導など特定の目的のために悪用されていることだ。こうした思想は倫理性・社会性において問題がある。「科学技術」、すなわち「科学に基づく技術(Science Based Technology)」の「技術」は人間に利用の裁量権が委ねられている。発電に水力を使うか、石炭火力にするか、それとも原子力か、太陽光を利用するかなどの選択は人間に委ねられている。そうした科学技術の発展に犠牲はやむを得ないとする議論は、ナチスの人体実験と同じで、倫理性・社会性において今日では通用しない。
夕食はパエリア、ソーセージのポトフ、野菜サラダ、久しぶりに赤ワイン(Vena Zoe）、食後は紅茶、干し柿。屋内ウォーキングは10079歩。都内の新規陽性者数は201人。
参照文献
「“ディープフェイク”の脅威」、『NHK』、2020年4月8日更新
https://www.nhk.or.jp/kokusaihoudou/archive/2020/04/0408.html
眼の見え方がよくない。屋内が長く、焦点距離が近いせいかもしれない。
番組は見逃したが、『NHK』が2020年4月8日にサイトに掲載した『ディープフェイクの脅威』は興味深い。ディープフェイク自体は2019年6月にFacebookのマーク・ザッカーバーグCEOの偽動画や女優のキム・カーダシアンのフェイクポルノなどの問題がニュースになったので知っている。この記事では一般人が悪意の標的になる事態も起きているという。
“水道水にコロナ入っている”“中国でトイレ紙の生産が止まり日本で不足”これらは全てうその情報だ。新型コロナウイルスの感染拡大の影響でネット上に、こうしたうそ＝フェイクの情報がまん延している。その影響は大きい。そしてこうしたフェイクがいま、日々“進化”している。例えばこちらの動画。
タレントの渡辺直美さんの映像と思いきや、実は一般人の顔を渡辺直美さんの顔に置き換えて作られた偽物、フェイクだ。渡辺さんの顔を、数万点ものパーツに分解、表情ひとつひとつをA I=人工知能が、ディープラーニングすることで作られる「ディープフェイク」という技術が用いられている。単に顔をすげ替えるだけではなく、顔の表情を自然に動かすことが出来るのだ。この動画では渡辺直美さんの口元を変えている。他にもオバマ前大統領など著名人のディープフェイクがネット上で出回っている。映画などで活用するために開発されたこの「ディープフェイク」の技術。悪用されて傷つけられる人々が急増している。
フェイクがリアルになる恐怖
オーストラリアで暮らすノエル・マーティンさん（２５）が、ある日ネット上で目にしたのは身に覚えのない自らのポルノ動画だった。
マーティンさんの顔とポルノ女優の顔がすげ替えられていたのだ。
フェイク動画が投稿されたサイトには、マーティンさんの名前や住所などの個人情報までのっていて、まるでマーティンさんが投稿したかのように見せかけられていた。
フェイクに使われた写真を見ながらマーティンさんは「高校卒業後、大学に入学したころの写真です。大学のパーティーに行く前に撮りました」と思い出の写真だったことを話してくれた。
フェイスブックを愛用し、約１,０００人の友人とつながっていたマーティンさん。フェイスブックには友人との食事や旅行、家族と撮った数多くの写真があった。日々の何気ない投稿写真が、ディープフェイクに利用されていたことにマーティンさんは大変ショックを受けたという。「ショックでした。何が起こっているのかわからなくて、胃がキリキリ痛み、吐き気もしました。とにかく怖かったんです」。誰の仕業なのか心当たりがないマーティンさんは弁護士や警察に相談。サイトの運営者にも削除を求めたが、ディープフェイクはすでに拡散、打つ手はなかった。事態の改善が図られない中、マーティンさんは意を決してメディアに被害を告白した。
「私はＳＮＳの画像を盗まれ、多くのポルノサイトに投稿されました」
しかし、むしろ事態は悪化、ネットでは、ひぼう中傷が増しただけだった。
ノエル・マーティンさん
「私にはフェイクと分かりますが、雇用主や友達、私を知らない誰かが見たとき、これを私だと思うのではないでしょうか。時間が経つごとに、どんどん映像がリアルになっていくのです」（ノエル・マーティンさん）。
ターゲットは世界中の女性 米大統領選も！
オーストラリアだけでなく、世界で問題となっているディープフェイク。オランダのサイバーセキュリティー会社ディープトレースの調査では、ネット上にあるフェイク動画の数は、約半年間で２倍、１万４,０００件以上に増加したとの結果が出ている。そのうち９６%の動画が女性をターゲットにしたものだという。
アメリカ ニューヨーク NPO団体「サンクチュアリ・フォー・ファミリーズ」
ディープフェイクに立ち向かう団体を取材した。１９８４年から女性の暴力被害などに対応してきたアメリカのニューヨークにあるＮＰＯ団体「サンクチュアリ・フォー・ファミリーズ」だ。いま一番の課題は、国境を越えてやり取りが行われるディープフェイクのサイトの取り締まりだ。この日、取り締まりの対象として、あるフェイクポルノ専門サイトが話題にあがった。そのサイトにはフェイクポルノ製作依頼の投稿が数多く寄せられていた。
こうした依頼に対し、“作成に応じる”という数多くのコメントも記されていた。こうしたフェイクポルノ専門サイトのターゲットは、世界中の女性だ。
女性を傷つけるディープフェイクのサイト運営管理者は悪びれもせずこう主張する、“サイトはあくまでテクノロジーの進化のためだ。”「人々がディープフェイクの技術を学ぶためにサイトを運営しています。たまたまポルノが人々の興味を誘っただけ。物事には負の側面もあるといことです。ディープフェイクは単なる道具です。それをどう使うかを決めるのは人間です」（フェイクポルノの作成を依頼できるサイト運営管理者）。ディープフェイクの脅威は、ポルノにとどまらない。ことし（２０２０年）秋に行われる予定のアメリカ大統領選挙にも及んでいる。
この４枚の写真は、すべてＡＩが作り出した実在しない人物たちだ。ＳＮＳにこうした実在しない人物の偽アカウントを作り、トランプ大統領を支持する投稿を拡散させていったのだ。
ディープフェイクへの対応策は？
フェイスブック社はことし、ディープフェイクの一部を削除する方針を打ち出した。ただ、どこまでを表現の自由と捉えるかの判断が難しく、規制は限定的であるべきだとしている。
「人々が自由に表現し意見交換できるようにすると同時に、利用者が見たくない内容から守る必要もあり、このバランスをどうとるのかが難しいのです」（フェイスブック社 プロダクトマネージャー アントニア・ウッドフォードさん）。
世界中の研究者も、対策に追われている。ニューヨーク州立大学、リュー・シーウェイ教授の研究室では、ＡＩを使って動画の真偽を見破る技術を開発した。偽の動画、フェイクが作成さられたときに生じる顔のわずかなゆがみを検知し、ディープフェイクを見つけ出す技術だ。しかし、見破る技術が高まれば、それを利用してディープフェイクを作成する技術も高まる。「いたちごっこの状況が続いている」とシーウェイ教授はいう。
「どんなに高度な検知技術があっても、より精巧なフェイク動画が検知を逃れます。『ネット動画は全て信じない』というような過剰反応をする人もいますが、私たちはそれくらい気をつけないといけません」（リュー・シーウェイ教授）。
実は、いま日本でもディープフェイクのポルノ動画が拡散されている。しかし日本ではディープフェイク自体を規制する法律はなく、作りたい放題の状況だ。世間にあふれる嘘の情報=フェイクにどう対抗していくのか。まずはＳＮＳを使う我々ひとりひとりが意識を高めることともに、各国が連携して規制する対策が望まれている。
この記事が明らかにしているのは、ディープフェイクの技術がソジニーや機会主義、世論誘導など特定の目的のために悪用されていることだ。こうした思想は倫理性・社会性において問題がある。「科学技術」、すなわち「科学に基づく技術(Science Based Technology)」の「技術」は人間に利用の裁量権が委ねられている。発電に水力を使うか、石炭火力にするか、それとも原子力か、太陽光を利用するかなどの選択は人間に委ねられている。そうした科学技術の発展に犠牲はやむを得ないとする議論は、ナチスの人体実験と同じで、倫理性・社会性において今日では通用しない。
夕食はパエリア、ソーセージのポトフ、野菜サラダ、久しぶりに赤ワイン(Vena Zoe）、食後は紅茶、干し柿。屋内ウォーキングは10079歩。都内の新規陽性者数は201人。
参照文献
「“ディープフェイク”の脅威」、『NHK』、2020年4月8日更新
https://www.nhk.or.jp/kokusaihoudou/archive/2020/04/0408.html
