deepfake

SNS大手のフェースブックが"deepfake"と呼ばれるメディア（動画像）の投稿を禁止することを決定したようです。

"deepfake"というものが何なのか知りませんでしたので、記事を読んで勉強になった次第です。


Facebook says it will remove manipulated media including deepfakes from its platform, as questions linger over how the social network will control the spread of misinformation ahead of another presidential election.

On Monday, Facebook said in a statement it will remove deepfakes if a video has been edited in a way that would "likely mislead someone into thinking that a subject of the video said words that they did not actually say."

Facebook said it will also remove manipulated media created by artificial intelligence or machine learning that could look authentic.

"While these videos are still rare on the internet, they present a significant challenge for our industry and society as their use increases," Monika Bickert, vice president of global policy management at Facebook, said in a statement.
(Brett Molina. Facebook says it's cracking down on deepfakes, manipulated media. USA Today. January 8, 2019.)


記事中の説明では、


a video has been edited in a way that would "likely mislead someone into thinking that a subject of the video said words that they did not actually say."


とあり、あたかも本人がしゃべっているかのように動画や音声を編集してみせることだと分かります。

調べてみますと過去には米民主党議員が猥雑な発言をした動画像が流布されたことがあったそうですが、編集によるもので、本人による実際の発言ではありませんでした。

フェースブックが神経を尖らせているのは、今年は大統領選の年であるという背景があります。4年前の大統領選では同SNSを舞台にロシアによる偽の政治広告が投票動向に影響を及ぼしたとされています。

"deepfake"を可能にしている技術はまさにAI（人口知能）が台頭してきた現代のもので、深層学習を意味する"deep"と、偽物を意味する"fake"を結合した造語だそうです。