AIのディープフェイク画像にどう対応するか。ネットの写真や動画、ニュースでもフェイク動画がある！

いつもありがとうございます。

ハッピーダイエットライフの船田です。

2024年の記事ですが大事な話なので再投稿です。

現代のフェイク画像はこの時より凄い進歩しているので、もう本物と見分けがつきません。

↓↓↓

AIで作られたディープフェイク画像の問題点を紹介した記事をシェアしましたが、これは私たちにも注意しないといけないです。

ネット上にある写真や動画は本物じゃない可能性があります。昔は写真や動画というのは動かぬ証拠になったので、ニュースなどでも使われたのですが・・・。

最近はAIが自動生成できるため、映画のCGやVFXみたいなレベルの動画や写真が素人でも作れるようになった。

実際に船田の関連記事でも記事をリンクさせましたが、イスラエル紛争の動画や写真が、仮にも世界の映像編集アプリシェアナンバーワンのadobeがフェイク写真を販売していた！

つまり「より悲惨な映像」「より刺激的な映像」「より嫌らしい映像」が簡単に作れるようになってしまったのです。

だから、これからネットの画像はもちろん、テレビや新聞の写真や動画でも、本物かどうかは分からない。

1990年代にインターネットが世界に普及した背景には闇権力による「ポ.ル.ノ写真」共有の目的があったように、自動生成AIが作るポ.ル.ノ動画が自動生成AI普及に一役買っているのは間違いないと思う。

すでにネット上には自動生成AI美女が氾濫している。もう企業のテレビコマーシャルに出ているくらいだから、普通の人には見わけがつかないし、どこで見せられているかもわからない。

すでに、バイデン大統領のディープフェイク動画や、岸田首相のディープフェイク動画も拡散されているから、本当に何が本物で、なにが偽物か分からない時代になった。

だから、今後「これは本物か？」と思う動画や写真を見ることは増えるばかりだと思うけど、まず判断基準としては、その記事などから一時情報にたどり着けるかどうかだと思う。

常識のある人なら、動画や写真を引用して拡散するには、元記事を紹介すると思うけど、元記事の紹介が無い映像は本物かどうか怪しいってことだよね。

ネット上の「いわゆる目覚めた人たち」には、特にこのディープフェイク映像に騙される傾向があります。

いや、ディープフェイク映像以前に、普通の合成写真や、全く違う写真を見せられて、関係ない説明により、フェイク記事が作られているから気を付けた方がいいです。

私たちは真実を拡散するのが大事なのであって、フェイク記事やディープフェイク映像を拡散したらダメだよね。

私も含めて、皆さんご注意くださいね。

芸能人の被害は200人以上か!?　一般人の顔もポルノに…深刻化するディープフェイク問題、日本で規制が進まないワケ（集英社オンライン） - Yahoo!ニュース韓国では最近、女性芸能人のみならず、一般人の女性の顔を性的な動画と合成させたフェイク動画の作成・拡散が問題となっている。こうした「ディープフェイク」は日本において、どれほど問題視されているのか。情報

news.yahoo.co.jp

「ディープフェイク」日本で最も多い使用例は…

そもそもディープフェイクとは、機械学習アルゴリズムの1つであるディープラーニングを使って、2つの画像や動画を合成させ、元のものとは異なる動画を作成する技術を指す。

しかし、現代では、ある人物が実際には行なっていない行動や言動をあたかも行なっているかのように見せる「偽動画」を指す用語として使われることが多い。

ディープフェイク関連の性犯罪が深刻な韓国では、今年8月、性的なディープフェイクを所持および購入するだけでなく、単に視聴する行為も処罰の対象とした。

またディープフェイク物の製作や流通に対する処罰基準も懲役5年から7年に強化し、規制が進んでいる。

では、日本におけるディープフェイクに関連する事件にはどのようなものが多いのか。

「韓国と同様、アダ.ルトコンテンツにディープフェイクが使われることが多いのではないかと思います。日本でも事件として立件されたケースが、芸能人の顔を使用したアダ.ルト動画の作成です。

この事件は、2020年10月のディープフェイク関連一斉取り締まりが行われたときに、著作権侵害と名誉棄損の容疑で逮捕者が数名出ました」（湯淺氏、以下同）

2020年10月2日、熊本県に住む大学生と、兵庫県に住むシステムエンジニアの男が、AV出演者の顔を女性芸能人とすり替えた動画などを動画サイトにアップしており、芸能人の名誉を傷つけたことや、AV制作会社の著作権を侵害した疑いで逮捕された。

そしてこの事件がディープフェイク関連での逮捕例としては日本で初めてだった。

2020年時点で国内には3500本以上の動画が…

警視庁によると、2020年10月の一斉パトロールの時点で、国内ではフェイクポ.ル.ノに無断で顔を使われた日本の芸能人は約200人にのぼり、作成された動画は3500本以上にのぼっていたという。

また湯淺氏は、こうしたアダ.ルトコンテンツにおけるディープフェイクの犯罪を検挙することの難しさについてこう語る。

「実はディープフェイクによる被害というのは、実態がわかりにくいんです。というのも、ディープフェイクで作成した動画像、主にアダルトコンテンツなどは、基本的に仲間内だけで共有されることが多く、被害が顕在化することが少ないのです」

湯淺氏はディープフェイク関連の被害が顕在化しにくい他の原因についてもこう言及する。「現状ディープフェイクによる被害は、名誉を傷つけたことについては被害者の告訴がなければ事件にならない『親告罪』となっています。

つまり被害者が訴えなければ事件化できないわけですが、芸能人であれば所属事務所がインターネット上のコンテンツの調査をしていることも多いので、事件化するケースも多いですし、アダ.ルトビデオの制作会社が著作権侵害で訴えるケースも見られます。

しかし、一般人の顔を使用したフェイクポ.ル..ノなどを事件化できたケースは少ないと推測します。なぜなら一般人の場合、動画製作者側は個人的な趣味として自分だけが所持している場合が多く、被害者は自分の顔がポ.ル.ノに使われているということにすら気づくことが難しいからです」

日本で違法となっている児童.ポ.ル.ノ、ディープフェイクの場合は処罰が難しいワケ

日本では児童.ポ.ル.ノ禁止法によって、18歳未満の児童のわいせつな写真や動画を製作・所持・提供することなどが処罰の対象となっているが、こうした児童.ポ.ル.ノのディープフェイクに関しては処罰の対象にならないのだろうか。

「現状、生成AIによって作られた動画像は、たとえ未成年のように見える被写体であったとしても処罰することが難しいんです。理由としては、アニメ等の創作物は、未成年のように見えるものであったとしても、児童.ポ.ル.ノ禁止法が適用されないからです。

マンガやアニメのような創作物で児童のように見えるものを規制するべきかについては、賛否両論があります。

また、実在する女性の顔を、生成AIで作成した未成年者を思わせる被写体のわいせつな動画と合成させても、その実在する女性が成人であれば児童には該当しないので、児童.ポ.ル.ノ禁止法が適用されず、処罰できないということになるのです」

やはり現状、性犯罪のディープフェイクを処罰できる唯一の方法は、被害者が直接訴えることしかないということだ。しかし、こうした犯罪の逃げ道を放っておくことは被害の拡大を助長するだろう。現段階で何か対策は講じられているのだろうか。

「児童.ポ.ル.ノ禁止法を、生成AIによって作成したものや、アニメ、コミックなどの範囲にまで適用するかどうかは現在議論の段階なのですが、日本において『表現の自由』は憲法で定められている国民の大事な権利であり、これを軽々しく制限することができないということが、なかなか規制が進まない要因の1つになっています。

こうした背景から、今後は動画像の製作者を罰するよりも、生成AIを運営する事業者に対して、AIでポ.ル.ノを作成できないよう自主規制させる可能性のほうが高いと予想しています。

実際、ChatGPTなどの生成AIでは、爆弾の作成方法や殺人の方法など、犯罪につながるような質問を聞かれても答えないように自主的に規制されています。こうした方法でポ.ル.ノによる被害も減らしていくことができるのではないでしょうか」