怖い時代になりました

熊本市で「家族の安心・安全のお手伝い」をしていますサレ夫探偵社です。

昨年11月に岸田首相のディープフェイク動画が出回り話題となりましたが、その後もAI(ディープフェイク)の技術はどんどん進化していますし、これからもどんどん進化していくのは間違いありません。

そこで問題になってくるのが法整備ですが、世界中の国が
「法で縛れば縛るだけ用途が限定されて金にならなくなるので企業が出資(開発)しない」
　→他国に技術で遅れを取る事になり、軍事的にも経済的にも自国が危険な状態になりかねない。
という狭間で頭を悩ませています。

そこで名だたるAI企業や世界のルールを何故か決めたがるEUが動いていますが、結局のところいくらルールを作って罰則を厳しくしたところで破る輩は間違いなく出てきますから、「見破る技術を開発するしか無い」と思っています。

国際的にも例えば今なら中国や北朝鮮、ロシアがEUが決めたAI開発に関するルールに(表向きは従っても)実際に従う可能性はゼロでしょうし、いくら名だたるAI企業が提供しているサービスへのアクセスを制限したところで自国のAI企業が開発したAIを用いれば、様々なディープフェイク画像や動画が作れますからね。

何より問題なのは「誰にでも簡単に」「パッと見にどころか、どこからどう見ても本物と見分けがつかないレベルの物が」作れる時代がすぐそこまで来ているという事です。

例えばこれを読んでいるあなたが社内会議で喋った音声と、飲み会や社員旅行で撮った写真で容姿を学習させれば、あなたが社内の女性社員に露骨なセクハラ発言をしている音声や、セクハラ行為を行っている動画が簡単に作れるということです。このご時世にそんな音声・写真・動画が社内全員のみならず取引先にまで出回ったらどうなるか、考えるまでもなくクビ、もしくはクビにならなくても失脚して閑職に追いやられる事は間違いないでしょう。
つまり一般人でもディープフェイク被害に遭う可能性があるという事です。

まだ現段階では技術的に未熟な部分があり、映像(写真や動画)に関しては見た目で「ディープフェイク」と判断することが可能ですが、音声に関しては既に難しい域に達しています。これはユーチューブに「既に亡くなっているマイケル・ジャクソンやフレディ・マーキュリーの声で最近の曲を歌わせているディープフェイク音声」がありますが、その完成度の高さに驚くこと間違いなしです。
岸田首相の件はニュース番組のロゴが入っていたため、制作局が「ニセモノだ」と断定して発表することで早い段階で「ニセモノ」と多くの人が認識できましたが、もしもロゴが入っていなければニセモノと断定できずに信じた人も多かったと思われます。

今後、特に芸能人や政治家といった有名人、著名人はこういうリスクに晒される事になりますが、もしこれが「中国の習近平とアメリカのバイデンがロシアを同時に攻撃する電話会談を行った証拠音声」だったり、「日本と台湾が中国に攻め込む極秘会談を行った際の隠し撮りした動画」だった場合、世界大戦に発展しかねないという事は頭の中に入れておく必要があると思います。

つまり今後は今まで以上にSNS等の信頼性の低い情報は特に「本物かどうかを最初から疑ってかかる必要がある」という事です。

もちろん、個人レベルでも「旦那と別れて彼氏と結婚したい」と思った妻が、旦那の不倫写真をAIを用いて捏造し裁判をおこすといった事がおきる事は容易に想像がつきます。裁判はその場の裁判官を騙せば勝てるので、ITに疎い裁判官なら簡単に騙して勝つことができるでしょう。個人的にはAIのディープフェイク(捏造)写真による裁判が既に起きている可能性もあると思っています。
※写真が本物である証明は難しい(悪魔の証明)ので、訴えられた側が「その日のその時間は社内会議に出ていて写真の場所に行くことはできなかった」等、「偽物である証明義務」があるため「偽物である証明ができなければ負ける可能性が高い」という事です。

私自身は映像解析のプロフェッショナルではありませんが、20年近くIT技術者をやってきて映像関係の知識も豊富ですので、捏造写真の作成については(犯罪幇助になる可能性があるため)ご相談に乗れませんが、見破る方向であればご相談に乗れると思います。

サレ夫探偵社は「家族の安心・安全のお手伝い」をしています。
これからも豊富な技術と人脈を駆使してご依頼者様のご要望にお応えしてまいります。
お気軽に無料相談よりご相談ください。