AI音声で身代金要求

熊本市で「家族の安心・安全のお手伝い」をしていますサレ夫探偵社です。

以前「AI音声でオレオレ詐欺」という話を書きましたが、遂にアメリカでは「15歳の女の子の誘拐事件を装って身代金を要求」という事件が起きています。
(実際には誘拐していないし、身代金を支払う前に子供が家にいることが確認できたので金銭的な被害は出ていませんが)

１．15歳の女の子がSNSにあげた動画から声をAIに学習させる。
２．SNSで特定した親の情報から電話番号を調べて親に電話する。
３．AIに「誘拐された。身代金を払ってくれないと殺される」と電話させる。

という流れで実行したものと思われます。

Facebookは本名で登録するため個人の特定が非常に容易ですし、家族と繋がっていて、親が電話番号を載せていれば、その日のうちに実行できてしまいます。

Facebookでなくても大量に動画をアップしているアカウントであれば、住んでいる場所や映っている風景、話している内容等で特定できる事もありますし、多くの動画で学習することにより、よりAIの作る声の精度も高くなるので、実の親であっても区別するのは不可能です。
事実、上記の案件では親は完全に「話した相手は自分の子供だった」と勘違いしていました。

日本でも近い将来、同じようにAIの音声を使った犯罪が間違いなく発生します。
実は報道されていないだけで、既に起きているかもしれません。

「SNSは使わない」もしくは、どうしても使う必要があるのであれば「家族でSNSの使い方についてしっかり話をした上で使わせる」ようにする必要があります。

サレ夫探偵社は「家族の安心・安全のお手伝い」をしています。
情報セキュリティについても様々な対応ができます。
お気軽に無料相談よりご相談ください。