弁護士「法改正が必要」AI利用か…声まで“再現”有名人なりすまし“偽広告”急増【報道ステーション】(2024年4月10日) -芸能ニュース/炎上まとめ

■SNSでの投資詐欺　被害額278億円

10日、永田町の自民党本部を訪れたのは、前澤友作さんと堀江貴文さん。自民党内の部会に呼ばれました。

平井卓也元デジタル大臣
「我々は嘘を見抜く目があるほうだと思うが、それでも見抜けないものもある。インターネットの健全な発展ということから考えて、今回の事案は見逃せない」

SNSで最近、こういう広告をよく目にしませんか？

偽広告
「こんにちは。私“ぜんざくゆうさわ”、日本人に高収入をもたらす新規の投資プロジェクトをご紹介したいと思います。このプロジェクトは人工知能に基づいており“せいけんくいんじょ”における虚偽を成功させることができます。これについての特別なスキル等は必要ありません。今すぐプロジェクトに参画して、数日以内に不労取得を獲得しましょう」

堀江貴文さんのものもあります。

偽広告
「世界中の投資家が、今がFXでトレードするベストタイミングだと考えています」

よく見れば不自然な点もありますが、共通点は“投資”に関するものでした。これら全て偽広告です。

SNS型投資詐欺は去年、急激に被害額が増えてきた犯罪になります。被害総額は去年1年間だけで約277.9億円に上りました。

警視庁　緒方禎己警視総監
「手口別で見れば、被害総額の約4割を占める“オレオレ詐欺”が高止まりの状況にある一方で、新たにウイルス対策のサポート費用を口実に電子マネーをだまし取る“架空料金請求詐欺”や“SNS型投資詐欺”“ロマンス詐欺”などの被害が急増しており…」

なかでもネットの世界では、著名人の顔や名前を利用し、投資を呼び掛ける広告が散乱していて、問題となっています。本人たちは当然、無関係であり、何の許可も出していません。

田原総一朗　公式X
「僕は投資はしません。騙されないように気をつけてください」

■本人の声まで再現　生成AI利用か

AIが作ったディープフェイクの動画や画像。このようなものは今、簡単に作ることができてしまいます。

寺崎比呂美ディレクター
「こちらのプログラムは本人の声を数秒間、登録すれば、その音声に似せて好きなことを喋らせることができるようになっています。報道ステーションの放送から、大越キャスターの声を登録しました。そのうえで、投資を呼び掛ける偽のセリフを登録していきます」

テキストで打ち込み、できあがった音声を偽広告の画像にはめ込むと…。

生成された音声
「こんばんは。大越健介です。きょうは、みなさんに高収入をもたらす、投資プロジェクトを紹介したいと思います」

ここ数年、日本では「貯蓄から投資へ」をスローガンに環境が整備されてきました。

中島淳一金融庁長官（2023年6月当時）
「NISA制度については国民、特に投資初心者が安心して利用できて使い勝手の良い資産形成制度とする」

その一方で、難度が高いのも事実です。まだ知識のない時に、経済に強い人たちが「投資を教えてくれる」「銘柄を教えてくれる」となったら…。

大学生（19）
「（Q.著名人が出ていたらクリックしやすい）まず見てみようって思っちゃうかもしれないですね。自分もやったら、うまくいくのかなと思っちゃうかも」

■前澤友作氏がMeta社提訴へ

SNS型投資詐欺は「本人に成りすました犯人がLINEなどやり取りし、金を騙し取る」というのが手口です。その入り口となる広告は、Meta社が運営するFacebook、Instagramが中心です。

テレビ朝日の問い合わせに対し、Meta社は「広告ポリシーは金銭や個人情報をだまし取ろうとするものを含め、詐欺的または誤解を招く方法を用いて製品、サービス、スキームやオファーのプロモーションをする宣伝を禁止しています」といったコメントをしています。

ただ、前澤さんたちは対応に不満を持っています。

（自民党の会議資料から）
前澤氏
「フェイスブックジャパンに、なりすまし広告を削除してほしい旨の弁護士レターを送付」
FacebookJapan社
「本国に言ってくれ」
前澤氏
「本国Meta社に弁護士レター送付」
Meta社
「完全に排除するのは無理なので理解を求む」

前澤友作氏
「本当は嫌ですよ、こんなの。ただ、僕も被害に遭ってますし、とにかく皆さんが詐欺被害に遭われてますので。去年だけで300億円近い被害が発生していて、今年はその何倍にもなると推測されてますよね。急いだ方がいいと思います。アメリカの弁護士と連携して、本国Meta社を提訴する準備をしています」

堀江貴文氏
「この広告でだまされるかと思って見てますけど、それでだまされている人がいるってことは、広告規制しないとだまされるってことじゃないですか」

今後さらに被害が拡大していくとみられている、SNS型投資詐欺。国はどう対応するのでしょうか。

林芳正官房長官
「（Q.顔を使われた被害者と詐欺被害者の双方から対応を求める動きがあるが、政府としての対応は）特に悪質なケースにつきましては、関係省庁連携のもとで対処してまいりたい。プラットフォーム事業者に対して削除対応の迅速化や運用状況の透明化を求める、プロバイダー責任制限法の改正法案を今国会で提出しているところです」

■“有名人なりすまし”なぜ減らない？

警察庁によると、去年1年間の『SNS型投資詐欺』の被害額は約277.9億円。接触するためのツールとして使われているのは、男女で割合は違いますが、Meta社のFacebook、Instagramを合わせるとどちらも約4割を占めるということです。他にもLINEやマッチングアプリなどが挙げられています。

こうした、SNS型投資詐欺の手口として急増しているのが、著名人のなりすまし広告。名前や画像を勝手に使用し、投資を呼び掛けているかのように見せかけています。

なりすまし広告はなぜ蔓延（まんえん）するのでしょうか。ネット広告の専門家で、クロスワーク株式会社の笠井北斗さんに聞きました。まず挙げているのは、プラットフォーム側のチェック体制です。

笠井北斗さん
「広告を掲載する側が、十分なチェックできていない。違法広告の削除対応はしているが、広告掲載前に違法かどうかを考査する仕組みがない。一連のなりすまし広告は、発信元が海外であったり“投資”“稼げる”といった同じ単語・文章・人物の画像を使用しているという共通点があるので、これらをもとに、AIで違法広告かどうか判断すれば、掲載は回避できるはず。技術的にも全く難しいものではない」

今後、どう対処していけばいいのでしょうか。SNSでのトラブルに詳しい、弁護士の板倉陽一郎さんは、法改正の必要性を指摘しています。

板倉陽一郎さん
「現行法では、審査せず掲載することを想定していない。法改正で“違法広告の審査”の規定を作ることが必要。適切な審査を行わない場合は、プラットフォーム側への行政処分や罰則などを科すといったことも必要ではないか」

FacebookやInstagramを運営するMeta社は、テレビ朝日の取材に対し「違反する広告に対しては、アカウントやページ、違反広告の停止や削除を含め、厳しい措置を講じています。今後も検出技術の規模拡大に大規模な投資を続けていきます」と答えています。
[テレ朝ｎｅｗｓ] https://news.tv-asahi.co.jp