岸田首相「フェイク動画」拡散 卑猥な言葉、番組ロゴ悪用…悪質な生成AIの規制、騙されないために私たちが気を付けることとは？
2023年11月12日（日）6時50分 TOKYO FM+
モデル・タレントとして活躍するユージと、フリーアナウンサーの吉田明世がパーソナリティをつとめるTOKYO FMのラジオ番組「ONE MORNING」（毎週月曜〜金曜6:00〜9:00）。11月9日（木）放送のコーナー「リポビタンD TREND NET」のテーマは「岸田文雄首相の偽動画と生成AIの規制」。情報社会学が専門の城西大学 助教・塚越健司さんに解説していただきました。
◆SNSで拡散された岸田首相のフェイク動画
先日、生成AIを悪用して作られた岸田文雄首相の偽動画（フェイク動画）がSNS上で拡散されました。この動画は、岸田首相の声を加工して、卑わいな発言をさせたもので、画面上には日本テレビのニュース番組「日テレNEWS24」のロゴなども表示され、実際のニュース番組であるかのように見せかけていました。
海外では、政治家の偽動画が世論操作に悪用される事態も起きていて、日本でも今後、生成AIの悪用や偽動画の対策をしていく必要が出てきました。
ユージ：まず、今回の岸田首相の偽動画とは、どのようなものだったのでしょうか？
塚越：今回の偽動画は、岸田首相がオンライン記者会見のように、画面中央から語りかけるものになっています。日本テレビの番組ロゴや、実際の番組で使われているものに似たテロップ、そして「LIVE」などの表示もあり、あたかも岸田首相が話した内容を生中継しているように見せかけた動画です。
この動画は、今年の夏に動画投稿サイト「ニコニコ動画」などに投稿されたものです。3分43秒のうち、30秒を抜粋したものが今月2日にX（旧Twitter）に投稿され、一気に230万回以上再生されました（11月4日時点）。
ショート動画は閲覧されやすく、場合によってはTikTokやYouTubeショートにも拡散したかもしれません。
◆政府、日本テレビの反応は？
ユージ：政府や日本テレビは、どんな反応をしましたか？
塚越：松野博一官房長官は6日の記者会見で、個別の投稿についてコメントは控えるとした上で、政府情報を偽って発信することは、民主主義の基盤を傷つけることになるとのことなので、こういった投稿は控えるように呼びかけました。
日本テレビも、放送や番組ロゴを偽動画に悪用されたことは許せないとして、必要に応じてしかるべき対応をすると述べました。場合によっては、法的処置も考えているのかなと読み取れます。
吉田：今回の偽動画には、どのような意図があったのでしょうか？
塚越：今回の偽動画を制作投稿したのは、大阪府の25歳の男性です。投稿の意図は一言で言えば「注目されたかった」というもので、政治的な目的ではありません。
昨今はAIに動画や音声を学習させて、簡単に偽動画を作れます。投稿者も、ネット上に公開されている岸田首相の動画音声を学習させて、岸田首相の声に似た合成音声でわいせつな発言をさせたということで、さらにセリフに合うように口の動きを加工（リップシンク）させたり、テロップを作ったりと、1時間ほどで動画を作ったということです。
男性は問題があった後、Xに謝罪文を出して訴訟などの停止を求めていますが、どうなるのかは分かりません。ネット上の誹謗中傷で訴えられるという認識はある程度普及しましたが、AIを利用した動画も名誉毀損等で訴えられる可能性があります。そうした認識を持ってください。
また、明らかに不適切な動画をリポストすることも、場合によっては処罰の対象になる可能性もあります。これも控えましょう。
◆偽動画を見分ける方法は？
ユージ：偽動画の見分け方は、ありますか？
塚越：現状では、特に日本語の動画については、よく聞けばフェイクと分かるものが多いです。日本語の合成音声の精度はそこまで高くありません。あとは、口元が加工されていたり、「まばたき」が非常に少なかったりという点もありますが、最近は見分けがつかなくなってきています。
また、広告領域でも偽動画は問題になっています。昨今は特にSNSの広告で、芸能人などを生成AIで作成して投資を呼びかけるような偽動画が出て問題になりました。こちらも注意してほしいのですが、広告規制についても、特にWebのプラットフォーマーは力を入れる必要があると思います。
あとは何よりも、明らかに「おかしな発言」がされている動画などは、その情報をすぐに信じず、自分で調べるようにしましょう。最近は（TikTokやYouTubeショート、Instagramリールなど）短い動画コンテンツが主流で、動画を再生し終わるとすぐに次の動画が再生されます。そうすると、ちょっと気になる動画があったとしても、調べる暇もなく次の動画を観てしまうので、偽動画を信じやすくなってしまいます。
ただ、これはスマホアプリ全体の構造の問題でもあるので、なかなか規制するのが難しいです。私たちの知らないところで、私たちの脳に蓄積してしまっているところもあります。
◆生成AIの規制 今後どうなる？
ユージ：生成AIの規制について、今後どうなっていくでしょうか？
塚越：なかなか難しいですよね。ロシア・ウクライナ戦争やイスラエルとハマスの戦争などでも、プロパガンダに生成AIが利用されています。来年のアメリカの大統領選挙でも、生成AIを利用した偽動画が懸念されています。こういったものの規制が今後のテーマになっていきます。
日本は今年G7の議長国で、先月末には生成AIに関する国際的な行動規範を打ち出すことができました。最近も、有識者によって「AI戦略会議」が開かれまして、AIを作っている会社を第三者機関が（リスクの低減措置や透明性向上に向けた情報開示などを目的として）認証して良い・悪いの判断をするなど、第三者を入れる枠組みを作ろうという話もありました。あるいは、リスクが高い業種機関（政府や放送など）での規制強化などが議論されました。
生成AIはメリットとデメリットの振れ幅が大きいので、これから議論していく必要がありますし、私たちも注目していく必要があるかなと思います。
----------------------------------------------------
11月9日放送分より（radiko.jpのタイムフリー）
聴取期限 2023年11月17日（金） AM 4:59 まで
※放送エリア外の方は、プレミアム会員の登録でご利用いただけます。
----------------------------------------------------
＜番組概要＞
番組名：ONE MORNING
放送日時：毎週月曜〜金曜6:00〜9:00
パーソナリティ：ユージ、吉田明世
番組Webサイト：https://www.tfm.co.jp/one/
※写真はイメージです
◆SNSで拡散された岸田首相のフェイク動画
先日、生成AIを悪用して作られた岸田文雄首相の偽動画（フェイク動画）がSNS上で拡散されました。この動画は、岸田首相の声を加工して、卑わいな発言をさせたもので、画面上には日本テレビのニュース番組「日テレNEWS24」のロゴなども表示され、実際のニュース番組であるかのように見せかけていました。
海外では、政治家の偽動画が世論操作に悪用される事態も起きていて、日本でも今後、生成AIの悪用や偽動画の対策をしていく必要が出てきました。
ユージ：まず、今回の岸田首相の偽動画とは、どのようなものだったのでしょうか？
塚越：今回の偽動画は、岸田首相がオンライン記者会見のように、画面中央から語りかけるものになっています。日本テレビの番組ロゴや、実際の番組で使われているものに似たテロップ、そして「LIVE」などの表示もあり、あたかも岸田首相が話した内容を生中継しているように見せかけた動画です。
この動画は、今年の夏に動画投稿サイト「ニコニコ動画」などに投稿されたものです。3分43秒のうち、30秒を抜粋したものが今月2日にX（旧Twitter）に投稿され、一気に230万回以上再生されました（11月4日時点）。
ショート動画は閲覧されやすく、場合によってはTikTokやYouTubeショートにも拡散したかもしれません。
◆政府、日本テレビの反応は？
ユージ：政府や日本テレビは、どんな反応をしましたか？
塚越：松野博一官房長官は6日の記者会見で、個別の投稿についてコメントは控えるとした上で、政府情報を偽って発信することは、民主主義の基盤を傷つけることになるとのことなので、こういった投稿は控えるように呼びかけました。
日本テレビも、放送や番組ロゴを偽動画に悪用されたことは許せないとして、必要に応じてしかるべき対応をすると述べました。場合によっては、法的処置も考えているのかなと読み取れます。
吉田：今回の偽動画には、どのような意図があったのでしょうか？
塚越：今回の偽動画を制作投稿したのは、大阪府の25歳の男性です。投稿の意図は一言で言えば「注目されたかった」というもので、政治的な目的ではありません。
昨今はAIに動画や音声を学習させて、簡単に偽動画を作れます。投稿者も、ネット上に公開されている岸田首相の動画音声を学習させて、岸田首相の声に似た合成音声でわいせつな発言をさせたということで、さらにセリフに合うように口の動きを加工（リップシンク）させたり、テロップを作ったりと、1時間ほどで動画を作ったということです。
男性は問題があった後、Xに謝罪文を出して訴訟などの停止を求めていますが、どうなるのかは分かりません。ネット上の誹謗中傷で訴えられるという認識はある程度普及しましたが、AIを利用した動画も名誉毀損等で訴えられる可能性があります。そうした認識を持ってください。
また、明らかに不適切な動画をリポストすることも、場合によっては処罰の対象になる可能性もあります。これも控えましょう。
◆偽動画を見分ける方法は？
ユージ：偽動画の見分け方は、ありますか？
塚越：現状では、特に日本語の動画については、よく聞けばフェイクと分かるものが多いです。日本語の合成音声の精度はそこまで高くありません。あとは、口元が加工されていたり、「まばたき」が非常に少なかったりという点もありますが、最近は見分けがつかなくなってきています。
また、広告領域でも偽動画は問題になっています。昨今は特にSNSの広告で、芸能人などを生成AIで作成して投資を呼びかけるような偽動画が出て問題になりました。こちらも注意してほしいのですが、広告規制についても、特にWebのプラットフォーマーは力を入れる必要があると思います。
あとは何よりも、明らかに「おかしな発言」がされている動画などは、その情報をすぐに信じず、自分で調べるようにしましょう。最近は（TikTokやYouTubeショート、Instagramリールなど）短い動画コンテンツが主流で、動画を再生し終わるとすぐに次の動画が再生されます。そうすると、ちょっと気になる動画があったとしても、調べる暇もなく次の動画を観てしまうので、偽動画を信じやすくなってしまいます。
ただ、これはスマホアプリ全体の構造の問題でもあるので、なかなか規制するのが難しいです。私たちの知らないところで、私たちの脳に蓄積してしまっているところもあります。
◆生成AIの規制 今後どうなる？
ユージ：生成AIの規制について、今後どうなっていくでしょうか？
塚越：なかなか難しいですよね。ロシア・ウクライナ戦争やイスラエルとハマスの戦争などでも、プロパガンダに生成AIが利用されています。来年のアメリカの大統領選挙でも、生成AIを利用した偽動画が懸念されています。こういったものの規制が今後のテーマになっていきます。
日本は今年G7の議長国で、先月末には生成AIに関する国際的な行動規範を打ち出すことができました。最近も、有識者によって「AI戦略会議」が開かれまして、AIを作っている会社を第三者機関が（リスクの低減措置や透明性向上に向けた情報開示などを目的として）認証して良い・悪いの判断をするなど、第三者を入れる枠組みを作ろうという話もありました。あるいは、リスクが高い業種機関（政府や放送など）での規制強化などが議論されました。
生成AIはメリットとデメリットの振れ幅が大きいので、これから議論していく必要がありますし、私たちも注目していく必要があるかなと思います。
吉田明世、塚越健司さん、ユージ
----------------------------------------------------
11月9日放送分より（radiko.jpのタイムフリー）
聴取期限 2023年11月17日（金） AM 4:59 まで
※放送エリア外の方は、プレミアム会員の登録でご利用いただけます。
----------------------------------------------------
＜番組概要＞
番組名：ONE MORNING
放送日時：毎週月曜〜金曜6:00〜9:00
パーソナリティ：ユージ、吉田明世
番組Webサイト：https://www.tfm.co.jp/one/
関連記事（外部サイト）
