AIの進化と偽情報の脅威、民主主義の危機を招く恐れ
マイナビニュース2024年3月5日(火)8時51分
Tripwireは2月28日(米国時間)、「WEF Is Waging War on Misinformation and Cyber Insecurity|Tripwire」において、AI(Artificial Intelligence)がもたらす脅威について伝えた。世界経済フォーラム(WEF: World Economic Forum)が2024年1月10日(現地時間)に発表した「Preface - Global Risks Report 2024 | World Economic Forum」においても、「False information」としてAIが作り出す情報に警鐘を鳴らしている。
○AIが作り出す偽情報
近年は生成AIの普及に伴い、説得力のある偽情報の拡散が各方面で取り沙汰されるようになってきている。世界経済フォーラムのレポートでもこの傾向を指摘しており、「操作された情報の破壊的能力は急速に進化している」と述べている。そして、人々が見ている情報がもはや真実を反映していない可能性もあると指摘し、次のような事態を引き起こされるかもしれないと説明している。
選挙の混乱
二極化をもたらす政治不信
法執行機関の情報濫用取り締りにおける人権抑圧
また、「今後2年間で合成コンテンツは個人を操作し、経済に損害を与え、社会をさまざまな形で破壊するだろう。偽造された情報は、気候変動活動から紛争激化まで、さまざまな目的を追求するために展開される可能性がある」と指摘しており、あらゆる分野で積極的な悪用の可能性があるとしている。
Tripwireはレポートの「選挙プロセスにおける誤った情報や偽情報の存在は、新しく選出された政府の実際の正当性と認識されている正当性を深刻なまでに不安定にし、政情不安、暴力、テロリズム、そして民主主義プロセスに長期的な侵食を招く可能性がある」との指摘を取り上げ、民主主義の価値観を共有する西側諸国に危機が迫っている点に注意を呼びかけている。
○各国のAI規制
Tripwireによると生成AIの普及に伴い、各国の政府はAI規制法案の立法や、ディープフェイクを流布する人物に目を向け始めているという。ホワイトハウスは「AI権利章典」の青写真を発表(参考:「Blueprint for an AI Bill of Rights | OSTP | The White House」)し、一部の州はAI法制化に乗り出し、欧州連合(EU: European Union)はAI法案を発表(参考:「Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world - Consilium」)している。
しかしながら、世界経済フォーラムのレポートは「規制の速度と有効性は開発のペースと一致する可能性は低い」としており、規制は生成AIの発展速度に追いつかないとみられている。また、Tripwireはすでに実施されている対策に不十分なものがあると指摘している。既存の対策の中にディープフェイクや生成AIによって作り出された情報を検出する技術開発があるが、根本的に資金不足で現時点では効果がないとしている。
最後にTripwireは、情報がディープフェイクによるものだと表示されていてもリスクがあるとしている。生成AIが作成したキャンペーンビデオは警告が表示されていたとしてもプラットフォームによっては人々に感情的な影響を与え、抗議活動をあおったり、過激化させる可能性があるという。
世界経済フォーラムはレポートが「指導者間のオープンで建設的な対話に向けた重要な行動喚起」として機能し、予測が実際のものになる前に人々が理解し、リスクが軽減されることに期待していると述べている。すべての人々には目の前にAIが作り出す世界がすでに存在することを自覚し、そのリスクを正しく認識して適切に取り扱うことが求められている。
○AIが作り出す偽情報
近年は生成AIの普及に伴い、説得力のある偽情報の拡散が各方面で取り沙汰されるようになってきている。世界経済フォーラムのレポートでもこの傾向を指摘しており、「操作された情報の破壊的能力は急速に進化している」と述べている。そして、人々が見ている情報がもはや真実を反映していない可能性もあると指摘し、次のような事態を引き起こされるかもしれないと説明している。
選挙の混乱
二極化をもたらす政治不信
法執行機関の情報濫用取り締りにおける人権抑圧
また、「今後2年間で合成コンテンツは個人を操作し、経済に損害を与え、社会をさまざまな形で破壊するだろう。偽造された情報は、気候変動活動から紛争激化まで、さまざまな目的を追求するために展開される可能性がある」と指摘しており、あらゆる分野で積極的な悪用の可能性があるとしている。
Tripwireはレポートの「選挙プロセスにおける誤った情報や偽情報の存在は、新しく選出された政府の実際の正当性と認識されている正当性を深刻なまでに不安定にし、政情不安、暴力、テロリズム、そして民主主義プロセスに長期的な侵食を招く可能性がある」との指摘を取り上げ、民主主義の価値観を共有する西側諸国に危機が迫っている点に注意を呼びかけている。
○各国のAI規制
Tripwireによると生成AIの普及に伴い、各国の政府はAI規制法案の立法や、ディープフェイクを流布する人物に目を向け始めているという。ホワイトハウスは「AI権利章典」の青写真を発表(参考:「Blueprint for an AI Bill of Rights | OSTP | The White House」)し、一部の州はAI法制化に乗り出し、欧州連合(EU: European Union)はAI法案を発表(参考:「Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world - Consilium」)している。
しかしながら、世界経済フォーラムのレポートは「規制の速度と有効性は開発のペースと一致する可能性は低い」としており、規制は生成AIの発展速度に追いつかないとみられている。また、Tripwireはすでに実施されている対策に不十分なものがあると指摘している。既存の対策の中にディープフェイクや生成AIによって作り出された情報を検出する技術開発があるが、根本的に資金不足で現時点では効果がないとしている。
最後にTripwireは、情報がディープフェイクによるものだと表示されていてもリスクがあるとしている。生成AIが作成したキャンペーンビデオは警告が表示されていたとしてもプラットフォームによっては人々に感情的な影響を与え、抗議活動をあおったり、過激化させる可能性があるという。
世界経済フォーラムはレポートが「指導者間のオープンで建設的な対話に向けた重要な行動喚起」として機能し、予測が実際のものになる前に人々が理解し、リスクが軽減されることに期待していると述べている。すべての人々には目の前にAIが作り出す世界がすでに存在することを自覚し、そのリスクを正しく認識して適切に取り扱うことが求められている。
「偽情報」をもっと詳しく
「偽情報」のニュース
-
EUがメタに調査開始、偽情報対策を問題視 欧州議会選控え5月1日12時40分
-
EU、米メタの偽情報対策を調査 ロシアの選挙介入を警戒か4月30日19時57分
-
EU、メタを調査へ ロシア発偽情報の拡散防止対策巡り=報道4月30日2時13分
-
SIA、4月16日にシンポジウム「広がる偽情報にどう対抗するか -検証・教育・規制を考える-」を開催3月26日15時46分
-
AIの進化と偽情報の脅威、民主主義の危機を招く恐れ3月5日8時51分
-
有事に飛び交う偽情報、IIJ谷脇副社長が語る「ネットの混沌」の行く末2月19日5時55分
-
【Qlipperレポート】災害とデマをメディアはどう報じたか 令和6年能登半島地震と「デマ・偽情報」に関するニュースを調査1月9日10時16分
-
真実か偽りか…あなたの目は判別できるか?新たなプロパガンダ「ディープフェイク」!!11月5日16時0分
-
米テック大手のリストラ、偽情報対策を困難に5月31日16時0分
-
札幌公式も便乗!小林悠への“偽情報作戦”に川崎OB「シンプルに最高」4月1日11時4分