AIの進化と偽情報の脅威、民主主義の危機を招く恐れ
2024年3月5日（火）8時51分 マイナビニュース
Tripwireは2月28日(米国時間)、「WEF Is Waging War on Misinformation and Cyber Insecurity｜Tripwire」において、AI(Artificial Intelligence)がもたらす脅威について伝えた。世界経済フォーラム(WEF: World Economic Forum)が2024年1月10日(現地時間)に発表した「Preface - Global Risks Report 2024 | World Economic Forum」においても、「False information」としてAIが作り出す情報に警鐘を鳴らしている。
○AIが作り出す偽情報
近年は生成AIの普及に伴い、説得力のある偽情報の拡散が各方面で取り沙汰されるようになってきている。世界経済フォーラムのレポートでもこの傾向を指摘しており、「操作された情報の破壊的能力は急速に進化している」と述べている。そして、人々が見ている情報がもはや真実を反映していない可能性もあると指摘し、次のような事態を引き起こされるかもしれないと説明している。
選挙の混乱
二極化をもたらす政治不信
法執行機関の情報濫用取り締りにおける人権抑圧
また、「今後2年間で合成コンテンツは個人を操作し、経済に損害を与え、社会をさまざまな形で破壊するだろう。偽造された情報は、気候変動活動から紛争激化まで、さまざまな目的を追求するために展開される可能性がある」と指摘しており、あらゆる分野で積極的な悪用の可能性があるとしている。
Tripwireはレポートの「選挙プロセスにおける誤った情報や偽情報の存在は、新しく選出された政府の実際の正当性と認識されている正当性を深刻なまでに不安定にし、政情不安、暴力、テロリズム、そして民主主義プロセスに長期的な侵食を招く可能性がある」との指摘を取り上げ、民主主義の価値観を共有する西側諸国に危機が迫っている点に注意を呼びかけている。
○各国のAI規制
Tripwireによると生成AIの普及に伴い、各国の政府はAI規制法案の立法や、ディープフェイクを流布する人物に目を向け始めているという。ホワイトハウスは「AI権利章典」の青写真を発表(参考：「Blueprint for an AI Bill of Rights | OSTP | The White House」)し、一部の州はAI法制化に乗り出し、欧州連合(EU: European Union)はAI法案を発表(参考：「Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world - Consilium」)している。
しかしながら、世界経済フォーラムのレポートは「規制の速度と有効性は開発のペースと一致する可能性は低い」としており、規制は生成AIの発展速度に追いつかないとみられている。また、Tripwireはすでに実施されている対策に不十分なものがあると指摘している。既存の対策の中にディープフェイクや生成AIによって作り出された情報を検出する技術開発があるが、根本的に資金不足で現時点では効果がないとしている。
最後にTripwireは、情報がディープフェイクによるものだと表示されていてもリスクがあるとしている。生成AIが作成したキャンペーンビデオは警告が表示されていたとしてもプラットフォームによっては人々に感情的な影響を与え、抗議活動をあおったり、過激化させる可能性があるという。
世界経済フォーラムはレポートが「指導者間のオープンで建設的な対話に向けた重要な行動喚起」として機能し、予測が実際のものになる前に人々が理解し、リスクが軽減されることに期待していると述べている。すべての人々には目の前にAIが作り出す世界がすでに存在することを自覚し、そのリスクを正しく認識して適切に取り扱うことが求められている。
○AIが作り出す偽情報
近年は生成AIの普及に伴い、説得力のある偽情報の拡散が各方面で取り沙汰されるようになってきている。世界経済フォーラムのレポートでもこの傾向を指摘しており、「操作された情報の破壊的能力は急速に進化している」と述べている。そして、人々が見ている情報がもはや真実を反映していない可能性もあると指摘し、次のような事態を引き起こされるかもしれないと説明している。
選挙の混乱
二極化をもたらす政治不信
法執行機関の情報濫用取り締りにおける人権抑圧
また、「今後2年間で合成コンテンツは個人を操作し、経済に損害を与え、社会をさまざまな形で破壊するだろう。偽造された情報は、気候変動活動から紛争激化まで、さまざまな目的を追求するために展開される可能性がある」と指摘しており、あらゆる分野で積極的な悪用の可能性があるとしている。
Tripwireはレポートの「選挙プロセスにおける誤った情報や偽情報の存在は、新しく選出された政府の実際の正当性と認識されている正当性を深刻なまでに不安定にし、政情不安、暴力、テロリズム、そして民主主義プロセスに長期的な侵食を招く可能性がある」との指摘を取り上げ、民主主義の価値観を共有する西側諸国に危機が迫っている点に注意を呼びかけている。
○各国のAI規制
Tripwireによると生成AIの普及に伴い、各国の政府はAI規制法案の立法や、ディープフェイクを流布する人物に目を向け始めているという。ホワイトハウスは「AI権利章典」の青写真を発表(参考：「Blueprint for an AI Bill of Rights | OSTP | The White House」)し、一部の州はAI法制化に乗り出し、欧州連合(EU: European Union)はAI法案を発表(参考：「Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world - Consilium」)している。
しかしながら、世界経済フォーラムのレポートは「規制の速度と有効性は開発のペースと一致する可能性は低い」としており、規制は生成AIの発展速度に追いつかないとみられている。また、Tripwireはすでに実施されている対策に不十分なものがあると指摘している。既存の対策の中にディープフェイクや生成AIによって作り出された情報を検出する技術開発があるが、根本的に資金不足で現時点では効果がないとしている。
最後にTripwireは、情報がディープフェイクによるものだと表示されていてもリスクがあるとしている。生成AIが作成したキャンペーンビデオは警告が表示されていたとしてもプラットフォームによっては人々に感情的な影響を与え、抗議活動をあおったり、過激化させる可能性があるという。
世界経済フォーラムはレポートが「指導者間のオープンで建設的な対話に向けた重要な行動喚起」として機能し、予測が実際のものになる前に人々が理解し、リスクが軽減されることに期待していると述べている。すべての人々には目の前にAIが作り出す世界がすでに存在することを自覚し、そのリスクを正しく認識して適切に取り扱うことが求められている。
関連記事（外部サイト）
