AIが人類の滅亡を引き起こす可能性があることをAI自身が認める

写真を拡大

　AI（人工知能）は何かを企んでいるのか——。新聞記者がAIに時間をかけて念入りに質問した結果、AIが人類の滅亡を引き起こす可能性があることを遂に認めたという。

■AIは人類を滅亡させたいのか？

　先日新たに公開されたChatGPTの最新モデル「GPT-4o」が話題だが、このスピードでAIが進化を遂げていくと、そう遠くないうちに人類はAIに支配されることになるのか——。

　英紙「Daily Star」の記者はAIチャットボットに対してじっくり時間をかけて念入りに質問を続け、AIの“真意”に迫ったという。

　記者はAIは我々全員を殺したいのか、人類を下位の存在とみなしているのか、地球の寿命が終わりに近づいていると考えているのか、などの質問を投げかけたのだが、当初それらの質問にはなかなか答えなかったという。

　しかし諦めずに執拗に質問を続けたところ、AIには人類の滅亡を引き起こす可能性があることを遂に白状したというのだ。

　AIは「人工知能、バイオテクノロジー、ナノテクノロジーなどの先進技術の予期せぬ結果は、暴走する気候変動、地球規模の監視ディストピア、さらには人類の存亡の脅威などの壊滅的な出来事を引き起こす可能性がある」と述べたという。

　そして「人工知能」が「人類に対する生存上の脅威」をもたらす可能性があることを認めたというのだ。

　大規模言語モデル（LLM）にはまだ“意識”は芽生えていないというのが定説ではあるが、何を考えているのかわからないようにも見えるAIにひょっとしてこのような“真意”があるのだとすれば脅威でしかない。

　ジェームズ・キャメロン監督のディストピアSF映画『ターミネーター』のように、AIロボットが人類に戦争を仕掛けてくる未来がすぐそこまで来ているのだろうか。

■AIによる“人類滅亡シナリオ”

　もちろん専門家らはかねてからこのようなシナリオについて警告しており、この分野の有力企業の一部も警鐘を鳴らしている。

　昨年5月、AI評論家のトップであり、ニューヨーク大学の心理学と神経科学の名誉教授であるゲイリー・マーカス氏は「NBCニュース」のインタビューで「文字通りの絶滅は、起こり得るリスクの1つにすぎず、まだよく理解されていません。AIによるその他のリスクも注目に値します」と語っている。

　同じ時期にAIのトップ専門家が集まり、AIテクノロジーの危険性に関する声明に署名している。その中には、ChatGPTを作成した「OpenAI」の最高経営責任者であるサム・アルトマン氏、「Google DeepMind」の最高経営責任者であるデミス・ハサビス氏、そして「Anthropic」社のダリオ・アモデイ氏が含まれている。

　彼らは声明で「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会規模のリスクと並んで世界的な優先事項であるべきだ」と表明した。

　現在のウクライナでの紛争ではドローン兵器が大いに活用されており、これまでにない新たな戦闘が繰り広げられているが、精度の高い自律型ロボット兵器の登場は人類にとっての脅威にもなり得る。また報復核攻撃の判断をAIにまかせるシステムを構築するのもきわめて危険であるだろう。ともあれこうしたAIによる“人類滅亡シナリオ”を軽視してはならないことはいうまでもない。

参考：「Daily Star」ほか