進化を続けるAIが人類の敵となる日は来るのか来ないのか

写真を拡大

　来るべき時が来た——。

　そう表現していいのかどうか定かではないが、人間が創り出したモノがいま人間を凌駕しようとしている。人工知能（AI）である。

　特に「AIの父」ともいわれる英ジェフリー・ヒントン氏（75）が最近、ニューヨーク・タイムズ紙の取材で、「今のような規制がないままAI技術を推進していくことは危険」と発言したことで、かねて憂慮されていた人間がAIに「食われてしまう」可能性が取り沙汰されている。

　しかもヒントン氏は、「AIをコントロールできるかどうかが判明するまで、これ以上AIの開発はすべきではない」と警鐘を鳴らしている。

　人間が人工知能にコントロールされてしまうかもしれないとの危惧は、いまや世界中で共有されるようになった。

　ヒントン氏は2013年、トロント大学で人工知能の研究をしていた時、グーグルが強い興味を抱いてヒントン氏と研究そのものが買収された経緯がある。

　同社で長年研究を続けて副社長まで昇格したが、今年4月に退社。

　グーグルにいる間はAIの危険性について語ることを避けてきたが、退社を機に世間に向けて語り始めた。

　同氏は悪意のある人間に利用されることを防止する手立てがないとし、こうも述べる。

「AIは素晴らしい技術であり、医療や新素材の開発、地震や洪水の予測に大きな進展をもたらした」

「しかし、AIをいかに封じ込めるかという点を十分に理解するにはまだ多くの作業が必要になる」

　そして、「AIの技術を開発するのと同じくらい、安全性を確認することに力を注ぐ必要がある」と指摘する。

　AIが人間を凌駕するかもしれないとの危惧は他の専門家からも発せられている。

　メレディス・ウィテカー氏という、やはりグーグルにいた研究者で、のちに米ニューヨーク大学の研究機関AIナウ研究所を設立した人物が語っている。

「AIのリスクというのは、大規模なAIシステムを構築できるリソースを持っているのがほんの一握りの企業であるといういこと」

「さらに、企業は利益を追求する組織であって、必ずしも公共の利益を優先していない点にある」

「そして、これらの企業が利益を追求していくと、誰がどのように使うのか、また現在起きている、あるいは起きる可能性のある実際の被害を防ぐために、どうすればいいのかがよく分かるはず」

　前出のヒントン氏は、恐ろしいのはAIが好ましくない人物に牛耳られた時であるという。

　米メディアとのインタビューで答えている。

「AIのツールがロシアのウラジーミル・プーチン大統領や米フロリダ州のロン・デサンティス知事のような有力者に悪用される可能性がある」

「プーチン氏であれば、戦争をするためにAIを操作することを躊躇しないに違いない」

　戦争に勝つため、また選挙で勝利するためにAIを自分流に使うようになる可能性は捨て切れない。良いようにも悪いようにも使途できるのがAIである。

　ヒントン氏は「プーチン大統領がウクライナ人を殺す目的で超知能ロボットを作らないと、思わないでください」と明言する。

　ただ一方で、別の専門家からは「AIによって人類が滅亡することはない」との見方も出ている。

　カナダ出身の小説家で、評論も行うステファン・マルケ氏は「AIによって人類が大惨事に直面することはない」と述べる。

　英ガーディアン紙に発表したコラムでこう記している。

「コンピューターには意志がない。アルゴリズムは一連の命令であり、AIは人間によって発見され、確立される必要がある」

「実際に人類滅亡の心配の種がないわけではないが、汎用人工知能が世界を征服しようという話はSFの範疇のことであって、恐怖は宗教的なものだ」

　いくらAIの生みの親であるヒントン氏が警鐘を発しても、大騒ぎする必要はないという立場である。

「私は2017年からAIに取り組み、報告もしてきた。多くのAI関係者は人文科学の分野の重要性を認識しておらず、AIがどのように相互作用するのかを理解していない傾向がある」

　また米首都ワシントンにあるシンクタンク、ケイトー研究所の研究員ティモシー・リー氏も、端的に「AIが人類を滅ぼすわけではない」と述べた後、次のような肯定論を展開する。

「優れたAIであっても、世界征服を成し遂げられるわけではない。世界征服を本当に実現させようとしたら、人手やインフラ、天然資源などがなければできない」

「そのため、AIによる支配を防御するためには人間が物理的な世界をしっかりと制御していれば大丈夫」

　ただ、オックスフォード大学のニック・ボストロム教授は2014年、『スーパーインテリジェンス　超絶AIと人類の命運』という書籍を公表した時、AIは社会操作の超能力をもっており、その邪悪な目的を達成するために人間を騙すことが可能であると記した。

　AIが世界征服をする時に必要になるのは、何か月もかけてプロジェクトを共に遂行してくれる共謀者との指摘もある。

　AIがそうした忠誠心を多くの人に抱かせることが本当に可能なのだろうか。前出のリー氏はこう述べる。

「産業用ロボットの数は人間の労働者よりもはるかに少なく、大半は特定の工場で特定の職務をするために設計された特殊用途のロボットだ」

「地下の光ファイバーの修理や故障したサーバーの交換など、敏捷性と手先の器用さを兼ね備えたロボットはほとんど存在しない」

　さらに人間はそれほど悲観的になる必要はないと語る。

「ロボットは故障した時には修理する人間が必要になる。世界はまだすべてが自動化されたわけではない」

「グーグル、アマゾン、AT＆Tの人間が全員いなくなったら、インターネットはたちまち停止し、それと同時にAIも停止してしまう」

　AIに先を越され、人間がすごすごと追随していく姿はあまりいいものではない。

　いずれにしても、AIが完全に解放される前に適切な計画と管理が必要になるのは間違いないだろう。

　選挙で選ばれたわけでもないAIに牛耳られる前に——。　

筆者：堀田 佳男