BIGLOBEトップBIGLOBEニュース

AIと人間の共存を目指して。「AIはいつ他者を撃退し、いつ協力するのか」Googleがテスト中

GIZMODO2月17日(金)18時22分
170217deepmind_thumb.jpg


さ、『エクス・マキナ』もう一度観よっと。

人工知能(AI)が人類に対して反乱を起こし、人間の文明を乗っ取ってしまうのではないかという恐怖はただのSFファンだけでなく大手企業のトップや科学者たちも抱えている懸念です。そんなのはSF映画の中での話だと一笑に付す知識人たちももちろんたくさんいるものの、AIが急速に人間の能力を凌駕し、人間の仕事を奪っていくのでは、という不安はどんどんと大きくなる一方です。

AIが本当に人類を敵とみなすかどうかは別としても、AIをどのように設計するかによって、今後人間とAIがどう共存していくかが決まっていく重要な節目に差し掛かっていることは間違いなさそうです。GoogleのDeepMindの研究者たちが先日発表した論文では、「AIがいつ他者を撃退しようとし、いつ他者と協力しようとするか」について研究しています。

DeepMindの研究者はAIを使って2つのゲームを行ないました。1つ目は、2つのAIが同時にリンゴをできるだけたくさん集めようとするゲーム。下の動画でゲームの様子を見られます。

赤と青がそれぞれAIによるプレイヤー、緑色がリンゴになっています。プレイヤーはそれぞれ、ビームを発射することができ、二度ビームに当たると一時的にゲームから排除されるというルールになっています。





限られたリンゴを集めるという目的を達成するためにAIはビームをどれくらい発射するのか(攻撃性)を測ったそうです。もちろん、お互いにビームを打ちまくっていたら両者ともリンゴをたいして集められなくなるわけです。リンゴの出現頻度、ビームによってゲームから排除される時間の長さ、を変えながら何千回もこのゲームをプレイさせたそうです。

これによってAIがどのような条件で学習をすれば攻撃的になり、どのような条件なら協力的な行動を選ぶのかについてのデータを集めたとのこと。

このゲームでは、「ビームをどれくらい頻繁に利用するか(攻撃性)」を「新しいリンゴがどれだけ早く出現するか(資源の豊富さ)」と「ビームを撃たれたプレイヤーがゲームに復活するのにかかる時間(敵対によるダメージ)」の関数として分析したところ次のような結果がわかりました。


170217deepmind1.jpgimage: DeepMind


こちらは、Napple(資源の豊富さ)、Ntagged(敵対コスト)とAggressiveness(攻撃性)の相関グラフ。青が濃いほうが攻撃性が高いことを示しています。

それによると、資源が乏しい、もしくは敵対ダメージが高い環境で学習した時の攻撃性は高く、資源が豊富、もしくは敵対ダメージが低い環境の場合は攻撃性が低くなったそうです。

「リンゴ摘みゲーム」に加えてDeepMindが行なったのは「狼の群れゲーム」です。こちらも同様にゲームの様子が動画で公開されています。





こちらのゲームでも同様に2つのAIが参加します。2つのAIは「狼」であり、フィールドには1匹だけ「獲物」が動いています。それぞれのAIは獲物に触れる(狩る)ことで個別にポイントを得るのですが、もう一方の狼が近くにいる状態(協力)で獲物に触れると両者ともポイントが得られ、またチームプレイ・ボーナスが得られるというルールです。

また、獲物を単独で獲得しても、獲物を他のハイエナに奪われてしまうというリスクが存在しています。2匹のAI狼で獲物を狩るとそのリスクも減るという設定になっていたそうです。

2匹が協力したと見なされる「近さ」とチームプレイ・ボーナスの得点を調整しながら何度もプレイさせて学習する様子を記録しました。


170217deepmind2.jpgimage: DeepMind


こちらはチームプレイ・ボーナスがもられる「radius(半径)」、チームプレイ・ボーナスの「rteam(点数)」と単独で狩りをする頻度(Lone-wolf capture rate)の相関グラフ。青が濃いほうが単独の狩りが多いことを示しています。

時間をかけて協力して狩りをすることを学んだ、とのことですが協力の仕方には明らかに2つの種類が生まれたそうです。1つはまず他の狼を見つけてから、一緒に獲物に向かって移動するというもの。もう1つはまず獲物を見つけてから、もう1匹の狼が来るのを待つというものです。

結果だけを見れば「当たり前じゃん」と思ってしまいそうですが、AIがどのように学習し、どのような戦略を身につけるのかを研究することは非常に重要です。今後ニューラルネットワークがますます普及する中、複雑かつ情報が不完全な状況でAIがどのように振る舞うのかについて、我々は知識を深める必要があります。

DeepMindのJoel Leibo氏は、Bloombergの取材に対して次のように語っています。



(同様の研究で)将来的には、他のAIが持っている目的や知識について論理的に考える能力をAIに備えさせられたら面白いだろう。





top image: YouTubeother image: DeepMindsource: DeepMind, YouTube(1, 2), Bloomberg

Rhett Jones - Gizmodo US[原文](塚本 紺)
copyright (C) mediagene, Inc. All Rights Reserved.

はてなブックマークに保存

最新トピックス

ITトピックス

芸能写真ニュース

旬なニュースを配信中 フォローしてね!

注目ワード

話題の投稿画像

「AIと人間の共存を目指して。「AIはいつ他者を撃退し、いつ協力するのか」Googleがテスト中」の関連ニュース

注目ニュース
Microsoft「Windows 10 Creators Update」を一部環境で配信停止中 GIZMODO4月29日(土)12時6分
おおWindowsよ、どうして…。つい先日リリースされたWindows10の大型アップデート「CreatorsUpdate」ですが、現在M…[ 記事全文 ]
マッチョな太スタイルのハイレゾプレーヤー GIZMODO5月1日(月)10時10分
バストとウエストとヒップがマグナムなのには理由がある...!ハイレゾ音源がアウトドアでも楽しめるハイレゾプレーヤー。[ 記事全文 ]
動画&写真60枚でニコ超2017の見どころを一挙振り返り! オープニングダッシュから小泉進次郎議員視察までを網羅 ねとらぼ5月1日(月)9時5分
4月29日から30日まで幕張メッセ(千葉県)で開催された「ニコニコ超会議2017」。[ 記事全文 ]
この1台に、Windows PCとスマホが…Trinity Smartphone PCには、「IntelもARMも入ってる!」 インターネットコム4月30日(日)17時0分
「TrinitySmartphonePC」は、AndroidスマートフォンとWindowsPCの2つの機能を持つマシン。[ 記事全文 ]
「この詐欺野郎」——身に覚えのないメールが数百件 Amazon「マーケットプレイス詐欺」問題、今も続く“乗っ取られた側”の苦しみ ねとらぼ4月28日(金)20時35分
Amazon.co.jp上で現在横行している「マーケットプレイス詐欺」問題。今もマーケットプレイスで大量に出品されている、これらの不正な商…[ 記事全文 ]
アクセスランキング
1 アプリをつくるのに、実際いくらかかるのか?lifehacker4月29日(土)22時0分
2 Microsoft「Windows 10 Creators Update」を一部環境で配信停止中GIZMODO4月29日(土)12時6分
3 Amazonマーケットプレイスで横行する詐欺行為、出品者が警鐘lifehacker4月30日(日)12時0分
4 日本最強の囲碁AI「DeepZenGo」対プロ棋士軍団、AIがわずかな差で勝利ITmedia NEWS4月29日(土)18時18分
5 減色するとなんかいい。Web減色サービスで256色、16色、2色の良さを噛みしめるGIZMODO4月29日(土)20時45分
6 iPhone 8の内部設計図が流出? これはもしや、無線充電パーツか…GIZMODO4月28日(金)12時3分
7 PCのスピードにこだわる人なら知っておくべき5つの要素【LHベストヒッツ】lifehacker4月30日(日)9時0分
8 消防車で「うどん店立ち寄り」は是か非か、論争呼ぶ 総務省消防庁は「特に指導行っていない」ねとらぼ4月27日(木)12時55分
9 「この詐欺野郎」——身に覚えのないメールが数百件 Amazon「マーケットプレイス詐欺」問題、今も続く“乗っ取られた側”の苦しみねとらぼ4月28日(金)20時35分
10 「ニコニコ超会議2017」リアル来場者数、過去最高の15.4万人を記録! ネット来場者数はやや減少の505万人ねとらぼ4月30日(日)21時19分

本サイトのニュースの見出しおよび記事内容、およびリンク先の記事内容は、各記事提供社からの情報に基づくものでビッグローブの見解を表すものではありません。

ビッグローブは、本サイトの記事を含む内容についてその正確性を含め一切保証するものではありません。本サイトのデータおよび記載内容のご利用は、全てお客様の責任において行ってください。

ビッグローブは、本サイトの記事を含む内容によってお客様やその他の第三者に生じた損害その他不利益については一切責任を負いません。

データ提供元:アニメキャラクター事典「キャラペディア