BIGLOBEトップBIGLOBEニュース

AIと人間の共存を目指して。「AIはいつ他者を撃退し、いつ協力するのか」Googleがテスト中

GIZMODO2月17日(金)18時22分
170217deepmind_thumb.jpg


さ、『エクス・マキナ』もう一度観よっと。

人工知能(AI)が人類に対して反乱を起こし、人間の文明を乗っ取ってしまうのではないかという恐怖はただのSFファンだけでなく大手企業のトップや科学者たちも抱えている懸念です。そんなのはSF映画の中での話だと一笑に付す知識人たちももちろんたくさんいるものの、AIが急速に人間の能力を凌駕し、人間の仕事を奪っていくのでは、という不安はどんどんと大きくなる一方です。

AIが本当に人類を敵とみなすかどうかは別としても、AIをどのように設計するかによって、今後人間とAIがどう共存していくかが決まっていく重要な節目に差し掛かっていることは間違いなさそうです。GoogleのDeepMindの研究者たちが先日発表した論文では、「AIがいつ他者を撃退しようとし、いつ他者と協力しようとするか」について研究しています。

DeepMindの研究者はAIを使って2つのゲームを行ないました。1つ目は、2つのAIが同時にリンゴをできるだけたくさん集めようとするゲーム。下の動画でゲームの様子を見られます。

赤と青がそれぞれAIによるプレイヤー、緑色がリンゴになっています。プレイヤーはそれぞれ、ビームを発射することができ、二度ビームに当たると一時的にゲームから排除されるというルールになっています。





限られたリンゴを集めるという目的を達成するためにAIはビームをどれくらい発射するのか(攻撃性)を測ったそうです。もちろん、お互いにビームを打ちまくっていたら両者ともリンゴをたいして集められなくなるわけです。リンゴの出現頻度、ビームによってゲームから排除される時間の長さ、を変えながら何千回もこのゲームをプレイさせたそうです。

これによってAIがどのような条件で学習をすれば攻撃的になり、どのような条件なら協力的な行動を選ぶのかについてのデータを集めたとのこと。

このゲームでは、「ビームをどれくらい頻繁に利用するか(攻撃性)」を「新しいリンゴがどれだけ早く出現するか(資源の豊富さ)」と「ビームを撃たれたプレイヤーがゲームに復活するのにかかる時間(敵対によるダメージ)」の関数として分析したところ次のような結果がわかりました。


170217deepmind1.jpgimage: DeepMind


こちらは、Napple(資源の豊富さ)、Ntagged(敵対コスト)とAggressiveness(攻撃性)の相関グラフ。青が濃いほうが攻撃性が高いことを示しています。

それによると、資源が乏しい、もしくは敵対ダメージが高い環境で学習した時の攻撃性は高く、資源が豊富、もしくは敵対ダメージが低い環境の場合は攻撃性が低くなったそうです。

「リンゴ摘みゲーム」に加えてDeepMindが行なったのは「狼の群れゲーム」です。こちらも同様にゲームの様子が動画で公開されています。





こちらのゲームでも同様に2つのAIが参加します。2つのAIは「狼」であり、フィールドには1匹だけ「獲物」が動いています。それぞれのAIは獲物に触れる(狩る)ことで個別にポイントを得るのですが、もう一方の狼が近くにいる状態(協力)で獲物に触れると両者ともポイントが得られ、またチームプレイ・ボーナスが得られるというルールです。

また、獲物を単独で獲得しても、獲物を他のハイエナに奪われてしまうというリスクが存在しています。2匹のAI狼で獲物を狩るとそのリスクも減るという設定になっていたそうです。

2匹が協力したと見なされる「近さ」とチームプレイ・ボーナスの得点を調整しながら何度もプレイさせて学習する様子を記録しました。


170217deepmind2.jpgimage: DeepMind


こちらはチームプレイ・ボーナスがもられる「radius(半径)」、チームプレイ・ボーナスの「rteam(点数)」と単独で狩りをする頻度(Lone-wolf capture rate)の相関グラフ。青が濃いほうが単独の狩りが多いことを示しています。

時間をかけて協力して狩りをすることを学んだ、とのことですが協力の仕方には明らかに2つの種類が生まれたそうです。1つはまず他の狼を見つけてから、一緒に獲物に向かって移動するというもの。もう1つはまず獲物を見つけてから、もう1匹の狼が来るのを待つというものです。

結果だけを見れば「当たり前じゃん」と思ってしまいそうですが、AIがどのように学習し、どのような戦略を身につけるのかを研究することは非常に重要です。今後ニューラルネットワークがますます普及する中、複雑かつ情報が不完全な状況でAIがどのように振る舞うのかについて、我々は知識を深める必要があります。

DeepMindのJoel Leibo氏は、Bloombergの取材に対して次のように語っています。



(同様の研究で)将来的には、他のAIが持っている目的や知識について論理的に考える能力をAIに備えさせられたら面白いだろう。





top image: YouTubeother image: DeepMindsource: DeepMind, YouTube(1, 2), Bloomberg

Rhett Jones - Gizmodo US[原文](塚本 紺)
copyright (C) mediagene, Inc. All Rights Reserved.

はてなブックマークに保存

最新トピックス

ITトピックス

芸能写真ニュース

旬なニュースを配信中 フォローしてね!

注目ワード

話題の投稿画像

ページ設定

「人間」をもっと詳しく

注目ニュース
ハツカネズミのDNAから考える「日本人はどこからやってきたか」 財経新聞8月16日(水)9時13分
日本の先史時代を巡る研究において、「日本人の祖先は、いつ、どこから日本列島にやってきたのか」というのは重要な問題である。[ 記事全文 ]
入れ替えられたChromeエクステンションに注意 マイナビニュース8月17日(木)9時22分
Proofpointは8月14日(米国時間)、「ThreatactorgoesonaChromeextensionhijackingspr…[ 記事全文 ]
国内ITサービス市場、売上第2位はNEC - 第1位は? マイナビニュース8月16日(水)9時57分
IDCJapanは8月14日、2016年の国内ITサービス市場のベンダー売上ランキングを発表した。[ 記事全文 ]
Nokiaブランドのハイエンド端末「Nokia 8」登場 Snapdragon 835搭載、2画面撮影可能 ITmedia Mobile8月17日(木)9時31分
Nokiaブランドを保有するフィンランドHMDGlobalは8月16日(現地時間)、ハイエンドAndroid端末「Nokia8」を発表した。[ 記事全文 ]
在庫復活。あずきバーだけを粉砕するマシーン lifehacker8月16日(水)21時30分
ギズモード・ジャパンより転載ついに定価以下で手に入ります。あずきバーフィーバーを日本に巻き起こした今夏話題のオモチャ?調理器具?「おかしな…[ 記事全文 ]
アクセスランキング
1 国内ITサービス市場、売上第2位はNEC - 第1位は?マイナビニュース8月16日(水)9時57分
2 東大生が「女子高生の折り紙」を1枚の紙で折りあげる神業! どうやって作るのか製作者に聞いてみたねとらぼ8月16日(水)19時5分
3 FaceApp、人種フィルターを追加し炎上。そして削除へGIZMODO8月15日(火)16時40分
4 南極から100年前のフルーツケーキが発見される 金属ケース内で「完全に保存」され、今でも食用可能ねとらぼ8月15日(火)9時0分
5 小惑星「リュウグウ」到着まであと1年 - 小惑星探査機「はやぶさ2」の今をJAXAが報告マイナビニュース7月14日(金)9時0分
6 小惑星に宇宙船をぶつけて地球を守るNASAの技術、設計フェーズへGIZMODO7月8日(土)21時4分
7 歩きスマホが歩行者の事故を増加させている lifehacker8月11日(金)15時0分
8 はなまるうどんの没メニュー「ビリビリサンラーうどん」、本日より期間限定で発売!−「有吉弘行のダレトク!?」とのコラボメニューインターネットコム8月16日(水)10時55分
9 “機種変更しないauユーザー”は新料金プランに変更すべきなのか?ITmedia Mobile8月15日(火)8時35分
10 スマホの動作が遅いときに役立つ対処方法All About8月16日(水)19時45分

本サイトのニュースの見出しおよび記事内容、およびリンク先の記事内容は、各記事提供社からの情報に基づくものでビッグローブの見解を表すものではありません。

ビッグローブは、本サイトの記事を含む内容についてその正確性を含め一切保証するものではありません。本サイトのデータおよび記載内容のご利用は、全てお客様の責任において行ってください。

ビッグローブは、本サイトの記事を含む内容によってお客様やその他の第三者に生じた損害その他不利益については一切責任を負いません。

データ提供元:アニメキャラクター事典「キャラペディア