BIGLOBEトップBIGLOBEニュース

はじまっちゃった?人工知能(AI)が人間に理解できない独自の言語を生み出し会話を始めた(米研究)

カラパイア7月11日(火)9時0分
3_e2

 フェイスブック社が脳からの直接入力が可能になる心を読むテクノロジーの開発に取り組んでいるということはちょっと前にお伝えしたが、人工知能(AI)を使った様々な研究が進行中だ。

 フェイスブック人工知能研究所の報告書によると、人間との会話をシミュレーションする開発中のAIチャットボット、”会話エージェント”に機械学習を用いて交渉のやり方を教えていたところ、最初は非常に順調に進んでいたのだが、ある時点でそれらの調整をせざるを得なかったという。

 なぜなら途中からチャットボットが、人間には理解できない独自の言語を作り出し、その言葉を使って交渉をし始めたからだ。

【独自の非ヒト言語によるコミュニケーションが発生】

 この実験では、2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の戦略を反復させていた。その結果、独自の非ヒト言語によるコミュニケーションが発生したのである。

 まるでSF映画さながらのデジャヴ感がある。

 今回の研究で、チャットボットが優れたネゴシエーター(交渉者)になれるということはわかった。価値のないものに対して関心のあるそぶりを装いったり、駆け引きをしかけ、ある程度譲歩することで、相手からの妥協を引き出したりすることもできた。

 だが人間には理解できない言葉を作り出し、それで会話を行っていくという、ある意味AIの暴走ともいえるこの行為は、「良からぬことが起こるかもしれないサイン」である。

1_e4

 はっきりさせておくと、フェイスブック社のチャットボットはまだ開発段階にあり、技術的特異点が訪れた証拠ではないし、それが間近に迫ったことを意味するわけでもない。

 しかしそれは、かつて人間のみに属するとされた領域(言語など)における人の理解を、機械が再定義するやり方を示している。

 すでに、機械学習の研究では数多くの推定作業が行われている。それはしばしばニューラルネットに膨大なデータを与え、その結果を検証して、機械の思考を理解するという手順を採用する。

 しかし機械が会話において独自の非ヒト言語を作り出すという事実は、その作り主である我々ですら、そうしたシステムをほとんど理解していないということを教えてくれる。

 ホーキンス博士は常々AIの危険性を力説しているけれど、まだ開発段階にあるAIですら、我々が理解できない挙動を見せるということはやはり要注意事案なのかもしれない。


via:amazonaws/newscientist/theatlanticなど / translated hiroching / edited by parumo

あわせて読みたい
アメリカ国防総省は真剣にAIとの戦争を恐れている。”ターミネーター”の登場に備えるべく研究を進めるペンタゴン


世界政府を樹立しなければ、科学技術(AI)によって人類は滅亡に追いやられる、とスティーブン・ホーキング博士が警告


2029年までに脳は機械と融合し、これまでの人間を超える魅力・強さ・知性を備えた「超人」が登場する(グーグルの専門家)


人の心を読むAIがついに開発される(米研究)


人間の脳にAIを直結する技術で出現する新たなる特権階級

はてなブックマークに保存

最新トピックス

トレンドトピックス

芸能写真ニュース

旬なニュースを配信中 フォローしてね!

注目ワード

話題の投稿画像

ページ設定

「人工知能」をもっと詳しく

注目ニュース
自転車事故で自動車運転免許が停止に…これってどういうこと? シェアしたくなる法律相談所8月22日(火)22時10分
*画像はイメージです:https://pixta.jp/高知県で、自転車に乗っていた47歳の女性が歩道を歩いていた77歳の女性と衝突。[ 記事全文 ]
錦織圭、“いわくつき恋人”観月あことのシャレにならない交際事情とは? 占い師も加わり…周囲が心配する“最悪シナリオ”! tocana8月22日(火)9時0分
男子テニスの錦織圭が右手首のケガで、28日開幕の4大大会今季最終戦など今季の残り試合すべてを欠場することを発表した。[ 記事全文 ]
彼氏に申し訳なくて涙が出ます…「断りきれなかった浮気」体験談3つ Menjoy![メンジョイ]8月11日(金)22時0分
「私は絶対に浮気なんてしない!」そんな風に思っていたとしても、人には魔が差してしまう瞬間だってあります。[ 記事全文 ]
「マクド」が愛称に決定 11府県のみの少数派に「マック」軍は敗北 BIGLOBEニュース編集部8月21日(月)16時35分
日本マクドナルドは21日、愛称を決める企画「マックなのか?マクドなのか?おいしさ対決!」の結果、「マクド」が勝利したと発表した。[ 記事全文 ]
妻の日記を盗み見て「結婚前の浮気」発覚…嘘をつき男と密会していた! 離婚できる? 弁護士ドットコム8月15日(火)10時5分
妻が結婚前に浮気をしていたことが分かったが、このことを理由に離婚できるのでしょうかーー。[ 記事全文 ]
アクセスランキング
1 錦織圭、“いわくつき恋人”観月あことのシャレにならない交際事情とは? 占い師も加わり…周囲が心配する“最悪シナリオ”!tocana8月22日(火)9時0分
2 この意味わかりますか? 新たな若者言葉「じゅ」を描いた4コマ漫画に驚愕する人が続出ガジェット通信8月22日(火)14時10分
3 「マクド」が愛称に決定 11府県のみの少数派に「マック」軍は敗北BIGLOBEニュース編集部8月21日(月)16時35分
4 自転車事故で自動車運転免許が停止に…これってどういうこと?シェアしたくなる法律相談所8月22日(火)22時10分
5 寝相がいい自慢はするな 寝返りOK、睡眠は「横向き」推奨NEWSポストセブン8月16日(水)11時0分
6 子どもが嫌いな野菜…ピーマンは5位、1位は?リセマム8月15日(火)18時45分
7 水道管の破裂怖い!舗装された道路が一瞬にして吹き飛ぶ衝撃映像(ウクライナ)カラパイア8月22日(火)16時30分
8 【ガチ】9月1日に巨大小惑星「フローレンス(ナイチンゲール)」が地球衝突で人類滅亡へ! 観測史上最も接近、NASA発表!tocana8月22日(火)8時0分
9 キラキラネーム、みんなの思い「親のせいで一生苦しむ」「親の愛情が反映されている」弁護士ドットコム8月20日(日)8時18分
10 無神経…いや愛なんです!批判っぽいけど「実は脈アリ」なセリフ4つMenjoy![メンジョイ]8月21日(月)19時0分

本サイトのニュースの見出しおよび記事内容、およびリンク先の記事内容は、各記事提供社からの情報に基づくものでビッグローブの見解を表すものではありません。

ビッグローブは、本サイトの記事を含む内容についてその正確性を含め一切保証するものではありません。本サイトのデータおよび記載内容のご利用は、全てお客様の責任において行ってください。

ビッグローブは、本サイトの記事を含む内容によってお客様やその他の第三者に生じた損害その他不利益については一切責任を負いません。

データ提供元:アニメキャラクター事典「キャラペディア