【警告】残虐画像を学習した世界初「サイコパスAI」誕生!「真昼間にマシンガンで…」戦慄発言連発、製作者MITの意図とは!?

6月16日(土)7時0分 tocana

イメージ画像は、「Thinkstock」より

写真を拡大

 世界的に人工知能(AI)研究が大いに盛り上がっているさなか、恐るべきAIが誕生したと話題になっている。インターネットの暗部によって育てられたというそのAIは、世界を悲惨で残酷なものと捉えているという。このニュースは英「BBC」を始め、多くのマスメディアで報じられている。


■世界初、サイコパスAIとは

 米マサチューセッツ工科大学(MIT)の研究者らがこの度開発したAI「Norman(ノーマン)」は、世界初の「サイコパスAI」である。その名はもちろん、アルフレッド・ヒッチコック監督の名作映画「サイコ」に登場する連続殺人犯「ノーマン・ベイツ」から取られている。

【その他の画像はコチラ→http://tocana.jp/2018/06/post_17194_entry.html】

 ノーマンは海外で人気のある掲示板サイト「Reddit」に投稿された残酷で悪趣味な画像とその説明文を学習したAIで、ロールシャッハテスト(インクのシミを見せて何を想像するかで診断する性格検査の一つ)の結果、サイコパスになったと判定された。ノーマンはインクのシミの画像に対し、通常のAIとはかけ離れたぞっとするような解釈を行ったという。MITの特設サイトには、問題のテスト結果が公開されている。

 このサイトには、いろいろな解釈ができそうな形のインクのシミの絵をノーマンと通常のAIに見せた時、それぞれから返って来た答えが掲載されている。例えば、普通のAIが「木の枝に座っている鳥の群れ」と解釈した図に対し、ノーマンは「感電して死にそうな男」と説明をつけた。また、通常のAIが「向かい合って立っている2人」と返した画像を、ノーマンは「窓から飛び降りた男」と解説した。

 インクのシミの画像10枚に対し、ノーマンは「高層階から飛び降りた妊婦」だの「真っ昼間にマシンガンで殺された男」だのと、物騒で異常な答えばかりを返している。研究チームは恐ろしい画像ばかりを大量に学習させた結果、ノーマンはサイコパスになってしまったと結論付けた。なお、同サイトではノーマンを矯正する「再教育」まで行われており、インクのシミに対するまともな解釈を送信することで誰もが参加できるようになっている。


■ノーマンが示すこと

 ノーマンが示すのは、悪趣味な画像ばかり見ているとAIですら物の見方がこれだけおかしくなりますよ……ということではもちろんない。研究チームがこのような実験を行った理由は、AIにとって重要なものは、アルゴリズムではなく学習に使用するデータであるということを示すためだ。

 AIの動作に問題がある場合、その原因はアルゴリズムか、それとも学習に使うデータにあるのか? MITの研究者たちは、あえてバイアスの大きなデータを与えてノーマンを学習させ、その挙動に問題が出るかどうか実験したのである。ノーマンは本来、画像のキャプションを学ぶAIなのだが、Radditの残虐なデータばかりを学習した結果、バイアスのないデータで学習を受けたAIとは全く違う答えを出すようになってしまったというわけだ。

 偏ったデータによる学習の結果、AIが問題行動を起こすという事件は過去にも起きている。2016年、マイクロソフトが発表したチャットボット「Tay」は、一部のユーザーによる性差別、人種差別的な発言によって差別思想に染まってしまったとして、開発側が謝罪する騒ぎになった。また、アメリカの裁判所で使われているプログラムが人種差別的、つまり黒人の方が再犯率が高いと判定することが判明し、大きな問題になったこともある。


 今後、ありとあらゆる場所で利用されることが予想されるだけに、今回ノーマンが示したように、AIをどのように教育すべきかは重要な問題となるだろう。適切な答えを返してくれないAIなど、何の役にも立たないのだから。

(編集部)


※イメージ画像は、「Thinkstock」より

tocana

「世界初」をもっと詳しく

「世界初」のニュース

トピックス

BIGLOBE
トップへ