ChatGPTが無実の教授をセクハラ犯人扱い！ AIによって冤罪やフェイクニュースが事実になる恐れ

写真を拡大

　現在多くの人が利用しているチャット型OpenAIのChatGPTや、Googleがまもなく発表するというAIチャットボットBardなど、AIはますます日常生活に溶け込んでいる。特にChatGPTはすでに社会的な活用もなされており、今月初めにはブラジルの判事が、「自閉症児の治療費をすべて保険で負担すべきかどうか」判断するためにAIチャットボットを使用したことを認めるまでになっている。

　しかし、いくら優秀なAIといえども、全てを信用しきってはならない。ChatGPTに質問したところ、「実際には存在しないもの」の名前を出してきたりする事例が多発しているからだ。例えば日本ではChatGPTに質問して出てきた書籍を図書館に借りにきた人がいたそうだが、その書籍は「実際には存在しない本」だったという事例が報告されている。そして海外では、ChatGPTが「起こってもいない教師の不祥事を訴えた」ことで、ある法学教授が懸念を表明している。

　刑事事件の弁護士でジョージ・ワシントン大学の教授であるジョナサン・ターリー氏は、ChatGPTが米誌「The Washington Post」の記事を参考に、「自分に関する誤った告発」を繰り返したと主張。ChatGPTは彼が「雇用されたことのない学部」で勤務しているときに、学生の一人に性的不適切な行為をしたという「事件」を告発してきたというのだ。

　ターリー氏がこのことを知ったのは、同僚のユージーン・ボロク教授から受け取ったメールがきっかけだった。ボロク氏はChatGPTに「教授によるセクハラ」が「アメリカのロースクールで問題になっている」「5つの例」を見つけるよう質問し、回答をターリー氏と共有していた。するとChatGPTが上げた例の中に「ターリー氏がロースクール主催のアラスカ旅行中に女生徒に対し『性的な示唆に富むコメント』をし、『性的な方法で彼女に触れようとした』(「The Washington Post」2018年3月21日)」という事例が現れたのだ。前述の通り、ターリー氏は性犯罪で訴えられたことはおろか、学生をアラスカに旅行に連れて行ったこともない。しかもワシントンポストに問い合わせたところ、ChatGPTが引用した記事は存在していなかったというのだ。

　さらにChatGPTは同様の「存在しないThe Washington Postの記事」を多数産み出していたことも発見された。「The Washington Post」の調査後、マイクロソフトのシニア・コミュニケーション・ディレクターであるケイティ・アッシャー氏は「ユーザーに安全な検索体験を提供するために、コンテンツフィルタリング、運用監視、不正利用検知を含む安全システムを開発しました」とコメントしている。

　いわれのない罪を着せられたTurley氏は、マイクロソフトが100億円という目を疑うような金額をつぎ込んだChatGPTによる名誉棄損の疑いに対する同社の対応に不満を抱いており、次のように述べている。

「AIによっていわれなき罪に問われたり、誹謗中傷される可能性があるのに、これらの企業は正確を期すために努力していると肩をすくめるだけです。その間にも、彼らが作り出した嘘や偽証はインターネット上で拡散していく。もしあなたが自分について書き込まれた虚偽の報道を知る頃には、その起源がAIシステムであることを示す痕跡が消えてしまうことも多くなります」

　今後、我々はAIが産み出した「嘘」にも対応していかなくてはならなくなるのだろうか。ChatGPTは確かに何にでも答えてくれるが、Google検索のような感覚で使用すると思いもよらない落とし穴があるといえそうだ。

参考：「Daily Star」

【本記事は「ミステリーニュースステーション・ATLAS（アトラス）」からの提供です】