Google検索の“AI概要”がおバカすぎる？　トンデモ回答が続出、強まるフェイクへの懸念

　Googleで情報を検索したとき、生成AIが概要を表示する「AI Overview」。その回答内容がおかしいとする投稿が、11月末からSNSで相次いでいる。中には単なる“珍回答”にとどまるものもあるが、フェイクや健康問題につながるとの指摘も出始めている。
　Xでは11月30日ごろから、AI Overviewの奇妙な回答が投稿され始めた。特に話題になったのは、NHKの子供向け番組「いないいないばぁっ！」のキャラクター「うーたん」が卒業した時期を調べたところ「2023年7月15日に安楽死処置が行われた」との回答があったとする投稿や「東横イン　枕　どこの」と調べたところ、製造元ではなく「東横インの枕は、部屋にあります」と答えたとする回答など。
　他にも50m走の世界記録を検索したところ「ウサイン・ボルトの9.58秒が最速である」と答えたとする投稿や、妊婦向けのレシピを調べたところカフェインの摂取を勧められたとする投稿もあった。
　なお、50m走の世界記録は条件によって異なるが、陸上競技の国際連盟「ワールド・アスレティックス」によれば、室内での最速はドノバン・ベイリーさんの5.56秒。妊婦のカフェイン摂取については、英国食品基準庁が1日当たりの摂取量を200mgに制限するよう求めており、日本の厚生労働省もその旨を紹介している。
　AIによる概要のうち、東横インと50m走の記録に関する回答については、編集部でも似た回答を確認できた。「東横イン　枕　どこの」と調べたところ、「東横インの枕は、部屋内に備え付けられています」と回答があった。50m走の回答については話題になっていたものとほぼ同じ回答が確認できた。
　他の回答については、そもそもAI Overviewが表示されないか、他の回答が返ってきたため、再現できなかった。検索ワードが適切でなかった、すでに回答がアップデートされたなどの可能性が考えられる。
　一方で、AIが“勘違い”した理由と考えられる情報もいくつか確認できた。例えばうーたんについては、同名の牛が安楽死処置されたという情報が検索できた。50m走の世界記録についてはAIの回答とNHKによる100m走の世界記録に関するWeb記事が類似しており、関連リンクとしても提示していることを確認した。それぞれの文章は以下の通り。
・AIの回答
50m走の世界記録は、ジャマイカのウサイン・ボルト選手が2009年のベルリン世界選手権で記録した9秒58です。これは、日本全国の小学生5年生女子の50m走の平均記録である9秒60よりも速い記録です。
・NHK記事の記述（「びっくり！陸上競技の世界記録を○○に例えてみた！」から引用）
陸上競技の花形と言えば、男子100メートル走！　現在の世界記録保持者は、いわずと知れたジャマイカのウサイン・ボルト選手です。記録は、2009年のベルリン世界選手権で記録した9秒58。この記録は日本全国の小学生5年生女子の50メートル走の平均記録、9秒60よりも速いのです！
●海外でも同様の事態は起きていた　「ピザに接着剤」騒動
　実は同様の事態は、海外で先行して発生していた。米国で試験提供が始まった5月には「チーズがピザにうまくくっつかない」という検索に対し「無害な接着剤を8分の1カップほど、ピザソースに混ぜる」というアドバイスを表示したなど、さまざまな“珍回答”がXでシェアされる事態に。米Googleが4月に海外ネット掲示板「Reddit」との提携を拡大した影響も指摘された。2013年ごろにRedditで同様のジョークが投稿されていたためだ。
　Googleは事態を受け、同月末に対策を発表。Xの投稿については、誤った結果を生成することを目的とした検索があった他、偽造されたスクリーンショットも共有されていたとした。一方で「ピザに接着剤」のケースは「皮肉や荒らしコンテンツを掲載したフォーラム」からの情報を引用してしまったと認め、改善を約束していた。しかし、今度は日本で似た動きが発生してしまった格好だ。
　AI Overviewは12月3日時点でも試験運用版で、Googleは開発初期の機能を先行利用できる「Search Lab」に参加していなければ表示されないとしている。年齢制限もある他、試験版のために「作り話をする可能性がある」「誤解をする可能性がある」とも説明している。
　AI Overviewに限らず、ChatGPTなど生成AIについては、もっともらしいうそを提示する「ハルシネーション」（幻覚）が起きる可能性があり、利活用を巡る問題の一つとして、各社が改善や対策を進めている。
　Googleは「ピザに接着剤」問題を巡り「AI Overviewは、他のLLM（大規模言語モデル）製品のように『幻覚』を起こしたり、事実を捏造したりすることは通常ない」としていた。一方で「間違った結果を出すのは、クエリの解釈ミス、Web上の言語のニュアンスの解釈ミス、利用できる有益な情報があまりないことが原因で、こうした問題は他の検索機能でも発生する」とも説明しており、この課題に対応し切れていない様子だ。
　一方、GoogleはAI Overviewの対象ユーザーを拡大する方針も示している。ユーザーからはフェイクや誤解につながる懸念を心配する声も多く、SNSでは「利用者のリテラシーがこれまで以上に求められる」「育児や健康に悪影響を及ぼす可能性もあるのでがないか」との意見も見られた。