ユーザーが情報の信頼性を再評価できるきっかけをAIで提供する。ウィズフェイク時代を生きるためのプロダクト開発秘話

株式会社TDAI Labは、2023年11月14日にユーザーの「LLMファクトチェッカー」を無償一般公開しました。

ChatGPTやStable Diffusionなどの生成AIの登場により、誰でも簡単に文章や画像を生成できるようになりました。これには多くのメリットがありますが、偽情報が氾濫するリスクも今まで以上に高まっています。

この「ウィズフェイク」とも称される時代に、どのように対応していくべきか。TDAI Lab代表の福馬に聞きました。

文章の真偽を効率的に確認し、企業外でもAIによる文章生成を行えるようにする「LLMファクトチェックカー」

近年、ChatGPTなどの先端技術の登場でAIによる文章生成が一般的になってきました。しかしそれらの文章は完璧ではなく、情報の誤りが混入する「Hallucination（幻惑）」問題が指摘されています。

多くの企業がChatGPTなどを活用した完全自動化の業務の改善を目指していますが、これら偽情報の観点から、人の目による検証が必要となるため、実際に生成AIをビジネスに活用している企業は限られています。例えば、ChatGPTを使用したチャットボットの自動応答を導入する際、誤った情報を伝えてはならないという懸念があり、運用は控えられており、社内での使用に留められているケースもあります。

「LLMファクトチェッカー」は、人間またはAIが書いた文章の正しさを、信頼できる情報ソース(Web情報や社内の知識データベース)から根拠を自動で検索・抽出し、真偽を効率的に確認することができます。

これらは生成AIを使ったビジネスの活用において必要不可欠な、セキュリティ的側面を果たしていると考えています。

ユーザーが情報の信頼性に気づけるようにする製品開発

当社は創業から情報の信頼性などに関する研究開発を行ってきました。

NHK・東京大学との共同研究

「公共放送コンテンツのオンライン配信を通じた健全な情報空間の形成に関する共同研究」を、NHKと計算社会科学を専門とした，インフォメーションヘルスを提唱している東京大学大学院工学系研究科鳥海不二夫教授、TDAI Labの三者で行っています。

具体的にはSNSなどからNHKに流入してきたユーザーに対して、トレンドなどだけでは気づかなかった重要なニュースや、意見の多様性・情報の信頼性に気づくきっかけを与えるといったアラートウィジェットの開発を行なっています。

その結果、ユーザーがフェイクニュースなどに対して一定の「免疫」(批判的能力)を獲得することの実現を目的としています。

また我々はオンラインレビューに横行する「やらせレビュー」や「アンチユーザー」などの不正操作を特定し、これらのレビューの信頼性を定量的に評価するAI『WISE REVIEW』の開発も行い、特許も取得しています。

その結果、消費者が不当なレビューに誘導されるリスクを低減し、出品者も不当なアンチレビューによる機会損失を回避することの実現を目的としています。

競技ダンスが情報の信頼性に興味を持ったきっかけ—

TDAI Lab代表の福馬は、自身が日本代表を務める競技ダンスの審査と口コミは意外な関連性があると話します。競技ダンスでは、フィギュアスケートや体操のような動きの点数化がなく、審査員の直感的な評価で採点されます。高評価の選手にはさらなる高評価が集まる傾向があり、これは口コミの現象に似ているといいます。

福馬氏は学部時代東京大学運動会競技ダンス部に所属し、全日本学生競技ダンス選手権で優勝するなど数々の成果を収めてきました。その過程で「事前評判に左右されないモノの真の価値」に興味を持ち、大学院での研究では、オンライン情報の事前評判やバイアスを取り除く方法に取り組んでいました。この競技ダンスの経験が、口コミやレビューの信頼性を評価するAIの研究に繋がったと語りました。

AI技術の活用で情報的健康を高める

SNSでは偽情報の拡散の危険性がこれまで以上に増しています。

NHKとの共同研究を例に挙げると、我々が接触する情報が全ての事実を網羅しているわけではないということを常に意識する必要があります。

我々の目指すAI技術の活用は、単に情報の真偽を判定してユーザーに伝えるだけでなく、ユーザーが情報の信頼性を再評価するきっかけを提供することで、情報への批判的な視点を育むことができると信じています。