「私は『危険な思想だな』と思いました」上野千鶴子氏の疑問に成田悠輔氏が答えた〈AIが再生産する“差別と格差”の大問題〉【初対談】

◆◆◆

「無意識民主主義」の危険性

　上野　あなたの『22世紀の民主主義』を拝読しました。

　成田　ありがとうございます。

　上野　この本で最終的な解として無意識民主主義というものを提唱されていましたが、私は「危険な思想だな」と思いました。要するに、周囲の情報や考察に影響される以前の人々の無意識レベルの情動や欲求をデータとして収集し、それをアルゴリズムに入れて、最適解の政策を導き出すというのが無意識民主主義ですよね？

　成田　そのとおりです。

　上野　言語学の研究で、あるワードに対して被験者が快か不快かを判断してボタンを押して反応するというテストがあります。すると、反応するまでの時間が短ければ短いほど差別意識が強く出てくる。言語が刷り込まれるとき、価値観と共に刷り込まれますので、人間がそこから逃れるのは非常に難しい。人権論者であっても、環境保護論者であっても、瞬時に反応すると、差別は再生産されるんです。無意識民主主義は人々のそういう差別意識も集めてきてしまう危険性がありませんか。

　成田　その危険はあります。ただ一方で、意識的な熟考や熟議にも別の危険があります。人々が時間をかけて議論すればするほどお互いの立場や思想の違いが露わになって、かえって分断が深まることがあるという実験結果もあるからです。

　瞬発的で無意識な反応にも、情報を集めて議論を尽くして作られた意見にもそれぞれ偏りがあります。私たちにできるのは、色々な偏りを持つ様々な民意情報を並べて重ね合わせ、偏りを打ち消した相対的にマシな民意情報を抽出すること——それが言いたかったことです。

信用経済の時代に

　上野　誰がそのアルゴリズムを作るんですか？

　成田　最初は謎の意欲に溢れた人たち、おそらく独立小国家や一部の自治体、IT企業などが有象無象のアルゴリズムを実験していくと思います。その過程でほとんどは失敗し、どれが相対的にマシかの競争や選別、議論が続く。オープンソースソフトウェア開発の政治版・公共版のような形になるのではないかと。

　上野　ものすごく予定調和的ですね。個人の最適な選択が最終的には調和に至るという市場原理に対する信頼をあなたが持っておられるということですか？　ちょっと驚きですね。IT企業も誰かが投資し、誰かが設計し、誰かが支配する。そのなかにイーロン・マスクのような人もいます。

　AIについて分かっていることは「AIは差別を再生産する」ということです。AIに投入している情報はすべて過去の情報ですから、様々な過去の差別が再生産されるのは当たり前のことなので。

　成田　差別や格差の懸念はあります。その危険を乗り越えた世界が予定調和的に訪れると信じているというより、一つの可能な楽観シナリオを描いてみているということです。

信用経済の最大の問題は…

　上野　あなたの新刊『22世紀の資本主義』も拝読しました。ご自身で「失敗作」と書いておられるとおり、空疎なSFですね。ただ、あなたのSF的予想の中で大筋で同意できるのは、今日、グローバル金融資本主義の時代に入ったという認識です。金融資本主義というのは基本的には信用経済ですから、この先、信用経済になっていくという予測は100パーセント一致しています。信用経済における一番大きな問題は、信用格差ができるということです。それには触れておられませんね。

　成田　現状では信用格差の問題は深刻ですね。ただ長期的には、信用なる概念自体が、今みたいに測ったり比べたりしやすいものから、そうでない不可測なものへ進化する可能性があります。信用が定量化できなくなれば、格差という概念自体が消えていく可能性さえある、という楽観シナリオを思い描いています。（構成　伊藤秀倫）

（上野 千鶴子,成田 悠輔／文藝春秋 2025年5月号）