AIによる「殺人予測」システムに専門家が警鐘！未来をAIが裁くディストピア到来か

写真を拡大

　イギリス当局が“殺人予測AI”を開発中なのか——。専門家は社会の“ディストピア化”が進むと警告し開発の即刻中止を求めている。

　フィリップ・K・ディック原作のスティーブン・スピルバーグ監督作『マイノリティ・リポート』では、超能力者の予知によって犯罪者を逮捕するシーンが描かれているが、AIによって犯罪が予測できるのだろうか。

　イギリスのNGO「Statewatch（ステートウォッチ）」が情報公開請求によって入手した文書によって、イギリス政府が“殺人予測AI”の開発に取り組んでいることが明らかになっている。

　この“殺人予測AI”の開発は法務省が主導しており、保護観察所や2015年以前のグレーター・マンチェスター警察のデータなど、さまざまな情報源から収集した犯罪歴データなど10万人から50万人のデータが使用されていると報じられている。

　このプロジェクトの目標はデータサイエンスを活用して犯罪に取り組むことなのだが、専門家らは警鐘を鳴らしており、このアプローチは恐ろしくディストピア的で、まったく非科学的だと主張している。

　さらに懸念されるのは「Statewatch」が、このプロジェクトには全く犯罪を犯していない個人のデータが含まれていると主張していることだ。

　つまり警察に助けを求めた人々の情報がアルゴリズムに利用される可能性があるということで、これには家庭内暴力の被害者や自傷行為を行った人々も含まれている。当局はこれを強く否定しているが、「Statewatch」は法務省とマンチェスター警察の間のデータ共有契約の一部を提示し、その事実を裏付けているようだ。

　この合意には「共有される個人データの種類」というセクションがあり、そこには「重要な予測力」を持つと期待される健康指標が列挙されており、メンタルヘルス、依存症、自傷行為、自殺リスク、脆弱性、障害に関するデータが含まれている。

「Statewatch」の研究員、ソフィア・ライアル氏は犯罪を予測するアルゴリズムシステムには本質的な欠陥があり、この種のツールが特定のグループを標的にするために利用される可能性があることを指摘する。

「制度的に人種差別的な警察と内務省のデータを使用するこの最新モデルは、刑事司法制度の根底にある構造的差別を強化し、拡大するでしょう」（ライアル氏）

　法務省の広報担当者は英紙「The Guardian」に対し、これは研究目的のみのプロジェクトだと語っている。

「この報告書は、英国刑務所保護観察局と警察が保有する有罪判決を受けた犯罪者に関する既存データに基づいて作成されており、保護観察中の人々が深刻な暴力行為に及ぶリスクをより深く理解するのに役立ちます。報告書は近日中に公表される予定です」（英法務省）

　科学系メディア「ZME Science」はこのプロジェクトについて当局がいかに秘密主義的であったかを考えると、「Statewatch」が懸念を抱くのも無理はないと言及し、法務省はこの“殺人予測AI”の開発を直ちに中止すべきであると提言している。

　AIによる犯罪予測は米シカゴ大学などでも研究が進められているが、“殺人予測AI”が偏見を醸成、強化させる愚を犯してはならないのは言うまでもない。

参考：「ZME Science」ほか