【朝日新聞】AIは人種差別をするのか?
人工知能(AI)が人間を超える「シンギュラリティー」が来るといわれる。すでにAIは、生活を大きく変え始めている。
米ロサンゼルス市の地図を映し出したスクリーンに、赤く染まったエリアが数十カ所浮かび上がる。
そのとき、その場で犯罪が起きる可能性が高い「ホットスポット」だ。3月上旬、ロス市警南管区の77丁目署の一室。警官ら6人が画面に目を光らせていた。
過去10年に起きた事件の内容や日時、周辺のバーの数、パトカーの滞在時間……。AIが膨大なデータをもとに、犯罪多発地域を150メートル四方ごとに示す。
南管区のデニス・カトウ管区長(59)は「警官の勘ではなく、統計的に正しい情報を教えてくれる」と話す。パトロールは効率的になり、2016年8月の最終週に起きた殺人事件は10%、銃犯罪は20%、前年同期より少なくなった。
市民の守り神になるはずだった「AI予測」。しかし、ロス市警で3月上旬に開かれた公聴会は荒れた。
「黒人というだけで逮捕される」。NPO職員のレバレンド・バンチさん(32)は叫んだ。AIによる予測や、それを補強する「犯罪予備軍リスト」に対する抗議だった。過去に銃犯罪に関係した「要注意人物」を選び、ギャングにいた経験があれば5点、路上で職務質問を受けても1点などと加点し、各署ごとに上位20人を抽出。防犯カメラの映像などから要注意人物が犯罪多発地域にいると分かれば、巡回する警官約700人が重点的に警戒する。
AIが偏見を助長する恐れはないのか。6歳の時、身に覚えのないまま逮捕された黒人のバンチさんの不安もそこにある。「偏見に満ちた人がつくるAIは当然、偏りがあるはずだ」
(略)
データが2016年の8月を前年同期で比べたものだけ(今は2019年ですから)というのは気になりますが、殺人と銃犯罪が減ったとのことですし、今でもそのシステムを使っているならそれなりの効果はあるのかもしれません。
気になったのはNPO職員の「黒人というだけで逮捕される」という発言です。
殺人と銃犯罪が減ったのでその犯罪の逮捕者が減ったというのは予想できます。AIの導入で「黒人というだけで逮捕される」というのはどういう統計的事実に基づいた発言なのでしょうか?
具体的にどういう偏りがあるのかを主張しなければ説得力はありません。
立証しろ言っているわけではありません。例えば、黒人の逮捕数が増えたとか、黒人への職務質問が増えたとかいう具体的な差別の実態を挙げる必要があります。新聞記者も、突っ込んで訊くべきでした。
それと、6歳児が身に覚えもないのに逮捕された、というのは本当なのでしょうか? どういう状況なのか想像できないのですが・・・