【朝日新聞】ＡＩは人種差別をするのか？

３月２４日朝日新聞朝刊。特集「シンギュラリティーにっぽん」のプロローグ「ＡＩの判断、救いか災いか」より

　人工知能（ＡＩ）が人間を超える「シンギュラリティー」が来るといわれる。すでにＡＩは、生活を大きく変え始めている。
　米ロサンゼルス市の地図を映し出したスクリーンに、赤く染まったエリアが数十カ所浮かび上がる。
　そのとき、その場で犯罪が起きる可能性が高い「ホットスポット」だ。３月上旬、ロス市警南管区の７７丁目署の一室。警官ら６人が画面に目を光らせていた。
　過去１０年に起きた事件の内容や日時、周辺のバーの数、パトカーの滞在時間……。ＡＩが膨大なデータをもとに、犯罪多発地域を１５０メートル四方ごとに示す。
　南管区のデニス・カトウ管区長（５９）は「警官の勘ではなく、統計的に正しい情報を教えてくれる」と話す。パトロールは効率的になり、２０１６年８月の最終週に起きた殺人事件は１０％、銃犯罪は２０％、前年同期より少なくなった。
　市民の守り神になるはずだった「ＡＩ予測」。しかし、ロス市警で３月上旬に開かれた公聴会は荒れた。
　「黒人というだけで逮捕される」。ＮＰＯ職員のレバレンド・バンチさん（３２）は叫んだ。ＡＩによる予測や、それを補強する「犯罪予備軍リスト」に対する抗議だった。過去に銃犯罪に関係した「要注意人物」を選び、ギャングにいた経験があれば５点、路上で職務質問を受けても１点などと加点し、各署ごとに上位２０人を抽出。防犯カメラの映像などから要注意人物が犯罪多発地域にいると分かれば、巡回する警官約７００人が重点的に警戒する。
　ＡＩが偏見を助長する恐れはないのか。６歳の時、身に覚えのないまま逮捕された黒人のバンチさんの不安もそこにある。「偏見に満ちた人がつくるＡＩは当然、偏りがあるはずだ」
（略）

データが２０１６年の８月を前年同期で比べたものだけ（今は２０１９年ですから）というのは気になりますが、殺人と銃犯罪が減ったとのことですし、今でもそのシステムを使っているならそれなりの効果はあるのかもしれません。

気になったのはＮＰＯ職員の「黒人というだけで逮捕される」という発言です。

殺人と銃犯罪が減ったのでその犯罪の逮捕者が減ったというのは予想できます。ＡＩの導入で「黒人というだけで逮捕される」というのはどういう統計的事実に基づいた発言なのでしょうか？

具体的にどういう偏りがあるのかを主張しなければ説得力はありません。

立証しろ言っているわけではありません。例えば、黒人の逮捕数が増えたとか、黒人への職務質問が増えたとかいう具体的な差別の実態を挙げる必要があります。新聞記者も、突っ込んで訊くべきでした。

それと、６歳児が身に覚えもないのに逮捕された、というのは本当なのでしょうか？　どういう状況なのか想像できないのですが・・・