AIに期待すべきでないこと

先日、こんな記事を見ました。

顔認識ソフトを利用した犯罪予測ソフトウェアには人種的偏見と欠陥があるAI研究者たちが非難

それよりちょっと前に出ていた「マイクロソフトは顔認識技術を米麻薬取締局に販売しようとしていた」という記事を思い出しました。

その時、「なんで売ってはいかんのよ…」と思ったんですが、

批判者は以前から「顔を対照させるこの技術は米国人のプライバシーの権利を犯し、またその技術は有色人種に対する異様なほど大きな偏向を示している」と主張していた。

マイクロソフトは顔認識技術を米麻薬取締局に販売しようとしていた

しかし、George Floyd(ジョージ・フロイド)氏の死に続いて米国内と全世界で起こった抗議運動により事態は変化し、法の執行と人種による不公平に、あらためて人々の注意が集まった。

マイクロソフトは顔認識技術を米麻薬取締局に販売しようとしていた

確かにナーバスなタイミングではあるものの、顔認識は「顔を識別するだけ」なんだから技術的に偏向することはない気がするんですけど…アフリカンだと誤認識が増えたりするんですかね…

でもAmazonも1年ペンディングしましたし、慌てて売らないといけない話でもないかと思います。

とはいえ、今回の記事にある「予測」はまずいと思う…。

美人コンテストの炎上事件を思い出します。

AIって人間なら簡単にできる認識を、「ものすごい大量に長時間する」とか24時間監視し続ける」とか…物量をこなすのに使えるものではあるものの、何かを予測させたりすることには不向き(あえて言い切りますが)であることをよく理解した方がいいと思います