微軟CEO納德拉：面部識(shí)別技術(shù)對(duì)社會(huì)危害大

BI中文站 1月18日 報(bào)道

微軟首席執(zhí)行官薩提亞-納德拉(Satya Nadella)認(rèn)為，如果一些技術(shù)被濫用，那么它們就會(huì)對(duì)社會(huì)形成很大的危害，因此政府應(yīng)該對(duì)它們進(jìn)行監(jiān)管。他列出的第一個(gè)例子就是面部識(shí)別技術(shù)。

周一，在該公司總部的媒體邀請(qǐng)會(huì)議上，他對(duì)滿屋子的記者發(fā)表了自己的看法。一名記者問(wèn)他如何看待科技行業(yè)即將面臨的監(jiān)管問(wèn)題。

“我們認(rèn)為監(jiān)管問(wèn)題將會(huì)變得越來(lái)越復(fù)雜。”他補(bǔ)充說(shuō)。在某些情況下，微軟實(shí)際上是在呼吁政府采取新的監(jiān)管措施。

“就拿面部識(shí)別技術(shù)這個(gè)概念來(lái)說(shuō)，它現(xiàn)在太可怕了。這絕對(duì)是一場(chǎng)徹頭徹尾的競(jìng)爭(zhēng)。”他說(shuō)，“這一切都是以競(jìng)爭(zhēng)的名義進(jìn)行的。任何贏得交易的人都能做任何事。這對(duì)我們這個(gè)行業(yè)或整個(gè)社會(huì)都不會(huì)有好的結(jié)果。更好的做法是制定一些我們大家都可以遵守的規(guī)則，這樣我們才能保護(hù)真正重要的東西。”

溫文爾雅的納德拉并沒(méi)有點(diǎn)名道姓地批評(píng)誰(shuí)。但他發(fā)表這番言論的背景是在亞馬遜的Rekognition面部識(shí)別服務(wù)正飽受詬病。

今年5月，美國(guó)公民自由聯(lián)盟(ACLU)披露，亞馬遜向政府機(jī)構(gòu)提供了Rekognition面部識(shí)別服務(wù)，讓政府機(jī)構(gòu)來(lái)監(jiān)督公民。它還寫(xiě)了一封公開(kāi)信，要求該公司停止這樣做。為了證明這項(xiàng)技術(shù)對(duì)公民自由的危害，美國(guó)公民自由聯(lián)盟在7月份報(bào)告稱，Rekognition面部識(shí)別服務(wù)錯(cuò)誤地將28名美國(guó)國(guó)會(huì)議員認(rèn)定為曾被逮捕的罪犯。

去年夏季，數(shù)百名亞馬遜員工向該公司請(qǐng)?jiān)?，要求停止銷售Rekognition面部識(shí)別服務(wù)。就在本周，由五名亞馬遜股東組成的聯(lián)盟提交了一份決議，呼吁亞馬遜停止向政府機(jī)構(gòu)出售Rekognition。這些股東總共擁有13.2億美元的亞馬遜股票。

早在2018年7月份，在人們針對(duì)亞馬遜的批評(píng)達(dá)到頂峰時(shí)，微軟首次呼吁對(duì)面部識(shí)別技術(shù)進(jìn)行監(jiān)管。

去年12月，微軟首席律師布拉德-史密斯(Brad Smith)在一篇博客文章中再次呼吁監(jiān)管面部識(shí)別技術(shù)。他指出，面部識(shí)別技術(shù)在三個(gè)方面非常危險(xiǎn)：侵犯人們的隱私，政府以犧牲“民主自由”為代價(jià)進(jìn)行大規(guī)模監(jiān)控，以及科技行業(yè)中的種族偏見(jiàn)帶來(lái)的風(fēng)險(xiǎn)。

在辨別有色人種時(shí)，面部識(shí)別技術(shù)的效果非常糟糕，經(jīng)常認(rèn)錯(cuò)人。這種誤認(rèn)可能產(chǎn)生非常嚴(yán)重的后果，特別是在執(zhí)法部門(mén)使用這項(xiàng)技術(shù)的時(shí)候。

有趣的是，亞馬遜不是第一家搗鼓這項(xiàng)技術(shù)的公司。Facebook也在這項(xiàng)技術(shù)上引起了爭(zhēng)議，比如在歐盟GDPR隱私法規(guī)生效后，該公司試圖在歐洲重新引入這項(xiàng)技術(shù)。

而且，早在亞馬遜成為焦點(diǎn)之前，微軟在面部識(shí)別技術(shù)問(wèn)題上也曾遭到批評(píng)。

一年前，《紐約時(shí)報(bào)》報(bào)道了喬伊-布蘭韋尼(Joy Buolamwini)在麻省理工學(xué)院媒體實(shí)驗(yàn)室所做的一項(xiàng)研究。她發(fā)現(xiàn)三個(gè)領(lǐng)先的人臉識(shí)別系統(tǒng)——微軟、IBM和中國(guó)的曠視科技的人臉識(shí)別系統(tǒng)——在識(shí)別非白人面孔方面表現(xiàn)得很糟糕。微軟對(duì)深色皮膚女性的錯(cuò)誤率為21%(而另外兩者的錯(cuò)誤率為35%)。

周一，納德拉承認(rèn)，每當(dāng)該公司受到嚴(yán)肅的批評(píng)時(shí)，它都會(huì)認(rèn)真對(duì)待。

事實(shí)上，史密斯在去年12月的一篇博客文章中第二次呼吁對(duì)這項(xiàng)技術(shù)進(jìn)行監(jiān)管。就在不久之前，美國(guó)國(guó)家標(biāo)準(zhǔn)研究所(National Institute Of Standard)公布了對(duì)這項(xiàng)技術(shù)的持續(xù)測(cè)試結(jié)果。測(cè)試發(fā)現(xiàn)，微軟的面部識(shí)別技術(shù)的水平有了很大提高。

與此同時(shí)，提供面部識(shí)別技術(shù)的公司數(shù)量也在激增。在去年9月的最后一次測(cè)試中，美國(guó)國(guó)家標(biāo)準(zhǔn)研究所測(cè)試了來(lái)自全球39個(gè)開(kāi)發(fā)機(jī)構(gòu)的面部識(shí)別算法。

（騰訊科技審校/樂(lè)學(xué)）