AI技術(shù)是把雙刃劍 曠視校園人臉識別產(chǎn)品引發(fā)爭議

當人工智能等前沿技術(shù)逐漸應用于現(xiàn)實場景，投資人與創(chuàng)始人口中所謂的“數(shù)據(jù)優(yōu)勢”是否以犧牲用戶隱私安全為代價？

近日，關(guān)于人臉識別技術(shù)與個人數(shù)據(jù)安全之間的矛盾、學生個人到底有無隱私等討論見諸網(wǎng)端。一張帶有“MEGVII曠視”圖標、面向校園學生學習狀態(tài)的視頻監(jiān)控圖像也在網(wǎng)絡(luò)上引發(fā)熱議，圖片顯示，該技術(shù)針對兩名教室中的女生面部特征進行分析，分別顯示出各自相應的課堂行為數(shù)據(jù)，如趴桌子、玩手機、睡覺、聽講、閱讀、舉手等。

AI技術(shù)是把雙刃劍

針對網(wǎng)絡(luò)端對曠視監(jiān)控教室內(nèi)學生一舉一動的批評聲，曠視方面對第一財經(jīng)記者回應稱，近日網(wǎng)絡(luò)上出現(xiàn)的一幅課堂行為分析圖片為技術(shù)場景化概念演示，曠視的智慧學校解決方案可以協(xié)助學校管理人員提升效率并保障學生安全，主要用于智能校門、教室門及宿舍的出入，方便學生安全出入校園。

知乎上關(guān)于“如何看待曠視科技新產(chǎn)品監(jiān)視學生上課”的話題下，一位ID為李小粥、職業(yè)為高級產(chǎn)品經(jīng)理的用戶發(fā)表觀點稱：“如果可以監(jiān)視學生甚至量化學生的行為數(shù)據(jù)，那我們是否可以去監(jiān)控每個教師、輔導員、校長的日常工作？如果今天的技術(shù)可以采集學生微表情，那未來是否會發(fā)展到采集腦電波、人體磁場、熱力圖、情緒等更加私密的生理特征？我們又是否愿意接受這樣的監(jiān)控？”

該疑問提出的考量，來自于對人工智能技術(shù)采集個人數(shù)據(jù)的擔憂，一位不愿透露姓名的人工智能領(lǐng)域研究人士對第一財經(jīng)記者表示，曠視科技對學生人臉的監(jiān)控，以及ZAO事件，折射出人工智能技術(shù)本身的雙刃劍特性——一方面代替重復性勞動，但同時帶來隨時監(jiān)測個人生活的“驚悚感”。他稱，一般來講業(yè)內(nèi)會將現(xiàn)實生活場景的可視化視為好事，但前提是需要界定人工智能時代，什么數(shù)據(jù)是隱私？什么數(shù)據(jù)可開放？

企業(yè)方應主動保護數(shù)據(jù)安全

實際上，人臉識別技術(shù)此前早已步入校園與學生生活。

2015年，清華大學在高校信息化建設(shè)中首次引入人臉識別技術(shù)，通過識別系統(tǒng)和智能設(shè)備，實現(xiàn)學生自行注冊、自行辦理火車票優(yōu)惠卡充值、自行打印成績單、自行辦理在讀證明等各項業(yè)務(wù)；2018年，全國各地初中以“提升校園安全”為由，在校園門口安裝人臉識別考勤系統(tǒng)，以南京中國藥科大學為例，其在校門、圖書館和宿舍都安裝了人臉識別門禁。

此次曠視之所以引發(fā)爭議，很大程度在于其將原本簡單的簽到、注冊、買票等業(yè)務(wù)升級到對微表情的分析，其官方對該技術(shù)介紹稱：“在課堂教學評價系統(tǒng)中，曠視科技將自主研發(fā)的人臉識別、行為識別、表情識別等技術(shù)，集成在考勤及行為分析攝像機MegEye-C3V-920和行為分析服務(wù)器中。通過對課堂視頻數(shù)據(jù)進行實時的結(jié)構(gòu)化分析，反饋學生行為、表情、專注度、前排上座率等多維度課堂數(shù)據(jù)，輔助教學評估評價。”

國外對人臉識別技術(shù)的落地應用采取了更為徹底的管制。

今年4月5日，當舊金山監(jiān)事會(TheSanFranciscoBoardofSupervisors)通過一項法案，禁止政府部門(受聯(lián)邦政府管轄的機場、港口等出入境場所不在此例)使用面部識別技術(shù)，并規(guī)定城市機構(gòu)在購買其他類型的監(jiān)控技術(shù)之前獲得城市議會批準。而近期，歐盟(EU)的一項數(shù)據(jù)保護法規(guī)首次在瑞典實施，其規(guī)定，一項涉及人臉識別軟件的學校實驗被認為是非法的，同時引發(fā)教育機構(gòu)中是否應使用人工智能技術(shù)的討論。此外，歐盟在2018年出臺的GDPR規(guī)定稱，公司在收集用戶包括面部等生物特征數(shù)據(jù)前必須經(jīng)得個人同意，如有違反，企業(yè)可以被罰款金額達其全球收入的4%。

云測數(shù)據(jù)總經(jīng)理賈宇航對第一財經(jīng)記者表示，在人工智能高速發(fā)展過程中，技術(shù)與個人隱私之間的矛盾確實是“不可調(diào)和”的，作為企業(yè)主體，更該主動進行用戶數(shù)據(jù)安全的保護。他以谷歌為例稱，2018年，谷歌核心戰(zhàn)略以云計算與人工智能為核心，但步入2019年，在世界范圍內(nèi)多次爆發(fā)用戶數(shù)據(jù)安全事件后，谷歌將戰(zhàn)略重心轉(zhuǎn)移至注重用戶隱私安全的邊緣計算領(lǐng)域，很多用戶數(shù)據(jù)存儲于手機端，不會回傳至云端。從該案例也可以看出公司主體主動對數(shù)據(jù)安全方面的考慮。(呂倩)