AI鑒黃師走紅 凈化網(wǎng)絡(luò)環(huán)境意義重大

一位“鑒黃師”的電腦上貼著便簽，上面注明了甄別色情信息的標(biāo)準(zhǔn) 圖/中新網(wǎng)

羊城晚報(bào)記者 龔衛(wèi)鋒

前晚，“斗魚(yú)直播”一檔名叫《職男職女職播》的綜藝節(jié)目與觀眾見(jiàn)面。這檔節(jié)目每周會(huì)請(qǐng)來(lái)不同行業(yè)的專(zhuān)家們，為青年人解決職業(yè)困惑。本周是該系列的第二期：上一期在武漢直播，請(qǐng)來(lái)的嘉賓是法醫(yī)；這一期在廣州直播，請(qǐng)來(lái)的嘉賓身份更具話題性——他們是“AI鑒黃師”。

三位嘉賓中，姜澤榮是互聯(lián)網(wǎng)“圖像識(shí)別”領(lǐng)域龍頭企業(yè)“圖普科技”的運(yùn)營(yíng)總監(jiān)，也是一名“AI鑒黃師”。他這個(gè)“老司機(jī)”帶著兩位“小司機(jī)”同事在直播中談笑風(fēng)生，讓觀眾了解到：這份網(wǎng)友眼中很酷的工作，其實(shí)并不輕松；而有了AI人工智能技術(shù)（Artificial Intelligence）的助力，“鑒黃”的效率已經(jīng)大大提高。

背景

“網(wǎng)絡(luò)監(jiān)管加強(qiáng)，

越來(lái)越多直播平臺(tái)請(qǐng)鑒黃師把關(guān)”

“快播被禁”堪稱2014年的年度事件。2014年4月16日快播科技發(fā)布公告稱，快播將關(guān)閉qvod服務(wù)器，停止基于快播技術(shù)的視頻點(diǎn)播和下載，清理低俗內(nèi)容與涉盜版內(nèi)容。同年8月，全國(guó)“掃黃打非”辦公室發(fā)布消息稱，深圳快播科技有限公司網(wǎng)上傳播淫穢色情信息案主要犯罪嫌疑人、快播公司法定代表人兼總經(jīng)理王欣于8月8日被依法抓捕歸案。

“國(guó)家非常重視對(duì)淫穢色情信息的監(jiān)管，我們公司成立時(shí)，就把‘鑒黃’作為公司的重要工作，第一個(gè)客戶是迅雷。”姜澤榮透露，當(dāng)時(shí)迅雷給了很多數(shù)據(jù)幫他們調(diào)整并優(yōu)化系統(tǒng)，不過(guò)，迅雷如何利用系統(tǒng)則不在他們的控制范圍內(nèi)，“迅雷不存儲(chǔ)內(nèi)容，用戶下載并分享的過(guò)程中觸發(fā)‘過(guò)濾’機(jī)制才有可能被禁，但達(dá)到多少基數(shù)會(huì)被禁，我們不知道。”

“AI鑒黃師”與“傳統(tǒng)鑒黃師”通過(guò)肉眼瀏覽過(guò)濾色情信息不同，他們的工作是將大伙兒從互聯(lián)網(wǎng)上搜集的圖片、視頻進(jìn)行分類(lèi)整理，分別放入系統(tǒng)“正常”、“性感”、“色情”三大板塊中，“我們調(diào)教機(jī)器去識(shí)別色情信息，通過(guò)樣本建立模型，最終趨近于達(dá)到人眼識(shí)別的效果，原理和AlphaGo一樣。”圖普科技客戶經(jīng)理周耀輝說(shuō)道。

他們公司現(xiàn)在有上百個(gè)客戶，其中直播客戶占了很大的量，這與近兩年直播行業(yè)的急速發(fā)展密不可分。“部分直播平臺(tái)為了賺快錢(qián)，專(zhuān)門(mén)請(qǐng)美女主播滾動(dòng)直播色情內(nèi)容，結(jié)果上線沒(méi)多久就被禁。”圖普科技市場(chǎng)經(jīng)理鄧柯解釋?zhuān)?ldquo;對(duì)網(wǎng)絡(luò)信息管控比較重視的企業(yè)會(huì)走得更遠(yuǎn)。”

國(guó)家對(duì)直播平臺(tái)的監(jiān)管也在逐漸加強(qiáng)，去年4月13日，百度、新浪、搜狐等20余家直播平臺(tái)共同發(fā)布《北京網(wǎng)絡(luò)直播行業(yè)自律公約》，承諾網(wǎng)絡(luò)直播房間必須標(biāo)識(shí)水?。粌?nèi)容存儲(chǔ)時(shí)間不少于15天備查；所有主播必須實(shí)名認(rèn)證；對(duì)于播出涉槍、涉毒、涉暴、涉黃內(nèi)容的主播，情節(jié)嚴(yán)重的將列入黑名單；審核人員對(duì)平臺(tái)上的直播內(nèi)容進(jìn)行24小時(shí)實(shí)時(shí)監(jiān)管。

《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》2016年12月1日起在全國(guó)施行，明確禁止互聯(lián)網(wǎng)直播服務(wù)提供者和使用者利用互聯(lián)網(wǎng)直播服務(wù)從事危害國(guó)家安全、破壞社會(huì)穩(wěn)定、擾亂社會(huì)秩序、侵犯他人合法權(quán)益、傳播淫穢色情等活動(dòng)。

于是，越來(lái)越多的直播平臺(tái)開(kāi)始找“AI鑒黃師”幫助，一旦有主播傳播色情信息、系統(tǒng)判定為“色情”后，會(huì)立即通知直播平臺(tái)“封號(hào)”；系統(tǒng)拿不準(zhǔn)的信息，會(huì)被發(fā)送到直播平臺(tái)系統(tǒng)中，讓鑒黃師人工判定。通常，從“判定信息為色情”到“查封賬號(hào)”，平均用時(shí)為30秒。

工作

“機(jī)器幫忙識(shí)別色情信息，實(shí)時(shí)監(jiān)控直播的越軌舉動(dòng)”

鄧柯介紹：“視頻直播的利潤(rùn)空間之大，普通人難以想象。比如一個(gè)以喊麥著稱的主播，辦一場(chǎng)活動(dòng)號(hào)稱‘日薪百萬(wàn)’，很多直播平臺(tái)不惜花百萬(wàn)元甚至千萬(wàn)元去挖一個(gè)TOP級(jí)別的主播。”據(jù)悉，一些美女主播為了維持足夠的用戶粘度，常常一段直播長(zhǎng)達(dá)兩小時(shí)，甚至有人曾表演長(zhǎng)達(dá)8小時(shí)的絲襪舞，平均每隔三分鐘念一遍感謝粉絲贈(zèng)送禮物的名單……當(dāng)她們做出一些越軌舉動(dòng)時(shí)，往往能收獲很多禮物，折合成人民幣數(shù)額相當(dāng)可觀，于是一些美女主播不時(shí)打打“情色”擦邊球。

去年11月28日，女主播“雪梨槍”因傳播色情視頻內(nèi)容被判有期徒刑4年，給這類(lèi)突破底線的主播們敲響了警鐘。“利用色情謀利是直播平臺(tái)的大忌，以身犯險(xiǎn)極易觸犯法律。”周耀輝說(shuō)。姜澤榮也強(qiáng)調(diào)違法行為是不能容忍的：“人有需求很正常，但釋放途徑要得當(dāng)，利用這一點(diǎn)做違規(guī)、違法的事情很不好。”

周耀輝表示，直播平臺(tái)對(duì)于“AI鑒黃師”的需求量很大：“因?yàn)橹辈ナ菍?shí)時(shí)性的，隨時(shí)可能有人做出越軌舉動(dòng)，機(jī)器（系統(tǒng)）會(huì)把視頻實(shí)時(shí)導(dǎo)出成一張張圖片，以方便鑒別。”不過(guò)，各個(gè)平臺(tái)的尺度不一樣，姜澤榮說(shuō)：“我們把機(jī)器給直播平臺(tái)使用，但他們?cè)谡{(diào)用時(shí)選擇的尺度是不同的。”

“內(nèi)容管控是個(gè)世界性課題，很多人覺(jué)得海外網(wǎng)絡(luò)管控很松，可以隨意瀏覽色情網(wǎng)站，其實(shí)這是一種誤解，不少國(guó)家和地區(qū)的管控相當(dāng)嚴(yán)格，比如在實(shí)名認(rèn)證的情況下，Google Play對(duì)色情是零容忍的，而日本AV有明確的分級(jí)制度。”周耀輝指出了人們的一些認(rèn)識(shí)誤區(qū)。

有人責(zé)難“鑒黃師”，認(rèn)為他們堵塞了人性的出口。對(duì)此姜澤榮持反對(duì)意見(jiàn)。他認(rèn)為，在尚未“分級(jí)”的情況下，“寧可錯(cuò)殺一千，也不能放過(guò)一個(gè)”，而“一刀切”目前看來(lái)是必要的，必須防止色情視頻對(duì)青少年身心健康的危害，但他們希望另一方面，“性教育”也該完善。他表示：“我們調(diào)查也發(fā)現(xiàn)，很多家長(zhǎng)沒(méi)有正確引導(dǎo)孩子，一味壓抑也是不對(duì)的。”

在機(jī)器和人的努力下，如今色情直播現(xiàn)象明顯少了很多，“我們平臺(tái)數(shù)據(jù)顯示，現(xiàn)在直播過(guò)程中，出現(xiàn)色情內(nèi)容的比例是萬(wàn)分之四。”鄧柯說(shuō)。

感受

“安靜理性適合當(dāng)鑒黃師，

太活潑的人干不了”

“剛開(kāi)始做這份工作有些不適應(yīng)，當(dāng)你打開(kāi)屏幕，滿屏都是不堪入目的內(nèi)容，我整個(gè)人都凌亂了。”姜澤榮的同事毛毛，是這次斗魚(yú)直播節(jié)目《職男職女職播》的一位嘉賓，“美女鑒黃師”的標(biāo)簽讓她在幾位嘉賓中特別搶眼。

姜澤榮被同事稱為“老司機(jī)”，是AI鑒黃的元老。“公司剛成立時(shí)，部門(mén)只有四個(gè)人，加班非常多，一天起碼有六個(gè)小時(shí)在搜集數(shù)據(jù)，簡(jiǎn)單說(shuō)，就是看黃圖、黃片，然后把它們?nèi)拥綌?shù)據(jù)庫(kù)中。”他們部門(mén)“技術(shù)宅”居多。“我們?cè)谡衅笗r(shí)對(duì)性格有要求，太活潑的人當(dāng)不了鑒黃師，性格安靜、理性的人比較適合。”姜澤榮說(shuō)。

2013年，百度、騰訊、金山等10多個(gè)互聯(lián)網(wǎng)公司組成的“安全聯(lián)盟”，公開(kāi)招聘“首席淫穢色情鑒定官”，條件是年薪20萬(wàn)元、五險(xiǎn)一金、每天有酸奶水果福利，工作內(nèi)容就是對(duì)著電腦專(zhuān)職識(shí)別色情淫穢網(wǎng)站。很多人覺(jué)得這份工作很酷，但隨后也不斷傳出有鑒黃師申請(qǐng)“工傷”索賠的新聞。姜澤榮吐槽道：“說(shuō)當(dāng)‘鑒黃師’是件很酷的事情的人，都不了解這個(gè)職業(yè)。凡事都有個(gè)度，什么事都耐不住天天看?。?rdquo;姜澤榮解釋?zhuān)?ldquo;鑒黃”只是他工作的一部分，他們還在開(kāi)拓其他智能識(shí)別項(xiàng)目。

“我們組有6個(gè)人，全是男性，都不會(huì)跟外界說(shuō)自己是‘鑒黃師’，因?yàn)閷?duì)很多人來(lái)說(shuō)，這不是什么很好的工作，說(shuō)出去會(huì)影響別人對(duì)你的看法。但另一方面，凈化網(wǎng)絡(luò)環(huán)境的工作是有意義的。”姜澤榮通常會(huì)跟親友說(shuō)自己是做互聯(lián)網(wǎng)技術(shù)的，如今還有種高大上的說(shuō)辭——“我在做‘人工智能’。”

(責(zé)編：kita)