今日頭條升級靈犬反低俗助手 新增圖片識別功能（2）

此前一年時間內(nèi)，“靈犬”已陸續(xù)完成兩次迭代。2018年3月28日，今日頭條首次上線“靈犬”，支持檢測文字和文章鏈接。2018年5月16日，“靈犬”完成服務能力升級，增加反色情短文本模型和反謾罵模型，將準確率從73%提升至82%。2019年2月20日，“靈犬2.0”正式上線，除了反色情低俗模型，加入反暴力謾罵和反標題黨模型，覆蓋了主要的低俗低質(zhì)內(nèi)容類型，整體識別準確率接近85%。截至2019年6月，靈犬反低俗助手的使用人次已經(jīng)超過了300萬。

用戶只需要在“靈犬”內(nèi)輸入一段文字或文章鏈接，“靈犬”就可以幫助其檢測內(nèi)容健康指數(shù)，返回一個鑒定結果。對于用戶輸入的內(nèi)容，“靈犬”會先進行提取、分詞和語義識別，然后根據(jù)相關規(guī)則， 輸出對應的分數(shù)、評級和結論。這一切都在短短幾秒內(nèi)完成。圖片和圖片鏈接檢測同理，用戶在“靈犬”內(nèi)上傳圖片或圖片鏈接，即可快速獲取鑒定結果。

“靈犬”背后的技術迭代

據(jù)王長虎介紹，“靈犬”背后的文本分類模型，已經(jīng)經(jīng)過了三次迭代。每個新版本相對于舊版本，在技術和數(shù)據(jù)集層面，都有一個明顯的躍升。

第一代“靈犬”，應用的是“詞向量”和“CNN（卷積神經(jīng)網(wǎng)絡）”技術，訓練數(shù)據(jù)集包含350萬數(shù)據(jù)樣本，對隨機樣本的預測準確率達到79%。第二代“靈犬”，應用的是“LSTM（長短期記憶）”和“Attention”技術，訓練數(shù)據(jù)集包含840萬數(shù)據(jù)樣本，準確率提升至85%。

新版“靈犬”同時應用了“Bert”和半監(jiān)督技術，并且在此基礎上使用了專門的中文語料，在不犧牲效果的情況調(diào)整了模型結構，使得計算效率能達到實用水平。“Bert”是當前最先進的自然語言處理技術，是該領域近年來重大進展的集大成者。這項技術在常見的閱讀理解、語義蘊含、問答、相關性等各項任務上，大幅提高了性能。

這一代“靈犬”訓練數(shù)據(jù)集總量是1.2個T，相當于20倍百度百科或100倍維基百科的數(shù)據(jù)總量，包含920萬個樣本，準確率提升至91%。

不同于文本識別，圖片識別的技術難點主要在于三方面：非均衡、類內(nèi)方差大和不可窮舉，即，低俗圖片占整體圖片內(nèi)容的比例較低，低俗圖片的種類豐富、繁雜，構成低俗圖片的特征千差萬別。

對此，“靈犬”運用的解決方案，是深度學習。“我們分別在數(shù)據(jù)、模型、計算力等方面做了很多優(yōu)化。”王長虎說。數(shù)據(jù)層面，“靈犬”已累積上千萬級別的訓練數(shù)據(jù)。模型層面，“靈犬”針對許多困難樣本做了模型結構調(diào)優(yōu)，嘗試解決多尺寸、多尺度、小目標等復雜問題。計算力層面，“靈犬”利用分布式訓練算法以及GPU訓練集群，加速模型的訓練和調(diào)試。

一些技術難以搞定的問題，現(xiàn)階段還有賴于人工判斷。比如技術暫時難以制定標準的案例：世界名畫中常常出現(xiàn)裸體女子，如果完全交由機器判斷，機器通過識別畫中人物的皮膚裸露面積，就會認為這幅畫是色情低俗的；而某些拍攝芭蕾舞的圖片，以機器的視角來看，其實類似于裙底偷拍。

此外是因為使用場景、人群不同而導致標準變動的案例：內(nèi)衣和內(nèi)衣模特出現(xiàn)在購物平臺上，會被默認為正常，但如果頻繁出現(xiàn)在新聞資訊平臺上，就可能被認為有低俗嫌疑；正常的熱舞內(nèi)容，提供給成年人看，符合常規(guī)標準，但如果開啟了青少年模式，這些內(nèi)容就不應該出現(xiàn)。

王長虎說，針對低俗判斷問題的復雜性和不同判斷方式的局限性，一方面需要不斷進化技術模型，一方面需要有效結合技術和人工判斷兩種方式。

當前，“靈犬”建設了比較完善的模型迭代系統(tǒng)。通過“數(shù)據(jù)收集—數(shù)據(jù)標注—數(shù)據(jù)清洗—模型訓練—模型評估—badcase分析”這一套完整的流程，持續(xù)做優(yōu)化。