今日頭條升級靈犬反低俗助手 新增圖片識(shí)別功能

中國小康網(wǎng)訊 7月30日，今日頭條宣布正式推出新版靈犬反低俗助手（以下簡稱“靈犬”），同時(shí)支持圖片和文本識(shí)別。這是時(shí)隔半年后，“靈犬”的又一次重要升級。

“靈犬”脫胎于今日頭條反低俗模型，是一款檢測內(nèi)容健康度的輔助小工具，致力于打擊低俗低質(zhì)內(nèi)容，凈化網(wǎng)絡(luò)空間。用戶目前可以在今日頭條內(nèi)，搜索“靈犬”進(jìn)行試用。

當(dāng)天下午，一場名為“算法如何反低俗”的溝通會(huì)在字節(jié)跳動(dòng)總部舉辦。字節(jié)跳動(dòng)人工智能實(shí)驗(yàn)室總監(jiān)王長虎現(xiàn)場介紹了“靈犬”背后的技術(shù)原理。

據(jù)了解，在文本識(shí)別領(lǐng)域，新版“靈犬”同時(shí)應(yīng)用了“Bert”和半監(jiān)督技術(shù)，訓(xùn)練數(shù)據(jù)集包含920萬個(gè)樣本，準(zhǔn)確率提升至91%。在圖片識(shí)別領(lǐng)域，“靈犬”采用深度學(xué)習(xí)作為解決方案，在數(shù)據(jù)、模型、計(jì)算力等方面均做了針對性優(yōu)化。

“靈犬”使用人次超過300萬

信息大爆炸時(shí)代，打擊低俗低質(zhì)內(nèi)容，是當(dāng)前全球信息平臺(tái)都面臨的難題，不管是國外的Facebook、Google，還是國內(nèi)的微信、今日頭條，都在尋求解決方案。

反低俗無法單一地依靠技術(shù)或人工解決。王長虎表示，低俗的定義相對籠統(tǒng)，很難完全精確地定義出來，這項(xiàng)工作即使對人來說也不容易，交給機(jī)器做更難實(shí)現(xiàn)，而在當(dāng)前內(nèi)容創(chuàng)作和消費(fèi)海量增長的趨勢下，純靠人工解決，效率低，無法有效滿足用戶需求。

圖注：字節(jié)跳動(dòng)人工智能實(shí)驗(yàn)室總監(jiān)王長虎分享“靈犬”背后的技術(shù)原理

今日頭條是國內(nèi)反低俗的先行者，而“靈犬”是今日頭條反低俗系統(tǒng)的一個(gè)簡化版本。據(jù)了解，2012年以來，今日頭條內(nèi)部搭建了反色情、反低俗、反標(biāo)題黨、反虛假信息、反低質(zhì)等數(shù)百個(gè)模型，并投入近萬人專業(yè)審核團(tuán)隊(duì)。“作為行業(yè)領(lǐng)先者，在內(nèi)容安全上，今日頭條一直用最高的標(biāo)準(zhǔn)要求自己，”王長虎說，“靈犬是一個(gè)開放的反低俗窗口，我們希望通過靈犬，接收社會(huì)各界對反低俗的意見和建議。”

新版“靈犬”重點(diǎn)拓展了反低俗識(shí)別類型和模型能力，現(xiàn)已覆蓋圖片識(shí)別（反色情低俗、反血腥暴力）和文本識(shí)別（反色情低俗、反暴力謾罵、反標(biāo)題黨）。后續(xù)還將支持語音識(shí)別和視頻識(shí)別。