在機(jī)器學(xué)習(xí)這件事上 谷歌剛剛提供了藍(lán)圖和樣板

騰訊科技訊 6月20日，谷歌近期發(fā)表的一篇學(xué)術(shù)論文，該論文或?qū)闄C(jī)器學(xué)習(xí)的未來(lái)提供藍(lán)圖。谷歌的這篇論文題為“機(jī)器學(xué)習(xí)一個(gè)模式足矣（One Model to Learn Them All）”，為打造一種能夠很好地處理多任務(wù)的單一機(jī)器學(xué)習(xí)模式提供了樣板。

谷歌公司的研究人員將這種模式稱(chēng)為“多任務(wù)模式（MultiModel）”。這種多任務(wù)模式基于多種任務(wù)進(jìn)行訓(xùn)練，包括翻譯、語(yǔ)言解析、語(yǔ)音識(shí)別、圖像識(shí)別和目標(biāo)檢測(cè)等。盡管訓(xùn)練結(jié)果與現(xiàn)有的方法相比還沒(méi)有大幅進(jìn)步，但卻能夠表明，基于多種任務(wù)來(lái)訓(xùn)練機(jī)器學(xué)習(xí)系統(tǒng)可能會(huì)有助于提升整體性能。

例如，多任務(wù)模式在基于力所能及的所有行動(dòng)來(lái)進(jìn)行訓(xùn)練時(shí)，即相對(duì)于用單一行動(dòng)進(jìn)行訓(xùn)練，此刻多任務(wù)模式下的機(jī)器翻譯、語(yǔ)音和解析等準(zhǔn)確性都能夠得到提升。

谷歌的這篇論文可能會(huì)為研發(fā)能夠更加廣泛應(yīng)用、更加精準(zhǔn)的未來(lái)機(jī)器學(xué)習(xí)系統(tǒng)提供樣板。這一系統(tǒng)未來(lái)的應(yīng)用廣泛程度有準(zhǔn)確度都可能大大超過(guò)當(dāng)前市場(chǎng)存在的狹義解決方案。更為重要的是，這些技術(shù)（或其分支）或許會(huì)有助于減少打造可靠機(jī)器學(xué)習(xí)算法時(shí)所需的訓(xùn)練數(shù)據(jù)量。

這主要是由于谷歌研究團(tuán)隊(duì)的研究結(jié)果已經(jīng)表明，當(dāng)多任務(wù)模式基于其力所能及的各種任務(wù)進(jìn)行訓(xùn)練時(shí)，執(zhí)行任務(wù)的準(zhǔn)確性會(huì)在訓(xùn)練數(shù)據(jù)減少的情況下而提高。這一點(diǎn)至關(guān)重要，因?yàn)樵谀承╊I(lǐng)域，積累足夠多的大規(guī)模訓(xùn)練數(shù)據(jù)是非常困難的。

然而，谷歌目前并沒(méi)有宣布自己已經(jīng)掌握了那種能夠即刻學(xué)會(huì)所有任務(wù)的熟練算法。正如多任務(wù)名稱(chēng)的含義那樣，多任務(wù)網(wǎng)絡(luò)包括了針對(duì)不同挑戰(zhàn)而定制的系統(tǒng)，以及幫助向那些專(zhuān)家算法直接輸入的系統(tǒng)。谷歌的此番研究的確表明，該公司采取的方法將對(duì)未來(lái)研發(fā)解決各個(gè)領(lǐng)域問(wèn)題的類(lèi)似系統(tǒng)產(chǎn)生幫助作用。

值得指出的是，這方面的研究仍要進(jìn)行大量的試驗(yàn)。谷歌的研究結(jié)果還沒(méi)有得到驗(yàn)證，目前也很難弄清這項(xiàng)研究如何才能很好地拓展到其它領(lǐng)域。“谷歌大腦（Google Brain）”團(tuán)隊(duì)已經(jīng)發(fā)布了多任務(wù)代碼，以此作為T(mén)ensorFlow開(kāi)源項(xiàng)目的一部分，因此，其他人也可以用這種代碼進(jìn)行試驗(yàn)，并挖掘更多的結(jié)果。

另外，谷歌還有一些改進(jìn)的明確途徑。谷歌研究團(tuán)隊(duì)指出，他們沒(méi)有花費(fèi)過(guò)多的時(shí)間來(lái)優(yōu)化系統(tǒng)的部分固定參數(shù)（即機(jī)器學(xué)習(xí)中的“超級(jí)參數(shù)（hyperparameters）”）。他們還表示，經(jīng)過(guò)越來(lái)越多的調(diào)整和改進(jìn)，未來(lái)多任務(wù)模式的準(zhǔn)確性也會(huì)進(jìn)一步提高。