谷歌今天宣布開源大規(guī)模語(yǔ)言建模模型庫(kù)，這項(xiàng)名為“探索RNN極限”的研究今年2月發(fā)表時(shí)就引發(fā)激論，如今姍姍來(lái)遲的開源更加引人矚目。研究測(cè)試取得了極好的成績(jī)，另外開源的數(shù)據(jù)庫(kù)含有大約10億英語(yǔ)單詞，詞匯有80萬(wàn)，大部分是新聞數(shù)據(jù)。這是典型的產(chǎn)業(yè)研究，只有在谷歌這樣的大公司才做得出來(lái)。這次開源也應(yīng)該會(huì)像作者希望的那樣，在機(jī)器翻譯、語(yǔ)音識(shí)別等領(lǐng)域起到推進(jìn)作用。
開源說(shuō)明
根據(jù)谷歌大腦團(tuán)隊(duì)在 Github 發(fā)布的消息，他們這次發(fā)布開源了一個(gè)在英語(yǔ)語(yǔ)料庫(kù)> 在此基礎(chǔ)上，作者在論文描述了一個(gè)模型，混合了字符CNN（character CNN）、大規(guī)模深度 LSTM，以及一個(gè)專門的 Softmanx 架構(gòu)，最終得到的結(jié)果可以說(shuō)是迄今最好的。
代碼發(fā)布
開源部分包括：