有監(jiān)督學(xué)習(xí),顧名思義,是在“人類監(jiān)督”下學(xué)習(xí),要求訓(xùn)練數(shù)據(jù)既有特征也有目標(biāo),目標(biāo)是人為設(shè)定好的。以文本分類為例,一篇文章的字、詞、句、段是其特征(文本的內(nèi)容是什么),文章的類別(時(shí)事、科技、娛樂等等)就是目標(biāo)。訓(xùn)練集文章的類別是人為設(shè)定的,相當(dāng)于明確告訴機(jī)器什么樣的內(nèi)容該屬于什么類別,機(jī)器在此基礎(chǔ)上總結(jié)規(guī)律。無監(jiān)督學(xué)習(xí)就是數(shù)據(jù)只有特征沒有目標(biāo),最常見的算法是聚類。聚類算法會(huì)把相似的樣本聚集成一個(gè)子集,優(yōu)點(diǎn)是數(shù)據(jù)無需人工標(biāo)注,但缺點(diǎn)也很明顯——無法給出子集的實(shí)際含義。半監(jiān)督學(xué)習(xí)介于有監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)之間,其訓(xùn)練集數(shù)據(jù)有一小部分是人工標(biāo)注過的。增強(qiáng)學(xué)習(xí)強(qiáng)調(diào)基于環(huán)境而行動(dòng),在探索未知領(lǐng)域和遵從現(xiàn)有只是之間尋求平衡。
有監(jiān)督學(xué)習(xí)的研究起步較早,方法比較成熟。在大多數(shù)應(yīng)用場(chǎng)景中,我們希望機(jī)器輸出的結(jié)果具有實(shí)際含義,比如文本分類就是讓機(jī)器告訴我們一篇文章是時(shí)事還是科技類文章。這樣的場(chǎng)景下有監(jiān)督學(xué)習(xí)也更為適用。有監(jiān)督學(xué)習(xí)主要包含回歸分析和統(tǒng)計(jì)分類兩大類算法。
回歸分析——預(yù)估點(diǎn)擊率的利器
回歸分析建模的是自變量和因變量之間的相關(guān)關(guān)系(如圖2所示),在機(jī)器學(xué)習(xí)領(lǐng)域,自變量是樣本的特征向量,因變量是預(yù)測(cè)值?;貧w分析最經(jīng)典的應(yīng)用場(chǎng)景是廣告點(diǎn)擊率(CTR)預(yù)估。簡(jiǎn)單而言,CTR預(yù)估是根據(jù)用戶數(shù)據(jù)和廣告數(shù)據(jù),估計(jì)用戶點(diǎn)擊某個(gè)廣告的可能性大小。我們假設(shè)用戶數(shù)據(jù)+廣告數(shù)據(jù)和廣告點(diǎn)擊率之間的關(guān)系符合某個(gè)分布,使用回歸分析方法在已有點(diǎn)擊數(shù)據(jù)上擬合出該分布。達(dá)觀科技在線上預(yù)測(cè)時(shí)就把用戶數(shù)據(jù)和廣告數(shù)據(jù)作為輸出傳給擬合出的分布,得到用戶點(diǎn)擊該廣告的概率值。