小洛寫(xiě)在前面: 1、目前的工作不需要,,不代表之后的工作不需要,,我們應(yīng)該著眼于我們整個(gè)數(shù)據(jù)分析生涯 ;2,、掌握一些模型可以高效做一些定量分析,,較徒手分析效率更高,更準(zhǔn) ,;3,、我們覺(jué)得一些東西沒(méi)用,很可能是因?yàn)槲覀冞€沒(méi)有發(fā)現(xiàn)如何去用 ,;4,、我們對(duì)自己的要求不應(yīng)該止于滿足業(yè)務(wù)需求,一些探索性專題非常依賴于機(jī)器學(xué)習(xí) ,; 基于以上,,我嘗試開(kāi)始更新一些機(jī)器學(xué)習(xí)方面的文章,從較基礎(chǔ)的線性回歸,、決策樹(shù)等開(kāi)始,,希望大家可以跟著小洛一起學(xué)習(xí),有疑問(wèn)大家可以隨時(shí)在交流群提~ 線性回歸是利用線性的方法,,模擬因變量與一個(gè)或多個(gè)自變量之間的關(guān)系。對(duì)于模型而言,,自變量是輸入值,,因變量是模型基于自變量的輸出值,適用于x和y滿足線性關(guān)系的數(shù)據(jù)類型的應(yīng)用場(chǎng)景,。線性回歸應(yīng)用于數(shù)據(jù)分析的場(chǎng)景主要有兩種:驅(qū)動(dòng)力分析:某個(gè)因變量指標(biāo)受多個(gè)因素所影響,,分析不同因素對(duì)因變量驅(qū)動(dòng)力的強(qiáng)弱(驅(qū)動(dòng)力指相關(guān)性,不是因果性),; 預(yù)測(cè):自變量與因變量呈線性關(guān)系的預(yù)測(cè),;
模型數(shù)學(xué)形式:??=??0 ??1??1 ??2??2 ? ????????例如要衡量不同的用戶特征對(duì)滿意分?jǐn)?shù)的影響程度,轉(zhuǎn)換成線性模型的結(jié)果可能就是:分?jǐn)?shù)=-2.1 0.56*年齡線性回歸模型分為一元線性回歸與多元線性回歸:區(qū)別在于自變量的個(gè)數(shù)二,、線性系數(shù)的計(jì)算-最小二乘法 我們知道了模型的公式,,那么模型的系數(shù)是如何得來(lái)呢?我們用最小二乘法來(lái)確定模型的系數(shù),。最小二乘法,,它通過(guò)最小化誤差的平方和尋找數(shù)據(jù)的最佳函數(shù)匹配,利用最小二乘法可以求得一條直線,,并且使得擬合數(shù)據(jù)與實(shí)際數(shù)據(jù)之間誤差的平方和為最小,。將上述模型公式簡(jiǎn)化成一個(gè)四個(gè)點(diǎn)的線性回歸模型來(lái)具體看:分?jǐn)?shù)=-2.1 0.56*年齡最小二乘法選取能使模型 誤差平方和= ??1?? ??2?? ??3?? ??4??最小化的直線,生成直線后即可得出模型自變量的系數(shù)和截距,。三,、決定系數(shù)R方(R-squared)與調(diào)整R方 R方也叫決定系數(shù),它的主要作用是衡量數(shù)據(jù)中的因變量有多準(zhǔn)確可以被某一模型所計(jì)算解釋,。公式:離差平方和:代表因變量的波動(dòng),,即因變量實(shí)際值與其平均值之間的差值平方和誤差平方和:代表因變量實(shí)際值與模型擬合值之間的誤差大小故R方可以解釋因變量波動(dòng)中,被模型擬合的百分比,,即R方可以衡量模型擬合數(shù)據(jù)的好壞程度,;R方的取值范圍<=1,R方越大,,模型對(duì)數(shù)據(jù)的擬合程度越好,;使用不同模型擬合自變量與因變量之間關(guān)系的R方舉例,R方=1 模型完美的擬合數(shù)據(jù)(100%)R方=0.91 模型在一定程度較好的擬合數(shù)據(jù)(91%)R方<0 擬合直線的趨勢(shì)與真實(shí)因變量相反一般的R方會(huì)存在一些問(wèn)題,,即把任意新的自變量加入到線性模型中,,都可能會(huì)提升R方的值,模型會(huì)因加入無(wú)價(jià)值的變量導(dǎo)致R方提升,,對(duì)最終結(jié)果產(chǎn)生誤導(dǎo),。故在建立多元線性回歸模型時(shí),我們把R方稍稍做一些調(diào)整,,引進(jìn)數(shù)據(jù)量,、自變量個(gè)數(shù)這兩個(gè)條件,輔助調(diào)整R方的取值,,我們把它叫調(diào)整R方,,調(diào)整R方值會(huì)因?yàn)樽宰兞總€(gè)數(shù)的增加而降低(懲罰),會(huì)因?yàn)樾伦宰兞繋?lái)的有價(jià)值信息而增加(獎(jiǎng)勵(lì)),;可以幫助我們篩選出更多有價(jià)值的新自變量,。n:數(shù)據(jù)量大小(行數(shù))->數(shù)據(jù)量越大,,新自變量加入所影響越?。?/span>p:自變量個(gè)數(shù)->自變量個(gè)數(shù)增加,,調(diào)整R方變小,,對(duì)這個(gè)量進(jìn)行懲罰;一句話,,調(diào)整R方不會(huì)因?yàn)槟P托略鰺o(wú)價(jià)值變量而提升,,而R方會(huì)因?yàn)槟P托略鰺o(wú)價(jià)值變量而提升!通過(guò)觀測(cè)調(diào)整R方可以在后續(xù)建模中去重多重共線性的干擾,,幫助我們選擇最優(yōu)自變量組合,。R方/調(diào)整R方值區(qū)間經(jīng)驗(yàn)判斷四,、線性回歸在數(shù)據(jù)分析中的實(shí)戰(zhàn)流程我們以共享單車服務(wù)滿意分?jǐn)?shù)據(jù)為案例進(jìn)行模型實(shí)戰(zhàn),想要去分析不同的特征對(duì)滿意分的影響程度,,模型過(guò)程如下: 1,、讀取數(shù)據(jù) 2、切分因變量和自變量,、分類變量轉(zhuǎn)換啞變量多重共線性:就是在線性回歸模型中,存在一對(duì)以上強(qiáng)相關(guān)變量,,多重共線性的存在,,會(huì)誤導(dǎo)強(qiáng)相關(guān)變量的系數(shù)值。 強(qiáng)相關(guān)變量:如果兩個(gè)變量互為強(qiáng)相關(guān)變量,,當(dāng)一個(gè)變量變化時(shí),,與之相應(yīng)的另一個(gè)變量增大/減少的可能性非常大。 當(dāng)我們加入一個(gè)年齡強(qiáng)相關(guān)的自變量車齡時(shí),,通過(guò)最小二乘法所計(jì)算得到的各變量系數(shù)如下,,多重共線性影響了自變量車齡、年齡的線性系數(shù),。 這時(shí)候,,可以使用VIF消除多重共線性:VIF=1/(1-R方),R方是拿其他自變量去線性擬合此數(shù)值變量y得到的線性回歸模型的決定系數(shù),。某個(gè)自變量造成強(qiáng)多重共線性判斷標(biāo)準(zhǔn)通常是:VIF>10 我們發(fā)現(xiàn),,年齡的VIF遠(yuǎn)大于10,故去除年齡這一變量,,去除后重新計(jì)算剩余變量VIF發(fā)現(xiàn)所有均<10,,即可繼續(xù)。 4,、計(jì)算調(diào)整R方 5,、數(shù)據(jù)標(biāo)準(zhǔn)化 我們希望不同自變量的線性系數(shù),相互之間有可比性,,不受它們?nèi)≈捣秶绊?/span> 6,、擬合模型,計(jì)算回歸系數(shù) 共享單車分?jǐn)?shù)案例,,因變量是分?jǐn)?shù),,自變量是年齡、組別,、城區(qū),,線性回歸的結(jié)果為:分?jǐn)?shù) = 5.5 2.7 * 年齡 0.48 * 對(duì)照組 0.04 * 朝陽(yáng)區(qū) 0.64 * 海淀區(qū) 0.19 * 西城區(qū) 7、生成分析洞見(jiàn)-驅(qū)動(dòng)力因素 最終產(chǎn)出不同用戶特征對(duì)用戶調(diào)研分?jǐn)?shù)的驅(qū)動(dòng)性排名。驅(qū)動(dòng)力分?jǐn)?shù)反應(yīng)各個(gè)變量代表因素,,對(duì)目標(biāo)變量分?jǐn)?shù)的驅(qū)動(dòng)力強(qiáng)弱,,驅(qū)動(dòng)力分?jǐn)?shù)絕對(duì)值越大,目標(biāo)變量對(duì)因素的影響力越大,,反之越小,,驅(qū)動(dòng)力分?jǐn)?shù)為負(fù)時(shí),,表明此因素對(duì)目標(biāo)變量的影響為負(fù)向,。 8、根據(jù)回歸模型進(jìn)行預(yù)測(cè) 至此,,回歸模型已經(jīng)建好,,預(yù)測(cè)就不寫(xiě)了,把要預(yù)測(cè)的數(shù)據(jù)x自變量導(dǎo)入模型即可預(yù)測(cè)y,。
|