一,、統(tǒng)計(jì)學(xué)的基本概念

統(tǒng)計(jì)學(xué)里最基本的概念就是樣本的均值、方差,、標(biāo)準(zhǔn)差,。首先，我們給定一個(gè)含有n個(gè)樣本的集合,，下面給出這些概念的公式描述：

均值：

標(biāo)準(zhǔn)差：

方差：

均值描述的是樣本集合的中間點(diǎn),，它告訴我們的信息是有限的,，而標(biāo)準(zhǔn)差給我們描述的是樣本集合的各個(gè)樣本點(diǎn)到均值的距離之平均。

以這兩個(gè)集合為例,，[0, 8, 12, 20]和[8, 9, 11, 12],，兩個(gè)集合的均值都是10，但顯然兩個(gè)集合的差別是很大的,，計(jì)算兩者的標(biāo)準(zhǔn)差,，前者是8.3后者是1.8，顯然后者較為集中,，故其標(biāo)準(zhǔn)差小一些,，標(biāo)準(zhǔn)差描述的就是這種“散布度”。之所以除以n-1而不是n,，是因?yàn)檫@樣能使我們以較小的樣本集更好地逼近總體的標(biāo)準(zhǔn)差,，即統(tǒng)計(jì)上所謂的“無(wú)偏估計(jì)”。而方差則僅僅是標(biāo)準(zhǔn)差的平方,。

二,、為什么需要協(xié)方差

標(biāo)準(zhǔn)差和方差一般是用來(lái)描述一維數(shù)據(jù)的，但現(xiàn)實(shí)生活中我們常常會(huì)遇到含有多維數(shù)據(jù)的數(shù)據(jù)集,，最簡(jiǎn)單的是大家上學(xué)時(shí)免不了要統(tǒng)計(jì)多個(gè)學(xué)科的考試成績(jī),。面對(duì)這樣的數(shù)據(jù)集，我們當(dāng)然可以按照每一維獨(dú)立的計(jì)算其方差,，但是通常我們還想了解更多,，比如，一個(gè)男孩子的猥瑣程度跟他受女孩子的歡迎程度是否存在一些聯(lián)系,。協(xié)方差就是這樣一種用來(lái)度量?jī)蓚€(gè)隨機(jī)變量關(guān)系的統(tǒng)計(jì)量,，我們可以仿照方差的定義：

來(lái)度量各個(gè)維度偏離其均值的程度，協(xié)方差可以這樣來(lái)定義：

協(xié)方差的結(jié)果有什么意義呢,？如果結(jié)果為正值,，則說(shuō)明兩者是正相關(guān)的（從協(xié)方差可以引出“相關(guān)系數(shù)”的定義），也就是說(shuō)一個(gè)人越猥瑣越受女孩歡迎,。如果結(jié)果為負(fù)值,， 就說(shuō)明兩者是負(fù)相關(guān)，越猥瑣女孩子越討厭,。如果為0，則兩者之間沒(méi)有關(guān)系,，猥瑣不猥瑣和女孩子喜不喜歡之間沒(méi)有關(guān)聯(lián),，就是統(tǒng)計(jì)上說(shuō)的“相互獨(dú)立”。

從協(xié)方差的定義上我們也可以看出一些顯而易見(jiàn)的性質(zhì),，如：

三,、協(xié)方差矩陣

前面提到的猥瑣和受歡迎的問(wèn)題是典型的二維問(wèn)題,，而協(xié)方差也只能處理二維問(wèn)題，那維數(shù)多了自然就需要計(jì)算多個(gè)協(xié)方差,，比如n維的數(shù)據(jù)集就需要計(jì)算個(gè)協(xié)方差,，那自然而然我們會(huì)想到使用矩陣來(lái)組織這些數(shù)據(jù)。給出協(xié)方差矩陣的定義：

這個(gè)定義還是很容易理解的,，我們可以舉一個(gè)三維的例子,，假設(shè)數(shù)據(jù)集有三個(gè)維度，則協(xié)方差矩陣為：

可見(jiàn),，協(xié)方差矩陣是一個(gè)對(duì)稱(chēng)的矩陣,，而且對(duì)角線(xiàn)是各個(gè)維度的方差。

四,、Matlab協(xié)方差實(shí)戰(zhàn)

必須要明確一點(diǎn),，協(xié)方差矩陣計(jì)算的是不同維度之間的協(xié)方差，而不是不同樣本之間的,。以下的演示將使用Matlab,，為了說(shuō)明計(jì)算原理，不直接調(diào)用Matlab的cov函數(shù)：

首先,，隨機(jī)生成一個(gè)10*3維的整數(shù)矩陣作為樣本集,，10為樣本的個(gè)數(shù)，3為樣本的維數(shù),。

圖 1 使用Matlab生成樣本集

根據(jù)公式,，計(jì)算協(xié)方差需要計(jì)算均值，前面特別強(qiáng)調(diào)了,，協(xié)方差矩陣是計(jì)算不同維度之間的協(xié)方差,，要時(shí)刻牢記這一點(diǎn)。樣本矩陣的每行是一個(gè)樣本,，每列是一個(gè)維度,，因此我們要按列計(jì)算均值。為了描述方便,，我們先將三個(gè)維度的數(shù)據(jù)分別賦值：

圖 2 將三個(gè)維度的數(shù)據(jù)分別賦值

計(jì)算dim1與dim2,，dim1與dim3，dim2與dim3的協(xié)方差：

圖 3 計(jì)算三個(gè)協(xié)方差

協(xié)方差矩陣的對(duì)角線(xiàn)上的元素就是各個(gè)維度的方差,，下面我們依次計(jì)算這些方差：

圖 4 計(jì)算對(duì)角線(xiàn)上的方差

這樣,，我們就得到了計(jì)算協(xié)方差矩陣所需要的所有數(shù)據(jù)，可以調(diào)用Matlab的cov函數(shù)直接得到協(xié)方差矩陣：

圖 5 使用Matlab的cov函數(shù)直接計(jì)算樣本的協(xié)方差矩陣

計(jì)算的結(jié)果,，和之前的數(shù)據(jù)填入矩陣后的結(jié)果完全相同,。

五、總結(jié)

理解協(xié)方差矩陣的關(guān)鍵就在于牢記它的計(jì)算是不同維度之間的協(xié)方差,，而不是不同樣本之間,。拿到一個(gè)樣本矩陣,，最先要明確的就是一行是一個(gè)樣本還是一個(gè)維度，心中明確整個(gè)計(jì)算過(guò)程就會(huì)順流而下,，這么一來(lái)就不會(huì)迷茫了,。

原文地址：

http:///2010/08/31/covariance/