发新话题
打印

如何理解协方差??

如何理解协方差??

在做数字图像处理的时候,特别是PCA降维的时候,很多情况下要遇到协方差矩阵,其实一直糊里糊涂的不知道到底是个什么东西,
/ g7 L6 T3 h, W/ V9 w/ x& O以下是我收集的网上资料做的整理和自己的一些理解。2 }1 z7 o/ K% i6 Z! ~
统计学的基本概念spss论坛|spss下载|spss视频|Amos|SEM|SAS|Matlab|Eviews% R- s1 l7 h2 Q& |4 V
学过概率统计的孩子都知道,统计里最基本的概念就是样本的均值,方差,或者再加个标准差。首先我们给你一个含有n个样本的集合,依次给出这些概念的公式描述,这些高中学过数学的孩子都应该知道吧,一带而过。
9 Q0 Z1 H6 V0 _6 T8 q" uwww.spsschina.com ,spss论坛,数据分析,数据调查,市场调研,SPSS,PLS,DEA,spss下载,spss 下载,spss 教程,spss软件,spss中文版下载,spss免费下载,spss是什么,spss13.0下载,SPSS教程,Spss视频,数据分析师,数据分析论坛,数据分析软件均值:
& z9 v& W3 o, ^2 t% |spss论坛|spss下载|spss视频|Amos|SEM|SAS|Matlab|Eviews$ X$ i3 ?  l0 v# A* Z
方差:
; S# x5 a5 U8 U
7 |' s' s9 E2 x! h, _SPSS,spss下载,spss 下载,spss 教程,spss软件,spss中文版下载,spss免费下载,数据分析师,数据分析论坛,数据分析软件,spss13.0下载,SPSS教程,Spss视频amos ,sem analysis,spss function,spss net,spss software,spss statistical,数据分析师,数据分析论坛,数据分析软件,PLS,DEA,  均值方差的意义我就不多说了,均值就是描述样本总体水品的,班级平均分你总归明白的吧。
) Q% H7 Y$ w; e/ C: K3 C' Sspsschina.cn方差呢就是描述样本稳定性的,比如你的成绩,一会儿全班第一,一会儿不及格,这就是方差很大。张三总是在班级前十,但也没当过第一,这方差就比较小。
3 z+ z  _5 a; m% F# f2 S5 d  那么协方差到底是做什么用的呢?
: H2 s+ `! W/ C3 Jwww.spsschina.com ,spss论坛,数据分析,数据调查,市场调研,SPSS,PLS,DEA,spss下载,spss 下载,spss 教程,spss软件,spss中文版下载,spss免费下载,spss是什么,spss13.0下载,SPSS教程,Spss视频,数据分析师,数据分析论坛,数据分析软件  我们一直在讨论一个随机变量的情况,一个随机变量的均值,一个随机变量的方差,当涉及到两个随机变量的时候,有时候我们要判定他们两个的相关性,协方差的意义就在于此。spsschina.cn( m$ b5 u# m1 ^2 N
  我们再回头看方差的定义:www.spsschina.com ,spss论坛,数据分析,数据调查,市场调研,SPSS,PLS,DEA,spss下载,spss 下载,spss 教程,spss软件,spss中文版下载,spss免费下载,spss是什么,spss13.0下载,SPSS教程,Spss视频,数据分析师,数据分析论坛,数据分析软件  c- A2 U3 c, Y' e
              SPSS,spss下载,spss 下载,spss 教程,spss软件,spss中文版下载,spss免费下载,数据分析师,数据分析论坛,数据分析软件,spss13.0下载,SPSS教程,Spss视频amos ,sem analysis,spss function,spss net,spss software,spss statistical,数据分析师,数据分析论坛,数据分析软件,PLS,DEA,% Q  \+ F, R/ M, o1 A% Q# {4 j! t5 X; ~: y
   这是描述的一个随机变量,www.spsschina.com ,spss论坛,数据分析,数据调查,市场调研,SPSS,PLS,DEA,spss下载,spss 下载,spss 教程,spss软件,spss中文版下载,spss免费下载,spss是什么,spss13.0下载,SPSS教程,Spss视频,数据分析师,数据分析论坛,数据分析软件0 O+ ], |  G+ }7 P5 S& J
  然后我们看看两个随机变量X,Y,协方差的定义如下:
3 M$ w6 v8 I, {: J* x  Z6 kspsschina.cn              
( o, q% N* `# {) I4 Q6 x/ |SPSS,spss下载,spss 下载,spss 教程,spss软件,spss中文版下载,spss免费下载,数据分析师,数据分析论坛,数据分析软件,spss13.0下载,SPSS教程,Spss视频amos ,sem analysis,spss function,spss net,spss software,spss statistical,数据分析师,数据分析论坛,数据分析软件,PLS,DEA,  明白了吧,协方差在描述两个随机变量之间的相关度。+ i+ G  d' t7 g+ j7 z2 C2 Y3 k
spss论坛|spss下载|spss视频|Amos|SEM|SAS|Matlab|Eviews4 [9 \; z; o. @$ n3 e
  基于以上理论,我们明白了协方差的意义。那么协方差矩阵又是做什么的呢?想象一下,两个随机变量X,Y我们可以用协方差表示,那么10个,20个,n个呢。协方差矩阵就产生了。定义n维随机变量Xn=[X1,X2,X3,.....Xn-1,Xn];(其实相当于n个随机变量的集合)
/ Z8 C% F' s; D6 y  ~, ewww.spsschina.com ,spss论坛,数据分析,数据调查,市场调研,SPSS,PLS,DEA,spss下载,spss 下载,spss 教程,spss软件,spss中文版下载,spss免费下载,spss是什么,spss13.0下载,SPSS教程,Spss视频,数据分析师,数据分析论坛,数据分析软件我们用协方差矩阵表示他们互相之间的协方差:* C, u/ h+ c* [8 D0 J: E1 f
            2 f4 {, s! X" i1 J3 q
      (式中Un表示Xn的均值)
) k& V: {3 y% @/ o; E5 o# `- o明显这是个对称矩阵,第i行j列,或者j行i列的值,表示Xi与Xj的协方差。
, e- y$ l6 }4 _! d7 P4 USPSS,spss下载,spss 下载,spss 教程,spss软件,spss中文版下载,spss免费下载,数据分析师,数据分析论坛,数据分析软件,spss13.0下载,SPSS教程,Spss视频amos ,sem analysis,spss function,spss net,spss software,spss statistical,数据分析师,数据分析论坛,数据分析软件,PLS,DEA,
$ q& ~2 B& F5 B" R7 ~. ?' s好了,最后,我觉得理解协方差矩阵的关键点在于理解多维随机变量,不同维度之间的协方差,对应起来就是协方差矩阵的元素。

TOP

TOP

发新话题