主成分分析实例
- 格式:doc
- 大小:391.50 KB
- 文档页数:12
主成分分析主成分分析、因子分析等在多元统计分析中属于协方差逼近技术。
主要是从协方差矩阵出发,实现一种正交变换,从而将高维系统表示为低维系统,在此过程中可以揭示研究对象的许多性质和特征。
主成分分析的结果可以用于回归分析、聚类分析、神经网络分析等等。
只要懂得线性代数中二次型化为标准型的原理,就很容易掌握主成分分析的原理,进而掌握因子分析的原理。
在理解正交变换数学原理的基础上,我们可以借助Excel 开展主成分分析。
为了清楚地说明主成分的计算过程,不妨给出一个简单的计算实例。
【例】2000 年中国各地区的城、乡人口的主成分分析。
这个例子只有两个变量(m=2):城镇人口和乡村人口;31 个样品:即中国的31 个省、自治区和直辖市(n=31)。
资料来自2001 年《中国统计年鉴》,为2000 年全国人口普查快速汇总的11 月1 日零时数。
由于变量太少,这个例子仅仅具有教学意义——简单的实例更容易清楚地展示计算过程的细节。
计算步骤5.1.1 详细的计算过程首先,录入数据,并对数据进行适当处理(图5-1-1)。
计算的详细过程如下。
第一步,将原始数据绘成散点图主成分分析原则上要求部分变量之间具有线性相关趋势。
如果所有变量彼此之间不相关(即正交),则没有必要进行主成分分析,因为主成分分析的目的就是用正交的变量代替原来非正交的变量。
如果原始变量之间为非线性关系,则有必要对数据进行线性转换,否则效果不佳。
从图5-1-2 可见,原始数据具有非线性相关趋势,可以近似匹配幂指数函数,且测定系数R2=0.5157,相应地,相关系数R=0.7181(图5-1-2a);取对数之后,点列具有明显的线性趋势(图5-1-2b)。
第二步,对数据进行标准化标准化的数学公式为我们将对对数变换后的数据开展主成分分析,因此只对取对数后的数据标准化。
根据图5-1-1所示的数据排列,应该按列标准化,用xij 代表取对数之后的数据,则下式分别为第j 列数据的均值和标准差,xij 为第i 行(即第i 个样本)、第j 列(即第j 个变量)的数据,xij*为相应于xij 的标准化数据,n=31 为样品数目(参见图5-1-1)。
§8 实例 实例1计算得1x =71.25,2x =67.5分析1:基于协差阵∑ 求主成分。
369.6117.9117.9214.3S ⎛⎫= ⎪⎝⎭特征根与特征向量(S无偏,用SPSS )Factor 1 Factor 2 11x x - 0.880 -0.47422x x -0.474 0.880 特征值 433.12 150.81 贡献率0.7417 0.2583注:样本协差阵为无偏估计11(11)1n n n S X I X n n''=--, 所以,第一、二主成分的表达式为1122120.88(71.25)0.47(67.5)0.47(71.25)0.88(67.5)y x x y x x =-+-⎧⎨=--+-⎩ 第一主成分是英语与数学的加权和(反映了综合成绩),且英语的权数要大于数学的权数。
1y 越大,综合成绩越好。
(综合成分)第二主成分的两个系数异号(反映了两科成绩的均衡性)。
不妨将英语称为文科,数学称为理科。
2y 越大,说明偏科(文、理成绩不均衡),2y 越小,越接近于零,说明不偏科(文、理成绩均衡)。
(结构成分)问题:英语的权数为何大?如何解释? 分析2:基于相关阵R 求主成分。
因为1x =71.25,2x =67.5所以相关阵11R ⎛=⎪⎪⎭解得R 的特征根为:1λ=1.419,2λ=0.581,对应的单位特征向量分别为:Factor 1 Factor 2 111x x s - 0.707 0.707 222x x s - 0.707 -0.707 特征根 1.419 0.581 贡献率0.7090.291所以,第一、二主成分的表达式为12112271.2567.50.7070.70717.9813.6971.2567.50.7070.70717.9813.69x x y x x y --⎧=+=+⎪⎪⎨--⎪=-=-⎪⎩1122120.039(71.25)0.052(67.5)0.039(71.25)0.052(67.5)y x x y x x =-+-⎧⎨=---⎩ 1122120.0390.052 6.2730.0390.0520.671y x x y x x =+-⎧⎨=-+⎩ *2*11707.0707.0x x y += *2*12707.0707.0x x y -=基于相关阵的更说明了:第一主成分是英语与数学的加权总分。
在统计学中,主成分分析(principal components analysis, PCA)是一种简化数据集的技术。
它是一个线性变换。
这个变换把数据变换到一个新的坐标系统中,使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上,第二大方差在第二个坐标(第二主成分)上,依次类推。
主成分分析经常用减少数据集的维数,同时保持数据集的对方差贡献最大的特征。
这是通过保留低阶主成分,忽略高阶主成分做到的。
这样低阶成分往往能够保留住数据的最重要方面。
在实证问题研究中,为了全面、系统地分析问题,我们必须考虑众多影响因素。
这些涉及的因素一般称为指标,在多元统计分析中也称为变量。
因为每个变量都在不同程度上反映了所研究问题的某些信息,并且指标之间彼此有一定的相关性,因而所得的统计数据反映的信息在一定程度上有重叠。
在用统计方法研究多变量问题时,变量太多会增加计算量和增加分析问题的复杂性,人们希望在进行定量分析的过程中,涉及的变量较少,得到的信息量较多。
主成分分析正是适应这一要求产生的,是解决这类题的理想工具主成分分析法是一种降维的统计方法,它借助于一个正交变换,将其分量相关的原随机向量转化成其分量不相关的新随机向量,这在代数上表现为将原随机向量的协方差阵变换成对角形阵,在几何上表现为将原坐标系变换成新的正交坐标系,使之指向样本点散布最开的p 个正交方向,然后对多维变量系统进行降维处理,使之能以一个较高的精度转换成低维变量系统,再通过构造适当的价值函数,进一步把低维系统转化成一维系统。
主成分分析的主要作用体现在五个方面,第一,主成分分析能降低所研究的数据空间的维数。
第二,可通过因子负荷的结论,弄清X变量间的某些关系。
第三,可用于多为数据的一种图形表现方法。
第四,可由主成分分析构造回归模型,即把各个主成分作为新自变量代替原来自变量做回归分析。
第五,用主成分分析筛选回归变量。
案例分析:下表是关于全国31个省市的8项经济指标,以此为例,进行主成分分析。
第6章主成分分析与因子分析6.1主成分分析数学模型当存在若干个随机变量时,寻求它们的少量线性组合(即主成分),用以解释这些随机 变量,是很必要的。
首先我们看一个例子。
例6.1 为了调查学生的身材状况,可以测量他们的身高(X1)、体重(X2)、胸围(X3)和坐高(X4)。
可是用这4个指标表达学生身材状况不方便。
但若用 y1=3.6356x1+3.3242x2+2.4770x3+2.1650x4表示学生身体魁梧程度;用y2=-3.9739x1+1.3582x2+3.7323x3-1.5729x4表示学生胖瘦程度。
则这两个指标(Y1,Y2)很好概括了4个指标(X1-X4)。
例6.1中,学生不同,身高(X1)、体重(X2)、胸围(X3)和坐高(X4)不同;X1,X2,X3,X4是4维随机向量;Y1,Y2是他们的2个线性组合,Y1,Y2能很好表示X1,X2,X3,X4的特性。
类似的问题在许多地方出现:可观测的随机变量很多,需要选出所有所有随机变量的少数线性组合,使之尽可能刻划全部随机变量的特性,选出的线性组合就是诸多变量的主成分,又称为主分量。
寻求随机向量主成分,并加以解释,称为主成分分析,又称为主分量分析。
主成分分析的数学模型是:对于随机向量X ,想用它分量的线性组合X c '反映随机向 量X 的主要信息。
也即)'(X c D 应当最大。
但是c 的模可以无限增大,从而使)'(X c D 无限变大,这是我们不希望的;于是固定c 模的大小,而改变c 各分量的比例,使)'(X c D 最 大;通常取c 的模为1最方便。
定义6.1 设随机向量)',...(1p x x X =二阶矩存在,若常数向量1c ,在条件c =1下使)'(X c D 最大,则称X c Y '11=是X 的第一主成分或第一主分量。
由定义可见,1Y 尽可能多地反映原来p 个随机变量变化的信息。
运用主成分分析评价海洋沉积物中重金属污染来源一、本文概述本文旨在运用主成分分析(PCA)这一统计工具,对海洋沉积物中的重金属污染来源进行评价。
随着工业化和城市化的快速发展,海洋环境面临着日益严重的重金属污染问题,这不仅对海洋生态系统构成威胁,还可能通过食物链对人类健康造成潜在影响。
因此,识别和评价重金属污染的来源对于制定有效的污染防治策略至关重要。
主成分分析作为一种多变量统计分析方法,能够通过降维处理,提取出数据中的主要信息,揭示隐藏在复杂数据背后的污染源信息。
本文首先将对主成分分析的基本原理进行介绍,然后详细阐述其在海洋沉积物重金属污染来源评价中的应用过程,包括数据收集、预处理、主成分提取与解释等步骤。
通过实例分析,展示主成分分析在海洋沉积物重金属污染来源评价中的实际应用效果,以期为相关研究和实践工作提供有益的参考。
二、研究区域与样品采集本研究选取位于中国东南沿海的某典型海域作为研究对象。
该海域受到人类活动影响显著,包括工业排放、农业活动、城市污水排放以及船舶运输等,使得该海域的海洋沉积物中可能含有多种重金属元素。
在研究区域内,我们选择了10个代表性站位进行沉积物样品的采集。
站位的选择考虑了海域内不同污染源的分布、水深、水流等因素,以确保采集到的样品能够全面反映研究区域的污染状况。
样品采集使用抓斗式采样器,在每个选定的站位采集表层沉积物样品,深度约为0-10厘米。
采样过程中,我们严格遵守了无污染的采样原则,确保采集到的样品不受外界因素的干扰。
同时,我们还对每个站位的水深、水温、盐度等环境参数进行了现场测量,以便后续分析。
采集到的沉积物样品被立即装入洁净的聚乙烯塑料袋中,密封后低温保存,以确保样品的原始状态不受破坏。
在实验室中,我们对每个样品进行了详细的记录,包括站位位置、采样日期、环境参数等信息,为后续的数据分析提供了基础数据。
通过本次采样工作,我们共获得了10个站位的海洋沉积物样品,这些样品将用于后续的主成分分析,以评价研究区域内重金属污染的来源。
1、主成分法:用主成分法寻找公共因子的方法如下:假定从相关阵出发求解主成分,设有p 个变量,则可找出p 个主成分。
将所得的p 个主成分按由大到小的顺序排列,记为1Y ,2Y ,…,P Y , 则主成分与原始变量之间存在如下关系:11111221221122221122....................p p p p pp p pp p Y X X X Y X X X Y X X Xγγγγγγγγγ=+++⎧⎪=+++⎪⎨⎪⎪=+++⎩ 式中,ij γ为随机向量X 的相关矩阵的特征值所对应的特征向量的分量,因为特征向量之间彼此正交,从X 到Y 得转换关系是可逆的,很容易得出由Y 到X 得转换关系为:11112121212122221122....................p p p p pp p pp p X Y Y Y X Y Y Y X Y Y Yγγγγγγγγγ=+++⎧⎪=+++⎪⎨⎪⎪=+++⎩ 对上面每一等式只保留钱m 个主成分而把后面的部分用i ε代替,则上式变为:1111212112121222221122....................m m m m p p p mp m p X Y Y Y X Y Y Y X Y Y Y γγγεγγγεγγγε=++++⎧⎪=++++⎪⎨⎪⎪=++++⎩上式在形式上已经与因子模型相一致,且i Y (i=1,2,…,m )之间相互独立,且i Y 与i ε之间相互独立,为了把i Y 转化成合适的公因子,现在要做的工作只是把主成分i Y 变为方差为1的变量。
为完成此变换,必须将i Y 除以其标准差,由主成分分析的知识知其标准差即为特征根的平方根/i i F Y =,12m ,则式子变为:1111122112211222221122....................m m m m p p p pm m p X a F a F a F X a F a F a F X a F a F a F εεε=++++⎧⎪=++++⎪⎨⎪⎪=++++⎩这与因子模型完全一致,这样,就得到了载荷A 矩阵和 初始公因子(未旋转)。
主成分分析与因子分析的比较研究与实例分析主成分分析是一种无监督学习方法,通过线性变换将原始变量转换为一组无关的主成分,每个主成分都是原始变量的线性组合。
主成分是按照解释数据方差的程度进行排序的,越靠前的主成分解释的方差越大。
主成分分析假设原始变量之间存在线性关系,并试图找到这些变量的最佳投影。
由于主成分是无关的,它们可以用于数据降维、特征选择和去除冗余信息。
因子分析也是一种无监督学习方法,但是它假设原始变量是通过一些潜在因素引起的,这些潜在因素不能直接观测到。
因子分析通过找到原始变量背后的潜在因素,来解释变量之间的协方差结构。
它假设每个原始变量与一组潜在因素之间存在线性关系,并试图找到最佳的潜在因素投影。
因子分析可以帮助我们理解数据中的潜在结构,提取主要因素并解释变量之间的关系。
下面以一个示例来比较主成分分析和因子分析的应用。
假设我们有一个市场调研数据集,包含了10个变量(销售量、广告费用、用户评分等)以及100个样本。
我们希望提取这些变量中的主要信息,并分析它们之间的关系。
首先,我们可以使用主成分分析来降维。
主成分分析告诉我们哪些变量解释了大部分的方差,并且可以将数据投影到这些主要主成分上。
我们可以选择解释方差超过80%的前两个主成分,然后将数据集降维为只有两个主成分的数据集。
这样我们可以通过以散点图的形式可视化样本之间的关系,进一步分析不同变量之间的相关性。
接下来,我们可以使用因子分析来探索数据中的潜在因素。
假设我们认为销售量、广告费用和用户评分是三个潜在因素的表现。
我们可以使用因子分析来找到这些潜在因素,并解释原始变量之间的关系。
因子分析可以给出因子载荷矩阵,其中包含了每个变量对于每个因子的相关性。
我们可以根据因子载荷矩阵来理解不同变量与潜在因素之间的关系,进而得出一些结论。
总的来说,主成分分析和因子分析都是有效的降维方法,可以帮助我们理解数据中的主要信息和潜在结构。
主成分分析更加注重解释方差,通过找到解释方差最大的主成分来降维;而因子分析更加注重探索变量之间的潜在关系,通过找到潜在因素来解释变量之间的协方差结构。
在统计学中,主成分分析(principal components analysis, PCA)是一种简化数据集的技术。
它是一个线性变换。
这个变换把数据变换到一个新的坐标系统中,使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上,第二大方差在第二个坐标(第二主成分)上,依次类推。
主成分分析经常用减少数据集的维数,同时保持数据集的对方差贡献最大的特征。
这是通过保留低阶主成分,忽略高阶主成分做到的。
这样低阶成分往往能够保留住数据的最重要方面。
在实证问题研究中,为了全面、系统地分析问题,我们必须考虑众多影响因素。
这些涉及的因素一般称为指标,在多元统计分析中也称为变量。
因为每个变量都在不同程度上反映了所研究问题的某些信息,并且指标之间彼此有一定的相关性,因而所得的统计数据反映的信息在一定程度上有重叠。
在用统计方法研究多变量问题时,变量太多会增加计算量和增加分析问题的复杂性,人们希望在进行定量分析的过程中,涉及的变量较少,得到的信息量较多。
主成分分析正是适应这一要求产生的,是解决这类题的理想工具主成分分析法是一种降维的统计方法,它借助于一个正交变换,将其分量相关的原随机向量转化成其分量不相关的新随机向量,这在代数上表现为将原随机向量的协方差阵变换成对角形阵,在几何上表现为将原坐标系变换成新的正交坐标系,使之指向样本点散布最开的p 个正交方向,然后对多维变量系统进行降维处理,使之能以一个较高的精度转换成低维变量系统,再通过构造适当的价值函数,进一步把低维系统转化成一维系统。
主成分分析的主要作用体现在五个方面,第一,主成分分析能降低所研究的数据空间的维数。
第二,可通过因子负荷的结论,弄清X变量间的某些关系。
第三,可用于多为数据的一种图形表现方法。
第四,可由主成分分析构造回归模型,即把各个主成分作为新自变量代替原来自变量做回归分析。
第五,用主成分分析筛选回归变量。
案例分析:下表是关于全国31个省市的8项经济指标,以此为例,进行主成分分析。
在统计学中,主成分分析(principal components analysis, PCA)是一种简化数据集的技术。
它是一个线性变换。
这个变换把数据变换到一个新的坐标系统中,使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上,第二大方差在第二个坐标(第二主成分)上,依次类推。
主成分分析经常用减少数据集的维数,同时保持数据集的对方差贡献最大的特征。
这是通过保留低阶主成分,忽略高阶主成分做到的。
这样低阶成分往往能够保留住数据的最重要方面。
在实证问题研究中,为了全面、系统地分析问题,我们必须考虑众多影响因素。
这些涉及的因素一般称为指标,在多元统计分析中也称为变量。
因为每个变量都在不同程度上反映了所研究问题的某些信息,并且指标之间彼此有一定的相关性,因而所得的统计数据反映的信息在一定程度上有重叠。
在用统计方法研究多变量问题时,变量太多会增加计算量和增加分析问题的复杂性,人们希望在进行定量分析的过程中,涉及的变量较少,得到的信息量较多。
主成分分析正是适应这一要求产生的,是解决这类题的理想工具主成分分析法是一种降维的统计方法,它借助于一个正交变换,将其分量相关的原随机向量转化成其分量不相关的新随机向量,这在代数上表现为将原随机向量的协方差阵变换成对角形阵,在几何上表现为将原坐标系变换成新的正交坐标系,使之指向样本点散布最开的p 个正交方向,然后对多维变量系统进行降维处理,使之能以一个较高的精度转换成低维变量系统,再通过构造适当的价值函数,进一步把低维系统转化成一维系统。
主成分分析的主要作用体现在五个方面,第一,主成分分析能降低所研究的数据空间的维数。
第二,可通过因子负荷的结论,弄清X变量间的某些关系。
第三,可用于多为数据的一种图形表现方法。
第四,可由主成分分析构造回归模型,即把各个主成分作为新自变量代替原来自变量做回归分析。
第五,用主成分分析筛选回归变量。
案例分析:下表是关于全国31个省市的8项经济指标,以此为例,进行主成分分析。
在统计学中,主成分分析(principal components analysis, PCA)是一种简化数据集的技术。
它是一个线性变换。
这个变换把数据变换到一个新的坐标系统中,使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上,第二大方差在第二个坐标(第二主成分)上,依次类推。
主成分分析经常用减少数据集的维数,同时保持数据集的对方差贡献最大的特征。
这是通过保留低阶主成分,忽略高阶主成分做到的。
这样低阶成分往往能够保留住数据的最重要方面。
在实证问题研究中,为了全面、系统地分析问题,我们必须考虑众多影响因素。
这些涉及的因素一般称为指标,在多元统计分析中也称为变量。
因为每个变量都在不同程度上反映了所研究问题的某些信息,并且指标之间彼此有一定的相关性,因而所得的统计数据反映的信息在一定程度上有重叠。
在用统计方法研究多变量问题时,变量太多会增加计算量和增加分析问题的复杂性,人们希望在进行定量分析的过程中,涉及的变量较少,得到的信息量较多。
主成分分析正是适应这一要求产生的,是解决这类题的理想工具主成分分析法是一种降维的统计方法,它借助于一个正交变换,将其分量相关的原随机向量转化成其分量不相关的新随机向量,这在代数上表现为将原随机向量的协方差阵变换成对角形阵,在几何上表现为将原坐标系变换成新的正交坐标系,使之指向样本点散布最开的p 个正交方向,然后对多维变量系统进行降维处理,使之能以一个较高的精度转换成低维变量系统,再通过构造适当的价值函数,进一步把低维系统转化成一维系统。
主成分分析的主要作用体现在五个方面,第一,主成分分析能降低所研究的数据空间的维数。
第二,可通过因子负荷的结论,弄清X变量间的某些关系。
第三,可用于多为数据的一种图形表现方法。
第四,可由主成分分析构造回归模型,即把各个主成分作为新自变量代替原来自变量做回归分析。
第五,用主成分分析筛选回归变量。
案例分析:下表是关于全国31个省市的8项经济指标,以此为例,进行主成分分析。
主成分分析实例和含义讲解1.数据标准化:对原始数据进行标准化处理,使得每个变量的均值为0,方差为1、这一步是为了将不同量级的变量进行比较。
2.计算协方差矩阵:根据标准化后的数据,计算协方差矩阵。
协方差矩阵反映了各个变量之间的线性关系。
3.特征值分解:对协方差矩阵进行特征值分解,得到特征值和对应的特征向量。
特征值表示了各个特征向量的重要程度。
4.选择主成分:根据特征值的大小,选择前k个特征向量作为主成分,k通常是根据主成分所解释的方差比例进行确定。
5.数据投影:将原始数据投影到选取的主成分上,得到降维后的数据。
主成分分析的含义可以从两个方面来解释。
一方面,主成分分析表示了原始数据在新坐标系下的投影,可以帮助我们理解数据的结构和变化。
通过选择前几个主成分,我们可以找到最能够代表原始数据的几个因素,从而实现数据的降维。
例如,在一个包含多个变量的数据集中,如果我们选择了前两个主成分,那么我们可以通过绘制数据在这两个主成分上的投影,来理解数据的分布和变化规律。
同时,主成分的累计方差贡献率可以帮助我们评估所选择的主成分对原始数据方差的解释程度,从而确定降维的精度。
另一方面,主成分分析还可以用于数据的预处理和异常值检测。
通过计算每个变量在主成分上的权重,我们可以判断每个变量对主成分的贡献大小。
如果一些变量的权重很小,那么可以考虑将其从数据集中剔除,从而减少数据的维度和复杂度。
此外,主成分分析还可以检测数据集中的异常值。
在降维的过程中,异常值对主成分的计算结果会产生较大的影响,因此可以通过比较各个主成分的方差贡献率,来识别可能存在的异常值。
总之,主成分分析是一种常用的数据降维方法,它能够帮助我们理解数据集的结构,并鉴别对数据变化影响最大的因素。
通过选择适当的主成分,我们可以实现数据的降维和可视化,并对异常值进行检测。
在实际应用中,主成分分析常常与其他数据挖掘和机器学习方法结合使用,从而发现数据的隐藏模式和关联规则,提高数据分析的效果和准确性。
基于R语言的主成分分析结果可视化方法与实例分析主成分分析(Principal Component Analysis,简称PCA)是一种常用的多变量数据降维和数据可视化方法。
它可以将高维数据集转化为低维空间,保留数据集的主要信息,便于观察和分析。
R语言是一种强大的统计分析工具,具有丰富的PCA函数和可视化包,可以帮助我们实现主成分分析结果的可视化。
下面我将介绍基于R语言的主成分分析结果可视化方法,并通过一个实例来说明。
首先,我们需要使用R语言加载相关的库和数据集。
在R中,我们可以使用"ggplot2"包来进行数据可视化,使用"FactoMineR"包来进行主成分分析。
```R#加载所需包library(ggplot2)library(FactoMineR)#加载数据集data <- read.csv("data.csv") #将数据集命名为"data.csv"```接下来,我们可以进行主成分分析并获取结果。
在R中,我们可以使用"PCA"函数来进行主成分分析。
```R#主成分分析pca <- PCA(data)```主成分分析会生成一系列的主成分和它们的贡献度。
我们可以通过"dimdesc"函数查看主成分的描述信息。
```R#查看主成分描述dimdesc(pca)```通过"dimdesc"函数,我们可以得到每个主成分对应的原始变量,并且可以查看它们的权重和贡献度。
接下来,我们可以选择性地选择几个主成分进行可视化分析。
在R中,我们可以使用"fviz_pca_ind"函数进行样本的主成分分析结果可视化。
```R#样本主成分分析结果可视化fviz_pca_ind(pca, axes = c(1, 2), geom.ind = "point", col.ind = "blue", pointsize = 2, title = "PCA - Individus")```"fviz_pca_ind"函数中,参数"axes"指定了我们要可视化的主成分,"geom.ind"指定了个体的几何表达方式,"col.ind"和"pointsize"分别指定了个体的颜色和大小。
主成分分析也称主分量分析,旨在利用降维的思想,把多指标转化为少数几个综合指标。
在实证问题研究中,为了全面、系统地分析问题,我们必须考虑众多影响因素。
这些涉及的因素一般称为指标,在多元统计分析中也称为变量。
因为每个变量都在不同程度上反映了所研究问题的某些信息,并且指标之间彼此有一定的相关性,因而所得的统计数据反映的信息在一定程度上有重叠。
在用统计方法研究多变量问题时,变量太多会增加计算量和增加分析问题的复杂性,人们希望在进行定量分析的过程中,涉及的变量较少,得到的信息量较多。
主成分分析法简介-principal component analysis(PCA) 主成分分析法是一种数学变换的方法, 它把给定的一组相关变量通过线性变换转成另一组不相关的变量,这些新的变量按照方差依次递减的顺序排列。
在数学变换中保持变量的总方差不变,使第一变量具有最大的方差,称为第一主成分,第二变量的方差次大,并且和第一变量不相关,称为第二主成分。
依次类推,I个变量就有I个主成分。
其中Li为p维正交化向量(Li*Li=1),Zi之间互不相关且按照方差由大到小排列,则称Zi为X的第I个主成分。
设X的协方差矩阵为Σ,则Σ必为半正定对称矩阵,求特征值λi(按从大到小排序)及其特征向量,可以证明,λi所对应的正交化特征向量,即为第I个主成分Zi所对应的系数向量Li,而Zi的方差贡献率定义为λi/Σλj,通常要求提取的主成分的数量k满足Σλk/Σλj>0.85。
编辑本段主成分分析的主要目的是希望用较少的变量去解释原来资料中的大部分变异,将我们手中许多相关性很高的变量转化成彼此相互独立或不相关的变量。
通常是选出比原始变量个数少,能解释大部分资料中的变异的几个新变量,即所谓主成分,并用以解释资料的综合性指标。
由此可见,主成分分析实际上是一种降维方法。
编辑本段分析步骤数据标准化;求相关系数矩阵;一系列正交变换,使非对角线上的数置0,加到主对角上;得特征根xi(即相应那个主成分引起变异的方差),并按照从大到小的顺序把特征根排列;求各个特征根对应的特征向量;用下式计算每个特征根的贡献率Vi;Vi=xi/(x1+x2+........)根据特征根及其特征向量解释主成分物理意义。
在统计学中,主成分分析(principal components analysis, PCA)是一种简化数据集的技术。
它是一个线性变换。
这个变换把数据变换到一个新的坐标系统中,使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上,第二大方差在第二个坐标(第二主成分)上,依次类推。
主成分分析经常用减少数据集的维数,同时保持数据集的对方差贡献最大的特征。
这是通过保留低阶主成分,忽略高阶主成分做到的。
这样低阶成分往往能够保留住数据的最重要方面。
在实证问题研究中,为了全面、系统地分析问题,我们必须考虑众多影响因素。
这些涉及的因素一般称为指标,在多元统计分析中也称为变量。
因为每个变量都在不同程度上反映了所研究问题的某些信息,并且指标之间彼此有一定的相关性,因而所得的统计数据反映的信息在一定程度上有重叠。
在用统计方法研究多变量问题时,变量太多会增加计算量和增加分析问题的复杂性,人们希望在进行定量分析的过程中,涉及的变量较少,得到的信息量较多。
主成分分析正是适应这一要求产生的,是解决这类题的理想工具主成分分析法是一种降维的统计方法,它借助于一个正交变换,将其分量相关的原随机向量转化成其分量不相关的新随机向量,这在代数上表现为将原随机向量的协方差阵变换成对角形阵,在几何上表现为将原坐标系变换成新的正交坐标系,使之指向样本点散布最开的p 个正交方向,然后对多维变量系统进行降维处理,使之能以一个较高的精度转换成低维变量系统,再通过构造适当的价值函数,进一步把低维系统转化成一维系统。
主成分分析的主要作用体现在五个方面,第一,主成分分析能降低所研究的数据空间的维数。
第二,可通过因子负荷的结论,弄清X变量间的某些关系。
第三,可用于多为数据的一种图形表现方法。
第四,可由主成分分析构造回归模型,即把各个主成分作为新自变量代替原来自变量做回归分析。
第五,用主成分分析筛选回归变量。
案例分析::下表是关于全国31个省市的8项经济指标,以此为例,进行主成分分析。
省份国内生产1居民消费2固定资产3职工工资4货物周转5消费价格6商品零售7工业产值8 "25058144北京1天津2¥272065014839河北3】1258山西41250& 4721内蒙51387】4134辽宁623974911: 114吉林718724430(黑龙江823344145}上海953439279113| 江苏1019265943.22496619浙江11安徽12{ 125447446095857福建13》2320江西141182< 4211山东151527《5145河南1610344344¥湖北1715274685849\120湖南1814084797119(广东1926998250114: 广西2013145105556}18145340海南2112614645117四川22.35344475贵州23"9425149云南241261?334西藏251110¥7382陕西2612084396; 119117甘肃2710075493507'青海2814455753118!宁夏2913555079:新疆3014695348339。
将数据输入SPSS软件,选择“Analyze”—“Data Reduction”—“因子分析”,在出现的对话框中进行以下步骤:第一步,将八个经济指标都转入到变量中去第二步:进行各选项的设置,如图第三步:按“确定”键,分析结果如下:GET DATA /TYPE=XLSX&/FILE='C:\Users\11\Desktop\数据.xlsx'/SHEET=name 'Sheet1'/CELLRANGE=full/READNAMES=on/ASSUMEDSTRWIDTH=32767.DATASET NAME 数据集3 WINDOW=FRONT.FACTOR/VARIABLES 国内生产居民消费固定资产职工工资货物周转消费价格商品零售工业产值/MISSING LISTWISE/ANALYSIS 国内生产居民消费固定资产职工工资货物周转消费价格商品零售工业产值【/PRINT UNIVARIATE INITIAL CORRELATION DET EXTRACTION/CRITERIA MINEIGEN(1) ITERATE(25)/EXTRACTION PC/ROTATION NOROTATE/METHOD=CORRELATION.因子分析#附注创建的输出11-二月-2012 16时31分44秒注释输入活动的数据集数据集3过滤器<none>权重<none>拆分文件<none>30}工作数据文件中的N 行缺失值处理对缺失的定义MISSING=EXCLUDE:用户定义的缺失值作为缺失对待。
使用的案例LISTWISE:统计量基于对所使用任何变量都不含缺失值的案例。
语法FACTOR'/VARIABLES 国内生产居民消费固定资产职工工资货物周转消费价格商品零售工业产值/MISSING LISTWISE/ANALYSIS 国内生产居民消费固定资产职工工资货物周转消费价格商品零售工业产值/PRINT UNIVARIATE INITIALCORRELATION DET EXTRACTION/CRITERIA MINEIGEN(1) ITERATE(25)/EXTRACTION PC/ROTATION NOROTATE/METHOD=CORRELATION.资源00:00: )处理器时间已用时间00:00:附注创建的输出11-二月-2012 16时31分44秒注释输入活动的数据集数据集3过滤器<none>权重<none>拆分文件<none>30}工作数据文件中的N 行缺失值处理对缺失的定义MISSING=EXCLUDE:用户定义的缺失值作为缺失对待。
使用的案例LISTWISE:统计量基于对所使用任何变量都不含缺失值的案例。
语法FACTOR'/VARIABLES 国内生产居民消费固定资产职工工资货物周转消费价格商品零售工业产值/MISSING LISTWISE/ANALYSIS 国内生产居民消费固定资产职工工资货物周转消费价格商品零售工业产值/PRINT UNIVARIATE INITIALCORRELATION DET EXTRACTION/CRITERIA MINEIGEN(1) ITERATE(25)/EXTRACTION PC/ROTATION NOROTATE/METHOD=CORRELATION.资源00:00: )处理器时间已用时间00:00:所需的最大内存9080 字节@[数据集3]描述统计量均值标准差分析N国内生产。
30 居民消费30固定资产[30职工工资30 货物周转30消费价格:30 商品零售30工业产值,30相关矩阵a商品零售.工业产值相关国内生产.874 居民消费.363·固定资产.792公因子方差初始提取¥国内生产.945居民消费.800固定资产.902职工工资》.875货物周转.857消费价格.957商品零售|.929工业产值.903提取方法:主成份分析。
解释的总方差成份初始特征值.提取平方和载入合计方差的% 累积% 合计方差的% 累积% 1 /2 #34 >.4025 .213 {6 .138.065 .818~78 .015 .183 !提取方法:主成份分析。
从“解释的总方差”一表中可以得出相关系数矩阵的特征值为λ1=,λ2=,λ3=,λ4=,5=,λ6=,|λ7=,λ8=前三个成分的特征值都大于1,并且累计贡献值达到了%,所以选取了前三个因素作为主成分。
将“成分矩阵”表中没一列值分别除以特征值的开方,就得出了每一个特征值对应的特征向量,由此可以得出第一,第二,第三主成分表达式(令各因素为X1,X2……X8)F1=*X1+*X2+*X3+*X4+***X7+*X8F2=**X2+**X4+*X5+*X6+*X7+*X8F3=*X1+*X2+*X3+**X5+*X6+*X7+*X8根据三个主成分表达式,通过SPSS的转换功能,就可以得出成分结果:F3省份F1)F2北京天津(河北山西9721内蒙*辽宁吉林4506¥黑龙江上海江苏\浙江安徽—福建江西山东河南湖北湖南广东广西海南四川贵州云南西藏陕西甘肃青海宁夏新疆综合上述可知,各省份的8个经济指标中国内资产,居民消费,固定工资可以作为衡量经济的主要成分。