第11章相关与回归分析

第11章OLS 用于时间序列数据的其他问题11.1复习笔记一、平稳和弱相关时间序列1．平稳和非平稳时间序列平稳时间序列过程，就是概率分布在如下意义上跨时期稳定的时间序列过程：如果从这个序列中任取一个随机变量集，并把这个序列向前移动h 个时期，那么其联合概率分布仍然保持不变。

（1）平稳随机过程对于随机过程{ 1 2 }t x t =：，，…，如果对于每一个时间指标集121m t t t ≤<<⋅⋅⋅<和任意整数h≥1，()12m t t t x x x ⋅⋅⋅，，，的联合分布都与()12 m t h t h t h x x x ++⋅⋅⋅＋，，，的联合分布相同，那么这个随机过程就是平稳的。

这种平稳经常称为严平稳，它是从概率分布的角度去定义的。

其含义之一是（取m＝1和t 1＝1）：对所有t＝2，3,…,x 1与x t 都有相同的分布。

序列{ 1 2 }t x t =：，，…是同分布的。

不平稳的随机过程称为非平稳过程。

因为平稳性是潜在随机过程而非其某单个实现的性质，所以很难判断所搜集到的数据是否由一个平稳过程生成。

但是，要指出某些序列不是平稳的却很容易。

（2）协方差平稳过程（宽平稳，弱平稳）对于一个具有有限二阶矩()2t E x ⎡⎤∞⎣⎦＜的随机过程{ 1 2 }t x t =：，，…，若：（i）E（x t ）为常数；（ii）Var（x t ）为常数；（iii）对任何t，h≥1，Cov（x t ，x t＋h ）仅取决于h，而不取决于t，那它就是协方差平稳的。

协方差平稳只考虑随机过程的前两阶矩：这个过程的均值和方差不随着时间而变化，而且，x t 和x t＋h 的协方差只取决于这两项之间的距离h，与起始时期t 的位置无关。

由此立即可知x t 与x t＋h 之间的相关性也只取决于h。

如果一个平稳过程具有有限二阶矩，那么它一定是协方差平稳的，但反过来未必正确。

由于严平稳的条件比较苛刻，在实际中从概率分布的角度去验证是无法实现的，所以在实际运用中所指的平稳都是指宽平稳，即协方差平稳。

回归分析与相关分析回归分析是通过建立一个数学模型来研究自变量对因变量的影响程度。

回归分析的基本思想是假设自变量和因变量之间存在一种函数关系，通过拟合数据来确定函数的参数。

回归分析可以分为线性回归和非线性回归两种。

线性回归是指自变量和因变量之间存在线性关系，非线性回归是指自变量和因变量之间存在非线性关系。

回归分析可用于预测、解释和控制因变量。

回归分析的应用非常广泛。

例如，在经济学中，回归分析可以用于研究收入与消费之间的关系；在医学研究中，回归分析可以用于研究生活方式与健康之间的关系。

回归分析的步骤包括确定自变量和因变量、选择合适的回归模型、拟合数据、检验模型的显著性和解释模型。

相关分析是一种用来衡量变量之间相关性的方法。

相关分析通过计算相关系数来度量变量之间的关系的强度和方向。

常用的相关系数有Pearson相关系数、Spearman相关系数和判定系数。

Pearson相关系数适用于连续变量，Spearman相关系数适用于顺序变量，判定系数用于解释变量之间的关系。

相关分析通常用于确定两个变量之间是否相关，以及它们之间的相关性强度和方向。

相关分析的应用也非常广泛。

例如，在市场研究中，相关分析可以用于研究产品价格与销量之间的关系；在心理学研究中，相关分析可以用于研究学习成绩与学习时间之间的关系。

相关分析的步骤包括确定变量、计算相关系数、检验相关系数的显著性和解释相关系数。

回归分析与相关分析的主要区别在于它们研究的对象不同。

回归分析研究自变量与因变量之间的关系，关注的是因变量的预测和解释；相关分析研究变量之间的关系，关注的是变量之间的相关性。

此外，回归分析通常是为了解释因变量的变化，而相关分析通常是为了量化变量之间的相关性。

综上所述，回归分析和相关分析是统计学中常用的两种数据分析方法。

回归分析用于确定自变量与因变量之间的关系，相关分析用于测量变量之间的相关性。

回归分析和相关分析在实践中有广泛的应用，并且它们的步骤和原理较为相似。

十一章1. 解：回归分析是确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法，运用十分广泛。

回归分析按照涉及的变量的多少，分为一元回归和多元回归分析；在线性回归中，按照因变量的多少，可分为简单回归分析和多重回归分析；按照自变量和因变量之间的关系类型，可分为线性回归分析和非线性回归分析。

如果在回归分析中，只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示，这种回归分析称为一元线性回归分析。

如果回归分析中包括两个或两个以上的自变量，且自变量之间存在线性相关，则称为多元线性回归分析。

相关分析，相关分析是研究现象之间是否存在某种依存关系，并对具体有依存关系的现象探讨其相关方向以及相关程度，是研究随机变量之间的相关关系的一种统计方法。

相关分析和回归分析是研究客观现象之间数量联系的重要统计方法。

既可以从描述统计的角度，也可以从推断统计的角度来说明。

所谓相关分析，就是用一个指标来表明现象间相互依存关系的密切程度。

所谓回归分析，就是根据相关关系的具体形态，选择一个合适的数学模型，来近似地表达变量间的平均变化关系。

它们具有共同的研究对象，在具体应用时，相关分析需要依靠回归分析来表明现象数量相关的具体形式，而回归分析则需要依靠相关分析来表明现象数量变化的相关程度。

只有当变量之间存在着高度相关时，进行回归分析寻求其相关的具体形式才有意义。

由于相关分析不能指出变量间相互关系的具体形式，所以回归分析要对具有相关关系的变量之间的数量联系进行测定，从而为估算和预测提供了一个重要的方法。

在有关管理问题的定量分析中，推断统计加具有更加广泛的应用价值。

需要指出的是，相关分析和回归分析只是定量分析的手段。

通过相关与回归分析，虽然可以从数量上反映现象之间的联系形式及其密切程度，但是现象内在联系的判断和因果关系的确定，必须以有关学科的理论为指导，结合专业知识和实际经验进行分析研究，才能正确解决。

因此，在应用时要把定性分析和定量分析结合起来，在定性分析的基础上开展定量分析。

国开社会调查研究与方法第11章自测题及答案一、填空题（每空2分，共计20分）试题 1一般认为资料分析包括三方面内容，即（）、定量分析和（）。

正确答案是：定性分析，理论分析试题 2定量分析是最复杂的资料分析。

它按照性质可以分为两大类，一类是（）；另一类是（）。

正确答案是：描述性分析，推论性分析试题 3常用的集中量数有平均数、（）与（）。

正确答案是：中位数，众数试题 4常见的离中量数有极差、标准差、（）与（）。

正确答案是：标准差系数，四分位差试题 5目前最流行的专业电脑统计分析软件是（）软件和SAS软件。

另外应用比较普遍的还有Office 中的（）等。

正确答案是：SPSS，Excel试题 6定性分析的基本内容主要是（）、（）和归类。

正确答案是：识别属性，要素分析试题 7常用的辩证分析方法有（）分析法、具体和抽象分析法、（）分析法。

正确答案是：矛盾，现象和本质试题 8（）和（）统称证明，是社会调查中相互联系且相互对立的两种思维方式。

实践证明和逻辑证明则是证明的两种基本类型。

正确答案是：证实，证伪试题 9理论分析中的比较法首先需要（），另外还需要（）。

正确答案是：指标，比较对象试题 10抽样推断主要由（）和（）这两部分内容组成。

正确答案是：参数估计，假设检验试题 11常见的线性回归分析有（）回归分析和（）回归分析。

正确答案是：一元线性，多元线性试题 12综合评价法的具体操作方法较多，其中较（）和（）应用范围较广。

正确答案是：聚类分析法，综合指数法二、选择题（每题2分，共计18分）试题 13资料分析中常见的描述性分析有（）。

正确答案是：相关和回归分析, 集中量数和离中量数分析, 因素分析, 动态分析试题 14常用的表示发展水平的指标有增长量，平均增长量，发展水平，平均发展水平等。

常用的速度指标有发展速度，增长速度，增长1%的绝对值，平均发展速度，平均增长速度等。

对它们的统计分析属于（）。

正确答案是：动态分析试题 15当前最流行和最受重视的资料分析是（）。

第十一章 典型相关分析主成分分析、因子分析研究的是一组变量间或一组观测间的相互关系。

而当研究两组变量间的相互关系时，一般不采用各自的分析或两个变量一对一的直接分析。

例如，在研究一组环境因素与畜禽诸生产性能间的相关性时，通常是把各环境因素当作一个整体，把各生产性能也作一个整体来研究。

这时研究两个整体之间的相关可化为研究两个新变量之间的相关关系，而这两个新变量将分别由各自整体中变量的线性组合所构成，因此不会丢失原有诸变量的任何信息。

这样构成的两个新变量具有最大相关的性质。

类似地还可找出由两组变量构成的第二对线性组合，该组合与第一对线性组合不相关，但该对组合间有最大的相关。

如此类推，直到两组变量的相关被分解完毕。

这种逐步得到的线性组合称为典型变量，它们之间的相关系数称为典型相关系数。

这种分析方法称为典型相关分析（Canonical Correlations Analysis ）。

可见，典型相关分析是研究两组变量之间相关关系的一种统计方法，它避免了孤立地对两个变量间的研究，分析结果较为全面，且各组中变量的个数不受限制，两组的内容可以不相同。

因此，应用十分广泛。

11.1 概述在实际工作中，通常接触到的多为样本资料，所以典型相关系数及典型变量多数是从样本资料中获取。

其计算方法如下。

设有两组变量X 1{x 1，x 2，…，x p }和X 2{x p+1，x p+2，…，x p+q }的n 次观察值，取自多元正态总体N p+q （μ，∑），由X[X 1，X 2]算得协差阵为∑的最大似然估计，若对X 1、，X 2进行标准化，此时协差阵为相关阵R ：()()q p q p R R R R R ++⎥⎦⎤⎢⎣⎡=22211211其中R 11为第一组各变量间的相关系数阵，R 22为第二组各变量间的相关系数阵，'2112R R =各变量间的相关系数阵。

设P ≤q 解得特征方程()01222112212=--αλR R R R 或()02221211121=--βλR R R R的非零特征根22221r λλλ≥≥≥ （r ≤p ）的算术平方根，即为典型相关系数。

第11章多重线性回归分析思考与练习参考答案一、最佳选择题1.逐步回归分析中，若增加自变量的个数，则（D）。

A.回归平方和与残差平方和均增大B.回归平方和与残差平方和均减小C.总平方和与回归平方和均增大D.回归平方和增大，残差平方和减小E.总平方和与回归平方和均减小2.下面关于自变量筛选的统计学标准中错误的是（E）。

A.残差平方和（SS残差）缩小B.确定系数（R）增大2C.残差的均方（MS残差）缩小D.调整确定系数（Rad）增大2E.Cp统计量增大3.多重线性回归分析中，能直接反映自变量解释因变量变异百分比的指标为（C）。

A.复相关系数B.简单相关系数C.确定系数D.偏回归系数E.偏相关系数4.多重线性回归分析中的共线性是指（E）。

A.Y关于各个自变量的回归系数相同B.Y关于各个自变量的回归系数与截距都相同C.Y变量与各个自变量的相关系数相同D.Y与自变量间有较高的复相关E.自变量间有较高的相关性5.多重线性回归分析中，若对某一自变量的值加上一个不为零的常数K,则有（D）。

A.截距和该偏回归系数值均不变B.该偏回归系数值为原有偏回归系数值的K 倍C.该偏回归系数值会改变，但无规律D.截距改变，但所有偏回归系数值均不改变E.所有偏回归系数值均不会改变二、思考题1.多重线性回归分析的用途有哪些？答：多重线性回归在生物医学研究中有广泛的应用，归纳起来，可以包括以下几个方面：定量地建立一个反应变量与多个解释变量之间的线性关系，筛选危险因素，通过较易测量的变量估计不易测量的变量，通过解释变量预测反应变量，通过反应变量控制解释变量。

2.多重线性回归模型中偏回归系数的含义是什么？答：偏回归系数的含义是：在控制其他自变量的水平不变的情况下，该自变量每改变一个单位，反应变量平均改变的单位数。

3.请解释用于多重线性回归参数估计的最小二乘法的含义。

答：最小二乘法的含义是：残差的平方和达到最小。

4.如何判断和处理多重共线性？答：如果自变量之间存在较强的相关，则存在多重共线性。

一章1. 解：回归分析是确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法，运用十分广泛。

回归分析按照涉及的变量的多少，分为一元回归和多元回归分析；在线性回归中，按照因变量的多少，可分为简单回归分析和多重回归分析；按照自变量和因变量之间的关系类型，可分为线性回归分析和非线性回归分析。

如果在回归分析中，只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示，这种回归分析称为一元线性回归分析。

如果回归分析中包括两个或两个以上的自变量，且自变量之间存在线性相关，则称为多元线性回归分析。

相关分析，相关分析是研究现象之间是否存在某种依存关系，并对具体有依存关系的现象探讨其相关方向以及相关程度，是研究随机变量之间的相关关系的一种统计方法。

相关分析和回归分析是研究客观现象之间数量联系的重要统计方法。

既可以从描述统计的角度，也可以从推断统计的角度来说明。

所谓相关分析，就是用一个指标来表明现象间相互依存关系的密切程度。

所谓回归分析，就是根据相关关系的具体形态，选择一个合适的数学模型，来近似地表达变量间的平均变化关系。

它们具有共同的研究对象，在具体应用时，相关分析需要依靠回归分析来表明现象数量相关的具体形式，而回归分析则需要依靠相关分析来表明现象数量变化的相关程度。

只有当变量之间存在着高度相关时，进行回归分析寻求其相关的具体形式才有意义。

由于相关分析不能指出变量间相互关系的具体形式，所以回归分析要对具有相关关系的变量之间的数量联系进行测定，从而为估算和预测提供了一个重要的方法。

在有关管理问题的定量分析中，推断统计加具有更加广泛的应用价值。

需要指出的是，相关分析和回归分析只是定量分析的手段。

通过相关与回归分析，虽然可以从数量上反映现象之间的联系形式及其密切程度，但是现象内在联系的判断和因果关系的确定，必须以有关学科的理论为指导，结合专业知识和实际经验进行分析研究，才能正确解决。

因此，在应用时要把定性分析和定量分析结合起来，在定性分析的基础上开展定量分析。