第6章 多重共线性

多重共线性的检验方法
多重共线性（multicollinearity）是指在回归模型中，自变量之间存在高度相关或线性相关的情况。

由于存在多重共线性，导致模型的解释能力降低，预测结果不可靠。

因此，需要对回归模型中自变量之间的关系进行检验和分析。

下面介绍几种多重共线性的检验方法。

1. 相关系数矩阵法。

计算自变量之间的相关系数矩阵，判断是否存在较高的相关系数。

相关系数矩阵主要分为Pearson 相关系数和Spearman 相关系数，其中Pearson 相关系数适用于连续变量之间的关系，Spearman 相关系数适用于序数类或等距类别的变量之间的关系。

2. 变量膨胀因子（VIF）法。

VIF 是判断某个自变量对其他自变量的回归系数影响的程度。

如果某个自变量的VIF 值超过10，就表示需要对其进行检验和分析。

3. 特征值检验法。

通过计算相关系数矩阵的特征值和特征向量，判断模型是否存在多重共线性。

如果某个特征值较小，就表示存在多重共线性。

4. 条件数检验法。

条件数是相邻特征值之比的平方根。

如果条件数大于30，就表示模型存在多重共线性。

综上所述，多重共线性的检验方法有多种，不同的检验方法可以互相验证，得到更加准确的判断结果。

在实际应用中，可以根据具体情况选择合适的方法进行多重共线性的检验。

多重共线性多重共线性（multicollinearity ）的特征● 多重共线性是指一个回归模型中的一些或全部解释变量之间存在有一种“完全”或准确的线性关系：0...2211=+++k k X X X λλλ其中k λλλ,...,,21为常数，但不同时为零。

● 0...2211≈+++k k X X X λλλ， 近似的多重共线性● 通过巴伦坦图做简单的描述。

共线性部分可用两圆圈的重叠部分来衡量。

重叠部分越大，共线性程度越高。

● 我们定义的多重共线性仅对X 变量之间的线性关系而言，它们之间的非线性关系并不违反无多重共线性的假设i i i i u X X Y +++=2210βββ多重共线性的后果●如果多重共线性是完全的，诸X变量的回归系数将是不正确的，并且它们的标准误差为无穷大●如果多重共线性是不完全的，那末，虽然回归系数可以确定，却有较大的标准误差，意思是，系数不能以很高的精确或准精确加以估计，这会导致：-参数估计不精确，也不稳定-参数估计量的标准差较大，影响系数的显著性检验●多重共线性产生的后果具有一定的不确定性●在近似的多重共线性的情况下，只要模型满足CLRM 假定，回归系数就为ＢＬＵＥ，但特定的样本估计量并不一定等于真值。

多重共线性的来源（1）许多经济变量在时间上由共同变动的趋势，如：收入，投资，消费（2）把一些经济变量的滞后值也作为解释变量在模型中使用，而解释变量和滞后变量通常相关，如：消费和过去的收入多重共线性一般与时间序列有关，但在横截面数据中也经常出现多重共线性的检验● 多重共线性是普遍存在的，造成的后果也比较复杂，对多重共线性的检验缺少统一的准则－ 对有两个解释变量的模型，作散点图，或相 关系数，或拟和优度Ｒ平方。

－ 对有多个解释变量的模型，分别用一个解释 变量对其它解释变量进行线性回归，计算拟 和优度22221,...,,k R R R－ 考察参数估计值的符号，符不符合理论 － 增加或减少解释变量，考察参数估计值的变 化－ 对比拟和优度和ｔ检验值多重共线性的修正方法● 增加样本观测值，如果多重共线性是由样本引起的，可以通过收集更多的观测值增加样本容量。

多重共线性检验方法
多重共线性检验方法是检验自变量之间是否存在强相关性的一种方法。

共线性可能导致回归结果不可靠，误差增加，对自变量的解释力下降等问题。

因此，进行多重共线性检验是回归分析中非常重要的一环。

常见的多重共线性检验方法包括变量间的相关系数、方差膨胀因子（VIF）和特征值等。

变量间的相关系数可以通过计算自变量两两之间的皮尔逊相关系数来得到。

如果相关系数大于0.8或0.9，可以认为自变量之间存在强相关性。

方差膨胀因子（VIF）是用来度量自变量间线性关系强度的一种方法。

VIF越大，表示自变量与其他自变量之间的相关性越强。

特征值检验是对协方差矩阵进行特征值分解，通过判断特征值的大小来确定自变量之间的共线性程度。

如果存在特征值较小的情况，可以表明存在多重共线性。

此外，还有其他一些检验方法，如条件数、扰动法等，可以用来检验多重共线性。

综上所述，多重共线性检验是回归分析中重要的一步，通过各种方法来判断自变量之间是否存在强相关性，以保证回归模型的稳健性和可靠性。

试述多重共线性（统计累赘）的概念、特征及其测量方式和处理方式。

1、概念多重共线性是指自变量之间存在线性相关关。

倘若其中两个自变项的关系特别强，则在相互控制后就会使每者的效果减弱，而其他的变相的效果就会因此而增大。

2、特征3、产生原因产生多重相关性的原因主要包括四方面。

一是没有足够多的样本数据; 二是选取的自变量之间客观上就有共线性的关系; 还可能由其它因素导致, 如数据采集所用的方法, 模型设定, 一个过度决定的模型等。

但多数研究者认为共线性本质上是由于样本数据不足引起的。

4、测量方式（1）经验式的诊断方法通过观察,得到一些多重相关性严重存在的迹象。

①在自变量的简单相关系数矩阵中,有某些自变量的相关系数值较大。

②回归系数的代数符号与专业知识或一般经验相反;或者该自变量与因变量的简单相关系数符号相反。

③对重要自变量的回归系数进行t 检验,其结果不显著。

特别是当F 检验能在高精度下通过,测定系数R 2的值也很大,但自变量的t 检验却全都不显著,这时多重相关性的可能将会很大。

④如果增加或删除一个变量,或者增加或删除一个观测值,回归系数发生了明显的变化。

⑤重要自变量的回归系数置信区别明显过大。

⑥在自变量中,某一个自变量是另一部分自变量的完全或近似完全的线性组合。

⑦对于一般的观测数据,如果样本点的个数过少,比如接近于变量的个数或者少于变量的个数,样本数据中的多重相关性就会经常存在。

（2）统计检验方法共线性的诊断方法是基于对自变量的观测数据构成的矩阵X ’X 进行分析,使用各种反映自变量间相关性的指标。

共线性诊断常用的统计量有方差膨胀因子VIF 或容限TOL 、条件指数和方差比例等。

方差膨胀因子VIF 是指回归系数的估计量由于自变量的共线性使其方差增加的一个相对度量。

对于第i 个回归系数,它的方差膨胀因子定义为：VIF=1/1-R 2=1/TOL i 其中R2i 是自变量Xi 对模型中其余自变量线性回归模型的R 平方。

多重共线性解决方法
多重共线性是指在回归模型中，自变量之间存在高度相关性的情况，这会导致模型的解释能力下降，系数估计不准确，模型的稳定性受到影响。

以下是一些解决多重共线性问题的方法：
1.增加样本量：通过增加样本量可以减少模型中的抽样误差，从而减轻多重共线性的影响。

2.删除冗余变量：通过剔除高度相关的自变量，可以降低共线性的程度。

可以使用相关性矩阵或者变量膨胀因子（VIF）来判断哪些自变量之间存在高相关性，并选择保留一个或几个相关性较为弱的变量。

3.主成分分析（PCA）：主成分分析可以将高度相关的自变量转换成一组无关的主成分，从而降低共线性的影响。

可以选择保留其中的几个主成分作为新的自变量，代替原始的自变量。

4.岭回归（Ridge Regression）：岭回归是在普通最小二乘法的基础上加入一个正则化项，通过缩小系数估计的幅度，减少共线性对系数估计的影响。

岭回归可以通过交叉验证选择合适的正则化参数。

5.套索回归（Lasso Regression）：套索回归也是在普通最小二乘法的基础上加入一个正则化项，不同的是套索回归使用L1范数作为正则化项，可以将一些系
数估计缩减为零，从而实现变量选择的效果。

6.弹性网回归（Elastic Net Regression）：弹性网回归是岭回归和套索回归的结合，同时使用L1和L2范数作为正则化项，可以在预测准确性和变量选择之间进行权衡。

以上方法可以根据具体问题的特点和需求选择合适的方法来解决多重共线性问题。

计量经济学习题第6章多重共线性第6章多重共线性⼀、单项选择题1、当模型存在严重的多重共线性时，OLS估计量将不具备（）A、线性B、⽆偏性C、有效性D、⼀致性2、经验认为某个解释与其他解释变量间多重共线性严重的情况是这个解释变量的VIF（）A、⼤于B、⼩于C、⼤于5D、⼩于53、模型中引⼊实际上与解释变量有关的变量，会导致参数的OLS估计量⽅差（）A、增⼤B、减⼩C、有偏D、⾮有效4、对于模型y t=b0+b1x1t+b2x2t+u t，与r12=0相⽐，r12＝0.5时，估计量的⽅差将是原来的（）A、1倍B、1.33倍C、1.8倍D、2倍5、如果⽅差膨胀因⼦VIF＝10，则什么问题是严重的（）A、异⽅差问题B、序列相关问题C、多重共线性问题D、解释变量与随机项的相关性6、在多元线性回归模型中，若某个解释变量对其余解释变量的判定系数接近于1，则表明模型中存在( )A 异⽅差B 序列相关C 多重共线性D ⾼拟合优度7、存在严重的多重共线性时，参数估计的标准差（）A、变⼤B、变⼩C、⽆法估计D、⽆穷⼤8、完全多重共线性时，下列判断不正确的是（）A、参数⽆法估计B、只能估计参数的线性组合C、模型的拟合程度不能判断D、可以计算模型的拟合程度⼆、多项选择题1、下列哪些回归分析中很可能出现多重共线性问题（）A、资本投⼊与劳动投⼊两个变量同时作为⽣产函数的解释变量B、消费作被解释变量，收⼊作解释变量的消费函数C、本期收⼊和前期收⼊同时作为消费的解释变量的消费函数D、商品价格、地区、消费风俗同时作为解释变量的需求函数E、每亩施肥量、每亩施肥量的平⽅同时作为⼩麦亩产的解释变量的模型2、当模型中解释变量间存在⾼度的多重共线性时（）A、各个解释变量对被解释变量的影响将难以精确鉴别B、部分解释变量与随机误差项之间将⾼度相关C、估计量的精度将⼤幅度下降D、估计对于样本容量的变动将⼗分敏感E、模型的随机误差项也将序列相关3、下述统计量可以⽤来检验多重共线性的严重性（）A、相关系数B、DW值C、⽅差膨胀因⼦D、特征值E、⾃相关系数4、多重共线性产⽣的原因主要有（）A、经济变量之间往往存在同⽅向的变化趋势B、经济变量之间往往存在着密切的关联C、在模型中采⽤滞后变量也容易产⽣多重共线性D、在建模过程中由于解释变量选择不当，引起了变量之间的多重共线性E、以上都正确5、多重共线性的解决⽅法主要有（）A、保留重要的解释变量，去掉次要的或替代的解释变量B、利⽤先验信息改变参数的约束形式C、变换模型的形式D、综合使⽤时序数据与截⾯数据E、逐步回归法以及增加样本容量6、关于多重共线性，判断错误的有（）A、解释变量两两不相关，则不存在多重共线性B、所有的t检验都不显著，则说明模型总体是不显著的C、有多重共线性的计量经济模型没有应⽤的意义D、存在严重的多重共线性的模型不能⽤于结构分析7、模型存在完全多重共线性时，下列判断正确的是（）A、参数⽆法估计B、只能估计参数的线性组合C、模型的判定系数为0D、模型的判定系数为1三、简述1、什么是多重共线性？产⽣多重共线性的原因是什么？2、什么是完全多重共线性？什么是不完全多重共线性？3、完全多重共线性对OLS估计量的影响有哪些？4、不完全多重共线性对OLS估计量的影响有哪些？5、从哪些症状中可以判断可能存在多重共线性？6、什么是⽅差膨胀因⼦检验法？四、判断（1）如果简单相关系数检测法证明多元回归模型的解释变量两两不相关，则可以判断解释变量间不存在多重共线性。

多重共线性名词解释多重共线性多重共线性，是指同一条曲线在不同时期反映了同一经济行为。

从外部看来，这些具有相同特征或因素的影响在不同的经济行为中是互不相关的。

但是，这些事物之间却存在着内在联系：外在表象或因素之间存在的线性关系可以用一个概念进行解释，就是说，事物在不同时期的不同影响因素是有机整体。

从更广泛的意义上说，每一个影响因素都具有相同的行为，并且，与其他影响因素有机地结合起来，构成一个统一的模式，而该模式又反过来对另一类型的影响因素产生决定性的影响。

11、地方政府支出变动； 12、总统选举（赢者通吃）； 13、结构变迁，也叫结构演化； 14、创新系统； 15、全球化； 16、文化遗产。

2、现代主义的城市设计理念，将都市视为由“住宅区—商业区—工业区”三部分组成的体系。

3、城市设计必须考虑城市空间的问题，即研究如何使人们的生活活动与各种建筑要素、城市的生态环境之间保持协调和融洽，从而达到舒适、安全、健康、卫生和高效率的目的。

4、城市形象是城市的面子。

5、美国城市设计师查尔斯·罗奇(Charles Lorich)最早提出这个概念，认为当代城市不仅需要考虑功能、技术和经济的问题，而且还应考虑空间和社会层面的问题。

6、区域化导致市场分割。

7、超大城市化正在发展。

8、现代主义强调标准化、简约化和功能性，注重形式逻辑、数字技术和系统分析，因此在城市设计领域颇受推崇。

9、我国正处于城镇化快速发展阶段。

10、“城乡规划是一门为公众利益服务的艺术。

”6、区域化导致市场分割，尤其在资本积累时期。

城市边缘化现象严重。

7、目前的城市空间扩张伴随着高成本、高风险和高消耗。

8、现代主义空间追求便捷、开放和轻松。

9、城市结构理论的发展与新城市主义思潮的兴起。

10、美国城市设计师查尔斯·罗奇(Charles Lorich)最早提出这个概念，认为当代城市不仅需要考虑功能、技术和经济的问题，而且还应考虑空间和社会层面的问题。

第6章多重共线性的情形及其处理思考与练习参考答案6.1 试举一个产生多重共线性的经济实例。

答：例如有人建立某地区粮食产量回归模型，以粮食产量为因变量Y，化肥用量为X1，水浇地面积为X2，农业投入资金为X3。

由于农业投入资金X3与化肥用量X1，水浇地面积X2有很强的相关性，所以回归方程效果会很差。

再例如根据某行业企业数据资料拟合此行业的生产函数时，资本投入、劳动力投入、资金投入与能源供应都与企业的生产规模有关，往往出现高度相关情况，大企业二者都大，小企业都小。

6.2多重共线性对回归参数的估计有何影响？答：1、完全共线性下参数估计量不存在；2、近似共线性下OLS估计量非有效；3、参数估计量经济含义不合理；4、变量的显著性检验失去意义；5、模型的预测功能失效。

6.3 具有严重多重共线性的回归方程能不能用来做经济预测？答：虽然参数估计值方差的变大容易使区间预测的“区间”变大，使预测失去意义。

但如果利用模型去做经济预测，只要保证自变量的相关类型在未来期中一直保持不变，即使回归模型中包含严重多重共线性的变量，也可以得到较好预测结果；否则会对经济预测产生严重的影响。

6.4多重共线性的产生于样本容量的个数n、自变量的个数p有无关系？答：有关系，增加样本容量不能消除模型中的多重共线性，但能适当消除多重共线性造成的后果。

当自变量的个数p较大时，一般多重共线性容易发生，所以自变量应选择少而精。

6.5 自己找一个经济问题来建立多元线性回归模型，怎样选择变量和构造设计矩阵X才可能避免多重共线性的出现？答：请参考第三次上机实验题——机场吞吐量的多元线性回归模型，注意利用二手数据很难避免多重共线性的出现，所以一般利用逐步回归和主成分回归消除多重共线性。

如果进行自己进行试验设计如正交试验设计，并收集数据，选择向量使设计矩阵X 的列向量（即X 1，X 2， X p ）不相关。

6.6对第5章习题9财政收入的数据分析多重共线性，并根据多重共线性剔除变量。

第六章 多重共线性在多元线性回归分析的经典假设中，假定模型所包含的解释变量之间不存在线性关系，即无多重共线性。

但是由于经济变量本身的固有性质，许多的变量之间总是会存在着一定的相关性。

例如，以企业截面数据为样本估计的生产函数，作为其解释变量的有诸如资本、劳动、能源……等等投入要素，这些投入要素都与企业的生产规模有关，显然，它们之间存在着明显的相关性。

再如，以家庭收入I和商品价格P为解释变量分析家庭生活状况的模型。

由于收入较高的家庭购买商品，普通会选择质地较好、价格较高的；而收入较低的家庭购买商品则会选择较便宜的。

这样两解释变量I与P之间存在着明显的相关性。

本章的目的与要求当解释变量之间存在着线性关系，违背了解释变量之间不存在共线性的经典假定时，如何处理可能浮现的一系列状况，就是本章所要讨论的问题。

通过本章学习，要求重点掌握的内容是：明确多重共线性的概念及其表现形式；充分理解当线性回归模型存在多重共线性情形下，使用普通最小二乘估计模型参数将会引起的各种不良后果；熟练掌握检测多重共线性的各种方法以及在此情形下相应的处理与估计改进方法，从而能够运用这些知识处理经济计量分析实践中的相应问题。

本章内容（计划学时）一、多重共线性的性质1、多重共线性的概念2、解释变量线性关系的表现形式3、多重共线性的产生原因4、多重共线性的性质二、多重共线性的后果与检测1、多重共线性的后果2、多重共线性的检测方法三、多重共线性的补救措施学习重点一、多重共线性的性质二、多重共线性的后果与检测方法三、多重共线性的补救措施学习难点一、多重共线性的性质二、多重共线性的后果与检测方法 三、多重共线性的补救措施第一节 多重共线性的性质一、多重共线性的概念多重共线性就是指线性回归模型中若干解释变量或者全部解释变量的样本观测值之间具有某种线性关系,也就是说，对于有 k 个解释变量的线性回归模型Y = β0 + β1X 1 + β2X 2 + … + βk X k + u （式6－1.1） 即模型中的各解释变量Xi 的样本观测值之间存在一定的线性关系，我们就称模型存在多重共线性。