多重共线性,多重共线性对回归分析有哪些影响

多重共线性

判断标准

常见的直观判断方法共有四个,如下:
(1)某些自变量的相关系数值较大(比如大于0.8)等,可以利用pearson相关系数检验法一般是利用解释变量之间的线性相关程度判断,一般标准是系数大于0.8则认为可能存在多重共线性。
(2)如果增加一个变量或者删除一个变量,回归系数的观测值变化很大。
(3)如果说F检验通过,并且决定系数值也较大,但是t检验并不显著,也可能存在多重共线性。
(4)回归系数的正负符号与专业知识相反或与实际分析结果不符,也会存在多重共线性的可能。
以上方法可能会存在误差,更多偏向于主观,还有一种正规检验方法,观察回归分析中的VIF值(方差膨胀因子),这个检验方法更为严谨、准确。通常的判断标准是VIF大于10即具有多重共线性,有的文献也说大于5即有共线性。
其中VIF值如下:
VIF=(1−R2)−1
从公式中我们发现VIF和R方是有直接关系的。
当VIF>5,1- R2

处理多重共线性

多重共线性

处理多重共线性经验式做法:

(1)删除不重要的共线性变量

但是删除变量后可能会导致模型和原本分析的模型不一样,可能会出现决策错误等现象。

(2)增加样本容量

多重共线性有可能与样本量过少有关,所以如果存在也可以加大样本量。但是加大样本量具有局限性比如实验已经结束或者其它原因。

(3)变量转换

构造一个新的变量,这一新变量是多重共线性变量的函数,然后用这个新的变量代替多重共线性的变量,但是要注意组合后的数据需要有实际意义否则模型不好解释。

其它处理方法:

多重共线性

1、岭回归

岭回归分析是一种修正的最小二乘估计法,当自变量系统中存在多重共线性时,它可以提供一个有偏估计量,这个估计量虽有微小偏差,但它的精度却能大大高于无偏估计。

如果使用SPSSAU进行分析岭回归一般有两个步骤:岭回归通过引入k个单位阵,使得回归系数可估计;单位阵引入会导致信息丢失,但同时可换来回归模型的合理估计。针对岭回归:其研究步骤共为2步,分别是结合岭迹图寻找最佳K值;输入K值进行回归建模。

2、逐步回归

逐步回归分析方法视自变量对因变量的影响显著性大小从大到小逐个引入回归方程,从处理角度来看逐步回归比岭回归和主成分回归要好一些。逐步回归面临着检验的显著性水平的选择困难它通常得不到最优变量子集,可以利用SPSSAU进阶方法中逐步回归进行分析。

多重共线性

3、主成分回归

主成分回归根据主成分分析的思想提出的。主成分估计和岭回归类似都是一种有偏估计。主成分分析利用降维的思想对数据信息进行浓缩,将多个分析项浓缩成几个关键概括性指标;剔除对系统影响微弱的部分。通过对各个主成分的重点分析,来达到对原始变量进行分析的目的。主成分回归就是用对原变量进行主成分分析后得到的新的指标来代替原变量,再使用最小二乘法进行回归分析。由于对原变量的综合,就可以起到克服多重共线性所造成的信息重叠的作用,从而消除多重共线性对回归建模的影响。

4、偏最小二乘法

偏最小二乘法不仅可以用单变量回归分析方法,也可以用于多变量回归分析方法,一般情况下处理样本量相对较小,自变量多的数据。

本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。E-MAIL:dandanxi6@qq.com

(0)
上一篇 2022-12-26 09:19
下一篇 2022-12-26 09:29

相关推荐

  • 缅甸傣族歌曲

    在我国的西南边陲,有一些少数民族村寨,这里地理位置偏僻,风景优美,人文气息浓郁,保持着最原生态的状态,位于中缅边境上的勐景来,和缅甸隔江相望,犹如镶嵌在云南西双版纳的一颗明珠,自然…

    2023-05-10
  • 有赞到底是家什么样的公司

    钛媒体注:眼下技术和商业世界的最热词汇——“去中心化”,在有赞CEO白鸦眼中是这样解读的:所谓去中心化,是在全新的微信电商生态中,去掉阿里巴巴那样的“上帝”,让自媒体、线下商户以及…

    2023-10-09
  • 消防安全提示内容

    春节临近,新疆消防救援总队发布春节消防安全提示,引导公众加强安全防范意识,平安过春节。 1、春节临近,外出旅游请注意消防安全。出门前,查找家中消防隐患,清除室内阳台、楼道可燃物;关…

    用户投稿 2023-09-18
  • 高速铁路扣件类型有哪些,河北献县架子管扣件

    扣件一般指连接两个构件的中间连接零件,在建筑工程中多用于对外径为Φ48mm的钢管脚手的固定,扣件的种类有很多种,可以分为直角扣件(十字扣件和定向扣件)、旋转扣件(活动扣件和万向扣件…

    2023-10-08
  • 做红烧肉放什么调料不发柴,做红烧肉时有2种调料不能放

    做红烧肉最忌“这味料”,搞错的人不少,难怪肉质发柴不软烂 红烧肉是我国的一道传统美食,也是很多人都非常喜欢的一道家常菜。红烧肉以五花肉为原料,经过炖煮而成,成菜颜色红亮、口感软糯、…

    2023-02-23
  • 实用生活小常识100条生活常识大全

    大部分人压根都没听过,了解生活知识,增加健康机会,一定要知道如下四个小妙招,才能更美的生活。一,盐吃多了会加速钙的流失,因为肾脏每排出六克的盐,就会损失50毫克的钙。我们的口味越重…

    2024-01-02
  • 炒菜的锅用久了锅底很脏怎么去除

    提到口罩,相信大家都不陌生,因为疫情的影响,我们家里都会囤上一些口罩。像我家里去年囤的口罩,现在都还有几大包,有好多都已经过期了,扔掉的话又太可惜,于是我就打算废物利用。 口罩除了…

    2023-02-13
  • 微单跟单反比到底哪里好(微单跟单反各有什么优缺点)

    提到摄影,第一个想到的就是相机。从黑白胶片时代,到135胶卷时代,再到现在的单反潮退,微单大热,我们不难看出,相机的发展与人们对更高画质和更轻便易用息息相关。在追求更高画质和更方便…

    2023-07-20
  • 黑白屏幕图片手机高清壁纸,复古屏幕

    华为即将推向市场的一款平板电脑这几天挺吸引眼球,因为它的屏幕只有黑白两色,估计很多小伙伴已经完全没有黑白显示的概念了吧?进入彩色显示几十年了,为啥又用上黑白屏了?这个屏幕所谓的电子…

    2023-11-23
  • 被霜打过的蔬菜能吃吗

    在咱农村里,每日与土地打交道,对瓜果蔬菜最不陌生,相信大家多少应该吃过被霜打过的果子,那个味道,可不是催熟,大棚种的出来的,今天给大家说几个比较常见的。 1.胡捻子,有的地方还叫纸…

    2023-02-12