1、12/14/20221LogisticLogistic回归分析回归分析及其应用及其应用潘发明潘发明安徽医科大学安徽医科大学流行病与卫生统计学系流行病与卫生统计学系12/14/20222概述概述1967年年Truelt J,Connifield J和和Kannel W在在Journal of Chronic Disease上发表了冠心病危险因素上发表了冠心病危险因素的研究,较早将的研究,较早将Logistic回归用于医回归用于医学研究。学研究。一般概念一般概念l一元直线回归一元直线回归l多元直线回归多元直线回归12/14/20223一元直线回归模型一元直线回归模型 y=a+b x+e多元直线回归
2、模型多元直线回归模型 y=a+b1x1+b2x2+bkxk+e12/14/20224-4.00-2.000.002.004.00X X:自变量:自变量0.000.250.500.751.00F(y):因变量的logit值如果一定要进行直线回归也可以做出结果,但此时效果不佳。当自变量取一定值时,因变量的预测值可能为负数。12/14/20225一般直线回归难以解决的问题一般直线回归难以解决的问题医学数据的复杂、多样医学数据的复杂、多样l连续型和离散型数据连续型和离散型数据医学研究中疾病的复杂性医学研究中疾病的复杂性l一种疾病可能有多种致病因素或与多种危一种疾病可能有多种致病因素或与多种危险因素有关
3、险因素有关l疾病转归的影响因素也可能多种多样疾病转归的影响因素也可能多种多样l临床治疗结局的综合性临床治疗结局的综合性12/14/20226简单的解决方法简单的解决方法固定其他因素,研究有影响的一两个因固定其他因素,研究有影响的一两个因素;素;分层分析:按分层分析:按12个因素组成的层进行个因素组成的层进行层内分析和综合。层内分析和综合。统计模型统计模型12/14/20227寻找合适的模型寻找合适的模型进行进行logit变换变换llogit(p)=ln(),p为为y=1所对应的概率所对应的概率 logit(0.1)=ln()=ln(0.1/0.9)p1 p0.11 0.112/14/20228
4、llogit(p)=ln()p=0或或1时,此式失效时,此式失效 以以 p=r/n 代之代之 logit(p)=ln (r+0.5)/(n r+0.5)此称此称经验经验logistic变换变换 以以Z代上式的代上式的logit(p),Z=a+b1x1+b2x2+bkxk 称此为称此为logistic回归模型回归模型p1 p12/14/20229P=ez/(1+ez)ea+b1x1+b2x2+bkxk 1+ea+b1x1+b2x2+bkxk此为非条件此为非条件logistic回归模型回归模型 应用于成组数据的分析应用于成组数据的分析P=12/14/202210自变量取定一些值时,因变量取自变量取
5、定一些值时,因变量取0 0、1 1的概率就的概率就是条件概率,对条件概率进行是条件概率,对条件概率进行logisticlogistic回归,称回归,称为为条件条件logisticlogistic回归回归表达式:表达式:eb1x1+b2x2+bkxk 1-eb1x1+b2x2+bkxk 常用于分析配比的资料常用于分析配比的资料P=12/14/202211概述小结概述小结logistic回归回归对因变量的比数的对数值对因变量的比数的对数值(logit值)建立模型值)建立模型因变量的因变量的logit值值的改变与多个自变量的的改变与多个自变量的加权和加权和呈线性关系呈线性关系因变量呈二项分布因变量呈
6、二项分布12/14/202212LogisticLogistic回归分析的一般步骤回归分析的一般步骤变量的编码变量的编码哑变量的设置和引入哑变量的设置和引入各个自变量的单因素分析各个自变量的单因素分析变量的筛选变量的筛选交互作用的引入交互作用的引入建立多个模型建立多个模型选择较优的模型选择较优的模型模型应用条件的评价模型应用条件的评价输出结果的解释输出结果的解释12/14/2022131.1.变量的编码变量的编码变量的编码要易于识别变量的编码要易于识别注意编码的等级关系注意编码的等级关系改变分类变量的编码,其分析的意改变分类变量的编码,其分析的意义并不改变。义并不改变。牢记编码牢记编码l使用使
7、用变量数值标识变量数值标识(value labels)l记录记录编码内容编码内容12/14/202214变量的编码变量的编码变量名 变量标识 变量值 值标识 SEX 性别 1 男 2 女 EDU 教育程度 0 文盲 1 小学 2 初中及以上 12/14/202215variable labelsqnum 问卷序号rnum 录入序号pnum 病人编号hnum 住院号/门诊号chname 患者中文姓名drugroup 组别name 患者姓名sex 患者性别age 患者年龄value labelssex 1 男 2 女/hisc 1 是 0 否 9 无法判断/nsex 1 正常 0 异常 9 未检/
8、demdx 1 有 0 无/addx 0 无 1 危险性 2 可能 3 很可能/edu 0 文盲 1 小学程度 2 初中及以上12/14/2022162.2.哑变量的设置和引入哑变量的设置和引入哑变量,又称哑变量,又称指示变量指示变量或或设计矩阵设计矩阵。有利于检验等级变量各个等级间的变有利于检验等级变量各个等级间的变化是否相同化是否相同,但主要适合于无序分类变但主要适合于无序分类变量。量。一个一个k分类的分类变量,可以用分类的分类变量,可以用k-1个个哑变量来表示。哑变量来表示。12/14/202217哑变量的设置教育程度X1X2X3文盲:0000小学:1100初中:2010高中:3001教
9、育程度教育程度:文盲,小学,初中,高中以上文盲,小学,初中,高中以上以文盲作为参考组12/14/202218教育程度X1X2X3文盲:0100小学:1010初中:2001高中:3000以高中作为参照以高中作为参照12/14/202219SPSS提供的方法Indicator:默认。以第1 或最后1类作对照,其他每类与对照比较;Sample:以第1 或最后1类作对照,其他每类与对照比较,但反映平均效应。Difference:除第1类外各分类与其前各类平均效应比较;Helmert:除最后1类外各分类与其前各类平均效应比较;Repeated:除第1类外各分类与其前一类比较;Polynomial:假设类
10、间距相等,用于数值型变量。Deviation:以第1 或最后1类作对照,其余每类与总效应比较。12/14/2022203.3.自变量的单因素分析自变量的单因素分析了解自变量与因变量的分布了解自变量与因变量的分布检验是否符合建立模型的应用条件检验是否符合建立模型的应用条件l偏离应用条件时,进行数据变换偏离应用条件时,进行数据变换各个自变量两组间的比较各个自变量两组间的比较l计数资料计数资料l计量资料计量资料双变量分析双变量分析12/14/2022214.4.变量的筛选变量的筛选变量筛选的原则变量筛选的原则l专业上考虑专业上考虑l测量上考虑测量上考虑l共线性问题:计算相关矩阵,相关系数共线性问题:
11、计算相关矩阵,相关系数0.8-0.9,则选其一。,则选其一。l缺失数据少、测量误差低的优先选择缺失数据少、测量误差低的优先选择l经验上考虑经验上考虑l双变量分析中有显著性的自变量(双变量分析中有显著性的自变量(P.15)l选择那些改变主效应的自变量选择那些改变主效应的自变量12/14/202222变量的筛选变量的筛选变量筛选的可用方法变量筛选的可用方法l逐步逐步logistic回归:回归:自动选择有显著性的自变自动选择有显著性的自变量,不仅用于自变量的剔选,也用于交互作量,不仅用于自变量的剔选,也用于交互作用项是否显著的判断。用项是否显著的判断。l前进法:前进法:逐个引入模型外的变量逐个引入模
12、型外的变量l后退法:后退法:放入所有变量,再逐个筛选放入所有变量,再逐个筛选 理论上看,前进法选择变量的经验公式缺乏总体概念,理论上看,前进法选择变量的经验公式缺乏总体概念,当用于因素分析时,建议用后退法。当变量间有完全相当用于因素分析时,建议用后退法。当变量间有完全相关性时,后退法无法使用,可用前进法。关性时,后退法无法使用,可用前进法。12/14/2022235.5.交互作用的引入交互作用的引入交互作用的定义交互作用的定义l当自变量和因变量的关系随第三个变量当自变量和因变量的关系随第三个变量的变化而改变时,则存在交互作用的变化而改变时,则存在交互作用交互作用项的引入交互作用项的引入l基于临
13、床实际认为对结果有重要影响基于临床实际认为对结果有重要影响l基于模型应用条件的分析基于模型应用条件的分析l引入两个自变量的乘积项引入两个自变量的乘积项交互作用的检验交互作用的检验交互作用的解释交互作用的解释12/14/2022246.6.建立多个模型建立多个模型饱和模型饱和模型自定义的模型自定义的模型l从饱和模型中选择自变量从饱和模型中选择自变量l再建立模型再建立模型12/14/2022257.7.选择较优的模型选择较优的模型模型拟合优度检验模型拟合优度检验lAIC(Akaike information criterion):):同一资料的多个模型的比较,此值越小,模型越合适。同一资料的多个模
14、型的比较,此值越小,模型越合适。lSC(Schwartz criterion):同上):同上lScore统计量统计量:同上,但不包括截距项。:同上,但不包括截距项。l-2logL(似然比检验,(似然比检验,Omnibus Test):检验全部自:检验全部自变量的作用是否显著。较为可靠。适用于含连续性变变量的作用是否显著。较为可靠。适用于含连续性变量的情况。模型拟合好,量的情况。模型拟合好,x2值大,值大,P值小。值小。lHosmer-Lemeshow检验:检验:评价估计概率和观察概率评价估计概率和观察概率接近的程度。适用于含连续性变量的情况。模型好,接近的程度。适用于含连续性变量的情况。模型好
15、,x2值小,值小,P值大。值大。12/14/2022268.8.模型应用条件的评价模型应用条件的评价残差分析残差分析l残差是观察值与估计值之差残差是观察值与估计值之差合理的合理的logistic回归模型也可能得到回归模型也可能得到不理想的残差,这在自变量是二分类不理想的残差,这在自变量是二分类变量时更易出现。变量时更易出现。增加交互作用项可能增加模型的效能增加交互作用项可能增加模型的效能12/14/2022279.9.输出结果的解释输出结果的解释模型中各个系数的显著性检验模型中各个系数的显著性检验lWald检验:检验:类似于直线回归系数的类似于直线回归系数的t检验检验lWald x2检验:检验
16、:同上同上l似然比检验:似然比检验:自变量不在模型中与自变量不在模型中与在模型中的似然值比较。在模型中的似然值比较。lScore检验检验12/14/202228输出结果的解释输出结果的解释回归系数的解释回归系数的解释l系数的正负值:系数的正负值:正(负)系数表示随自变量的正(负)系数表示随自变量的增加因变量增加因变量logit值的增加(减少)。值的增加(减少)。l二分类自变量二分类自变量 系数为比数比的对数值,由此比数比系数为比数比的对数值,由此比数比=ebl多分类自变量多分类自变量 以第以第i类作参照,比较相邻或相隔的两个类别。类作参照,比较相邻或相隔的两个类别。l连续型自变量连续型自变量
17、当自变量改变一个单位时,比数比为当自变量改变一个单位时,比数比为eb12/14/202229输出结果的解释输出结果的解释模型拟合的优劣模型拟合的优劣自变量与结果变量(因变量)有无关系自变量与结果变量(因变量)有无关系确认因变量与自变量的编码确认因变量与自变量的编码模型包含的各个自变量的临床意义模型包含的各个自变量的临床意义由模型回归系数计算得到的各个自变由模型回归系数计算得到的各个自变量的比数比的临床意义量的比数比的临床意义12/14/202230输出结果的解释输出结果的解释模型的预测结果的评价模型的预测结果的评价l敏感度、特异度和阳性预测值敏感度、特异度和阳性预测值 正确选择预测概率界值,简
18、单地以正确选择预测概率界值,简单地以0.5为界值,但并不是最好的。为界值,但并不是最好的。lC指数指数 预测结果与观察结果的一致性的度预测结果与观察结果的一致性的度量。量。C值越大(最大为值越大(最大为1),模型预),模型预测结果的能力越强。测结果的能力越强。12/14/202231非条件非条件logisticlogistic回归回归研究对象之间是否发生某事件研究对象之间是否发生某事件是独立的。是独立的。适用于:适用于:l成组的病例成组的病例-对照研究对照研究l无分层的队列研究或横断面调查无分层的队列研究或横断面调查l诊断性试验诊断性试验12/14/202232条件条件logisticlogi
19、stic回归回归研究中有研究中有N个配比组,每组中个配比组,每组中n个病个病例配例配m个对照者。这时,各个研究个对照者。这时,各个研究对象发生某事件的概率即为条件概对象发生某事件的概率即为条件概率。率。适用于适用于l配比设计的病例配比设计的病例-对照研究对照研究l精细分层设计的队列研究精细分层设计的队列研究12/14/202233logisticlogistic回归的应用回归的应用疾病影响因素的研究疾病影响因素的研究校正混杂因素校正混杂因素疾病预后的估计疾病预后的估计疾病诊断疾病诊断12/14/202234疾病影响因素的研究疾病影响因素的研究病因学研究病因学研究l病例病例-对照研究对照研究l队
20、列研究队列研究影响因素的研究影响因素的研究l横断面调查横断面调查l临床试验临床试验12/14/202235校正混杂因素校正混杂因素一般采用一般采用Mantel-Haenszel分层分层分析分析分层较细或存在格子零频数时,分层较细或存在格子零频数时,M-H法无法采用。法无法采用。logistic回归分析可综合校正多回归分析可综合校正多个混杂因素的影响个混杂因素的影响12/14/202236疾病预后的估计疾病预后的估计logistic回归模型作为一种概率模型,回归模型作为一种概率模型,可用于预测某事件发生的概率。可用于预测某事件发生的概率。logistic回归不要求在因变量回归不要求在因变量正态假
21、正态假设的前提下进行预测设的前提下进行预测。12/14/202237疾病诊断疾病诊断疾病诊断的疾病诊断的判别判别诊断性试验研究中,诊断性试验研究中,敏感度和特敏感度和特异度的估计异度的估计llogistic回归模型综合校正协变量的回归模型综合校正协变量的影响影响l充分利用数据提供的信息充分利用数据提供的信息l可进行可进行95%可信区间的估计可信区间的估计12/14/202238logistic回归的其他问题回归的其他问题多分类多分类logistic回归模型回归模型l因变量为二分类变量因变量为二分类变量l因变量为多分类变量因变量为多分类变量 多分类多分类logistic回归回归12/14/202
22、239其他问题其他问题研究对象例数的确定研究对象例数的确定l研究设计时样本含量的估计研究设计时样本含量的估计l经验方法:经验方法:模型中的每一自变量至模型中的每一自变量至少需要出现少需要出现10个结局个结局。给定例数时自变量太多给定例数时自变量太多l删除变量删除变量l合并变量及变量的分类合并变量及变量的分类12/14/202240其他问题其他问题logistic回归的局限性回归的局限性l理论上的不足:理论上的不足:自变量对疾病的影响是自变量对疾病的影响是独立的,但实际情况及推导结果不同。独立的,但实际情况及推导结果不同。l模型有不合理性:模型有不合理性:“乘法模型乘法模型”与一般与一般希望的希望的“相加模型相加模型”相矛盾。相矛盾。l最大似然法估计参数的局限最大似然法估计参数的局限l样本含量不宜太少:样本含量不宜太少:例数大于例数大于200例时例时才可不考虑参数估计的偏性。才可不考虑参数估计的偏性。