就业工场数据中心第1页，共20页，星期日，2025年，2月5日式中分子是残差和，分母是残差的自由度。分析步骤：首先，计算模型所有输入的Ｓ2，然后一一删除这些输入，若删除一个有用的输入,Ｓ2第2页，共20页，星期日，2025年，2月5日的估计值将会大幅度上升，若删除一个多余的输入，估计值不会有太大的变化。在上述步骤的迭代过程中，引入Ｆ比率和Ｆ统计检验，形式如下：若一个输入被删除后，Ｆ接近于１，新模型合适；若Ｆ值明显大于１，说明新模型不合适。应用迭代的方差分析方法，能识别哪一个输入和输出的相关的，哪些是不相关的。第3页，共20页，星期日，2025年，2月5日下表是有３个输入的数据集的方差分析情况输入集Si2Ｆ１x1,x2,x33.56２x1,x23.98F21=1.12３x1,x36.22F31=1.75４x2,x38.34F41=2.34５X19.02F52=2.27６X29.89F62=2.48第4页，共20页，星期日，2025年，2月5日上述分析结果，只有删除x3，F没有明显变化，其他情况Ｆ比值显著增加，因此可以删除，不影响模型的性能。方差的多元分析是方差分析的一个推广，解决了输出不是单个数值而是一个向量的数据分析问题。方差的多元分析基于这样一个假设，输出变量间相互独立，采用一个多元线性模型来建模：第5页，共20页，星期日，2025年，2月5日残差矩阵Ｒ为：古典的多元分析也包含基本的分析方法，如一组样本向量如何转换为一组新的维数更少的样本向量。数据归约和数据转换中用到。第6页，共20页，星期日，2025年，2月5日5.6对数回归线性回归用于对连续值函数进行建模。广义回归模型提供了将线性回归用于分类响应变量建模的理论基础，它最常见的形式是对数回归。对数回归将某些事件发生的概率建模为预测变量集的线性函数。它不是预测因变量的值，而是估计因变量取给定值的概率p。例如，对数回归不预测顾客的信用等级是好是坏，而是试着估计顾客有好的信用等级的概率。第7页，共20页，星期日，2025年，2月5日对数回归仅适用于输出变量是二元分类变量的情况。但输入变量也可以是定量的，它支持一般的输入数据集。假设输出Y有两个分类值编码为0和1，由数据集能计算出所给输入样本所产生的输出值取0和取1的概率。对数回归的模型表示为：输出用对数据是为了结果输出在[0,1]区间。第8页，共20页，星期日，2025年，2月5日假设有一训练数据集，用线性回归建成模为：并假设给出一新的待分类的样本，其输入值{x1,x2,x3}={1.,0,1}，用上面模型可估计出输出值为1的概率。根据概率p的最终结果，可推出输出值Y=1的可能性比分类值Y=0小。和挖掘的其他方法对比较。第9页，共20页，星期日，2025年，2月5日5.7对数-线性模型对数-线性建模是一种分类(或数量型)变量间关系的方法。对数-线性模型近似于离散的、多元的概率分布。它是一种假设输出Yi具有泊松分布的的广义线性模型，假设其期望值μj的自然对数是输入的线性函数：第10页，共20页，星期日，2025年，2月5日由于所感兴趣的变量是分类变量，用表示数据总体分布的频率表来表示它们。对数-线性建模的主要目的是识别分类变量间的关联。因此，此类分类问题转换成了求模型中所有β值为0的问题。如果对数-线性模式中变量间有相互作用，表示这些变量不是独立的而是相关的，相应的β值不为0。由于所研究的问题是变量间的关联，因此没有必要将分类变量作为分析的输出。如果需要输出，可采用对数回归来分析。此处仅解释一个定义数据集时没有输出变量的对数-对性模型。第11页，共20页，星期日，2025年，2月5日一致性分析是分析关联矩阵(也称列联表)中的分类数据。其分析结果回答了“所分析的变量间是否有关联”这个问题。例如，下表是一个2×2列联表,有关男性和女性对堕胎态度的调查结果，样本数=1100,两个分类变量－性别(男性和女性)和赞同(是和否)，每一种情况都有累积结果。赞同是否总计性别女309191500男319281600总计6284721100第12页，共20页，星期日，2025年，2月5日对数－线性模型用于解决分类变量间的关联，分析步骤是它基于根据两个列联表的比较，定义变量间关联的算法：1.第一步，把所给的列联表转换成一个具有期望值的表，并假定这些变量间是在独立的情况下来计算这些值。2.第二步，用平均距离指标和卡方检验作为评价两个分类变量关联的标准，对这两个矩阵进行比较。第13页，共20页，星期日，2025年，2月5日算法思路：用Xm×n来表示这个列联表。其行和为：