SPSS的自动化问题分析问题

版权声明:本文为博主原创文章未经博主允许不得转载。

总结最近数据分析过程中遇到的一些问题的思考

1.问卷中多选题的录入与分析
2.数据分析流程的第一步:对所分析嘚样本数据本身的特征结构进行预分析
3.根据数据中的某个因素的几个水平来分析数据总体的差异性
4.根据数据中的变量之间的相关性,了解数据的内部关系并建立模型。
6.结构方程模型的运用
7.时间序列的分析,主要运用在经济模型中

* 在接单的过程中发现,SPSS主要适用于横截面数据的处理大多数集中在问卷调查的分析上 *

* 对于时间序列的分析主要使用Eviews和Stata两个软件,面板数据的处理集中于Stata *

* 由于SPSS软件单机处理数據量受到限制可以处理数据量不大的机器学习算法,所以个人认为处理机器学习的问题用Python处理 *

问卷中多选题嘚录入与分析

对于多选题的录入常见的方法有两种:多重二分法和多重分类法。多重二分法 是指对每一个选项都定义一个变量这些变量都是只有两个取值,分别代表选择和未选择多重分类法就是将多选题当做单选题来选,每一个变量空格填写其中的一次选项的选择朂保险的做法就是多选题有多少个选项,就设置多少个变量
多重二分法适用于多选题选项个数不多的多选题多重分类法适用于多选题选項数量多且有些选项几乎不被选上的情况

由于多选题在SPSS中被判定为一个一个零散的变量,需要人为将整个多选题设置为┅道多选题此时在SPSS中的操作为:分析-多重响应-定义变量集

将需要组成多选题的变量选进集合中的变量,对于多重二分类问题在变量编码方式上选择二分法计数值填写表示选中的值;对于多重多分类问题选择类别,范围填写实际问卷中的数值范围最后将多选题的名称,對多项题解释说明的标签填写完毕后点击添加按键,完成多选题的定义

通过分析多选题中每个选项被选择频率和交叉表格。通过使用频率分析和交叉表格分析:SPPS操作为分析 - 多重响应 - 频率或交叉表格

将定义好的多重二分类多选题选入表格,并设置缺失徝为在二分集内按照列表顺序排除的个案如果是多重多分类问题,缺失值设置为在类别内按照列表顺序排除个案
在交叉表格分析中,將问题的影响因素放入行中(例如性别的影响学院的影响等),将多选题(多响应集)放入列将额外层级放入层(如年级,学历等)然后分别点击行与层内的变量,点击定义范围为其范围设定区间如性别变量1代表男,2代表女范围就是(1,2)。

由于是多選题一个人会选择多个观点,所以总计显示的是总观点数其中一个观点数目/总观点数就是响应百分比,其中一个观点数目/总人数就是個案百分比

数据分析流程的第一步:对所分析的样夲数据本身的特征结构进行预分析

1.对于数值型数据,可以从数据的直方图中初步了解这个变量的数据分布形式对于检验数据是否符合正態分布可以使用SPSS软件中的PP图和QQ图进行直观上的初步检验,进一步可以通过非参数检验中的K-S检验通过显著性水平来检验数据是否符合正态汾布性质。
直方图 在SPSS中的操作:图形 - 图形构建器

或者通过:分析 - 描述统计 - 频率

通过分析菜单中的统计描述可以完成数值型数据的初步统計描述,包括百分位数、集中趋势、离散趋势、分布(偏度、峰度)、直方图箱线图也是很重要描述数据分布的一种统计图表。

STEP1绘制带囿正态曲线的直方图通过对比直方图与正态曲线的拟合程度判定数据序列的分布形态是否接近正态分布。
STEP2 通过绘制Q-Q图与P-P图来从图形上检驗数据是否服从正态分布SPSS中的操作为:分析 - 描述统计 - P-P图或者Q-Q图。

左侧两幅图中语文成绩的散点分布与斜线拟合的较好,数学成绩的散點严重偏离斜线右侧两幅图中,描述的是数据分布与正态分布的差值可见语文成绩与正态分布的偏差较小,而数学成绩与正态分布的偏差较大故此,语文成绩偏差较小可认为是基本符合正态分布。
STEP3 通过非参数检验K-S正态检验从定量的角度对数据的分布进行甄别。在SPSSΦ的操作为:分析 - 非参数检验 - 旧对话框 - 1样本K-S

2.对于分类型数据 而言数据的分布主要是对各个类别取值分别进行频数和比例计算,在进一步計算所需的一些相对数指标
SPSS软件中可以用到的功能:
1.频率过程:针对单个分类变量输出频数表,从中得到频数百分比,累计百分比眾数,条形图饼图。
2.交叉表过程:其强项在于两个或者多个分类变量的联合描述可以产生二维至n维列联表,并计算相应的行/列/合计百汾比行/列汇总指标。
3.多重响应子菜单:适用于对于多选题的频数分析和交叉表分析

根据数据中的某个因素的几个水平来分析数据总体的差异性

针对连续型变量的统计推断中,t-test和Anova analyse是最常用的两种方法
假设有一个已知服从正态分布的总体N(uσ^2),现对其进行抽样研究,每次抽样的样本量固定为n这样对每一个样本均可以计算出其均数x,由于这种抽样可鉯进行无线多次这些样本均数就会构成一个分布。统计学家发现该分布正好是服从N(u,σ^2/n)为了区分样本所在总体的标准差,通常稱样本均数的标准差为样本均数的标准误简称均数标准误。即使是从偏态总体随机抽样当n足够大时,均数x 也近似正态分布也就是说樣本容量为n的样本均数x 出现在置信区间的概率为0.95.
由于实际数据中并不知道总体的方差,通过s/√n来估计总体标准差
SPSS中t-test的相应功能主要集中茬比较均值的子菜单中。

1.单样本t检验过程:进行样本均数与已知均数的比较
2.独立样本t检验过程:进行两相互独立样本均数差别的比较,通常所说的两组资料的t检验
3.配对样本t检验过程:进行配对资料的均数比较。

一组样本数据的均值与一个常数进行比较判断是否存在显著差异。中心极限定理中说明只要样本容量n足够大,均数也近似服从正态分布所以t-test的限制条件比较少。

通过一个分组变量(性别)汾成两个相互独立的样本,然后比较两个独立样本的均值是否存在显著差异t-test的本质就是两两比较。

两个独立样本t检验的原假设为两个总體均值之间不存在显著性差异需分两步完成:1.利用F检验进行两个总体方差的同质性判断;2.根据方差的同质性的判断,决定t统计量的自由喥和计算公式进而对t检验的结果给与恰当的判断。

2.一组样本两种处理方法
配对t检验的基本原理是为每对数据求差值如果两种处理实际仩没有差异,则差值的总体均数应当为0
在SPSS中的操作为:分析 - 比较平均值 - 成对样本t检验

t-test可以解决单样本、两样本时的均数比较问题,Anova analyse所涉忣的问题其实就是在单一处理因素之下多个不同水平之间连续型观察值的比较,目的是通过对多个样本的研究来判断这些样本是否来自哃一个总体如果假设检验拒绝了多个样本来自同一个总体的假设,研究者将更加关心这几个样本到底来自于几个不同的总体t-test则无法做箌。

t-test适用于对两个样本均数的比较Anova analyse适用于多个样本均数的比较。
方差分析的理论基础:将总变异分解为由研究因素所造成的部分和由抽樣误差所造成的部分通过比较来自于不同部分的变异,借助F检验做出推断

总变异(离差平方和)=组内变异+组间变异
组内变异来自于各組随机变异的和
组间变异来自于随机变异和处理因素导致的变异
所以通过比较组间变异与组内变异,若组间变异远大于组内变异则说明确實存在处理因素的影响
通过构造F统计量,通过样本的数据来检验是否存在处理因素的影响
如果假设检验拒绝了原假设,可以得出多个樣本不是来自同一个总体的结论但是到底这些样本来自几个不同的总体。这次假设检验还不能回答这个问题需要进一步进行单因素不哃水平间的多重比较。

1.因变量列表中选入需要检验的变量可以选入多个,系统会依此检验
2.因子选入需要研究的单因素(只能选入一个)
3.事后比较中假定等方差中选择LSD与S-N-K两个选项,不假定等方差选择T2样本数量不同时候的事后检验选择雪费。
4.选项中选择方差同质性检验与岼均图

固定因子指样本中将因子的各种情况都出现过,随机因子指样本中并没有将各种情况都列出

固定因子与随机因子的区别
固定因素指的是该因素在样本中所有可能的水平都出现了换言之,该因素的所有可能水平仅此几种针对该因素而言,从样本的分析结果中就可鉯得知所有水平的状况无需进行外推。比如要研究三种促销手段的效果有无差别所有样本只会是三种促销方式之一,不存在第4种促销掱段的问题则此时该因素就被认为是固定因素。

随机因素指的是该因素所有可能的取值在样本中没有全部出现换言之,目前在样本中嘚这些水平是从总体中随机抽样而来如果重复本研究,则可能得到的因素水平会和现在完全不同这时,研究者显然希望得到的是一个能够“泛化”即对所有可能出现的水平均适用的结果。例如研究广告类型和投放的城市对产品销量是否有影响在设计中随机抽取了20个城市进行研究,显然研究者希望分析结果能够外推到所有类型的城市,此时就涉及将结果外推到抽样未包括的城市中的问题在这种情況下,城市就应当是一个随机因素

在SPSS中的操作为:分析 - 一般线性模型 - 单变量
因变量选入需要研究的变量
固定因子选入所有可能的水平都絀现的因子。
随机因子选入所有可能的取值在样本中没有全部出现

}

  • 本课程是SPSS统计自动化问题和扩展編程系列视频课程中的一个主要介绍用Python结合SPSS脚本工具类和命令语法实现统计自动化问题和扩展编程,帮助您大幅提高数据分析和可视化嘚工作效率具体内容请参见目录。 课程不设期限永久有效。会持续升级 课程版本历史:  /course/detail/25956","strategy":""}"

    本课程是SPSS统计自动化问题和扩展编程系列视頻课程中的一个,主要介绍用Python结合SPSS脚本工具类和命令语法实现统计自动化问题和扩展编程帮助您大幅提高数据分析和可视化的工作效率。具体内容请参见目录 课程不设期限,永久有效会持续升级。 课程版本历史:  V1.0 课程体系: SPSS统计自动化问题-VBA脚本开发 SPSS统计自动化问题-Python脚夲开发 SPSS统计自动化问题-Command Syntax编程 SPSS统计自动化问题-SPSS与一系列外部程序混合编程 友情提醒: 凭订单信息可找平台客服开具发票 购买系列课程提供咑包价,购买讲师卡更划算

}
自动建模对客户响应建模(自动汾类器)通过自动分类器(Auto Classifier node )节点您可以为标志字段(例如某个客户是否很可能拖欠贷款或者是否会对特定的报价做出响应)或名义(集合)字段目标自动创建和比较多个不同模型。在本例中我们将使用标志(是或否)字段。在一个相对简单的流中节点生成一组候选模型并对它们进行排序,选择最有效的模型然后将它们合并为一个汇总(整体)模型此方法将自动化问题操作的方便性与组合多个模型嘚优势融为一体,通常能产生单一模型所不能带来的更为准确的预测
本示例以某虚构的公司为例,该公司希望通过为每个客户提供最合適的报价以获取更丰厚的收益此方法突出了自动操作的优势。我们使用安装在 streams 目录下 Demo 文件夹中的流 pm_binaryclassifier.str所使用的数据文件为 pm_customer_train1.sav

字段的值在數据中实际编码为整数(例如 2 = Premium account)稍后,您可为这些值定义标签以产生更有意义的输出


此外,其中还有字段表示每位客户的相关人口统計和财务信息这些字段可用于构建或训练一个模型,通过基于收入、年龄或每月交易次数等特征来预测单个用户或用户群的响应概率
莋为引用此文件夹的快捷方式。请注意路径中必须使用正斜线而非反斜线,如图所示)
添加类型节点,然后选择响应(response)作为目标字段(设置其角色为目标)将此字段的测量设置为标志。

ID)对于构建模型其实是无意义的把角色设置为无以后,构建模型时将自动忽略這些字段


单击类型节点的读取值按钮以确保值获得实例化。

常见问题:当您在运行流的时候出现以下错误时可以在类型节点中(流中沒有类型节点时请先手动添加一个)单击读取值然后再运行流:

  • 字段 campaign 未知,或有未实例化的类型
我们的源数据包含四项不同活动的信息每個活动针对不同类型的客户。这些活动在数据中编码为整数为了方便记住每个整数所代表的帐户类型,让我们为每个整数都定义一个标簽
在活动(campaign)字段的行上,单击值列中的条目从下拉列表选择指定。
在标签列中键入活动字段四个值中每个值将显示的标签。单击確定
图 31. 类型节点 - 指定标签
现在我们可在输出窗口中显示标签而非仅仅是整数了。
  • 将表节点附加到类型节点
  • 打开表节点,然后单击运行
  • 在输出窗口上,单击显示字段和值标签工具栏按钮(左起第三个)以显示标签
  • 单击确定关闭输出窗口。
图 32. 输出标签的表格
尽管数据包含有关四项不同活动的信息但每一次的分析应集中关注其中一项活动。由于 Premium account 活动(在数据中编码为 campaign=2)中的记录数最多因此可以使用选擇节点实现仅在流中包含这些记录。

生成和比较模型 附加一个自动分类器节点然后选择总体精确性作为对模型进行排序的度量。


将要使鼡的模型数设置为 3这意味着在执行节点时将只选择三个最佳模型。
图 34. 自动分类器节点 - 模型页
在专家选项卡上可从最多 11 种不同模型算法Φ进行选择。
取消选择判别式和 SVM模型类型(这些模型需要花费更多时间培训这些数据,因此取消选中它们将可以加快示例的执行速度洳果您不介意稍等一下,也可以保留它们的选中状态)由于在模型选项卡上将要使用的模型数设置为 3,因此节点将计算所选择九个算法嘚准确性然后选择三个最准确的算法来构建一个模型块。
图 35. 自动分类器节点 - 专家页
在设置选项卡上选择整体方法为置信度加权投票。此选项将确定如何为每条记录生成一个评分
使用简单投票方式时,若三个模型中有两个模型均预测是则是将以 2 比 1 的投票结果取胜。在使用置信度加权投票方式时将基于各预测的置信度值进行加权投票。因此如果一个预测否的模型的置信度比两个预测是的模型合在一起的置信度还高的话,则否取胜
图 36. 自动分类器节点 - 设置页
几分钟后(实际情况中,由于大型数据集往往需要创建数百个模型这可能会婲费数小时或更长的时间),构建生成的模型块将放到工作区和窗口右上角的模型选项板中您可浏览模型块,或以多种其他方式将其保存或部署
我们从工作区打开模型块,它将列出在运行期间所创建的每个模型的详细信息如果需要进一步探索任何单独的模型,可在模型列中双击此模型块图标以浏览单独模型结果,甚至可以用它们生成建模节点、模型块或评估图表在图形列中,可以双击缩略图生成標准大小的图形进行直观的显示
图 37. 自动分类器模型块 - 模型页
默认情况下,模型会基于总体精确性排序这是我们在自动分类器节点模型選项卡中选择的度量。根据这一度量C51 模型的精确性最高,但 C&R 树和 CHAID 模型的精确性与之相差不大您可以通过单击其他列的标题对该列进行排序,或者也可以从工具栏的排序方式下拉列表中选择所需的度量
基于这些结果,我们决定使用所有三个最准确的模型通过结合多个模型的预测,可以避免单个模型的局限性从而使整体准确性更高。在是否使用列中选择 C51, C&R 树和 CHAID 模型。
在模型块后附加一个分析节点(位於下方输出选项板)右键单击分析节点,然后选择运行以运行流
由整体模型生成的汇总得分将显示在名为 $XF-response 的字段中。当根据训练数据評分时预测值与实际响应(如原始响应字段中的记录所示)匹配的总体精确性为 92.82%。尽管这不如本例中三个模型的最高精确性高(C51 为 92.86%)泹它们之间的差距小得可以忽略不计。一般来说整体模型应用到训练数据之外的数据集时,通常比单个模型效果更好
图 38. 自动分类器模型块的分析结果

摘要 综上所述,我们使用自动分类器节点比较了多种不同的模型然后使用三个最准确的模型并将它们作为一个整体自动汾类器模型块添加到流中。

  • 基于总体精确性“C51”、“C&R 树”和 CHAID 模型对于训练数据效果最佳。
  • 整体模型与最好的单个模型相比效果相差不大而且当应用到其他数据集时可以起到更好的效果。如果您的目标是自动执行这一过程您可以通过此方法获得在大多数情况下都很稳健嘚模型,而无需深入挖掘单个模型的细节换句话说假设您不是对每个模型都很熟悉,那么可以尝一下自动建模它将会自动为您提供专業的选择。
  • 除了自动分类器节点(预测标志或名义字段)SPSS Modeler 还提供了自动数值节点(预测数值目标)和自动聚类节点(生成聚类模型),囲三个自动节点
张文彤老师SPSS Modeler数据挖掘实战案例培训2016年劳动节上海开讲!

}

我要回帖

更多关于 自动化问题 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信