首发于 分析能力研习社
如何进行定量分析 研习社(七)

如何进行定量分析 研习社(七)

在清楚如何进行量化之后( zhuanlan.zhihu.com/p/31),本文我们正式来研究如何进行定量分析。

一、什么是定量分析

与定性分析相同的是,定量分析一词同样出自化学领域,在xx百科中是这样定义的:

“本指分析化学中的一个分支,用以测定物质中各种成分的含量。引申指在社会科学领域中从量的方面分析事物,运用数学方法研究、考察事物之间的相互联系作用的分析方法。”

从中可以发现,定量分析最大的特点就是从的角度出发分析问题,也就是上文所提到的先对问题进行量化以降低问题的不确定性,然后再对所得的数据使用数学、统计学的方法进行研究,目标是去寻找事物间的相互联系,例如:因果关系、相关性等。

二、定量分析与定性分析的异同点

1.目标不同:

虽然分析的最终目的都是解决问题,但定性分析和定量分析的目标却是不同的。定量分析的目标是去寻找事物之间的相互联系,而定性分析的目标是去揭示事物的行为、态度、动机。

2.方式/方法不同:

定性分析可以选择的方式非常灵活,有许多可以使用的方法,例如上文提到过的:直接观察法、访谈法、文件分析法等。而定量分析的方式则比较单一,主要就是依托于数学和统计学的方法。

3.难点不同;

相比定性分析,定量分析工作量大,人力、物力和时间成本都会比较高。在数据收集阶段,将问题量化就是一个系统且复杂的思考过程,其中往往还需要各种人力、物力的支持。到了分析阶段,又要面对数据量大,存储成本高,运算效率等一系列的问题(这些问题我们会在下文中详细讨论),而定性分析,执行的难点则在于执行过程中的非系统误差比较大,会出现各种各样的意外情况,且主观成分过多,也会带来系统性的偏差。

4.核心不同

定性分析依赖于个人(或群体)的经验、能力和水平,其标准常常因人而异,会带有主观任意性。而定量则依赖于量化系统,分析阶段所得出的所有结论、规律都是基于量化系统所提供的数据,数据的质量、纬度很大程度上决定了此次定量分析的结果是否有效。

三、定量分析步骤

定量分析主要分为两大阶段:量化阶段和分析阶段,量化阶段的内容上文已经讨论过在这里就不再赘述,我们直接来研究分析阶段。

当通过量化阶段完成了预期的数据收集后,就必须面对这些数据如何预处理的问题,这个过程需要耗费大量的时间,当然这也是大数据时代所面临的主要课题。在技术短时间内无法突破的情况下,可以通过一个系统的步骤来提高效率。

制定一个分析计划

在我个人的工作习惯中,我一直倾向于在分析开始之前先做一个时间计划,预估接下来会在什么时间点进行哪些步骤,每个步骤预计花费多少时间。

在实际的项目中,我们往往不是像kaggle竞赛那样直接拿到一个完整的数据集或者等所有的数据收集结束之后才开始分析工作,更多情况需要我们在数据收集过程中就逐步开始分析,在这样的情况下管控好各类数据到位的时间节点和分析工作的时间节点,是避免重复劳动的有效手段(当然也并非必须)。

制定一个分析框架

分析框架有很多,时下比较普遍的框架是这样的:

值得一提的是,第2、3、4步将会是一个循环往复的过程,模型所得的结果达不到预期时,就必须回到第3步去调整或者更换模型,预先处理好的数据此时可能就需要重新准备。实际项目中,这几个步骤重复多次是非常常见的事情。

了解数据

了解数据又称为数据探索,这个过程在分析中非常重要,了解数据集,对于接下来构造什么样的特征、选取什么样的模型都起到至关重要的作用。当然这个探索过程也不仅仅只是简单的弄清楚数据集里每一个字段所代表的意思,还需要考察数据的分布、缺失值等各项指标,才算是对数据集有了一个初步的认识。

我们举一个Kaggle竞赛中的一个例子,这是一个信用违约数据集

查看各个字段的数量、均值、最值等指标

用直方图来查看年龄字段的分布情况(当然能做的探索还有很多,在这里只是进行举例)

选择技术

在这里技术选择指的就是选择什么样的模型和算法。可选的模型和算法不胜枚举,在这里就不做赘述,但也需要注意一些问题:

1.明确目标

例如:我们需要进行预测时,可以选择回归;需要分类时,可以选择朴素贝叶斯、决策树;

2.贴合数据的特点

根据特征工程的所构建出的字段的类型和特点来选择比较贴合的算法,也可以减小很多不必要的麻烦。

3.根据经验

如果个人(或团队)有一定的类似项目经验,根据此前的项目经验来进行选择也可以有效的避开很多坑。

验证和分享结果

验证的方式同样有很多,时下比较流行的是对原有数据集进行切分,将数据集分为训练集和测试集,拆分的方法有简单的三七开,也有比较复杂的交叉验证法等。使用训练集的数据完成建模后,再用测试集的数据来对模型进行验证。经过一系列的验证之后,准确率达到预期就可以将结果发布出去,发布的方式可以是模型的源码,也可以是所得结果的报告,形式根据具体需求而定。

代做工资流水公司包头入职工资流水制作兰州打印工资流水app截图荆州银行流水价格襄阳签证银行流水 制作湘潭查自存银行流水石家庄银行流水账单制作湘潭薪资银行流水模板绵阳公司流水多少钱衡阳背调流水模板重庆办理公司银行流水潍坊工资流水app截图查询石家庄自存流水样本徐州收入证明图片绍兴入职流水打印西宁工作收入证明打印广州制作薪资银行流水三亚代办贷款银行流水揭阳贷款流水多少钱宁德离职证明代做南阳对公银行流水查询吉林代开银行对公流水荆州做银行流水电子版成都查银行流水账咸阳制作签证流水中山银行流水账代办蚌埠薪资流水单多少钱长春开车贷工资流水长春打薪资流水金华企业银行流水代开莆田银行流水电子版办理香港通过《维护国家安全条例》两大学生合买彩票中奖一人不认账让美丽中国“从细节出发”19岁小伙救下5人后溺亡 多方发声卫健委通报少年有偿捐血浆16次猝死汪小菲曝离婚始末何赛飞追着代拍打雅江山火三名扑火人员牺牲系谣言男子被猫抓伤后确诊“猫抓病”周杰伦一审败诉网易中国拥有亿元资产的家庭达13.3万户315晚会后胖东来又人满为患了高校汽车撞人致3死16伤 司机系学生张家界的山上“长”满了韩国人?张立群任西安交通大学校长手机成瘾是影响睡眠质量重要因素网友洛杉矶偶遇贾玲“重生之我在北大当嫡校长”单亲妈妈陷入热恋 14岁儿子报警倪萍分享减重40斤方法杨倩无缘巴黎奥运考生莫言也上北大硕士复试名单了许家印被限制高消费奥巴马现身唐宁街 黑色着装引猜测专访95后高颜值猪保姆男孩8年未见母亲被告知被遗忘七年后宇文玥被薅头发捞上岸郑州一火锅店爆改成麻辣烫店西双版纳热带植物园回应蜉蝣大爆发沉迷短剧的人就像掉进了杀猪盘当地回应沈阳致3死车祸车主疑毒驾开除党籍5年后 原水城县长再被查凯特王妃现身!外出购物视频曝光初中生遭15人围殴自卫刺伤3人判无罪事业单位女子向同事水杯投不明物质男子被流浪猫绊倒 投喂者赔24万外国人感慨凌晨的中国很安全路边卖淀粉肠阿姨主动出示声明书胖东来员工每周单休无小长假王树国卸任西安交大校长 师生送别小米汽车超级工厂正式揭幕黑马情侣提车了妈妈回应孩子在校撞护栏坠楼校方回应护栏损坏小学生课间坠楼房客欠租失踪 房东直发愁专家建议不必谈骨泥色变老人退休金被冒领16年 金额超20万西藏招商引资投资者子女可当地高考特朗普无法缴纳4.54亿美元罚金浙江一高校内汽车冲撞行人 多人受伤

代做工资流水公司 XML地图 TXT地图 虚拟主机 SEO 网站制作 网站优化