一、什么是数据分析 指用专业的统计分析方法对大量数据进行分析,并加以详细研究和概括总结,提取有价值的信息,形成有效的分析结论,从而影响业务决策二、数据分析的作用 现状分析,过去发生了什么?例如通过描述性统计诊断业务状况 原因分析,为什么会发生?例如通过维度拆解和指标拆解等分析方法,并结合实际业务,寻找业务异常点 预测分析,将来可能发生什么?例如根据用户行为数据预测是否即将流失,并对即将流失的用户采取挽留措施 三、如何数据分析? 1.明确分析目的与思路 - 思路决定结果,必须明确数据分析目的,形成清晰的思路框架,避免为了分析而分析
2.数据收集 基于分析目的去收集相关的数据集,大部分为公司的内部数据,也可能涉及外部数据 - 关系型管理数据库(RMDB,利用SQL语言取数),数据仓库(WareHouse,利用HiveSQL取数)
- 文件:excel、csv、txt等
- 系统/平台:手动导出、selenium等python自动化脚本
- 互联网:网络爬虫
- API:requests请求库、解析json文件等
3.数据清洗 将数据整理成整洁干净并利于接下来分析的结构和格式,数据可能分布得比较零散,需要对各类数据集进行集成 - 异常值、错误值、缺失值处理
- 字段的拆分、合并、信息提取、格式转换等
- 表关联:左、右、外(全)、内连接、笛卡尔积表等(左半、左反连接等)
- 表结构转换:行转列(长表转宽表)、列转行(宽表转长表等)、行列转置、数据透视(逆透视)
4.数据分析 需要掌握常用的分析方法和机器学习算法 - 基本分析方法:构成分析、对比分析、分组分析、交叉分析、趋势分析等
- 高级分析方法:线性回归、逻辑回归、决策树、随机森林、聚类等算法
5.数据可视化 将分析观点用图表的形式呈现出来 - 字不如表,表不如图,一图胜千言
- 基本统计图表:饼图、条形图、折线图、散点图、雷达图、漏斗图等
- 专业统计图表:直方图、热力图、箱线图、提琴图、核密度估计图等
6.数据分析报告 将重要的分析结论和发现汇总成PPT,形成一份完整的数据分析报告 - 金字塔结构,总分总形式
- 结论先行、由上而下、归纳分组、逻辑递进
- 结构清晰,层次分明,突出重点,明确要点
7.数据应用 - 将可行性的建议方案应用到实际业务场景,并解决公司的实际业务问题
- 为业务决策提供数据支持,实现数据驱动业务增长
四、数据分析工具 工欲善其事必先利其器,需要掌握的主流数据分析工具
|