【损损の数据分析师】01.开启数据分析之旅

声明:本文为课程《数据分析师》入门班笔记,讲师王乐业。如有学习需要请购买课程。

一、数据分析的一般流程及应用场景

001数据利用领域:社交(如,美国大选)、交通(如,导航)、金融(如,信用评估)、医疗(如,图像分析)

002数据分析流程:

1.问题定义

2.数据获取、清理与存储、分析与建模

(1)数据获取:公开数据(开放数据网络、数据竞赛)、网络爬虫(API、网页)

(2)清理与存储:数据清洗(重复数据、缺失数据)、数据库(插入查询)

(3)分析与建模:统计学原理(大数定理、中心极限定理)、分析技术(假设检验、线性回归)

3.系统、报告

003目标:数据分析全流程要点-算法竞赛入门技术-数据中发现只是的乐趣

004软件:python、anaconda、mysql

学习心得:理清数据分析主要使用的领域,和自己的工作息息相关,且未来前景可观。通过数据的获取-清理-存储-分析建模-建立系统-产生报告。其中需要掌握anaconda(python)、mysql

二、Python编程环境的搭建及数据分析包的安装

001python及anaconda

python:python 3与python 2 区别不大,python在数据分析职位被需要度排第一,不可或缺的硬技能。因其有工具包免费且开源。

anaconda:可以理解为是python的一个发行版。包括python的编程环境,还包括和pyhton相关的尤其是跟科学计算、数据分析相关的工具包。除此以外提供这些工具包的安装、删除、下载的一个管理工具。

anaconda的优点:1.可创建对应不同python版本的独立环境,互不干扰

例如:创建python3.5的TensorFlow的虚拟环境如下(因为如果不在anaconda下,TensorFlow不支持Windows系统下的python3.5)

conda create -n tensorflow python=3.5

activate tensorflow

2.可直接利用conda安装及更新工具包

conda install scipy

与python本身自带的工具包pip的区别:pip有限制,仅可以安装基于python的工具包,但基于windows下的一些工具包会有对于其他一些程序的依赖,导致pip无法直接安装这些工具包,如numpy,scipy都无法安装。conda解决了这个问题,例如上面的命令解决了安装scipy

002anaconda的下载及安装

下文以Windows系统为基础介绍

1.安装minianaconda

地址:miniconda-conda

下载 Python3 的 64-bit 版本即可。注意,最好是64位的版本(除非你的电脑是32位的)。

下载后按小白教程 | Miniconda安装及添加环境变量安装。

2.修改镜像服务器位置

直接在开始菜单里找到Anaconda Prompt,直接使用Anaconda Prompt以管理员的身份打开,而不是cmd终端进入conda操作。

执行下面代码,即清华的镜像服务器速度会快一些。show_channel的目的是在接下来下载软件包的时候看到从哪个server下载,看是否设置清华是有作用的。

conda config --add channelshttps://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/

conda config --set show_channel_urls yes

3.创建 Python3.5 的虚拟环境(指定环境为3.5是因为前文提到tensorflow只支持3.5)

执行下面代码,course_py35可以换成自定义名称。安装工具包的时候可能需要安装一些其他的工具,如果系统提示 proceed ([y]/n)? ,输入y, 回车就ok。出现如下图提示 “To activate this environment……”表示环境配置成功

conda create –n course_py35 python=3.5

尝试触发刚创建的这个环境,输入:

activate course_py35

如果命令行出现(course_py35)或者说是你自己设定的名称,表示已经载入这个环境

你可以选择查看 Python 的版本是否是我们刚创建的3.5版本,输入:python

不出意外的话,系统会给你反馈 python 的版本信息。输入下面代码可退出:

quit()

4.安装科学计算所需的 python 工具包

用 conda 安装 scipy,输入:

conda install scipy

然后尝试触发,看命令行出现(course_py35)或者说是你自己设定的名称,表示已经载入这个环境。

quit()退出后安装别的工具包。

用 conda 安装 pandas,输入:

conda install pandas

conda安装scipy和pandas都是需要先退出python(也就是说,如果你之前在命令行输入了python的话,需要先使用quit()命令退出),在之前创建的course_py35环境里安装;检查包是否安装成功,需要首先进入python,再使用"import +包名字"进行检查,如检查scipy是否安装成功,可以输入import scipy。

用 pip 安装 scikit-learn,输入:

pip install scikit-learn

很多包其实用 pip 也是可以直接安装的

心得:1.通过anaconda下载和安装python可以方便添加更多用于数据分析的工具包。其mini版本所占空间小。

2.虚拟环境配置用清华镜像服务下载会快一些。

3.执行安装命令安装科学计算所需工具包的套路是conda或者pip+install+工具包名,然后通过输入python看是否安装好,之后通过quit()退出。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,761评论 5 460
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,953评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,998评论 0 320
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,248评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,130评论 4 356
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,145评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,550评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,236评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,510评论 1 291
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,601评论 2 310
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,376评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,247评论 3 313
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,613评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,911评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,191评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,532评论 2 342
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,739评论 2 335

推荐阅读更多精彩内容