第三章:数据探索

3.1餐饮销售额数据异常值检测

#3.1
import pandas as pd
cateringa_sale = 'D:\\chapter3\\demo\\data\catering_sale.xls'
data = pd.read_excel(cateringa_sale,index_col=u'日期')    #读取数据,指定日期列为索引列;

import matplotlib.pyplot as plt
plt.rcParams['font.sans-serif'] = ['Simhei']    #用来显示中文字体
plt.rcParams['axes.unicode_minus'] = False      #用来显示正常负号

plt.figure()

# p = data.boxplot()
p = data.boxplot(return_type='dict') #画箱线图,直接使用DataFrame的方法

x = p['fliers'][0].get_xdata()
y = p['fliers'][0].get_ydata()
y.sort()

#用annotate添加注释
for i in range(len(x)):
    if i > 0:
        plt.annotate(y[i],xy=(x[i],y[i]),xytext=(x[i]+0.05 -0.8/(y[i]-y[i-1]),y[i]))
    else:
        plt.annotate(y[i],xy=(x[i],y[i]),xytext=(x[i]+0.08,y[i]))

plt.show()
3_1.png

2数据特征分析

分布分析:分布分析能揭示数据的分布特征和分布类型;
定量数据的分布分析;

3Python主要数据探索函数:

python中用于数据探索的库主要是Pandas(数据分析)和Matplotlib(数据可视化),其中,pandas提供了大量的与数据探索相关的函数,这些数据探索函数可大致分为统计特征函数和统计作图函数,而作图依赖于matplotlib,所以往往又会跟matplotlib结合在一起使用;

Pandas主要统计特征函数:

方法名 函数功能 所属库
sum() 计算数据样本的总和(按列计算) Pandas
mean() 计算数据样本的算术平均数 Pandas
var() 计算数据样本的方差 Pandas
std() 计算数据样本的标准差 Pandas
corr() 计算数据样本的Spearman(Pearson)相关系数矩阵 Pandas
cov() 计算数据样本的协方差矩阵 Pandas
skew() 样本值的偏度(三矩阵) Pandas
kurt() 样本值的峰值(四矩阵) Pandas
describe() 给出样本的基本描述(基本统计量如均值、标准差等) Pandas
  • 拓展统计特征函数:除了上述的基本统计特征外,pandas还提供了一些非常方便实用的计算统计特征函数。主要有积累计算(cum)和滚动计算(pd.rolling_)
#销售相关性分析

from __future__ import print_function
import pandas as pd

catering_sale = 'D:\\chapter3\\demo\\data\\catering_sale_all.xls'


data = pd.read_excel(catering_sale,index_col=r'日期')     #读取数据

print(data.corr()) #相关系数举证、及给出了任何两款菜市之间的相关系数
print(data.corr()[u'百合酱蒸凤爪'])  #只显示“百合酱蒸凤爪”与其他菜式的相关系数
print(data[u'百合酱蒸凤爪'].corr(data[u'翡翠蒸香茜饺']))    #计算“百合酱蒸凤爪”和“翡翠蒸香茜饺”的相关系数
方法名 函数功能 所属库
cumsum() 依次给出1,2,3,……,n个数的和 Pandas
cumprod() 依次给出1,2,3,……,n个数的积 Pandas
cummax() 依次给出1,2,3,……,n个数的最大值 Pandas
cummin() 依次给出1,2,3,……,n个数的最小值 Pandas
  • Pandas累计统计特征函数
方法名 函数功能 所属库
rolling_sum() 计算数据样本的总和(按列计算) Pandas
rolling_mean() 数据样本的算术平均数 Pandas
rolling_var() 计算数据样本的方差 Pandas
…… …… Pandas

4.统计作图函数

统计作图函数绘制的图标可以只管地反映出数据及统计量的性质及其内在的规律
python的主要作图库是Matplotlib;

Python主要统计作图函数:

作图函数名 作图函数功能 所属工具箱
plot() 绘制线性二维图、折线图 Matplotlib/Pandas
pie() 绘制饼图形 Matplotlib/Pandas
hist() 绘制二维条形直方图,可显示数据的分配情形 Matplotlib/Pandas
boxplot() 绘制样本数据的箱型图 Pandas
plot(logy=True) 绘制Y轴的对数图形 Pandas
plot(yerr=error) 绘制误差条形图 Pandas
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt

#正弦曲线图
x = np.linspace(0,2*np.pi,50)
y = np.sin(x)
plt.plot(x,y,'bp--')
plt.show()
plot.png
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
#饼图
labels = 'Frogs','Hogs','Dogs','logs'   #定义标签
sizes = [15,30,45,10]   #每一块的比例
colors = ['yellow','gold','lightskyblue','lightcoral']  #每一块的颜色
explore = (0,0.1,0,0)   #突出显示,这里仅仅突出显示第二块;
plt.pie(sizes,explode=explore,labels=labels,colors=colors,autopct='%1.1f%%',shadow=True,startangle=90)
plt.axis('equal')   #显示为圆
plt.show()
pie.png
#二维直方图
import matplotlib.pyplot as plt
import numpy as np
x = np.random.randn(1000)   #产生1000个服从正态分布的随机数
plt.hist(x,10)  #分成10组进行绘制直方图

plt.show()
hist.png
#箱型图
import matplotlib.pyplot as plt
import pandas as pd
import numpy as np
x = np.random.randn(1000)    #产生1000个服从正态分布的随机数
D = pd.DataFrame([x,x+1]).T     #构造两类的DataFrame
D.plot(kind='box')              #调用series内置的作图方法画图,用kind参数指定箱型图为box
plt.show()
box.png
#plot(logx=True)/plot(logy=True)
import matplotlib.pyplot as plt
plt.rcParams['font.sans-serif'] = ['SimHei']    #用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False      #用来正常显示负号
import numpy as np
import pandas as pd

x = pd.Series(np.exp(np.arange(100)))
x.plot(label=u'原始数据',legend=True)
plt.show()

x.plot(logy=True,label=u'对数数据图',legend=True)
plt.show()
logx.png
logy.png
#误差条形图
import matplotlib.pyplot as plt
plt.rcParams['font.sans-serif'] = ['SimHei']    #用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False      #用来正常显示负号
import numpy as np
import pandas as pd

error = np.random.randn(10) #定义误差列
y = pd.Series(np.sin(np.arange(10)))  #均值数据列
y.plot(yerr = error)
plt.show()
error.png
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,445评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,889评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,047评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,760评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,745评论 5 367
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,638评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,011评论 3 398
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,669评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,923评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,655评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,740评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,406评论 4 320
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,995评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,961评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,197评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,023评论 2 350
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,483评论 2 342

推荐阅读更多精彩内容