Pandas数据上的操作

NumPy的基本功能之一是能快速的执行基于元素的操作,既包括基本算术操作(加,减,乘,等)也包括复杂一些的运算(三角函数、指数函数和对数函数等)。Pandas从NumPy继承了许多这样的功能。在Computation on NumPy Arrays: Universal Functions介绍的ufuncs是其中的关键。
但是,Pandas包含了一些有用的变化:对于一元操作,如否定和三角函数,这些ufuncs将会在输出中保留索引和列标签。对于二元操作,如加法和乘法,Pandas将会在传递对象给ufunc时自动对齐索引。
这意味着,保持数据的上下文并将来自不同来源的数据组合在一起,这两个在原始NumPy数组中潜在的容易出错的任务,在Pandas数据上却基本是万无一失的。
我们还会看到用在一维的Series结构间和二维的DataFrame结构间良好定义的操作。

Ufuncs:索引保留

因为Pandas是被设计用来同NumPy一同工作的,NumPy的ufunc在Pandas的Series对象和DataFrame对象上可以正常工作。让我们开始定义一个简单的Series和DataFrame来演示这些功能。

import pandas as pd
import numpy as np
rng = np.random.RandomState(42)
ser = pd.Series(rng.randint(0, 10, 4))
ser
0    6
1    3
2    7
3    4
dtype: int64
df = pd.DataFrame(rng.randint(0, 10, (3, 4)),
                  columns=['A', 'B', 'C', 'D'])
df
A   B   C   D
0   6   9   2   6
1   7   4   3   7
2   7   2   5   4

如果我们应用NumPy的ufunc在这两个对象上,结果就是另一个保留着索引的Pandas对象

np.exp(ser)
0     403.428793
1      20.085537
2    1096.633158
3      54.598150
dtype: float64

或者,一个稍微复杂的计算:

np.sin(df * np.pi / 4)
A   B   C   D
0   -1.000000   7.071068e-01    1.000000    -1.000000e+00
1   -0.707107   1.224647e-16    0.707107    -7.071068e-01
2   -0.707107   1.000000e+00    -0.707107   1.224647e-16

所有在Computation on NumPy Arrays: Universal Functions里面讨论的ufuncs,都可以类似的方式使用

UFuncs:索引对齐

对于两个Series或DataFrame对象上的二元操作,Pandas将会在执行操作的过程对齐两者的索引。通过后面的一些例子我们会看到,这对于数据不完全的情况非常有用。

Series上的索引对齐

作为例子,假设我们组合两组不同的数据源,一个是美国州面积的前3名,一个是人口数目的前3名:

area = pd.Series({'Alaska': 1723337, 'Texas': 695662,
                  'California': 423967}, name='area')
population = pd.Series({'California': 38332521, 'Texas': 26448193,
                        'New York': 19651127}, name='population')

让我们看一下在计算用人口除以面积会发生说明:

population / area
Alaska              NaN
California    90.413926
New York            NaN
Texas         38.018740
dtype: float64

结果数组是两个输入数组索引的并集,它是通过对这些索引执行标准Python集合操作确定的:

area.index | population.index
Index(['Alaska', 'California', 'New York', 'Texas'], dtype='object')

对于那些没有数据的条目都标记为NaN(Not a Number),这是Pandas处理确实数据的方式。对于所有Python内置的算术计算,都以这样的方式进行索引匹配;默认情况缺失数据都被置为NaN:

A = pd.Series([2, 4, 6], index=[0, 1, 2])
B = pd.Series([1, 3, 5], index=[1, 2, 3])
A + B
0    NaN
1    5.0
2    9.0
3    NaN
dtype: float64

如果不想被填充为NaN值,可以通过对应操作的对象方法来修改填充值。例如A.add(B)等价于A+B,但是对象方法允许选择对缺失的数据默认填充值:

A.add(B, fill_value=0)
0    2.0
1    5.0
2    9.0
3    5.0
dtype: float64

DataFrame上的索引对齐

当执行DataFrame上的操作时,对列和索引都会执行类似的对齐行为:

A = pd.DataFrame(rng.randint(0, 20, (2, 2)),
                 columns=list('AB'))
A
    A   B
0   1   11
1   5   1
B = pd.DataFrame(rng.randint(0, 10, (3, 3)),
                 columns=list('BAC'))
B
    B   A   C
0   4   0   9
1   5   8   0
2   9   2   6
A + B
      A B   C
0   1.0 15.0    NaN
1   13.0    6.0 NaN
2   NaN NaN NaN

可以看到无论两个对象中的索引时什么样的顺序它们都准确的对齐了,结果中的索引也是排好序的。如同Series的情况一样,我们可以使用对应的对象算术函数并且传递期望的填充值给缺失的数据。这个例子里,我们将填充A中数据的平均值:

fill = A.stack().mean()
A.add(B, fill_value=fill)
A B C
0 1.0 15.0 13.5
1 13.0 6.0 4.5
2 6.5 13.5 10.5

下表列出了Python的操作符和它们等价的Pandas对象方法:

Python Operator Pandas Method(s)
+ add()
- sub(), subtract()
* mul(), multiply()
/ truediv(), div(), divide()
// floordiv()
% mod()
** pow()

Ufuncs:DataFrame 和Series间的操作

当对DataFrame和Series执行操作时,索引和列的对齐也都保留着。DataFrame和Series间的操作和一维或二维NumPy数组间的操作几乎是一样的。考虑一个普通的操作,我们希望找到二维数组与其本身某一行间的不同:

A = rng.randint(10, size=(3, 4))
A
array([[3, 8, 2, 4],
       [2, 6, 4, 8],
       [6, 1, 3, 8]])
A - A[0]
array([[ 0,  0,  0,  0],
       [-1, -2,  2,  4],
       [ 3, -7,  1,  4]])

按照NumPy的广播规则,二维数组与其中某一行的减法将会应用到所有行。
在Pandas中,这种操作默认情况下也是按行操作的:

df = pd.DataFrame(A, columns=list('QRST'))
df - df.iloc[0]
    Q   R   S   T
0   0   0   0   0
1   -1  -2  2   4
2   3   -7  1   4

但是如果你想要按列操作的化,你可以使用之前提到的对象方法,同时指定关键字参数axis=0:

df.subtract(df['R'], axis=0)
    Q   R   S   T
0   -5  0   -6  -4
1   -4  0   -2  2
2   5   0   2   7

注意这些DataFrame/Series操作,跟前面讨论的操作一样,将会元素间自动对齐索引:

halfrow = df.iloc[0, ::2]
halfrow
Q    3
S    2
Name: 0, dtype: int64
df - halfrow
      Q R   S   T
0   0.0 NaN 0.0 NaN
1   -1.0    NaN 2.0 NaN
2   3.0 NaN 1.0 NaN

保留索引和列以及对齐操作,意味着在Pandas上对数据进行操作将会保持数据的上下文,它能防止在使用NumPy数组时方式的发生的数据混乱,对齐不准确的情况。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,236评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,867评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,715评论 0 340
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,899评论 1 278
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,895评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,733评论 1 283
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,085评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,722评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,025评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,696评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,816评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,447评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,057评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,009评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,254评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,204评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,561评论 2 343

推荐阅读更多精彩内容