NumPy的基本功能之一是能快速的执行基于元素的操作,既包括基本算术操作(加,减,乘,等)也包括复杂一些的运算(三角函数、指数函数和对数函数等)。Pandas从NumPy继承了许多这样的功能。在Computation on NumPy Arrays: Universal Functions介绍的ufuncs是其中的关键。
但是,Pandas包含了一些有用的变化:对于一元操作,如否定和三角函数,这些ufuncs将会在输出中保留索引和列标签。对于二元操作,如加法和乘法,Pandas将会在传递对象给ufunc时自动对齐索引。
这意味着,保持数据的上下文并将来自不同来源的数据组合在一起,这两个在原始NumPy数组中潜在的容易出错的任务,在Pandas数据上却基本是万无一失的。
我们还会看到用在一维的Series结构间和二维的DataFrame结构间良好定义的操作。
Ufuncs:索引保留
因为Pandas是被设计用来同NumPy一同工作的,NumPy的ufunc在Pandas的Series对象和DataFrame对象上可以正常工作。让我们开始定义一个简单的Series和DataFrame来演示这些功能。
import pandas as pd
import numpy as np
rng = np.random.RandomState(42)
ser = pd.Series(rng.randint(0, 10, 4))
ser
0 6
1 3
2 7
3 4
dtype: int64
df = pd.DataFrame(rng.randint(0, 10, (3, 4)),
columns=['A', 'B', 'C', 'D'])
df
A B C D
0 6 9 2 6
1 7 4 3 7
2 7 2 5 4
如果我们应用NumPy的ufunc在这两个对象上,结果就是另一个保留着索引的Pandas对象
np.exp(ser)
0 403.428793
1 20.085537
2 1096.633158
3 54.598150
dtype: float64
或者,一个稍微复杂的计算:
np.sin(df * np.pi / 4)
A B C D
0 -1.000000 7.071068e-01 1.000000 -1.000000e+00
1 -0.707107 1.224647e-16 0.707107 -7.071068e-01
2 -0.707107 1.000000e+00 -0.707107 1.224647e-16
所有在Computation on NumPy Arrays: Universal Functions里面讨论的ufuncs,都可以类似的方式使用
UFuncs:索引对齐
对于两个Series或DataFrame对象上的二元操作,Pandas将会在执行操作的过程对齐两者的索引。通过后面的一些例子我们会看到,这对于数据不完全的情况非常有用。
Series上的索引对齐
作为例子,假设我们组合两组不同的数据源,一个是美国州面积的前3名,一个是人口数目的前3名:
area = pd.Series({'Alaska': 1723337, 'Texas': 695662,
'California': 423967}, name='area')
population = pd.Series({'California': 38332521, 'Texas': 26448193,
'New York': 19651127}, name='population')
让我们看一下在计算用人口除以面积会发生说明:
population / area
Alaska NaN
California 90.413926
New York NaN
Texas 38.018740
dtype: float64
结果数组是两个输入数组索引的并集,它是通过对这些索引执行标准Python集合操作确定的:
area.index | population.index
Index(['Alaska', 'California', 'New York', 'Texas'], dtype='object')
对于那些没有数据的条目都标记为NaN(Not a Number),这是Pandas处理确实数据的方式。对于所有Python内置的算术计算,都以这样的方式进行索引匹配;默认情况缺失数据都被置为NaN:
A = pd.Series([2, 4, 6], index=[0, 1, 2])
B = pd.Series([1, 3, 5], index=[1, 2, 3])
A + B
0 NaN
1 5.0
2 9.0
3 NaN
dtype: float64
如果不想被填充为NaN值,可以通过对应操作的对象方法来修改填充值。例如A.add(B)等价于A+B,但是对象方法允许选择对缺失的数据默认填充值:
A.add(B, fill_value=0)
0 2.0
1 5.0
2 9.0
3 5.0
dtype: float64
DataFrame上的索引对齐
当执行DataFrame上的操作时,对列和索引都会执行类似的对齐行为:
A = pd.DataFrame(rng.randint(0, 20, (2, 2)),
columns=list('AB'))
A
A B
0 1 11
1 5 1
B = pd.DataFrame(rng.randint(0, 10, (3, 3)),
columns=list('BAC'))
B
B A C
0 4 0 9
1 5 8 0
2 9 2 6
A + B
A B C
0 1.0 15.0 NaN
1 13.0 6.0 NaN
2 NaN NaN NaN
可以看到无论两个对象中的索引时什么样的顺序它们都准确的对齐了,结果中的索引也是排好序的。如同Series的情况一样,我们可以使用对应的对象算术函数并且传递期望的填充值给缺失的数据。这个例子里,我们将填充A中数据的平均值:
fill = A.stack().mean()
A.add(B, fill_value=fill)
A | B | C | |
---|---|---|---|
0 | 1.0 | 15.0 | 13.5 |
1 | 13.0 | 6.0 | 4.5 |
2 | 6.5 | 13.5 | 10.5 |
下表列出了Python的操作符和它们等价的Pandas对象方法:
Python Operator | Pandas Method(s) |
---|---|
+ |
add() |
- |
sub() , subtract()
|
* |
mul() , multiply()
|
/ |
truediv() , div() , divide()
|
// |
floordiv() |
% |
mod() |
** |
pow() |
Ufuncs:DataFrame 和Series间的操作
当对DataFrame和Series执行操作时,索引和列的对齐也都保留着。DataFrame和Series间的操作和一维或二维NumPy数组间的操作几乎是一样的。考虑一个普通的操作,我们希望找到二维数组与其本身某一行间的不同:
A = rng.randint(10, size=(3, 4))
A
array([[3, 8, 2, 4],
[2, 6, 4, 8],
[6, 1, 3, 8]])
A - A[0]
array([[ 0, 0, 0, 0],
[-1, -2, 2, 4],
[ 3, -7, 1, 4]])
按照NumPy的广播规则,二维数组与其中某一行的减法将会应用到所有行。
在Pandas中,这种操作默认情况下也是按行操作的:
df = pd.DataFrame(A, columns=list('QRST'))
df - df.iloc[0]
Q R S T
0 0 0 0 0
1 -1 -2 2 4
2 3 -7 1 4
但是如果你想要按列操作的化,你可以使用之前提到的对象方法,同时指定关键字参数axis=0:
df.subtract(df['R'], axis=0)
Q R S T
0 -5 0 -6 -4
1 -4 0 -2 2
2 5 0 2 7
注意这些DataFrame/Series操作,跟前面讨论的操作一样,将会元素间自动对齐索引:
halfrow = df.iloc[0, ::2]
halfrow
Q 3
S 2
Name: 0, dtype: int64
df - halfrow
Q R S T
0 0.0 NaN 0.0 NaN
1 -1.0 NaN 2.0 NaN
2 3.0 NaN 1.0 NaN
保留索引和列以及对齐操作,意味着在Pandas上对数据进行操作将会保持数据的上下文,它能防止在使用NumPy数组时方式的发生的数据混乱,对齐不准确的情况。