对pandas中两种数据类型Series和DataFrame的区别详解
1. Series相当于数组numpy.array类似
s1=pd.Series([1,2,4,6,7,2]) s2=pd.Series([4,3,1,57,8],index=['a','b','c','d','e']) print s2 obj1=s2.values # print obj1 obj2=s2.index # print obj2 # print s2[s2>4] # print s2['b']
1.Series 它是有索引,如果我们未指定索引,则是以数字自动生成。
下面是一些例子:
obj=Series([4,7,-5,3]) print obj #输出结果如下: # 0 4 # 1 7 # 2 -5 # 3 3 print obj.values #取出它的值 #[ 4 7 -5 3] print obj.index #取出索引值 #输出结果如下: # RangeIndex(start=0, stop=4, step=1) obj2=Series([4,7,-5,3],index=['d','b','a','c']) print obj2 #输出结果如下: # d 4 # b 7 # a -5 # c 3 #可以通过索引的方式选择Series中的单个或一组值 print obj2['a'] #输出结果:-5 print obj2['d'] #输出结是:4
2. Series的一些操作
Series.order()进行排序,而DataFrame则用sort或者sort_index
print ratings_by_title.order(ascending=False)[:10]
(1)Numpy数组运算(根据布尔型数组进行过滤、标量乘法、应用数学函数等)都会保留索引和值之间的链接
print obj2[obj2>0] #取出>0的值 #输出结果如下: # d 4 # b 7 # c 3 print obj2*2 #输出结果如下: # d 8 # b 14 # a -10 # c 6
(2)还可以将Series看成是一个定长的有序字典,因为它是索引值到数据值的一个映射。它可以用在许多原来需要字典参数的函数中。
print 'b' in obj2 #obj2中有索引'b'?若有就返回'True'
(3)如果数据被存在一个python字典中,也可以直接通过这个字典来创建Series.
sdata={'Ohio':35000,'Texax':71000,'Oregon':16000,'Utah':5000} obj3=Series(sdata) print obj3 #输出结果如下: # Ohio 35000 # Oregon 16000 # Texax 71000 # Utah 5000 #注:如果只传入一个字典,则结果Series中的索引就是原字典的键(有序排列) states=['California','Ohio','Oregon','Texax'] obj4=Series(sdata,index=states) #将sdata字典创建Series,索引用states来创建 print obj4 #California在sdata中没有相应的值,故是NaN缺省值 # California NaN # Ohio 35000.0 # Oregon 16000.0 # Texax 71000.0
(4)pandas中的isnull和notnull函数可以用于检测缺失数据,Series也有类似的方法
print pd.isnull(obj4) #输出结果如下: # California True # Ohio False # Oregon False # Texax False # dtype: bool print pd.notnull(obj4) #输出结果如下: # California False # Ohio True # Oregon True # Texax True # dtype: bool print obj4.isnull() #Series的isnull方法 #输出结果如下: # California True # Ohio False # Oregon False # Texax False # dtype: bool
(5)Series最重要的一个功能是:它在算术运算中会自动对齐不同索引的数据。
print obj3,obj4 # Ohio 35000 # Oregon 16000 # Texax 71000 # Utah 5000 # dtype: int64 # # California NaN # Ohio 35000.0 # Oregon 16000.0 # Texax 71000.0 # dtype: float64 print obj3+obj4 # California NaN # Ohio 70000.0 # Oregon 32000.0 # Texax 142000.0 # Utah NaN # dtype: float64
(6)Series对象本身及其索引都有一个name属性,该属性跟pandas其他的关键功能关系非常密切
obj4.name='population' obj4.index.name='state' print obj4 #输出如下:加上state和name # state # California NaN # Ohio 35000.0 # Oregon 16000.0 # Texax 71000.0 # Name: population, dtype: float64
(7)Series的索引可以通过赋值的方式就地修改
obj2.index=['Bob','Steven','Jeff','Ryan'] print obj2 #输出结果如下: # Bob 4 # Steven 7 # Jeff -5 # Ryan 3 # dtype: int64 obj2['Bob']=15 print obj2 #输出结果如下: # Bob 15 # Steven 7 # Jeff -5 # Ryan 3 # dtype: int64 print obj2['Bob'].values #没有这种表示法,报错。因为类似字典取值,直接取键值即可 print obj2.values #查看所有值
3. DataFrame相当于有表格,有行表头和列表头
a=pd.DataFrame(np.random.rand(4,5),index=list("ABCD"),columns=list('abcde')) print a
4.DataFrame的一些操作
#增加列或修改列 a['f']=[1,2,3,4] a['e']=10 print a print "=======================" #增加行或修改行 a.ix['D']=10 # print a S=pd.DataFrame(np.random.rand(4,6),index=list('EFGH'),columns=list('abcdef')) a=a.append(S) print a print "=======================" #切片 print (a[['b','e']]) #取'b','e'列 print a.loc['A':'D',['a','c','f']] #取'A'-'D'行'a','c','f'列 print "=======================" #减少行或减少列 a=a.drop(['C','D']) #删除'C'行和'D' print a a=a.drop('a',axis=1) #删除'a'列,axis=0表示行,axis=1表示列 print a print "=======================" #缺省值处理 a.iloc[2,3]=None #取第三行第4列值设为None a.iloc[4,0]=None #取第五行第1列值设为None print a a=a.fillna(5) #缺省值处(即NaN处填充为5) print a #缺省值去行即有缺省值的把这一行都去掉 a.iloc[2,3]=None a.iloc[4,0]=None print a a=a.dropna() #删除缺省值为NaN的行 print a print "=======================" #读取excel,适当改动后,保存到excel中 e1=pd.read_excel('test.xlsx',sheetname='Sheet1') e1.columns=['class','no','name','sex','dormitory','phonenumber'] print(e1) print(e1.ix[2]) print(e1['class']) print(e1.sex) #可将取出的数据处理,处理完后再保存到excel中去 e2=pd.read_excel('test_copy.xlsx',sheetname='Sheet1',names='table1',header=None) e2.columns=['a','b','c','d'] print(e2) e2.to_excel('test_write.xlsx',header=False,index=False)
(1)构建DataFrame 的方法很多,最常用的一种是直接传入一个由等长列表或者Numpy数组组成的字典
import numpy as np from numpy import random import matplotlib.pyplot as plt from numpy.linalg import inv,qr from pandas import Series,DataFrame import pandas as pd
data={'state':['Ohio','Ohio','Ohio','Nevada','Nevada'], 'year':[2000,2001,2002,2001,2002], 'pop':[1.5,1.7,3.6,2.4,2.9]} frame=DataFrame(data) print frame #输出的结果如下: # pop state year # 0 1.5 Ohio 2000 # 1 1.7 Ohio 2001 # 2 3.6 Ohio 2002 # 3 2.4 Nevada 2001 # 4 2.9 Nevada 2002
(2)如果指定了列序列,则DataFrame的列就会按照指定的顺序进行排序
frame1=DataFrame(data,columns=['year','state','pop']) print frame1 #输出的结果如下: # year state pop # 0 2000 Ohio 1.5 # 1 2001 Ohio 1.7 # 2 2002 Ohio 3.6 # 3 2001 Nevada 2.4 # 4 2002 Nevada 2.9
(3)跟Series一样,如果传入的列在数据中找不到,就会产生NA值
frame2=DataFrame(data,columns=['year','state','pop','debt'], index=['one','two','three','four','five']) #column列的索引,index是行的索引 print frame2 #输出的结果如下: # year state pop debt # one 2000 Ohio 1.5 NaN # two 2001 Ohio 1.7 NaN # three 2002 Ohio 3.6 NaN # four 2001 Nevada 2.4 NaN # five 2002 Nevada 2.9 NaN print frame2.columns #输出列的索引 #输出结果如下: # Index([u'year', u'state', u'pop', u'debt'], dtype='object')
(4)类似字典标记的方式或属性的方式,可以将DataFrame的列获取为一个Series.
print frame2['state'] #取出列索引为state的列的数据 #输出结果如下: # one Ohio # two Ohio # three Ohio # four Nevada # five Nevada # Name: state, dtype: object print frame2.year #输出结果如下: # one 2000 # two 2001 # three 2002 # four 2001 # five 2002 # Name: year, dtype: int64
(5)返回的Series拥有原DataFrame相同的索引,且其name属性也已经被相应地设置好了。行也可以通过位置或名称的方式进行获取
比如用索引字段ix,ix是取行的索引
print frame2.ix['three'] #输出的结果如下: # year 2002 # state Ohio # pop 3.6 # debt NaN # Name: three, dtype: object
(6)可以通过赋值的方式进行修改。
# frame2['debt']=16.5 #debt列全为16.5 # print frame2 #输出结果如下: # year state pop debt # one 2000 Ohio 1.5 16.5 # two 2001 Ohio 1.7 16.5 # three 2002 Ohio 3.6 16.5 # four 2001 Nevada 2.4 16.5 # five 2002 Nevada 2.9 16.5 #将列表或数组赋值给某个列时,其长度必须跟DataFrame的长度相匹配。 #如果赋值的是一个Series,就会精确匹配DataFrame的索引,所有的空位都将被填上缺失值。 frame2['debt']=np.arange(5.) print frame2 #输出结果如下: # year state pop debt # one 2000 Ohio 1.5 0.0 # two 2001 Ohio 1.7 1.0 # three 2002 Ohio 3.6 2.0 # four 2001 Nevada 2.4 3.0 # five 2002 Nevada 2.9 4.0 #赋值一个Series val=Series([-1.2,-1.5,-1.7],index=['two','four','five']) frame2['debt']=val print frame2 #输出结果如下:不在index中的索引的值都赋了Nan # year state pop debt # one 2000 Ohio 1.5 NaN # two 2001 Ohio 1.7 -1.2 # three 2002 Ohio 3.6 NaN # four 2001 Nevada 2.4 -1.5 # five 2002 Nevada 2.9 -1.7 #为不存在的列赋值会创建出一个新列。关键字del用于删除列。 frame2['eastern']=frame2.state=='Ohio' #没有eastern列,固会自动增加一列 #frame2.state=='Ohio'如果等于则返回True,否则返回False print frame2 # year state pop debt eastern # one 2000 Ohio 1.5 NaN True # two 2001 Ohio 1.7 -1.2 True # three 2002 Ohio 3.6 NaN True # four 2001 Nevada 2.4 -1.5 False # five 2002 Nevada 2.9 -1.7 False del frame2['eastern'] #删除eastern列 print frame2 #返回结果如下: # year state pop debt # one 2000 Ohio 1.5 NaN # two 2001 Ohio 1.7 -1.2 # three 2002 Ohio 3.6 NaN # four 2001 Nevada 2.4 -1.5 # five 2002 Nevada 2.9 -1.7 print frame2.columns #查看frame2的列 #输出结果如下:Index([u'year', u'state', u'pop', u'debt'], dtype='object')
(7)另一种常见的数据形式是嵌套字典(也就是字典的字典)
pop={'Nevada':{2001:2.4,2002:2.9}, 'Ohio':{2000:1.5,2001:1.7,2002:3.6}} frame3=DataFrame(pop) print frame3 #输出的结果如下: # Nevada Ohio # 2000 NaN 1.5 # 2001 2.4 1.7 # 2002 2.9 3.6 #可以对frame进行转置 print frame3.T #输出结果如下: # 2000 2001 2002 # Nevada NaN 2.4 2.9 # Ohio 1.5 1.7 3.6 print DataFrame(pop,index=[2001,2002,2003]) #输出结果如下: # Nevada Ohio # 2001 2.4 1.7 # 2002 2.9 3.6 # 2003 NaN NaN pdata={'Ohio':frame3['Ohio'][:-1], 'Nevada':frame3['Nevada'][:2]} print DataFrame(pdata) #输出结果如下: # Nevada Ohio # 2000 NaN 1.5 # 2001 2.4 1.7
可以输入给DataFrame构造器的数据:
二维ndarray 数据矩阵,还可以传入行标和列标 由数组、列表或元组组成的字典 每个序列会变成DataFrame的一列,所有序列的长度必须相同 Numpy的结构化/记录数组 类似于“由数组组成的字典” 由Series组成的字典 每个Series会成为一列。如果没显式指定索引,由各Series的索引会被合 并成结果的行索引 由字典组成的字典 各内层字典会成为一列。键会被合并成结果的行索引,跟“由Series组成的字典” 的情况一样 字典或Series的列表 各项将会成为DataFrame的一行。字典键或Series索引的并集将会成为DataFrame 的列标 由列表或元组组成的列表 类似于“二维ndarray” 另一个DataFrame 该DataFrame的索引将会被沿用,除非显式指定了其它索引 Numpy的MaskedArray 类似于"二维ndarray"的情况,只是掩码值在结果DataFrame会变成NA/缺失值
#如果设置了DataFrame的index和columns的name属性,则这些信息也会被显示出来: frame3.index.name='year'; frame3.columns.name='state' print frame3 #输出结果如下: # state Nevada Ohio # year # 2000 NaN 1.5 # 2001 2.4 1.7 # 2002 2.9 3.6 #跟Series一样,values属性也会以二维ndarray的形式返回DataFrame中的数据: print frame3.values # [[ nan 1.5] # [ 2.4 1.7] # [ 2.9 3.6]] #如果DataFrame各列的数据类型不同,则值数组的数据类型就会选用能兼容所有列的数据类型 print frame2.values # [[2000 'Ohio' 1.5 nan] # [2001 'Ohio' 1.7 -1.2] # [2002 'Ohio' 3.6 nan] # [2001 'Nevada' 2.4 -1.5] # [2002 'Nevada' 2.9 -1.7]]
上一篇:python 数据生成excel导出(xlwt,wlsxwrite)代码实例
栏 目:Python代码
本文标题:对pandas中两种数据类型Series和DataFrame的区别详解
本文地址:http://www.codeinn.net/misctech/34914.html