pandas庫介紹之DataFrame基本操作

怎樣刪除list中空字元？
最簡單的方法：new_list = [ x for x in li if x != '' ]

---

今天是5.1號。

這一部分主要學習pandas中基於前面兩種資料結構的基本操作。

设有DataFrame结果的数据a如下所示：    
       a  b  c
one    4  1  1
two    6  2  0
three  6  1  6

---

一、查看資料（查看物件的方法對於Series來說同樣適用）

1.查看DataFrame前xx行或後xx行
a=DataFrame(data);
a.head(6)表示顯示前6行數據，若head()不帶參數則會顯示全部數據。
a.tail(6)表示顯示後6行數據，若tail()不帶參數則也會顯示全部數據。

2.查看DataFrame的index，columns以及values
a.index ;    a.columns ;    a.values  即可

3.describe ()函數對於資料的快速統計總和
a.describe()對每一列資料進行統計，包括計數，平均值，std，各個分位數等。

4.對資料的轉置
a.T

#5.對軸進行排序
a.sort _index(axis=1,ascending=False);
其中axis=1表示對所有的columns進行排序，下面的數也跟著發生移動。後面的ascending=False表示依降序排列，參數缺失時預設升序。

6.對DataFrame中的值排序
a.sort(columns='x')
即對a中的x這一列，從小到大進行排序。注意只是x這一列，而上面的按軸進行排序時會對所有的columns進行操作。

二、選擇物件

1.選擇特定列和行的資料
a['x']   那麼將會傳回columns為x的資料列， 注意這種方式一次只能傳回一個欄位。 a.x與a['x']意思一樣。

取行數據，透過切片[]來選擇
如：a[0:3]  則會傳回前三行的資料。

2.loc是透過標籤來選擇資料
a.loc['one']則會預設表示選取行為'one'的行；

a.loc[:,['a','b'] ]    表示選取所有的行以及columns為a,b的列；

a.loc[['one' ,'two'],['a','b']]    表示選取'one'和'two'這兩行以及columns為a,b的列；

a.loc['one' ,'a']與a.loc[['one'],['a']]作用是相同的，不過前者只顯示對應的值，而後者會顯示對應的行和列標籤。

3.iloc則是直接透過位置來選擇資料
這與透過標籤選擇類似
a.iloc[1:2,1:2]  則會顯示第一行第一列的資料;(切片後面的值取不到)

a.iloc[1:2]  即後面表示列的值沒有時，預設選取行位置為1的資料;

a.iloc[[0,2],[1,2]]  即可自由選取行位置，且列位置對應的資料。

4.使用條件來選擇
使用單獨的欄位來選擇資料
a[a.c>0]    表示選擇c列中大於0的資料

使用where來選擇資料
a[a>0]    表直接選擇a中所有大於0的資料

使用isin()選出特定列中包含特定值的行
a1=a.copy()
a1[a1['one'].isin(['2','3']) ]   表顯示滿足條件：列one中的值包含'2','3'的所有行。

三、設定值（賦值）

賦值運算在上述選擇運算的基礎上直接賦值即可。
例a.loc[:,['a','c']]=9  即將a和c列​​的所有行中的值設定為9
a.iloc[:,[1,3] ]=9 也表示將a和c列​​的所有行中的值設為9

同時也仍可用條件來直接賦值
a[a>0]=-a  表示將a中所有大於0的數轉換為負值

四、缺失值處理

在pandas中，使用np.nan來取代缺失值，這些值將預設不會包含在計算中。

1.reindex()方法
用來對指定軸上的索引進行改變/增加/刪除操作，這將傳回原始資料的一個拷貝。
a.reindex(index=list(a.index)+['five'],columns=list(a.columns)+['d'])

a.reindex(index=['one','five'],columns=list(a.columns)+['d'])

即用index=[]表示对index进行操作，columns表对列进行操作。

2.对缺失值进行填充
a.fillna(value=x)
表示用值为x的数来对缺失值进行填充

3.去掉包含缺失值的行
a.dropna(how='any')
表示去掉所有包含缺失值的行

五、合并

1.contact
contact(a1,axis=0/1，keys=['xx','xx','xx',...])，其中a1表示要进行进行连接的列表数据,axis=1时表横着对数据进行连接。axis=0或不指定时，表将数据竖着进行连接。a1中要连接的数据有几个则对应几个keys，设置keys是为了在数据连接以后区分每一个原始a1中的数据。

例：a1=[b['a'],b['c']]
result=pd.concat(a1,axis=1，keys=['1','2'])

2.Append 将一行或多行数据连接到一个DataFrame上
a.append(a[2:],ignore_index=True)
表示将a中的第三行以后的数据全部添加到a中，若不指定ignore_index参数，则会把添加的数据的index保留下来，若ignore_index=Ture则会对所有的行重新自动建立索引。

3.merge类似于SQL中的join
设a1,a2为两个dataframe,二者中存在相同的键值，两个对象连接的方式有下面几种：
(1)内连接，pd.merge(a1, a2, on='key')
(2)左连接，pd.merge(a1, a2, on='key', how='left')
(3)右连接，pd.merge(a1, a2, on='key', how='right')
(4)外连接， pd.merge(a1, a2, on='key', how='outer')
至于四者的具体差别，具体学习参考sql中相应的语法。

六、分组（groupby）

用pd.date_range函数生成连续指定天数的的日期
pd.date_range('20000101',periods=10)

def shuju():
    data={
        'date':pd.date_range('20000101',periods=10),
        'gender':np.random.randint(0,2,size=10),
        'height':np.random.randint(40,50,size=10),
        'weight':np.random.randint(150,180,size=10)
    }
a=DataFrame(data)
print(a)
        date  gender  height  weight
0 2000-01-01       0      47     165
1 2000-01-02       0      46     179
2 2000-01-03       1      48     172
3 2000-01-04       0      45     173
4 2000-01-05       1      47     151
5 2000-01-06       0      45     172
6 2000-01-07       0      48     167
7 2000-01-08       0      45     157
8 2000-01-09       1      42     157
9 2000-01-10       1      42     164

用a.groupby('gender').sum()得到的结果为：  #注意在python中groupby(''xx)后要加sum()，不然显示
不了数据对象。
gender     height  weight               
0           256     989
1           170     643

此外用a.groupby('gender').size()可以对各个gender下的数目进行计数。

所以可以看到groupby的作用相当于：
按gender对gender进行分类，对应为数字的列会自动求和，而为字符串类型的列则不显示；当然也可以同时groupby(['x1','x2',...])多个字段，其作用与上面类似。

七、Categorical按某一列重新编码分类

如六中要对a中的gender进行重新编码分类，将对应的0，1转化为male，female，过程如下：

a['gender1']=a['gender'].astype('category')
a['gender1'].cat.categories=['male','female']  #即将0，1先转化为category类型再进行编码。

 print(a)得到的结果为：
      date    gender  height  weight gender1
0 2000-01-01       1      40     163  female
1 2000-01-02       0      44     177    male
2 2000-01-03       1      40     167  female
3 2000-01-04       0      41     161    male
4 2000-01-05       0      48     177    male
5 2000-01-06       1      46     179  female
6 2000-01-07       1      42     154  female
7 2000-01-08       1      43     170  female
8 2000-01-09       0      46     158    male
9 2000-01-10       1      44     168  female

所以可以看出重新编码后的编码会自动增加到dataframe最后作为一列。

八、相关操作

描述性统计：
1.a.mean()  默认对每一列的数据求平均值；若加上参数a.mean(1)则对每一行求平均值；

2.统计某一列x中各个值出现的次数：a['x'].value_counts()；

3.对数据应用函数
a.apply(lambda x:x.max()-x.min())
表示返回所有列中最大值-最小值的差。

4.字符串相关操作
a['gender1'].str.lower()  将gender1中所有的英文大写转化为小写，注意dataframe没有str属性，只有series有，所以要选取a中的gender1字段。

九、时间序列

在六中用pd.date_range('xxxx',periods=xx,freq='D/M/Y....')函数生成连续指定天数的的日期列表。
例如pd.date_range('20000101',periods=10),其中periods表示持续频数；
pd.date_range('20000201','20000210',freq='D')也可以不指定频数，只指定起始日期。

此外如果不指定freq，则默认从起始日期开始，频率为day。其他频率表示如下：

1.png

十、画图(plot)

在pycharm中首先要：import matplotlib.pyplot as plt
a=Series(np.random.randn(1000),index=pd.date_range('20100101',periods=1000))
b=a.cumsum()
b.plot()
plt.show()    #最后一定要加这个plt.show()，不然不会显示出图来。

2.PNG

也可以使用下面的代码来生成多条时间序列图：

a=DataFrame(np.random.randn(1000，4),index=pd.date_range('20100101',periods=1000),columns=list('ABCD'))
b=a.cumsum()
b.plot()
plt.show()

3.png

十一、导入和导出文件

写入和读取excel文件
虽然写入excel表时有两种写入xls和csv，但建议少使用csv，不然在表中调整数据格式时，保存时一直询问你是否保存新格式，很麻烦。而在读取数据时，如果指定了哪一张sheet，则在pycharm又会出现格式不对齐。

还有将数据写入表格中时，excel会自动给你在表格最前面增加一个字段，对数据行进行编号。

a.to_excel(r'C:\\Users\\guohuaiqi\\Desktop\\2.xls',sheet_name='Sheet1')    

a=pd.read_excel(r'C:\\Users\\guohuaiqi\\Desktop\\2.xls','Sheet1',na_values=['NA'])

注意sheet_name后面的Sheet1中的首字母大写；读取数据时，可以指定读取哪一张表中的数据，而
且对缺失值补上NA。

最后再附上写入和读取csv格式的代码：
a.to_csv(r'C:\\Users\\guohuaiqi\\Desktop\\1.csv'，sheet_name='Sheet1')
a=pd.read_csv(r'C:\\Users\\guohuaiqi\\Desktop\\1.csv',na_values=['NA'])

       

以上是pandas庫介紹之DataFrame基本操作的詳細內容。更多資訊請關注PHP中文網其他相關文章！