Python Pandas可以像SQL那樣，進(jìn)行數(shù)據(jù)篩選統(tǒng)計(jì)

作者：軟件測(cè)試開發(fā)技術(shù)棧 2020-12-14 13:24:17

本文通過(guò)Pandas實(shí)現(xiàn)SQL語(yǔ)法中條件過(guò)濾、排序、關(guān)聯(lián)、合并、更新、刪除等簡(jiǎn)單及復(fù)雜操作，使得我們對(duì)方法的理解更加深刻，更加得心應(yīng)手。

相對(duì)于學(xué)習(xí)Pandas各種數(shù)據(jù)篩選操作，SQL語(yǔ)法顯得更加簡(jiǎn)潔清晰，若能夠?qū)QL語(yǔ)法與Pandas中對(duì)應(yīng)的函數(shù)的使用方法關(guān)聯(lián)起來(lái)，對(duì)于我們應(yīng)用Pandas進(jìn)行數(shù)據(jù)篩選來(lái)講無(wú)疑是一個(gè)福音。

演示數(shù)據(jù)集

本文采用安德森鳶尾花卉(iris)數(shù)據(jù)集進(jìn)行演示，iris數(shù)據(jù)集包含150個(gè)樣本，對(duì)應(yīng)數(shù)據(jù)集的每行數(shù)據(jù)。每行數(shù)據(jù)包含每個(gè)樣本的四個(gè)特征和樣本的類別信息，因此iris數(shù)據(jù)集是一個(gè)150行*5列的二維表。

我們可以 UCI Iris dataset 獲取或者使用 from sklearn.datasets import load_iris 方式獲取，為了演示方便我們只取其中10行數(shù)據(jù)，如下：

Python Pandas可以像SQL那樣，進(jìn)行數(shù)據(jù)篩選統(tǒng)計(jì)

接下來(lái)，就讓我們一起學(xué)習(xí)一下，如何Pandas實(shí)現(xiàn)SQL語(yǔ)法中條件過(guò)濾、排序、關(guān)聯(lián)、合并、更新、刪除等數(shù)據(jù)查詢操作。

字段查詢 SELECT

SELECT sl, sw, pl, pw FROM iris LIMIT 2;

如上SQL實(shí)現(xiàn)返回每行記錄的 sl,sw,pl,pw 字段，僅返回2行記錄。我們使用Pandas實(shí)現(xiàn)如上SQL的功能，代碼如下：

import pandas as pd 
 
iris = pd.read_excel(io="iris.xlsx", 
              sheet_name='iris', 
              usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
search = iris[["sl", "sw", "pl", "pw"]].head(2) 
print(search) 
 
# 執(zhí)行上述代碼，輸出結(jié)果為： 
    sl   sw   pl   pw 
0  5.1  3.5  1.4  0.2 
1  4.9  3.0  1.4  0.2

簡(jiǎn)單的條件過(guò)濾查詢 WHERE

SELECT * FROM iris WHERE classes = 1 LIMIT 2;

如上SQL實(shí)現(xiàn)了查詢滿足classes=1的記錄，并返回2行。我們使用Pandas實(shí)現(xiàn)該SQL，代碼如下：

import pandas as pd 
 
iris = pd.read_excel(io="iris.xlsx", 
              sheet_name='iris', 
              usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
search = iris[iris["classes"]==1].head(2) 
print(search) 
 
# 執(zhí)行上述代碼，輸出結(jié)果為： 
    sl   sw   pl   pw  classes 
3  6.8  2.8  4.8  1.4        1 
4  6.7  3.0  5.0  1.7        1

多條件的與或過(guò)濾查詢 WHERE AND|OR

與關(guān)系 &

SELECT * FROM iris WHERE classes = 1 AND pl >= 5 LIMIT 2;

如上SQL實(shí)現(xiàn)查詢同時(shí)滿足classes=1 和 pl >=5 兩個(gè)條件的記錄，并返回2行。我們使用Pandas實(shí)現(xiàn)該SQL，代碼如下：

import pandas as pd 
 
iris = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
search = iris[ 
    (iris["classes"] == 1) & 
              (iris["pl"] >= 5) 
              ].head(2) 
print(search) 
 
# 執(zhí)行上述代碼，輸出結(jié)果為： 
    sl   sw   pl   pw  classes 
4  6.7  3.0  5.0  1.7        1

或關(guān)系 |

SELECT * FROM iris WHERE sl >= 5 OR pl >=5 LIMIT 2;

如上SQL實(shí)現(xiàn)查詢滿足 sl >=5 或者 pl >=5 任一條件的記錄，返回2行。我們使用Pandas實(shí)現(xiàn)該SQL，代碼如下：

import pandas as pd 
 
iris = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
search = iris[ 
    (iris["sl"] >= 5) | 
              (iris["pl"] >= 5) 
              ].head(2) 
print(search) 
 
# 執(zhí)行上述代碼，輸出結(jié)果為： 
    sl   sw   pl   pw  classes 
0  5.1  3.5  1.4  0.2        0 
2  5.4  3.9  1.7  0.4        0

條件過(guò)濾空值判斷

空判斷 is null

SELECT * FROM iris WHERE sl IS NULL;

如上SQL實(shí)現(xiàn)查詢 sl 字段為NULL的記錄，我們使用Pandas實(shí)現(xiàn)該SQL，代碼如下：

import pandas as pd 
 
iris = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
search = iris[iris["sl"].isna()] 
print(search)

非空判斷 is not null

SELECT * FROM iris WHERE sl IS NOT NULL;

如上SQL實(shí)現(xiàn)查詢sl字段不為 NULL 的記錄。我們使用Pandas實(shí)現(xiàn)該SQL，代碼如下：

import pandas as pd 
 
iris = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
search = iris[iris["sl"].notna()] 
print(search) 
 
# 執(zhí)行上述代碼，輸出結(jié)果為： 
    sl   sw   pl   pw  classes 
0  5.1  3.5  1.4  0.2        0 
1  4.9  3.0  1.4  0.2        0 
2  5.4  3.9  1.7  0.4        0 
3  6.8  2.8  4.8  1.4        1 
4  6.7  3.0  5.0  1.7        1 
5  6.0  2.9  4.5  1.5        1 
6  5.6  2.8  4.9  2.0        2 
7  7.7  2.8  6.7  2.0        2 
8  6.3  2.7  4.9  1.8        2 
9  6.7  3.3  5.7  2.1        2

排序 ORDER BY ASC|DESC

SELECT * FROM iris WHERE sl >= 6 ORDER BY DESC classes;

如上SQL實(shí)現(xiàn)將滿足sl字段值大于等于5的記錄，按照classes降序排序。我們使用Pandas實(shí)現(xiàn)該SQL，代碼如下：

import pandas as pd 
 
iris = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
search = iris[(iris["sl"] >= 6)].sort_values( 
                                 by="classes", ascending=False) 
print(search) 
 
# 執(zhí)行上述代碼，輸出結(jié)果為： 
    sl   sw   pl   pw  classes 
7  7.7  2.8  6.7  2.0        2 
8  6.3  2.7  4.9  1.8        2 
9  6.7  3.3  5.7  2.1        2 
3  6.8  2.8  4.8  1.4        1 
4  6.7  3.0  5.0  1.7        1 
5  6.0  2.9  4.5  1.5        1

更新 UPDATE

UPDATE iris SET classes = 2 WHERE pw = 1.7 AND pl >= 5;

如上SQL實(shí)現(xiàn)將同時(shí)滿足pw = 1.7 和 pl >= 5的記錄中的classes字段值更新為2。我們使用Pandas實(shí)現(xiàn)該SQL，代碼如下：

import pandas as pd 
 
iris = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
iris.loc[(iris["pw"] == 1.7) & (iris["pl"] >= 5), "classes"] = 2 
 
print(iris[iris["pw"] == 1.7]) 
 
# 執(zhí)行上述代碼，輸出結(jié)果為： 
    sl   sw   pl   pw  classes 
4  6.7  3.0  5.0  1.7        2

分組統(tǒng)計(jì) GROUP BY

SELECT classes, COUNT(*) FROM iris GROUP BY classes;

如上SQL實(shí)現(xiàn) 根據(jù)classes進(jìn)行分組，返回classes 及每組數(shù)量。我們使用Pandas實(shí)現(xiàn)該SQL，代碼如下：

import pandas as pd 
 
iris = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
count = iris.groupby("classes").size() 
 
print(count) 
 
# 執(zhí)行上述代碼，輸出結(jié)果為： 
classes 
0    3 
1    3 
2    4 
dtype: int64

分組統(tǒng)計(jì) 聚合輸出

SELECT classes, avg(pl), max(sl) FROM iris GROUP BY classes;

如何SQL實(shí)現(xiàn)根據(jù)classes進(jìn)行分組，返回classes值，每個(gè)分組的pl平均值以及每個(gè)分組的sl最大值。我們使用Pandas實(shí)現(xiàn)該SQL，代碼如下：

import pandas as pd 
import numpy as np 
iris = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
search = iris.groupby("classes").agg( 
                                {"sl":np.max, "pl":np.mean}) 
 
print(search) 
 
# 執(zhí)行上述代碼，輸出結(jié)果為： 
          sl        pl 
classes                
0        5.4  1.500000 
1        6.8  4.766667 
2        7.7  5.550000

刪除

DELETE FROM iris WHERE pw = 1.7 AND pl >=5;

如上SQL實(shí)現(xiàn)將同時(shí)滿足pw = 1.7 和 pl >= 5的記錄刪除。我們使用Pandas實(shí)現(xiàn)該SQL，代碼如下：

import pandas as pd 
 
iris = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
drop = iris.drop(iris[(iris["pw"] == 1.7) & 
                       (iris["pl"] >= 5)].index) 
 
print(drop[drop["pw"] > 1.6]) 
 
# 執(zhí)行上述代碼，輸出結(jié)果為： 
    sl   sw   pl   pw  classes 
6  5.6  2.8  4.9  2.0        2 
7  7.7  2.8  6.7  2.0        2 
8  6.3  2.7  4.9  1.8        2 
9  6.7  3.3  5.7  2.1        2

UNION & JOIN 演示數(shù)據(jù)集

接下來(lái)介紹如何使用Pandas進(jìn)行合并查詢及多表關(guān)聯(lián)查詢，為了演示方便，我們上面示例中的iris數(shù)據(jù)集，拆分成iris_a，iris_b兩部分，如下：

UNION 合并查詢

合并結(jié)果 UNION ALL 可能存在重復(fù)記錄

合并如下兩個(gè) SELECT 語(yǔ)句的結(jié)果集，需注意，UNION ALL 內(nèi)部的 SELECT 語(yǔ)句必須擁有相同數(shù)量的列，列也必須擁有相似的數(shù)據(jù)類型。同時(shí)，每條 SELECT 語(yǔ)句中的列的順序必須相同。

SELECT * FROM iris_a WHERE classes = 1 
UNION ALL 
SELECT * FROM iris_b WHERE classes = 1 ;

如上SQL實(shí)現(xiàn)將兩個(gè)查詢結(jié)果進(jìn)行合并，允許存在重復(fù)記錄。我們使用 pandas.concat 方法實(shí)現(xiàn)該SQL，代碼如下：

import pandas as pd 
 
iris_a = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris_a', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
iris_b = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris_b', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
data = pd.concat( 
    [iris_a[iris_a["classes"] == 1], iris_b[iris_b["classes"] == 1]]) 
 
print(data) 
 
# 執(zhí)行上述代碼，輸出結(jié)果為： 
    sl   sw   pl   pw  classes 
3  6.8  2.8  4.8  1.4        1 
4  6.7  3.0  5.0  1.7        1 
0  6.7  3.0  5.0  1.7        1 
1  6.0  2.9  4.5  1.5        1

合并結(jié)果 UNION 不存在重復(fù)記錄

合并如下兩個(gè) SELECT 語(yǔ)句的結(jié)果集，同時(shí)也需注意，UNION 內(nèi)部的 SELECT 語(yǔ)句必須擁有相同數(shù)量的列，列也必須擁有相似的數(shù)據(jù)類型。同時(shí)，每條 SELECT 語(yǔ)句中的列的順序必須相同。

SELECT * FROM iris_a WHERE classes = 1 
UNION 
SELECT * FROM iris_b WHERE classes = 1 ;

如上SQL實(shí)現(xiàn)將兩個(gè)select查詢結(jié)果進(jìn)行合并，不允許存在重復(fù)記錄。我們使用 pandas.concat.drop_duplicates 方法實(shí)現(xiàn)該SQL，代碼如下：

import pandas as pd 
 
iris_a = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris_a', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
iris_b = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris_b', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
data = pd.concat( 
    [iris_a[iris_a["classes"] == 1], 
     iris_b[iris_b["classes"] == 1]]).drop_duplicates() 
 
print(data) 
 
# 執(zhí)行上述代碼，輸出結(jié)果為： 
    sl   sw   pl   pw  classes 
3  6.8  2.8  4.8  1.4        1 
4  6.7  3.0  5.0  1.7        1 
1  6.0  2.9  4.5  1.5        1

JOIN 連接查詢

同樣，我們依舊使用如上演示數(shù)據(jù)，如下：

內(nèi)連接 INNER JOIN

獲取iris_a，iris_b兩個(gè)表中classes字段相同的記錄，并返回滿足條件的兩張表中的所有記錄。

SELECT * FROM iris_a  
INNER JOIN iris_b  
ON iris_a.classes = iris_b.classes;

如上SQL實(shí)現(xiàn)iris_a 與 iris_b 按照classes字段進(jìn)行內(nèi)連接。我們使用 pandas.merge(iris_a, iris_b, on='classes') 實(shí)現(xiàn)該SQL，代碼如下：

import pandas as pd 
 
iris_a = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris_a', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
iris_b = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris_b', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
inner = pd.merge(iris_a, iris_b, on="classes") 
print(inner) 
 
# 執(zhí)行上述代碼，輸出結(jié)果為： 
   sl_x  sw_x  pl_x  pw_x  classes  sl_y  sw_y  pl_y  pw_y 
0   6.8   2.8   4.8   1.4        1   6.7   3.0   5.0   1.7 
1   6.8   2.8   4.8   1.4        1   6.0   2.9   4.5   1.5 
2   6.7   3.0   5.0   1.7        1   6.7   3.0   5.0   1.7 
3   6.7   3.0   5.0   1.7        1   6.0   2.9   4.5   1.5

左連接 LEFT OUTER JOIN

獲取左表 iris_a 所有記錄，判斷每條數(shù)據(jù)的 classes 字段是否能匹配到右表iris_b的數(shù)據(jù)，無(wú)論能否匹配到，左表 iris_a 數(shù)據(jù)都會(huì)保留。若能匹配，則左右表都保留。若不能匹配，右表iris_b字段都置空NULL，并返回保留的記錄。

SELECT * FROM iris_a  
LEFT JOIN iris_b  
ON iris_a.classes = iris_b.classes;

如上SQL實(shí)現(xiàn)iris_a 與 iris_b 按照classes字段進(jìn)行左連接。我們使用 pandas.merge(iris_a, iris_b, on='classes', how='left') 方法實(shí)現(xiàn)該SQL，代碼如下：

import pandas as pd 
 
iris_a = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris_a', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
iris_b = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris_b', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
inner = pd.merge(iris_a, iris_b, on="classes", how="left") 
print(inner) 
 
# 執(zhí)行上述代碼，輸出結(jié)果為： 
   sl_x  sw_x  pl_x  pw_x  classes  sl_y  sw_y  pl_y  pw_y 
0   5.1   3.5   1.4   0.2        0   NaN   NaN   NaN   NaN 
1   4.9   3.0   1.4   0.2        0   NaN   NaN   NaN   NaN 
2   5.4   3.9   1.7   0.4        0   NaN   NaN   NaN   NaN 
3   6.8   2.8   4.8   1.4        1   6.7   3.0   5.0   1.7 
4   6.8   2.8   4.8   1.4        1   6.0   2.9   4.5   1.5 
5   6.7   3.0   5.0   1.7        1   6.7   3.0   5.0   1.7 
6   6.7   3.0   5.0   1.7        1   6.0   2.9   4.5   1.5

右連接 RIGHT OUTER JOIN

獲取右表 iris_b 所有記錄，判斷每條數(shù)據(jù)的 classes 字段是否能匹配到右表 iris_a 的數(shù)據(jù)，無(wú)論能否匹配到，右表 iris_b 數(shù)據(jù)都會(huì)保留。若能匹配，則左右表都保留。若不能匹配，左表iris_a字段都置空NULL，并返回保留的記錄。

SELECT * FROM iris_a  
RIGHT JOIN iris_b  
ON iris_a.classes = iris_b.classes;

如上SQL實(shí)現(xiàn)iris_a 與 iris_b 按照classes字段進(jìn)行右連接。我們使用 pandas.merge(iris_a, iris_b, on='classes', how='right')實(shí)現(xiàn)該SQL，代碼如下：

import pandas as pd 
 
iris_a = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris_a', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
iris_b = pd.read_excel(io="iris.xlsx", 
                     sheet_name='iris_b', 
                     usecols=["sl", "sw", "pl", "pw", "classes"]) 
 
inner = pd.merge(iris_a, iris_b, on="classes", how="right") 
print(inner) 
 
# 執(zhí)行上述代碼，輸出結(jié)果為： 
   sl_x  sw_x  pl_x  pw_x  classes  sl_y  sw_y  pl_y  pw_y 
0   6.8   2.8   4.8   1.4        1   6.7   3.0   5.0   1.7 
1   6.7   3.0   5.0   1.7        1   6.7   3.0   5.0   1.7 
2   6.8   2.8   4.8   1.4        1   6.0   2.9   4.5   1.5 
3   6.7   3.0   5.0   1.7        1   6.0   2.9   4.5   1.5 
4   NaN   NaN   NaN   NaN        2   5.6   2.8   4.9   2.0 
5   NaN   NaN   NaN   NaN        2   7.7   2.8   6.7   2.0 
6   NaN   NaN   NaN   NaN        2   6.3   2.7   4.9   1.8 
7   NaN   NaN   NaN   NaN        2   6.7   3.3   5.7   2.1