实用干货秘籍!最经典的10个Pandas数据查询案例,收藏!
超級無敵干貨,第一時間送達!!!
大家好,我是菜鳥哥。
Pandas的query函數為我們提供了一種編寫查詢過濾條件更簡單的方法,特別是在的查詢條件很多的時候,在本文中整理了10個示例,掌握著10個實例你就可以輕松的使用query函數來解決任何查詢的問題。
首先,將數據集導入Pandas
import?pandas?as?pd df?=?pd.read_csv("Dummy_Sales_Data_v1.csv") df.head()output
它是一個簡單的9999 x 12數據集,是使用Faker創建的,我在最后也會提供本文的所有源代碼。
在開始之前,先快速回顧一下Pandas中的查詢函數query。查詢函數用于根據指定的表達式提取記錄,并返回一個新的DataFrame。表達式是用字符串形式表示的條件或條件的組合。
PANDAS中的DATAFRAME(.loc和.iloc)屬性用于根據行和列標簽和索引提取數據集的子集。因此,它并不具備查詢的靈活性。而括號符號[]可以靈活地基于條件過濾數據幀,但是如果條件很多的話編寫代碼是繁瑣且容易出錯的。
Pandas的query()函數可以靈活地根據一個或多個條件提取子集,這些條件被寫成表達式并且不需要考慮括號的嵌套。
在后端Pandas使用eval()函數對該表達式進行解析和求值,并返回表達式被求值為TRUE的數據子集或記錄。所以要過濾Pandas中的DataFrame,需要做的就是在查詢函數中指定條件即可。
使用單一條件進行過濾
在單個條件下進行過濾時,在Query()函數中表達式僅包含一個條件。返回的輸出將包含該表達式評估為真的所有行。
示例1
提取數量為95的所有行,因此邏輯形式中的條件可以寫為
Quantity?==?95需要將條件寫成字符串,即將其包裝在雙引號“”中。query函數的代碼如下
df.query("Quantity?==?95")output
看起來很簡單。它返回了數量為95的所有行。如果用一般查詢的方式可以寫成:
df?[df?[“Quantity”]?==?95]但是,如果想在同一列中再包含一個條件怎么辦?
它在括號符號中又增加了一對方括號,如果是3個條件或者更多條件呢?那么他就變得難以管理。這就是query函數的優勢了。
在多個條件過濾
一個或多個條件下過濾,query()的語法都保持不變
但是需要指定兩個或多個條件進行過濾的方式
and:回在滿足兩個條件的所有記錄
or:返回滿足任意條件的所有記錄
示例2
查詢數量為95&單位價格為182 ,這里包含單價的列被稱為UnitPrice(USD),因此,條件是
Quantity?==?95 UnitPrice(USD)?==?182那么代碼就是:
df.query("Quantity?==?95?and?UnitPrice(USD)?==?182")這個查詢會報錯:
但是為什么報錯?
這是因為query()函數對列名有一些限制。列名稱UnitPrice(USD)是無效的。我們要使用反引號把列名包含起來。
df.query("Quantity?==?95?and?`UnitPrice(USD)`?==?182")output
當兩個條件滿足時,只有3個記錄。
或者我們直接將列名改成合理的格式:
df.rename(columns={'UnitPrice(USD)':'UnitPrice','Shipping_Cost(USD)':'Shipping_Cost','Delivery_Time(Days)':'Delivery_Time'},inplace=True)這里就不需要使用反引號了:
df.query("Quantity?==?95?and?UnitPrice?==?182")示例3
我們現在只需要滿足一個條件:
df.query("Quantity?==?95?or?UnitPrice?==?182")output
它返回滿足兩個條件中的任意一個條件的所有列。
我們也可以使用|替代or關鍵字。
示例4
假設想獲得數量不等于95的所有行。最簡單的答案是在條件之前使用not關鍵字或否定操作符?
df.query("not(Quantity?==?95)")output
結果它包含數量不是95的所有行。
其實這里的條件不一定必須是相等運算符,可以從==,!=,>,<,≥,≤中選擇,例如:
df.query("Quantity?!=?95")文本過濾
對于文本列過濾時,條件是列名與字符串進行比較。
請query()表達式已經是字符串。那么如何在另一個字符串中寫一個字符串?將文本值包裝在單個引號“”中,就可以了。
示例5
想獲得即狀態“未發貨”所有記錄,可以在query()表達式中寫成如下的形式:
df.query("Status?==?'Not?Shipped'")output
它返回所有記錄,其中狀態列包含值-“未發貨”。
與數值的類似可以在同一列或不同列上使用多個條件,并且可以是數值和非數值列上條件的組合。
除此以外,?Pandas中的query()方法還可以在查詢表達式中使用數學計算。
查詢中的簡單數學計算
數學操作可以是列中的加,減,乘,除,甚至是列中值或者平方等,如下所示:
示例6
df.query("Shipping_Cost*2?<?50")雖然這個二次方的操作沒有任何的實際意義,但是我們的示例返回了所有達到要求的行。
我們還可以在一個或多個列上包含一些復雜的計算。
示例7
我們隨便寫一個比較復雜的公式:
df.query("Quantity**2?+?Shipping_Cost**2?<?500")output
如果使用最原始的[]的形式,這個公式的查詢基本上沒法完成,但是使用query()函數則變為簡單的多。
除了數學操作,還在查詢表達式中使用內置函數。
查詢中的內置函數
Python內置函數,例如sort(),abs(),factorial(),exp()等,也可以在查詢表達式中使用。
示例8
查找單位價格平方根的超過15的行:
df.query("sqrt(UnitPrice)?>?15")output
query()函數還可以在同一查詢表達式將函數和數學運算整合使用
示例9
df.query("sqrt(UnitPrice)?<?Shipping_Cost/2")output
到目前為止,所有查詢示例都是關于數值和文本列的。但是,query()的還不僅限于這些數據類型,對于日期時間值query()函數也可以非常靈活的過濾。
日期時間列過濾
使用query()函數在日期時間值上進行查詢的唯一要求是,包含這些值的列應為數據類型dateTime64 [ns]
在示例數據中,OrderDate列是日期時間,但是我們的df其解析為字符串,所以我們需要先進行轉換:
df["OrderDate"]?=?pd.to_datetime(df["OrderDate"],?format="%Y-%m-%d")為了提取有關日期的有用信息并在query()需要使用dt提取器,dt是一種訪問對象,用于提取日期時間,例如DateTime系列的屬性。
示例10
獲得八月份的所有記錄
df.query("OrderDate.dt.month?==?8")output
所有記錄都是八月份的。OrderDate.dt.month顯示了如何使用dt訪問者僅提取整個日期值的月份值。
如果提取2021年8月訂購日為15或以上的所有訂單,可以寫成這樣
df.query("OrderDate.dt.month?==?8?and?OrderDate.dt.year?==?2021?and?OrderDate.dt.day?>=15")output
dt很好用并且可以在同一列上結合了多個條件,但表達式似乎太長了。所以可以通過編寫更非常簡單的表達式來過濾:
df.query("OrderDate?>=?'2021-08-15'?and?OrderDate?<=?'2021-08-31'")我們直接傳遞一個符合日期格式的字符串,它會自動的轉換并且比較:
將上面的所有內容整合:
df.query("OrderDate?>=?'2021-08-15'?and?OrderDate?<=?'2021-08-31'?and?Status?= =?'Delivered'")output
查詢表達式包含了日期時間和文本列條件,它返回了符合查詢表達式的所有記錄
替換
上面的查詢中都會生成一個新的df。這是因為:query()的第二個參數(inplace)默認false。
與一般的Pandas提供的函數一樣,inplace的默認值都是false,查詢不會修改原始數據集。如果我們想覆蓋原始df時,需要將inplace=true。但是一定要小心使用inplace=true,因為它會覆蓋原始的數據。
總結
我希望在閱讀本文后,您可以更頻繁,流利地使用Pandas中的query()函數,因為它可以方便以過濾數據集。這些查詢的函數我每天都會或多或少的使用。
本文的所有示例代碼在這里:
https://github.com/17rsuraj/data-curious/blob/master/TowardsDataScience/pandas_query_deep_dive.ipynb
推薦閱讀: 入門:?最全的零基礎學Python的問題? |?零基礎學了8個月的Python??|?實戰項目?|學Python就是這條捷徑 干貨:爬取豆瓣短評,電影《后來的我們》?|?38年NBA最佳球員分析?|? ?從萬眾期待到口碑撲街!唐探3令人失望? |?笑看新倚天屠龍記?|?燈謎答題王?|用Python做個海量小姐姐素描圖?|碟中諜這么火,我用機器學習做個迷你推薦系統電影 趣味:彈球游戲? |?九宮格? |?漂亮的花?|?兩百行Python《天天酷跑》游戲! AI:?會做詩的機器人?|?給圖片上色?|?預測收入?|?碟中諜這么火,我用機器學習做個迷你推薦系統電影 小工具:?Pdf轉Word,輕松搞定表格和水印!?|?一鍵把html網頁保存為pdf!|??再見PDF提取收費!?|?用90行代碼打造最強PDF轉換器,word、PPT、excel、markdown、html一鍵轉換?|?制作一款釘釘低價機票提示器!?|60行代碼做了一個語音壁紙切換器天天看小姐姐!|年度爆款文案
1).臥槽!Pdf轉Word用Python輕松搞定!
2).學Python真香!我用100行代碼做了個網站,幫人PS旅行圖片,賺個雞腿吃
3).首播過億,火爆全網,我分析了《乘風破浪的姐姐》,發現了這些秘密?
4).80行代碼!用Python做一個哆來A夢分身?
5).你必須掌握的20個python代碼,短小精悍,用處無窮?
6).30個Python奇淫技巧集?
7).我總結的80頁《菜鳥學Python精選干貨.pdf》,都是干貨?
8).再見Python!我要學Go了!2500字深度分析!
9).發現一個舔狗福利!這個Python爬蟲神器太爽了,自動下載妹子圖片
點閱讀原文,看B站我的視頻!
總結
以上是生活随笔為你收集整理的实用干货秘籍!最经典的10个Pandas数据查询案例,收藏!的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 前端学习(2175):认识路由文件的懒加
- 下一篇: 2021 年百度之星·程序设计大赛 -