python--学习笔记6 pandas
Series的字符串表現形式為:索引在左邊,值在右邊。
可以通過Series的values和index屬性獲得其數組表現形式和索引對象。
與普通Numpy數組相比,可以通過索引的方式選取Series中的單個或一組值。
?
DataFrame 是一個表格型的數據結構,它含有一組有序的列,每列可以是不同的值類型。它既有行索引也有列索引。
構建DataFrame的方法很多,最常用的是直接傳入一個由等長列表或者numpy數組組成的字典,并且會自動加上索引列。也可以指定列順序。
data = {'state':['Ohio','Ohio','Ohio','Nevada','Nevada'],'year':[2000,2001,2002,2001,2002],'pop':[1.5,1.7,3.6,2.4,2.9]} frame = DataFrame(data) DataFrame(data,cloums=['year','state','pop'])注:通過索引方式返回的列只是相應數據的視圖而已,因此,對返回的series所做的任何修改都會反映到源DataFrame上。通過Series的copy方法即可顯式地復制列。
reindex
創建一個適應新索引的新對象,即會根據新索引進行重排,如果某個索引值當前不存在,就引入缺失值。
| 參數 | 說明 |
| ffill或pad | 前向填充 |
| bfill或backfill | 后向填充 |
?
pandas對象擁有一組常用的數學和統計方法。它們大部分都屬于約簡和匯總統計,用于從Series中提取單個值或從DataFrame的行或列中提取一個Series。跟對應的Numpy數組方法相比,它們都是基于沒有缺失數據的假設而構建的。
.describe 一次性產生多個匯總統計.
利用DataFrame的corrwith方法,可以計算其列和行與另一個列或者行之間的相關系數。
?
唯一值
obj = Series(['c','a','d','a','a','b','b','c','c']) uniques=obj.unique() uniques輸出 array([c,a,d,b], dtype=object)
返回的唯一值是未排序的,如果需要的話,可以對結果再次排序( uniques.sort() )。
value_counts用于計算一個Series中各值出現的頻率。是一個頂級pandas方法,可以用于任何數組或序列。
?
Pandas對象上的所有描述和統計都排除了缺失數據,即浮點值NaN和None。
1. dropna 過濾缺失數據。對于一個Series,dropna返回一個僅含有非空數據和索引值的Series。?data.dropna()
2. 使用布爾型索引? data[data.notnull()]
而對于DataFrame對象,事情有些復雜,dropna默認丟棄任何含有缺失值的行。而加上 data.dropna(how='all')將只丟棄全為NA的行。丟棄列的話只需傳入axis=1
另一個濾除DataFrame行的問題涉及時間序列數據,如果只想留下一部分觀測數據,可以使用thresh參數實現。
?
填充缺失數據
fillna(0)可以將缺失值替換成常數值,0可以換。如果是通過一個字典調用的fillna,則可實現對不同列填充不同的值。df.fillna({1: 0.5, 3: -1}) 給第二列空值賦 0.5,第4列賦-1。 也可以傳入series的平均值,中位值,向下向上填充等等。
?
層次化索引
在數據重塑和基于分組的操作中很重要。在一個軸上擁有多個索引。
?
pandas 自動類型轉化 TextParser類。
1 from pandas.io.parsers import TextParser 2 3 def parse_option_data(tabl): 4 rows = table.findall('.//tr') 5 header = _unpack(rows[0], kind='th') 6 data = [_unpack(r) for r in rows[1:]] 7 return TextParser(data, names = header).get_chunk()?
?
離散化和面元(bin)劃分
要實現該功能,需要使用pandas的cut函數:
1 ages = [20,22,25,27,21,23,37,31,61,45,41,32] 2 bins = [18,25,35,69,100] 3 cats=pd.cut(ages,bins) 4 pd.value_counts(cats) 5 6 output:(18, 25] 5 7 (35, 69] 4 8 (25, 35] 3 9 (69, 100] 0 10 dtype: int64如果向cut傳入的是面元的數量而不是確切的面元邊界,則它會根據數據的最小值和最大值計算等長面元。下面的例子將一些均勻分布的數據分為四組:
1 data=np.random.rand(20) 2 pd.cut(data,4,precision=2)--精確兩位小數qcut是類似于cut的函數,根據樣本分位數進行面元劃分,可以保證每個面元中含有相同數量的數據點。
這兩個離散化函數對于分量和分組分析非常重要。
?
異常值,也叫孤立點或者離群值,它的過濾或者變換很大程度上其實是數組運算。下面看一個含有正態分布數據的DataFrame:
1 np.random.seed(12345) 2 data=DataFrame(np.random.randn(1000,4)) 3 data.describe()?
轉載于:https://www.cnblogs.com/yzhnm/p/10253195.html
總結
以上是生活随笔為你收集整理的python--学习笔记6 pandas的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: hdu4565之矩阵快速幂
- 下一篇: IBM SOA[ESB,BPM,Port