pandas输出到excel_python读写excel等数据文件方法汇总
python處理數據文件第一步是要讀取數據,文件類型主要包括文本文件(csv、txt等)、excel文件、數據庫文件、api等。
下面整理下python有哪些方式可以讀取數據文件。
1. python內置方法(read、readline、readlines)
- read(): 一次性讀取整個文件內容。推薦使用read(size)方法,size越大運行時間越長
- readline() :每次讀取一行內容。內存不夠時使用,一般不太用
- readlines() :一次性讀取整個文件內容,并按行返回到list,方便我們遍歷
具體用法可見: 一文搞懂python文件讀寫
2. 內置模塊(csv)
python內置了csv模塊用于讀寫csv文件,csv是一種逗號分隔符文件,是數據科學中最常見的數據存儲格式之一。 csv模塊能輕松完成各種體量數據的讀寫操作,當然大數據量需要代碼層面的優化。
- csv模塊讀取文件
- csv模塊寫入文件
3. 使用numpy庫(loadtxt、load、fromfile)
- loadtxt方法
loadtxt用來讀取文本文件(包含txt、csv等)以及.gz 或.bz2格式壓縮文件,前提是文件數據每一行必須要有數量相同的值。
import numpy as np # loadtxt()中的dtype參數默認設置為float # 這里設置為str字符串便于顯示 np.loadtxt('test.csv',dtype=str) # out:array(['1,2,3', '4,5,6', '7,8,9'], dtype='<U5')- load方法
load用來讀取numpy專用的.npy, .npz 或者pickled持久化文件。
import numpy as np # 先生成npy文件 np.save('test.npy', np.array([[1, 2, 3], [4, 5, 6]])) # 使用load加載npy文件 np.load('test.npy') ''' out:array([[1, 2, 3],[4, 5, 6]]) '''- fromfile方法
fromfile方法可以讀取簡單的文本數據或二進制數據,數據來源于tofile方法保存的二進制數據。讀取數據時需要用戶指定元素類型,并對數組的形狀進行適當的修改。
import numpy as np x = np.arange(9).reshape(3,3) x.tofile('test.bin') np.fromfile('test.bin',dtype=np.int) # out:array([0, 1, 2, 3, 4, 5, 6, 7, 8])4. 使用pandas庫(read_csv、read_excel等)
pandas是數據處理最常用的分析庫之一,可以讀取各種各樣格式的數據文件,一般輸出dataframe格式。 如:txt、csv、excel、json、剪切板、數據庫、html、hdf、parquet、pickled文件、sas、stata等等
- read_csv方法
read_csv方法用來讀取csv格式文件,輸出dataframe格式。
- read_excel方法
讀取excel文件,包括xlsx、xls、xlsm格式
- read_table方法
通過對sep參數(分隔符)的控制來對任何文本文件讀取 - read_json方法
讀取json格式文件
- read_html方法
讀取html表格 - read_clipboard方法
讀取剪切板內容 - read_pickle方法
讀取plckled持久化文件 - read_sql方法
讀取數據庫數據,連接好數據庫后,傳入sql語句即可 - read_dhf方法
讀取hdf5文件,適合大文件讀取 - read_parquet方法
讀取parquet文件 - read_sas方法
讀取sas文件 - read_stata方法
讀取stata文件 - read_gbq方法
讀取google bigquery數據
pandas學習網站: https://pandas.pydata.org/
5、讀寫excel文件(xlrd、xlwt、openpyxl等)
python用于讀寫excel文件的庫有很多,除了前面提到的pandas,還有xlrd、xlwt、openpyxl、xlwings等等。
主要模塊:
- xlrd庫: 從excel中讀取數據,支持xls、xlsx
- xlwt庫: 對excel進行修改操作,不支持對xlsx格式的修改
- xlutils庫: 在xlw和xlrd中,對一個已存在的文件進行修改
- openpyxl: 主要針對xlsx格式的excel進行讀取和編輯
- xlwings: 對xlsx、xls、xlsm格式文件進行讀寫、格式修改等操作
- xlsxwriter: 用來生成excel表格,插入數據、插入圖標等表格操作,不支持讀取
- Microsoft Excel API: 需安裝pywin32,直接與Excel進程通信,可以做任何在Excel里可以做的事情,但比較慢
6. 操作數據庫(pymysql、cx_Oracle等)
python幾乎支持對所有數據庫的交互,連接數據庫后,可以使用sql語句進行增刪改查。
主要模塊:
- pymysql: 用于和mysql數據庫的交互
- sqlalchemy: 用于和mysql數據庫的交互
- cx_Oracle: 用于和oracle數據庫的交互
- sqlite3: 內置庫,用于和sqlite數據庫的交互
- pymssql: 用于和sql server數據庫的交互
- pymongo: 用于和mongodb非關系型數據庫的交互
- redis、pyredis: 用于和redis非關系型數據庫的交互
使用參考地址: https://blog.csdn.net/a87b01c14/article/details/51546727
關于如何使用python連接mysql: pymysql操作實例
總結
以上是生活随笔為你收集整理的pandas输出到excel_python读写excel等数据文件方法汇总的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 又一位高管走人!苹果服务业务副总裁本月底
- 下一篇: 惊了!支付宝“集五福”超4万人集齐 快扫