如何读取超大文本文件
生活随笔
收集整理的這篇文章主要介紹了
如何读取超大文本文件
小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
要使用超大的文本文件進行業(yè)務(wù)處理,有近10M大小,超過17萬行,?1.如何才能讀取超過17萬行的文本文件,2.如何把它每2000個分成1個小文本文件
| 看來所謂的行,就是記錄。 數(shù)組的上限似乎可以大于17萬。 可不一定全部讀入,打開文件后,按記錄要求只讀入游泳的,就簡單多了。 還可以考慮,使用ado技術(shù),把文本文件作為數(shù)據(jù)庫處理。 分割文件,在我看來是“得不償失”的做法。 |
| 1、用普通文件讀取,讀一句對比一句,或者是讀取到需要的值(也就是查找),再來對比,不用全部加載到內(nèi)存中(即是用變量讀出來); 2、讀入到數(shù)據(jù)庫中,再進行相應(yīng)的處理。建議用ADODC和Datagrid控件,不推薦用MSFlexgrid和MSHFlexgrid控件,Datagrid控件只會加載當前記錄以及前后少量記錄,需要的時候才會動態(tài)讀取,就算你有100萬行對內(nèi)存也影響不大。 樓主最好稍微詳細點說明一下數(shù)據(jù)的組成及如何對比(處理),可能更易找到解決之道。 |
?
| 可以償試當數(shù)據(jù)庫來讀,數(shù)據(jù)庫引擎不會一次將所有記錄在入內(nèi)存,而是根據(jù)需要來進行磁盤交換: ????Dim?cn?As?ADODB.Connection,?rs?As?ADODB.Recordset ????Set?cn?=?New?ADODB.Connection ???? ????'打開連接,只要指定文本文件所在目錄 ????cn.Open?"Provider=Microsoft.Jet.OLEDB.4.0;"?_ ????????&?"Data?Source=c:/txttest/;"?_ ????????&?"Extended?Properties=?""text;HDR=No;FMT=Delimited?""" ???????? ????'打開記錄集 ????Set?rs?=?New?ADODB.Recordset ????rs.CursorLocation?=?adUseClient????????'這個必須是客戶端游標,不然AbsolutePosition屬性不可用 ????rs.Open?"SELECT?*?FROM?[t.txt]",?cn????'指定文本文件名稱 ????'定位到第20000行 ????rs.AbsolutePosition?=?20000 ????Debug.Print?rs.Fields(0) ???? ????rs.Close ????Set?rs?=?Nothing ????cn.Close ????Set?cn?=?Nothing 如果用rs.movenext來循環(huán)讀取數(shù)據(jù),這樣你可以很簡單的將文件分隔成20000行的小文件。用這種方法可以注釋掉rs.CursorLocation?=?adUseClient,這樣默認是服務(wù)器端游標,性能應(yīng)該會更好點。 |
?
總結(jié)
以上是生活随笔為你收集整理的如何读取超大文本文件的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 今天下午接到阔总编的电话
- 下一篇: 如何应对计算机考研