java htmlparser 使用教程_HTMLParser使用详解(1)
在研究搜索引擎的開發中,對于HTML網頁的處理是核心的一個環節。網上有很多開源的代碼,對于Java來說,HTMLParser是比較著名并且得到廣泛應用的一個。HTMLParser的主頁是http://htmlparser.sourceforge.net/,最后的更新是2006年9月的1.6版。不過沒關系,HTML的內容已經很久沒有大的變化了,HTMLParser處理起來基本沒有任何問題。HTMLParser具有小巧,快速的優點,缺點是相關文檔比較少(英文的也少),很多功能需要自己摸索。對于初學者還是要費一些功夫的,而一旦上手以后,會發現HTMLParser的結構設計很巧妙,非常實用,基本你的各種需求都可以滿足。
這里我根據自己這幾個月來的經驗,寫了一點入門的東西,希望能對新學習HTMLParser的朋友們有所幫助。(不過當年高考本人語文只比及格高一分,所以文法方面的問題還希望大家多多擔待)
HTMLParser的核心模塊是org.htmlparser.Parser類,這個類實際完成了對于HTML頁面的分析工作。這個類有下面幾個構造函數:
public Parser ();
public Parser (Lexer lexer, ParserFeedback fb);
public Parser (URLConnection connection, ParserFeedback fb) throws ParserException;
public Parser (String resource, ParserFeedback feedback) throws ParserException;
public Parser (String resource) throws ParserException;
public Parser (Lexer lexer);
public Parser (URLConnection connection) throws ParserException;
和一個靜態類 public static Parser createParser (String html, String charset);
對于大多數使用者來說,使用最多的是通過一個URLConnection或者一個保存有網頁內容的字符串來初始化Parser,或者使用靜態函數來生成一個Parser對象。ParserFeedback的代碼很簡單,是針對調試和跟蹤分析過程的,一般不需要改變。而使用Lexer則是一個相對比較高級的話題,放到以后再討論吧。
這里比較有趣的一點是,如果需要設置頁面的編碼方式的話,不使用Lexer就只有靜態函數一個方法了。對于大多數中文頁面來說,好像這是應該用得比較多的一個方法。
下面是初始化Parser的例子。/**
* @author www.baizeju.com
*/
package com.baizeju.htmlparsertester;
import java.io.BufferedReader;
import java.io.InputStreamReader;
import java.io.FileInputStream;
import java.io.File;
import java.net.HttpURLConnection;
import java.net.URL;
import org.htmlparser.visitors.TextExtractingVisitor;
import org.htmlparser.Parser;
/**
* @author www.baizeju.com
*/
public class Main {
private static String ENCODE = "GBK";
private static void message( String szMsg ) {
try{ System.out.println(new String(szMsg.getBytes(ENCODE), System.getProperty("file.encoding"))); } catch(Exception e ){}
}
public static String openFile( String szFileName ) {
try {
BufferedReader bis = new BufferedReader(new InputStreamReader(new FileInputStream( new File(szFileName)), ENCODE) );
String szContent="";
String szTemp;
while ( (szTemp = bis.readLine()) != null) {
szContent+=szTemp+"/n";
}
bis.close();
return szContent;
}
catch( Exception e ) {
return "";
}
}
public static void main(String[] args) {
String szContent = openFile( "E:/My Sites/HTMLParserTester.html");
try{
//Parser parser = Parser.createParser(szContent, ENCODE);
//Parser parser = new Parser( szContent );
Parser parser = new Parser( (HttpURLConnection) (new URL("http://127.0.0.1:8080/HTMLParserTester.html")).openConnection() );
TextExtractingVisitor visitor = new TextExtractingVisitor();
parser.visitAllNodesWith(visitor);
String textInPage = visitor.getExtractedText();
message(textInPage);
}
catch( Exception e ) {
}
}
}
加重的部分測試了幾種不同的初始化方法,后面的顯示了結果。大家看到能Parser出內容就可以了,如何操作訪問Parser的內容我們在后面討論。
以上就是HTMLParser使用詳解(1)的內容,更多相關內容請關注PHP中文網(www.php.cn)!
本文原創發布php中文網,轉載請注明出處,感謝您的尊重!
總結
以上是生活随笔為你收集整理的java htmlparser 使用教程_HTMLParser使用详解(1)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: linux下如何bash文件,Linux
- 下一篇: 通信与计算机技术的联系,通信技术与计算机