python做一个爬虫要用到什么软件_python实现简单爬虫功能
在我們?nèi)粘I暇W(wǎng)瀏覽網(wǎng)頁的時(shí)候,經(jīng)常會(huì)看到一些好看的圖片,我們就希望把這些
圖片保存下載,或者用戶用來做桌面壁紙,或者用來做設(shè)計(jì)的素材。
我們最常規(guī)的做法就是通過鼠標(biāo)右鍵,選擇另存為。但有些圖片鼠標(biāo)右鍵的時(shí)
候并沒有另存為選項(xiàng),還有辦法就通過就是通過截圖工具截取下來,但這樣就降低
圖片的清晰度。好吧~!其實(shí)你很厲害的,右鍵查看頁面源代碼。
我們可以通過
python
來實(shí)現(xiàn)這樣一個(gè)簡(jiǎn)單的爬蟲功能,把我們想要的代碼爬
取到本地。下面就看看如何使用
python
來實(shí)現(xiàn)這樣一個(gè)功能。
一,獲取整個(gè)頁面數(shù)據(jù)
首先我們可以先獲取要下載圖片的整個(gè)頁面信息。
getjpg.py
#coding=utf-8
import
urllib
def
getHtml(url):
page?=?urllib.urlopen(url)
html?=?page.read()
return
html
html?=?getHtml(
"http://tieba.baidu.com/p/2738151262"
)
html
Urllib
模塊提供了讀取
web
頁面數(shù)據(jù)的接口,我們可以像讀取本地文件一樣讀
取
www
和
ftp
上的數(shù)據(jù)。首先,我們定義了一個(gè)
getHtml()
函數(shù)
:
urllib.urlopen()
方法用于打開一個(gè)
URL
地址。
read()
方法用于讀取
URL
上的數(shù)據(jù),向
getHtml()
函數(shù)傳遞一個(gè)網(wǎng)址,并把整
個(gè)頁面下載下來。執(zhí)行程序就會(huì)把整個(gè)網(wǎng)頁打印輸出。
二,篩選頁面中想要的數(shù)據(jù)
Python
提供了非常強(qiáng)大的正則表達(dá)式,我們需要先要了解一點(diǎn)
python
正則表
達(dá)式的知識(shí)才行。
http://www.cnblogs.com/fnng/archive/2013/05/20/3089816.html
假如我們百度貼吧找到了幾張漂亮的壁紙,通過到前段查看工具。找到了圖片的地
址,如:
src=”http://imgsrc.baidu.com/forum......jpg”
pic_ext=”jpeg”
修改代碼如下:
import
re
import
urllib
def
getHtml(url):
總結(jié)
以上是生活随笔為你收集整理的python做一个爬虫要用到什么软件_python实现简单爬虫功能的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Gradle实战:发布aar包到mave
- 下一篇: vs2010的sdf文件和ipch文件夹