python 爬虫代码_python之路(一)_爬虫—爬一下网页代码输出到文件
生活随笔
收集整理的這篇文章主要介紹了
python 爬虫代码_python之路(一)_爬虫—爬一下网页代码输出到文件
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
在上次公眾號中講到要用python進行開發,所以又拾起來了python。這不,從爬蟲進行入門熟悉一下。爬蟲是個啥呢?簡單說:就是你想高效地從網上獲取一些信息,而不用鼠標點點點。官方解釋:網絡爬蟲(又稱為網頁蜘蛛,網絡機器人,在FOAF社區中間,更經常的稱為網頁追逐者),是一種按照一定的規則,自動地抓取萬維網信息的程序或者腳本。(來自百度百科)。URL這個東西就不過多介紹了,如果你開始學習爬蟲,還不知道URL,那感覺有點急火攻心了。直接進入正題上代碼(基于python3.6),簡單爬取一下百度貼吧某個帖子的內容第一步:根據url獲取源代碼import urllibfrom urllib import requestdef load_page(url): req = urllib.request.Request(url) res = urllib.request.urlopen(req) html = res.read().decode('utf-8') return html第二步:把獲取到的源代碼輸出到文件def?write_file(file_name,?text): f = open(file_name, 'w+', encoding='UTF-8') f.write(text) f.close()第三步:根據指定頁數進行爬取if __name__ == '__main__': baseurl = 'https://tieba.baidu.com/f?kw=lol&ie=utf-8&pn=' begin_page = int(input('please input start page:')) end_page = int(input('please input end page:')) for i in range(begin_page, end_page): pn = 50 * (i - 1) html = load_page(baseurl + str(pn)) file_name = str(i) + '.html' write_file(file_name, html)執行測試,輸出結果
總結
以上是生活随笔為你收集整理的python 爬虫代码_python之路(一)_爬虫—爬一下网页代码输出到文件的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 访问页面要看什么数据包_股市看盘,我们要
- 下一篇: 快手极速版百宝箱怎么打开