Python爬虫编程思想(114):项目实战--使用Splash Lua抓取京东搜索结果
生活随笔
收集整理的這篇文章主要介紹了
Python爬虫编程思想(114):项目实战--使用Splash Lua抓取京东搜索结果
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
本文會利用Splash Lua腳本在京東商城上搜索商品,然后抓取搜索出的商品名稱,以及將每一頁搜索結果的截圖保存為PNG格式的文件。
本例的核心是使用select_all方法通過CSS選擇器得到搜索頁面搜索出的每一個商品對應的a節點,然后獲取a節點的title屬性值。本例采用了Python與Lua結合的方式,也就是通過Python產生多個URL,然后用Lua腳本抓取每一個URL對應頁面中的數據。
下面的代碼使用Python語言和Lua腳本在京東商城上以Python關鍵字進行搜索圖書,并將返回找到的圖書的標題,以及每一個搜索頁面的截圖。本例只抓取前6頁的數據。
import requests from urllib.parse import quote lua = '''function main(splash,args)-- 請求指定頁面splash:go("https://search.jd.com/Search?keyword=python&page="..args.page)splash:wait(1)-- 查找所有符合條件的a節點li_list = splash:select_all('#J_goodsList > ul > li > div > div > a'總結
以上是生活随笔為你收集整理的Python爬虫编程思想(114):项目实战--使用Splash Lua抓取京东搜索结果的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: R大多年前的一篇老PPT,找不到原文了
- 下一篇: 总务-来访人员登记系统进行到一半的笔记