js逆向 签名参数解析 驾考数据科目一科目三题库爬虫分享 python scrapy
注:本篇意在學(xué)習(xí),如有侵權(quán),請聯(lián)系刪除
之前有用selenium抓取科目一試題,但是只能抓到題干和試題答案,抓不到試題分析還有答題技巧,因?yàn)榻涌谥杏幸粋€叫做? ?_r? ? ?的簽名參數(shù)是加密過的,扣JS又太麻煩, 今天比較閑就想著來試試
環(huán)境:
windows10? ? ? ? ?
python?
scrapy
mysql
廢話不多說
?首先分析數(shù)據(jù)接口url的參數(shù)
https://api2.jiakaobaodian.com/api/open/question/question-list.htm?_r=115588757061507390094&questionIds=888800%2C893400%2C888600%2C895800%2C890700%2C1162800%2C876400%2C880000%2C879800%2C875700? (注此鏈接點(diǎn)擊一次即失效,因?yàn)槊總€_r只能用一次)
questionIds這個很明顯后面是跟的題目的id中間有逗號用urlencode轉(zhuǎn)碼即可? ? 不轉(zhuǎn)也行 首先說一下題目id從哪來,下面這個url
https://api2.jiakaobaodian.com/api/open/exercise/sequence.htm?_r=115154426246160380075&carType=car&cityCode=110000&course=kemu3
course參數(shù)后面跟的值就是kemu幾,此處是科目三,cityCode這個參數(shù)后面是跟的城市代碼,有一些城市的題目數(shù)量是不同的,但是全國的話題目數(shù)量是最多的,110000就是全國的城市代碼,這里可以看到這個接口里也是有_r 這個簽名存在的,那么接下來就進(jìn)入正題
首先可以看到在network中 想要的數(shù)據(jù)是XHR類型的,想找到參數(shù)_r是怎么來的, 第一步先在
這個位置給所有的XHR數(shù)據(jù)傳輸打上斷點(diǎn),
然后咱們手動點(diǎn)擊下一題,一般點(diǎn)擊25下,就會有數(shù)據(jù)傳輸,因?yàn)樗看问?5個題目數(shù)據(jù)一起傳出來的
首先看到是在這停的,可以看到這個時候_r 已經(jīng)有值了,那么我搜索e.paramString 看看他的_r是在哪傳過來的,
然后搜索到了這里,可以看到這個時候_r還是沒有值的,哪就在這下了個斷點(diǎn),
接著來,就調(diào)到了這里
斷點(diǎn)是我后來加的,此時請忽略,看下張圖
這個時候我發(fā)現(xiàn),s(1)他的值,就是我要找的_r? 接下來測試下
把他帶入到url試一下,果然是它,知道是那個函數(shù)了,哪就扣它。然后就像上面那張圖,下了那么多斷點(diǎn),n += parseInt(o[a]);? ? 在這個地方 發(fā)現(xiàn)他會循環(huán)好多次調(diào)到下圖
會調(diào)到這里來,接下來就好起來了,
看這兩張圖能看到 _r=? t+o+n ,
那么把這個還有return s(1)那個粘到同一個js中,來用python來試一下
把這個值帶入url一試,果然,就是它就是它,接下來就創(chuàng)建scrapy 項(xiàng)目,直接調(diào)用s()函數(shù)就ok了,_r簽名已經(jīng)ok了,接下來就是抓取數(shù)據(jù)了。給大家看下結(jié)果
結(jié)果這里說下哈,圖片存base64或者 字節(jié)流的話,打開表速度會慢一些,所以分貝把科目一科目三的圖片和動圖(動圖是mp4格式)下載到了本地,,這里給圖片存了一個網(wǎng)絡(luò)地址字段,一個本地地址字段,這篇講的是小汽車的數(shù)據(jù),其他車型的,原理也是一樣的。
數(shù)據(jù)+源碼 :??數(shù)據(jù)+源碼 點(diǎn)這里
總結(jié)
以上是生活随笔為你收集整理的js逆向 签名参数解析 驾考数据科目一科目三题库爬虫分享 python scrapy的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 第三章 同步 Windows程序设计 王
- 下一篇: 光纤通信 波长 光谱展宽 脉冲宽度