windows中使用scrapyd遇到的问题
1.window下‘scrapyd_deploy’不是內(nèi)部或外部命令,也不是可運(yùn)行的程序
在windows上使用scrapyd-client
安裝后,并不能使用相應(yīng)的命令'scrapyd-deploy'?
需要在"C:\Python27\Scripts" 目錄下 增加scrapyd-deploy.bat文件
內(nèi)容填充為:
@echo off"C:\python27\python.exe" "C:\python27\Scripts\scrapyd-deploy" %1 %2 %3 %4 %5 %6 %7 %8 %92.在項(xiàng)目部署時(shí),出現(xiàn)“environment can only contain strings”的錯(cuò)誤,根據(jù)錯(cuò)誤找原因,在scrapyd源碼中有一個(gè)utils.py文件,打開這個(gè)文件?
在126行和130行進(jìn)行一點(diǎn)改動(dòng)?
3. 執(zhí)行scrapyd服務(wù)上指定項(xiàng)目的指定爬蟲
curl http://[ip]:6800/schedule.json -d project=[項(xiàng)目名]-d spider=[爬蟲名]
爬蟲執(zhí)行成功后,終端會(huì)給出該爬蟲的 jobid 值,表示該爬蟲,后面停止爬蟲需要提供jobid
4. 停止scrapyd服務(wù)上的指定項(xiàng)目的指定爬蟲(通過jobid指定)
curl http://[ip]:6800/cancel.json -d project=[項(xiàng)目名] -d job=之前的jobid值
停止后如果代碼需要修改,記得重新部署再執(zhí)行。
?
轉(zhuǎn)載于:https://www.cnblogs.com/litao2011/p/9551118.html
總結(jié)
以上是生活随笔為你收集整理的windows中使用scrapyd遇到的问题的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: python数据结构与算法之问题求解
- 下一篇: 福大软工1816 · 第一次作业 - 准