python BeautifulSoup 爬虫运行出现 exited with code -1073741571
首先,exited with code -1073741571意思是棧溢出。具體可以看https://blog.csdn.net/vblittleboy/article/details/6613815
它的前一個錯誤是程序遞歸深度過深。
但我沒有在函數里用遞歸?
python認為你進入一個函數就進入更深一層的遞歸。
import sys#出現遞歸深度太深的問題? sys.setrecursionlimit(100000000)#把遞歸深度設深點。可以解決,
但又出現棧溢出。在隔行輸出調試法下我發現是<class 'bs4.element.Tag'>類型強制轉換str處退出的程序。也就是說,它導致了棧溢出。
soup = BeautifulSoup(html, 'html.parser') pbiaoqian = soup.find('p') print(str(pbiaoqian))#有問題?在這個錯誤之前,有一個問題,就是一個htm頁面有很多<p>標簽,但BeautifulSoup只要找一個就全在里面了。
之前用
for pbiaoqian in soup.find_all('p'):#prind(pbiaoqian.get_text())#調用方法#print(str(pbiaoqian))#或者直接轉換打印print(pbiaoqian)#這樣也能顯示它輸出的結果是find到的第一個<p>標簽,從頭輸出到尾。第二個輸出,find到的第二個<p>標簽開始,到尾。......最后一個<p>標簽。
言歸正傳。
我推測,棧溢出是因為調用強制類型轉換程序次數過多導致的,或者pbiaoqian里內容過多類型轉換處理不了。
那么,解決方法就是:
1.報什么錯從哪里解決。
但windows修改??臻g大小要在編譯器里修改,因為它是由編譯器自動管理的。但F:\PyCharm Community Edition 2018.2.4\bin\pycharm.exe.vmoptions里盡是看不懂的參數,前2個好像還是系統給編譯器分配的內存設置。
File->settings瞎點了半天,也沒有找到Stack有關的單詞。
2.讓str的強制類型轉換能一次轉更多。
如果能像設置遞歸深度一樣設置??臻g大小就好了,
threading.stack_size(200000000)不過用起來好像沒什么效果,還是老樣子。
3.或者讓BeautifulSoup一次不find那么多,或者把find到的拆分成許多塊。
str拆分還能百度到方法,BeautifulSoup文檔里給它4個變量的介紹少得可憐,也沒有百度到。
思考一天未果。
也許你有同樣困擾,也許你能給我答案,可以在下面評論。
轉載于:https://www.cnblogs.com/Zf451452043/p/10129943.html
創作挑戰賽新人創作獎勵來咯,堅持創作打卡瓜分現金大獎總結
以上是生活随笔為你收集整理的python BeautifulSoup 爬虫运行出现 exited with code -1073741571的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 网易云音乐下载|网易云音乐电脑版下载
- 下一篇: 【工作周报】2019年7月 前端开发工作