文章詳情頁(yè)
python - pyspider 定時(shí)爬取問(wèn)題
瀏覽:224日期:2022-07-14 10:37:31
問(wèn)題描述



在寫爬蟲(chóng)的時(shí)候,發(fā)現(xiàn) 在代碼中設(shè)置了 every 之后,21號(hào)爬取了一次之后,今天看 result 沒(méi)有更新,那個(gè) lastcrawltime 依舊是 21號(hào)的。請(qǐng)問(wèn)是不是我的參數(shù)設(shè)置的不正確?




問(wèn)題解答
回答1:你貼的這個(gè) task 的圖,是什么任務(wù)的?
貼的是 detail_page 的任務(wù)的
題主給 index_page 設(shè)置了小于 cronjob 間隔的時(shí)間。然而沒(méi)有給 detail_page 設(shè)置。這樣 detail_page 是不會(huì)被重新調(diào)度的
project 隊(duì)列狀態(tài),最近活動(dòng)任務(wù)是怎樣的?
回答2:有可能是 every 和 age 不匹配。如果 age 沒(méi)問(wèn)題的話,說(shuō)實(shí)話這屬于疑難雜癥了,我也經(jīng)常遇到,我都是去 taskdb 把相應(yīng)的表清空,然后重啟 pyspider 重新運(yùn)行項(xiàng)目
相關(guān)文章:
1. mac里的docker如何命令行開(kāi)啟呢?2. 關(guān)docker hub上有些鏡像的tag被標(biāo)記““This image has vulnerabilities””3. docker - 各位電腦上有多少個(gè)容器啊?容器一多,自己都搞混了,咋辦呢?4. 關(guān)于docker下的nginx壓力測(cè)試5. docker容器呢SSH為什么連不通呢?6. nignx - docker內(nèi)nginx 80端口被占用7. 如何解決Centos下Docker服務(wù)啟動(dòng)無(wú)響應(yīng),且輸入docker命令無(wú)響應(yīng)?8. docker 下面創(chuàng)建的IMAGE 他們的 ID 一樣?這個(gè)是怎么回事????9. angular.js使用$resource服務(wù)把數(shù)據(jù)存入mongodb的問(wèn)題。10. docker start -a dockername 老是卡住,什么情況?
排行榜

熱門標(biāo)簽
網(wǎng)公網(wǎng)安備