文章詳情頁
python - pyspider 定時爬取問題
瀏覽：139日期：2022-07-14 10:37:31
問題描述
在寫爬蟲的時候，發現 在代碼中設置了 every 之后，21號爬取了一次之后，今天看 result 沒有更新，那個 lastcrawltime 依舊是 21號的。請問是不是我的參數設置的不正確？
問題解答
回答1：你貼的這個 task 的圖，是什么任務的？
貼的是 detail_page 的任務的
題主給 index_page 設置了小于 cronjob 間隔的時間。然而沒有給 detail_page 設置。這樣 detail_page 是不會被重新調度的
project 隊列狀態，最近活動任務是怎樣的？
回答2：有可能是 every 和 age 不匹配。如果 age 沒問題的話，說實話這屬于疑難雜癥了，我也經常遇到，我都是去 taskdb 把相應的表清空，然后重啟 pyspider 重新運行項目
相關文章：
1. 點擊頁面就自動輸入到mysql.求解2. java - IDEA從SVN檢出項目 并在tomcat上運行 求詳細流程3. node.js - nodejs使用formidable上傳文件問題4. javascript - windos下第一次用Django無法正確創建工程目錄5. node.js - 帶有node_modules目錄的項目，用phpstorm打開速度極慢，怎么解決？6. java - 多叉樹求值，程序高手，算法高手看過來7. javascript - JS用ajax爬取百度外賣店家信息8. android - 安卓做前端，PHP做后臺服務器 有什么需要注意的？9. html5 - 有人做過防微信app界面的H5 demo嗎？10. css - 請問B站頂部的模糊半透明導航條是怎么實現的呢？
排行榜
網公網安備