文章詳情頁
python - 基于scrapy-redis的分布式爬蟲運行的時候不能正常運行 遇到的問題如下截圖所示
瀏覽：140日期：2022-08-03 11:20:00
問題描述
爬蟲運行時一直是這樣的每一分鐘出現(xiàn)一條這樣的信息，無限循環(huán)。不能爬取下來數(shù)據(jù)
這是redis服務端的顯示
這樣是什么問題，望有高手可以為我解惑，謝謝。
問題解答
回答1：使用scrapy_redis，你要去投放url讓spider去爬取，你投放了嗎？比如
redis-cli lpush myspider:start_urls http://google.com
上一條：python3.x - python中的虛擬環(huán)境怎樣設置一直處于激活狀態(tài)下一條：python - scrapy-redis爬蟲運行是連接redis數(shù)據(jù)庫連接錯誤
相關文章：
1. 如何使用git對word文檔進行版本控制？2. android - react-native 的headless.js Java API 的代碼怎么使用？3. mac連接阿里云docker集群，已經卡了2天了，求問？4. javascript - 你們怎樣實現(xiàn)前端分頁的？5. docker 下面創(chuàng)建的IMAGE 他們的 ID 一樣？這個是怎么回事？？？？6. javascript - Express 和 request 如何代理遠程圖片？7. pycharm運行python3.6突然出現(xiàn)R6034問題，請問如何處理？8. javascript - 原生canvas中如何獲取到觸摸事件的canvas內坐標?9. javascript - 關于fullpage.js 自動高度失效的問題10. python - Django內使用filter過濾時間，只認年份不認月份是怎么回事？
排行榜
熱門標簽
網公網安備