文章詳情頁
python - Scrapy的spider在IDE中方便運行調試
瀏覽:94日期:2022-06-27 11:03:29
問題描述
我有很多spider,不能每次調試都手動創建一個debugger吧(scrapy crawl spider_name)
想可以在spider文件中直接右鍵運行/調試。
問題解答
回答1:參考文章:Scrapy爬蟲常見問題總結
spider方便運行/調試在spider文件中,加入cmdline的調用方法
import scrapy.cmdline#Your Spider Class...def main(): scrapy.cmdline.execute([’scrapy’, ’crawl’, ’your_spider_name’])if __name__ == ’__main__’: main()回答2:
新建一個py文件,用這個來調試
from scrapy.cmdline import executeimport sysimport ossys.path.append(os.path.dirname(os.path.abspath(__file__)))execute(['scrapy','crawl','YOUR_SPIDER'])
相關文章:
1. mysql - ubuntu開啟3306端口失敗,有什么辦法可以解決?2. initPage:是什么意思? 是返回的意思嗎?3. java - NamedParameterJdbcTemplate 性能測試4. javascript - h5頁面中特殊字符在某些安卓手機上亂碼(__??_-?? -----> __?-??)5. 這是什么情況???6. javascript - 這是什么插件能把能把cli里面的webpack打包信息格式化?7. typeof是啥意思8. java - android 有沒有離線版的sdk文檔 不用聯網就可以本地查找的,提高查閱文檔的速度?9. Python的os.listdir在獲取文件列表時的順序問題10. java - 如何讓maven優先使用用戶setting.xml的配置?
排行榜
