久久r热视频,国产午夜精品一区二区三区视频,亚洲精品自拍偷拍,欧美日韩精品二区

您的位置:首頁技術文章
文章詳情頁

python - 2億++的網址,怎樣快速確認網頁狀態碼?

瀏覽:130日期:2022-07-10 11:36:21

問題描述

用requests寫了個多線程,感覺有點慢,還有其他方法么?

問題解答

回答1:

使用 Tornado 的 curl 客戶端支持,讀到請求頭就關閉連接。(我還沒試過。如果它提供的 HTTP 客戶端不支持中途關閉連接的話,可以像我這樣使用 TCP 然后用 http-parser 來解析。)

好吧,其實你可以直接給 fetchtitle 加個取狀態碼的擴展就可以了……(記得裝 pycurl 哦)

回答2:

python本來就慢,想速度快就直接寫tcp請求然后讀回復,讀到狀態后就關掉socket。

回答3:

使用grequests,對requests進行了并發封裝

https://github.com/kennethrei...

回答4:

這種情況可以考慮使用gevent,tornado,scrapy-redis,asyncio!

回答5:

用Head請求能快一點吧?

標簽: Python 編程
主站蜘蛛池模板: 苗栗市| 原阳县| 玛多县| 峨边| 贵溪市| 十堰市| 上饶县| 万盛区| 会同县| 尚义县| 开阳县| 老河口市| 遵义县| 张北县| 古浪县| 当阳市| 特克斯县| 湟源县| 威海市| 梁河县| 兰溪市| 天峨县| 怀来县| 张家港市| 大关县| 台北县| 湖州市| 三穗县| 江城| 秦皇岛市| 怀远县| 林甸县| 巴彦县| 沛县| 岫岩| 德阳市| 海南省| 孙吴县| 天津市| 金沙县| 桐乡市|