久久r热视频,国产午夜精品一区二区三区视频,亚洲精品自拍偷拍,欧美日韩精品二区

您的位置:首頁技術(shù)文章
文章詳情頁

Python爬蟲:Request Payload和Form Data的簡單區(qū)別說明

瀏覽:2日期:2022-07-26 17:49:47

Request Payload 和 Form Data 請求頭上的參數(shù)差別在于:

Content-TypeForm Data

Post表單請求

代碼示例

headers = { 'Content-Type': 'application/x-www-form-urlencoded'}requests.post(url, data=data, headers=headers)Request Payload

傳遞json數(shù)據(jù)

headers = { 'Content-Type': 'application/json'}requests.post(url, data=json.dumps(data), headers=headers)

Scrapy 的FormRequest只支持 Form Data 表單提交,源碼固定為前者

補充知識:如何傳遞Request PayLoad(請求負載)中的數(shù)據(jù)?

在做爬蟲的時候,在分析請求的過程,遇到參數(shù)長這樣的:

原理不太清楚,等搞明白再來補充。這里只記錄如何應用這些數(shù)據(jù)。

用法:

根據(jù)上面的圖片,由于是post請求,參數(shù)一般是以key-value的json字符串傳遞,或者將參數(shù)放入map傳遞。我們可以看到很多name,這個name就是key,下面的數(shù)據(jù)就是value,我們可以提取所有的key及value,組成一個json字符串或者map傳遞即可。

比如上面的數(shù)據(jù)可以提取如下:

{'view:id1:txtSearch':'','$$viewid':'!f9fpyhcv2t!','$$xspsubmitid':'view:_id1:_id2:pager1_Group_lnk_2','$$xspexecid':'view:_id1:_id2:parent','$$xspsubmitvalue':'','$$xspsubmitscroll':'0|0','view:_id1':'view:_id1'}

或者:

Map<String,String> m = new HashMap<String,String>(); m.put('view:id1:txtSearch', ''); m.put('$$viewid', '!f9fpyhcv2t!'); m.put('$$xspsubmitid', 'view:_id1:_id2:pager1_Group_lnk_2'); m.put('$$xspexecid', 'view:_id1:_id2:parent'); m.put('$$xspsubmitvalue', ''); m.put('$$xspsubmitscroll', '0|0'); m.put('view:_id1', 'view:_id1');

由于我是用Jsoup來發(fā)請求的,所以我這樣傳參數(shù)即可:

Jsoup.connect('').data(m).cookies(null).method(Method.POST);

或者:

Connection conn = Jsoup.connect('');String requestJson = '{'view:id1:txtSearch':'','$$viewid':'!f9fpyhcv2t!','$$xspsubmitid':'view:_id1:_id2:pager1_Group_lnk_2','$$xspexecid':'view:_id1:_id2:parent','$$xspsubmitvalue':'','$$xspsubmitscroll':'0|0','view:_id1':'view:_id1'}';conn.requestBody(requestJson);conn.cookies(null).method(Method.POST);conn.execute();

具體參數(shù)具體情況填啦。

是不是超簡單。

注意一點,請求負載中的value值不一定是固定值,若每次請求都會發(fā)生變化,那么就需要分析這個變化的值從哪里來,動態(tài)獲取這個值,然后發(fā)送請求才能正確。

以上這篇Python爬蟲:Request Payload和Form Data的簡單區(qū)別說明就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持好吧啦網(wǎng)。

標簽: Python 編程
相關(guān)文章:
主站蜘蛛池模板: 临汾市| 稷山县| 庄浪县| 阜阳市| 平果县| 电白县| 襄城县| 鄂托克旗| 东丽区| 金平| 乐昌市| 平遥县| 阿勒泰市| 左权县| 大厂| 凤台县| 民丰县| 德安县| 思茅市| 祁门县| 长乐市| 汉阴县| 成安县| 玉环县| 宁陵县| 安顺市| 苍溪县| 秦安县| 琼中| 曲周县| 城口县| 汕尾市| 叶城县| 延津县| 新郑市| 容城县| 都匀市| 祁门县| 沾益县| 芷江| 潼关县|