久久r热视频,国产午夜精品一区二区三区视频,亚洲精品自拍偷拍,欧美日韩精品二区

您的位置:首頁技術文章
文章詳情頁

python + selenium + chromedriver 如何實現無界面爬取

瀏覽:140日期:2022-07-14 16:59:35

問題描述

在使用selenium爬取12306的過程中,發現使用phantomjs無法爬取,使用chromedriver就可以,應該是phantomjs被網站檢測出來后封禁了,使用chromedriver又會顯示界面,爬取效率低?,F在有兩點疑問,google了好久都沒找到有效的解決方法1.如何偽裝phantomjs,盡最大可能的偽裝2.如何設置chromedriver,使其不顯示界面,或者還有什么其他方法提高爬取效率

感謝!??!

問題解答

回答1:

通過PyVirtualDisplay可以實現你的需求,大概代碼就是這樣:

#!/usr/bin/env pythonfrom pyvirtualdisplay import Displayfrom selenium import webdriverdisplay = Display(visible=0, size=(800, 600))display.start()# now Firefox will run in a virtual display. # you will not see the browser.browser = webdriver.Chrome()browser.get(’http://www.baidu.com’)print browser.titlebrowser.quit()display.stop()

不知道你修改過phantomjs的頭信息沒有,可以通過

from selenium import webdriveroptions = webdriver.ChromeOptions()options.add_argument(’lang=zh_CN.UTF-8’)options.add_argument(’user-agent='Mozilla/5.0 (iPod; U; CPU iPhone OS 2_1 like Mac OS X; ja-jp) AppleWebKit/525.18.1 (KHTML, like Gecko) Version/3.1.1 Mobile/5F137 Safari/525.20'’)browser = webdriver.Chrome(chrome_options=options)url = 'https://baidu.com'browser.get(url)browser.quit()

這種方式修改phantomjs的頭部信息,這個也可以試試

回答2:

可以參考鄙人的文章在headless模式下運行selenium

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 互助| 贵定县| 喜德县| 盐池县| 沛县| 武川县| 长海县| 扶风县| 新邵县| 高平市| 富民县| 松溪县| 天祝| 宜兴市| 望城县| 汾西县| 东乡县| 江安县| 榆树市| 镇赉县| 安庆市| 宜阳县| 巫山县| 团风县| 桐梓县| 类乌齐县| 大宁县| 九龙城区| 玛沁县| 且末县| 庆阳市| 阿坝县| 崇仁县| 体育| 息烽县| 瑞昌市| 滦平县| 临澧县| 天镇县| 华宁县| 肥乡县|