久久r热视频,国产午夜精品一区二区三区视频,亚洲精品自拍偷拍,欧美日韩精品二区

您的位置:首頁技術(shù)文章
文章詳情頁

網(wǎng)頁爬蟲 - Java爬蟲已獲取圖片鏈接但是無法下載圖片

瀏覽:136日期:2023-12-10 14:58:56

問題描述

利用爬蟲在html中獲取的相應(yīng)圖片資源src的代碼是這樣的

網(wǎng)頁爬蟲 - Java爬蟲已獲取圖片鏈接但是無法下載圖片

但是再通過代碼將資源轉(zhuǎn)成鏈接的形式下載圖片的時(shí)候,就報(bào)了400的錯(cuò)誤

網(wǎng)頁爬蟲 - Java爬蟲已獲取圖片鏈接但是無法下載圖片

然而,我使用chrome去測試鏈接是否存在是,發(fā)現(xiàn),真正對(duì)方網(wǎng)站服務(wù)器能夠識(shí)別的是

網(wǎng)頁爬蟲 - Java爬蟲已獲取圖片鏈接但是無法下載圖片

也就是說我通過網(wǎng)頁獲得圖片資源的鏈接是http://www.neofactory.co.jp/i... 2.jpg然而,正常能夠獲取圖片的鏈接是http://www.neofactory.co.jp/i...

請(qǐng)各位大神指導(dǎo)之后應(yīng)該怎么辦,我在網(wǎng)上查了好多資料,還是沒有解決辦法。ps:奇怪的是我用Firefox的話,上面的那個(gè)鏈接也能得到圖片,我就百思不得其解了。

代碼:

public class Image {

private String urlNeo='';public String getUrlNeo() { return urlNeo;}public void setUrlNeo(String urlNeo) { this.urlNeo = urlNeo;}public String getHtml() throws Exception{ ArrayList<String> list=new ArrayList<String>();String line=''; String Html=''; URL url=new URL(urlNeo); URLConnection connection=url.openConnection(); InputStream in=connection.getInputStream(); InputStreamReader isr=new InputStreamReader(in); BufferedReader br=new BufferedReader(isr); while((line=br.readLine())!=null){Html+=line;list.add(line); } br.close(); isr.close(); in.close(); return Html;}public String getImgSrc() throws Exception{ String html=getHtml(); String IMGURL_REG_xpath='//p[1]/p[2]/p[2]/p/node()'; String imginfomation=''; JXDocument jxDocument = new JXDocument(html); imginfomation=(jxDocument.sel(IMGURL_REG_xpath).toString()).substring(1,jxDocument.sel(IMGURL_REG_xpath).toString().length() - 1); return imginfomation;}public List<String> getImgXpath() throws Exception{ String str=''; String IMGSRC_REG = 'img.product.w.*.jpg'; List<String> list1=new ArrayList<String>(); List<String> list2=new ArrayList<String>(); String listimg = getImgSrc(); Matcher matcher = Pattern.compile(IMGSRC_REG).matcher(listimg); while (matcher.find()) {list1.add(matcher.group()); } for(int i=1;i<=(list1.size()/2);i++){int j=i*2;list2.add(list1.get(j-1)); } return list2;}public void download(String admin_no) throws Exception{ List<String> list=new ArrayList<String>(); list=getImgXpath(); for(String img:list){System.out.println(img);String url='http://www.neofactory.co.jp/'+img;URL uri=new URL(url);URLConnection con=uri.openConnection();con.setConnectTimeout(5000);InputStream in=con.getInputStream();byte[] buf=new byte[1024];int length=0; File sf=new File('D:item_neo_photo'+admin_no);if(!sf.exists()){ sf.mkdirs();}String[] a=img.split('/');OutputStream os=new FileOutputStream(sf.getPath()+''+a[a.length-1]);while((length=in.read(buf))!=-1){ os.write(buf, 0, length);}os.close();in.close(); }}

}

問題解答

回答1:

直接把域名+獲取的img src屬性拼起來不行么

回答2:

url編碼下

標(biāo)簽: java
相關(guān)文章:
主站蜘蛛池模板: 秦皇岛市| 沭阳县| 定边县| 仙居县| 江津市| 攀枝花市| 潮安县| 嘉鱼县| 孝昌县| 建昌县| 裕民县| 玛多县| 肥城市| 武邑县| 婺源县| 巴马| 尤溪县| 博客| 凌源市| 湘阴县| 大姚县| 忻州市| 莱西市| 凤凰县| 茂名市| 中牟县| 高唐县| 南乐县| 莱西市| 江阴市| 辽中县| 涿鹿县| 乐平市| 杭锦旗| 文昌市| 桐梓县| 台湾省| 北票市| 佛山市| 沈阳市| 凭祥市|