欧美成a人片在线观看久,久久久久亚洲av无码专区桃色,久久久婷婷五月亚洲97号色,久久亚洲中文字幕精品一区,另类av

用戶代理IP的作用

發(fā)布時間:2020-07-09 關(guān)注熱度:°C

  看到網(wǎng)上關(guān)于爬蟲的教程,有一個詞會出現(xiàn)得非常頻繁,不知道大家有沒有留意到,那就是ip代理池。今天IP海就要來給大家介紹ip代理池有什么用。

用戶ip代理池的作用

  什么是用戶ip代理池?

  用戶代理池就是將不同的用戶代理組建成為一個池子,隨后隨機調(diào)用。

  作用:每次訪問代表使用的瀏覽器不一樣

  import urllib.request

  import re

  import random

  uapools=[

  'Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:68.0) Gecko/20100101 Firefox/68.0',

  'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/57.0.2987.98 Safari/537.36 LBBROWSER',

  'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/535.1 (KHTML, like Gecko) Chrome/14.0.835.163 Safari/535.1',

  'Mozilla/5.0 (Windows; U; Windows NT 6.1; ) AppleWebKit/534.12 (KHTML, like Gecko) Maxthon/3.0 Safari/534.12',

  ]

  def ua(uapools):

  thisua=random.choice(uapools)

  print(thisua)

  headers=("User-Agent",thisua)

  opener=urllib.request.build_opener()

  opener.addheaders=[headers]

  urllib.request.install_opener(opener)

  for i in range(10):

  ua(uapools)

  thisurl="https://www.qiushibaike.com/text/page/"+str(i+1)+"/";

  data=urllib.request.urlopen(thisurl).read().decode("utf-8","ignore")

  pat='<div class="content">.*?<span>(.*?)</span>.*?</div>'

  res=re.compile(pat,re.S).findall(data)

  for j in range(len(res)):

  print(res[j])

  print('---------------------')

  簡單的來說,ip代理池就是將可用的ip代理集中在一起,讓它們配置在我們爬蟲的程序當(dāng)中,當(dāng)一個IP失效之后,馬上又另外一個IP接著使用。

 

版權(quán)聲明:本文為IP海(iphai.cn)原創(chuàng)作品,未經(jīng)許可,禁止轉(zhuǎn)載!

Copyright © www.wibm.ac.cn. All Rights Reserved. IP海 版權(quán)所有.
IP海僅提供中國內(nèi)IP加速服務(wù),無法跨境聯(lián)網(wǎng),用戶應(yīng)遵守《服務(wù)條款》內(nèi)容,嚴禁用戶使用IP海從事任何違法犯罪行為。
ICP備案鄂ICP備19030659號-3 公安備案鄂公網(wǎng)安備42100302000141號 計算機軟件著作權(quán)證計算機軟件著作權(quán)證 ICP/EDI許可證ICP/EDI許可證:鄂B2-20200106

微信掃一掃咨詢