如何再python代碼中使用HTTP代理IP。
以下代碼主要圍繞第一次接觸HTTP代理IP的python新手來寫。(步驟注釋清晰)
直接把下面示例代碼中的HTTP代理API,替換成你后臺生成的代理API鏈接,就可以跑起來了。
以下是一個示例代碼,只是一個基礎(chǔ)的演示,具體的代碼還是要根據(jù)你業(yè)務(wù)的實(shí)際情況去寫的。
示例代碼中的HTTP代理IP,我使用的是華益云的HTTP代理,注冊就白嫖1萬個高匿爬蟲IP,有效期是一年,對于調(diào)試代碼來說這個時間是非常的友好。(步驟注釋清晰)
華益云-企業(yè)級HTTP爬蟲代理IP供應(yīng)商-點(diǎn)我免費(fèi)領(lǐng)取示例代碼demo中同款10000個高匿IP
打開代理API,獲取里面的IP,使用IP訪問目標(biāo)網(wǎng)站,其實(shí)代碼中就是執(zhí)行這個過程而已,然后加了幾個錯誤判斷有助于代碼的穩(wěn)定運(yùn)行。
# 此版本無需安裝依賴
import urllib
import urllib.request
import urllib
def main():
# 發(fā)送給服務(wù)器的標(biāo)識
userAgent = "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/532.36 (KHTML, like Gecko) Chrome/97.0.4692.99 Safari/537.36"
# 代理api(這里我推薦使用www.9vps.com華益云的HTTP代理API,注冊就白嫖1萬IP)
proxyUrl = "http://http.9vps.com/getip.asp?username=166xxxx6597&pwd=xxxxbaa59ce237dff65134984b9cxxxx&geshi=1&fenge=1&fengefu=&Contenttype=1&getnum=20&setcity=&operate=all&";
# 請求代理url,獲取代理ip
outPutProxy = getProxy(proxyUrl, userAgent)
if len(outPutProxy)==0:
# 沒有獲取到代理
return
# 目標(biāo)請求網(wǎng)站
# https://httpbin.org/get
url = "https://www.qq.com/"
content = None
for _ in range(0, 3):
# 最多嘗試三次
try:
# 從列表中取出一個代理出來
proxy = outPutProxy.pop(0)
px = {
"http": proxy,
"https": proxy
}
content = requestGet(url, userAgent, px)
break
except Exception as e:
print(e)
if (len(outPutProxy) == 0):
# 如果發(fā)現(xiàn)沒有代理了,就去獲取下。
outPutProxy = getProxy(proxyUrl, userAgent)
print(content)
def getProxy(proxyUrl, userAgent):
proxyIps=""
outPutProxy = []
try:
proxyIps = requestGet(proxyUrl, userAgent, None)
print("(proxyIps)", proxyIps)
# {"code":3002,"data":[],"msg":"error!用戶名或密碼錯誤","success":false}
if "{" in proxyIps:
raise Exception("[錯誤]"+proxyIps)
outPutProxy = proxyIps.splitlines()
except Exception as e:
print(e)
print("總共獲取了"+str(len(outPutProxy))+"個代理")
return outPutProxy
def requestGet(url, userAgent, proxy):
headers = {
"User-Agent": userAgent
}
# httpproxy_handler = urllib.ProxyHandler({"http" : " 180.104.192.217:22036"})
response = None
if (proxy):
proxyHandler = urllib.request.ProxyHandler(proxy)
opener = urllib.request.build_opener(proxyHandler, urllib.request.HTTPHandler)
urllib.request.install_opener(opener)
request = urllib.request.Request(url, headers=headers)
response = urllib.request.urlopen(request, timeout=5)
else:
# 沒有代理走這個
request = urllib.request.Request(url, headers=headers)
response = urllib.request.urlopen(request, timeout=5)
#response = opener.open(request)
html = response.read()
# # 設(shè)置編碼,防止亂碼
# 手動設(shè)置網(wǎng)頁字符編碼方式
return html.decode("utf-8", "ignore")
main()
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報(bào)投訴
-
HTTP
+關(guān)注
關(guān)注
0文章
538瀏覽量
35540 -
python
+關(guān)注
關(guān)注
58文章
4882瀏覽量
90285
發(fā)布評論請先 登錄
相關(guān)推薦
熱點(diǎn)推薦
使用Python/MyHDL創(chuàng)建自定義FPGA IP
使用 Python/MyHDL 創(chuàng)建自定義 FPGA IP,與 Vivado 集成,并通過 PYNQ 進(jìn)行控制——實(shí)現(xiàn)軟件上的簡單硬件設(shè)計(jì)。
如何在 S32 配置工具中添加 ADC 并在 Simulink 中使用?
對于 S32K3,如何在 S32 配置工具中添加 ADC 并在 Simulink 中使用?
發(fā)表于 04-07 07:09
[VirtualLab] 使用Python運(yùn)行VirtualLab Fusion光學(xué)仿真
摘要
VirtualLab Fusion允許Python外部訪問其建模技術(shù)、求解器和結(jié)果。這個用例介紹了一種使用路徑變量和Visual Studio代碼將Python連接到VirtualLab
發(fā)表于 03-31 09:39
如何在 VisionFive 上使用 Python 包?
VisionFive Fedora 下的本地目錄,請?jiān)谠?b class='flag-5'>代碼目錄下執(zhí)行以下命令:
提示:源代碼可從以下位置下載:愿景五.gpio.
sudo yum install python
發(fā)表于 03-30 08:28
【創(chuàng)芯工坊】PowerWriter 0048 如何在其他IDE中使用PowerWriter的Debugger(燒錄器常見使用問題)
【創(chuàng)芯工坊】PowerWriter 0048 如何在其他IDE中使用PowerWriter的Debugger(燒錄器常見使用問題)
發(fā)表于 03-26 10:38
如何在 S32 DS 中使用 BMS GEN2 SDK?
do not support the BJB MC33777.
如何在 S32 DS 中使用 BMS GEN2 SDK?
發(fā)表于 03-23 08:16
如何在 Vision Five 2 上安裝 python 庫?
這可能是一個完全愚蠢的問題,但我如何在 Vision Five 2 上安裝 python 庫。
使用該命令后,它給了我這個錯誤。
默認(rèn)為用戶安裝,因?yàn)槠胀ㄕ军c(diǎn)包不可寫
錯誤:找不到滿足要求
發(fā)表于 03-06 07:51
Termux中調(diào)試圣誕樹Python代碼
在Termux中調(diào)試Python代碼(以圣誕樹立例)非常簡單,核心分為環(huán)境準(zhǔn)備、代碼編寫、運(yùn)行調(diào)試三個步驟,下面一步步教你操作:
一、環(huán)境準(zhǔn)備(首次使用需做)
Termux默認(rèn)可能沒有Pyth
發(fā)表于 12-09 09:02
如何在AMD Vitis Unified IDE中使用系統(tǒng)設(shè)備樹
您將在這篇博客中了解系統(tǒng)設(shè)備樹 (SDT) 以及如何在 AMD Vitis Unified IDE 中使用 SDT 維護(hù)來自 XSA 的硬件元數(shù)據(jù)。本文還講述了如何對 SDT 進(jìn)行操作,以便在 Vitis Unified IDE 中實(shí)現(xiàn)更靈活的使用場景。
反向代理新玩法?ZeroNews黑科技解讀。
如果你是一名開發(fā)者或運(yùn)維,對“反向代理”一定不會陌生。 Nginx、Caddy、Traefik……這些耳熟能詳?shù)墓ぞ撸俏覀兊牡昧χ帧?但它們都有一個前提: 你需要一臺擁有公網(wǎng)IP的服務(wù)器。 今天
Python調(diào)用API教程
兩個不同系統(tǒng)之間的信息交互。在這篇文章中,我們將詳細(xì)介紹Python調(diào)用API的方法和技巧。 一、用Requests庫發(fā)送HTTP請求 使用Python調(diào)用API的第一步是發(fā)送HTTP
外殼防護(hù)等級(IP代碼)全解讀
什么是外殼防護(hù)等級(IP代碼)IP代碼,全稱為“國際防護(hù)等級”,是由國際電工委員會制定的全球通用標(biāo)準(zhǔn)。這一標(biāo)準(zhǔn)旨在為電子設(shè)備外殼的防護(hù)能力提供一個清晰、統(tǒng)一的評判體系。簡單來說,
小白也能輕松上手!一招解決IP被封殺難題
—— fir-proxy 。這款開源高可用代理池能在多個IP中智能自動輪換新IP,大幅降低手動操作時間,讓你專注于攻擊策略,提升演練得分效率。(該項(xiàng)目一個星期的時間就已經(jīng)有三位數(shù)的star,可見質(zhì)量之高。) 文件下載后,項(xiàng)目需由
請問如何在 Keil μVision 或 IAR EWARM 中使用觀察點(diǎn)進(jìn)行調(diào)試?
如何在 Keil μVision 或 IAR EWARM 中使用觀察點(diǎn)進(jìn)行調(diào)試?
發(fā)表于 08-20 06:29
海外住宅IP代理優(yōu)勢綜合分析
海外住宅IP代理憑借其獨(dú)特的資源特性與技術(shù)架構(gòu),在跨境電商、數(shù)據(jù)采集、廣告投放等場景中展現(xiàn)出顯著優(yōu)勢。以下從核心功能、技術(shù)保障、合規(guī)性及適用場景等維度進(jìn)行詳細(xì)分析: 一、隱匿性與安全性提升 真實(shí)IP
如何在python代碼中使用HTTP代理IP
評論