網路爬蟲用代理
爬蟲會在短時間內對同一個網站送出大量請求。HiProxy 無限流量方案會讓每個請求從不同的家用網路 IP 發出,不論量多少都按天計費。
為什麼單一伺服器 IP 會被封鎖?
大多數網站在某個位址的請求超過一定數量後,就會放慢回應或封鎖。從一台伺服器送出數千個請求的爬蟲,很快就會超過這條線。
透過連線位址,請求會分散到許多來自家用網路的 IP(住宅 IP)。總量不變,但每個 IP 送出的量和一般訪客差不多。
一天多少錢?價格由什麼決定?
最小級距(200 個連線、100 Mbps)在 Day 方案為 $4.75。Week(7 天)為每天 $4.47,Month(30 天)為 $4.04,Quarter(90 天)為 $3.61,期間越長費率越低。
不計算傳輸位元組。圖片很多的頁面和很小的 API 回應,都包含在同樣的每日價格內。只有期間、連線數與頻寬會影響費用。
如何選擇連線數?
計算爬蟲同一時間保持開啟的請求數。150 個 worker 執行緒時,200 個連線的級距就適合,還能保留重試的空間。
如果同時執行多個爬蟲,請把執行緒數加總。超過 200 時,500 個連線的級距(200 Mbps,每天 $7.77)比較適合。購買下一個方案時可以更換級距。
可以收集什麼?
常見的目標是任何人不需登入即可開啟的頁面:商品列表、新聞文章、公開的商家名錄。開始前請閱讀網站條款與您所在地的法律。
用於以外洩帳密登入、垃圾訊息、DDoS 或連線政府網站的帳號,HiProxy 會予以停權。拉開請求間隔可以讓目標網站正常運作,您的爬蟲也能執行得更久。
為網路爬蟲連線 HiProxy
1
只需使用者名稱與密碼即可註冊,再於付款視窗中用加密貨幣儲值至少 $30。
2
在無限流量住宅代理中選擇 Day、Week、Month 或 Quarter,並選擇連線級距。
3
在代理使用者名稱加上 -zone-unl,資料因國家而不同時,再加上 -cc-us 之類的國家。
4
將爬蟲指向 gate.hiproxy.shop 的連接埠 6100(HTTP)或 6200(SOCKS5),每個請求都會換 IP。
常見問題
IP 什麼時候會改變?
使用者名稱中沒有 -sid 選項時,每個請求都會從新的住宅 IP 發出。
可以在登入後的幾個頁面保持同一個 IP 嗎?
可以。加上 -sid- 與任意工作階段名稱。相同名稱的請求會共用一個 IP。用 -ttl- 設定保持時間,最長 60 分鐘。
無限流量真的不限流量嗎?
不計算流量。只有開啟的連線數與速度依您選擇的級距而定。
我的方案顯示開通中。
在網路開通前會短暫顯示此狀態。如果訂單無法開通,會被取消,全部金額退回您的餘額。