Sprache
Anmelden Registrieren

Mobile Proxies für Web Scraping in großem Maßstab

Ein Web-Scraping-Proxy leitet die HTTP-Anfragen Ihres Crawlers über eine zwischengeschaltete IP, sodass Zielseiten nicht jede Anfrage einer einzigen Adresse zuordnen und Sie rate-limitieren oder sperren können. Die Mobile Proxies von Proxy4G nutzen echte Carrier-IPs von 43 Carriern in 18 Ländern, die hinter CGNAT liegen und so den Trust-Score von Millionen echter Telefone teilen – weshalb sie Sperren überstehen, die Datacenter-IPs ausschalten.

Web Scraping in großem Maßstab scheitert aus einem Grund: Das Ziel erkennt Ihren Traffic als nicht-menschlich und sperrt die IP. Datacenter-IPs liegen in veröffentlichten ASN-Bereichen, die Anti-Bot-Systeme auf den ersten Blick markieren; ein 4G Mobile Proxy präsentiert eine Carrier-IP in Residential-Qualität, die von Hunderten oder Tausenden echter Abonnenten hinter CGNAT (RFC 6598) geteilt wird, sodass eine Sperre Kollateralschäden für legitime mobile Nutzer riskiert. Diese Asymmetrie ist der entscheidende Punkt – und deshalb erreicht der Pool von Proxy4G aus echten SIM-Karten bei AT&T, Verizon, Orange, Vodafone, Three und 38 weiteren Carriern auf jedem Tarif einen 100%-Trust-Score.

Warum schlagen Mobile-IPs Datacenter bei der Scraping-Erfolgsquote?

Anti-Bot-Plattformen bewerten jede eingehende IP. Der schnellste, günstigste Klassifikator ist die ASN-Reputation: Eine IP, die zu AWS, Hetzner, OVH oder einem beliebigen Hosting-Anbieter gehört, wird als automatisiert eingestuft und erhält ein CAPTCHA, einen 403 oder gefälschte Daten. Datacenter-Proxies scheitern hier, bevor Ihr Crawler auch nur einen einzigen Header sendet.

Mobile Carrier-IPs kehren die Rechnung um. Da CGNAT viele echte Telefone hinter jeder öffentlichen Adresse bündelt, kann eine Zielseite die IP nicht sperren, ohne auch zahlende Kunden dieses Carriers zu sperren – daher genießen Mobile-Bereiche den höchsten Standard-Trust. Proxy4G läuft auf echten Geräten mit physischen SIM-Karten, nicht auf emulierten oder über Datacenter gewaschenen Bereichen, sodass die IP, die Ihr Scraper präsentiert, nicht von einem Telefon zu unterscheiden ist, das über 4G/LTE/5G surft. In Kombination mit einer sauberen Anfragerate pro IP treibt das die Erfolgsquoten bei abgehärteten Zielen weit über das hinaus, was irgendein Datacenter-Pool erreicht.

Der Pool hinter Ihrem Crawler

43Echte Carrier
18Länder
100%IP-Trust-Score
3Protokolle (HTTP/HTTPS/SOCKS5)

Rotierend oder fest: welcher Modus für welchen Scrape?

Zwei Scraping-Muster benötigen zwei Rotationsstrategien, und Proxy4G deckt beide ab.

Rotierend (Crawling mit hohem Volumen). Wenn Sie Tausende unabhängiger Seiten abgreifen – Produktkataloge, Listings, Suchergebnisse – möchten Sie häufig eine frische IP, damit keine einzelne Adresse eine verdächtige Anzahl von Anfragen ansammelt. Der Shared-Tarif rotiert seine IP automatisch alle 5 Minuten; an einem dedizierten Port können Sie die automatische Rotation irgendwo zwischen 1 und 60 Minuten einstellen oder eine sofortige Rotation über das Dashboard oder einen Reset-Link auslösen.

Fest (sitzungsgebundenes Scraping). Manche Ziele verlangen, dass Sie über einen mehrstufigen Ablauf hinweg eine IP halten – Anmeldung, Paginierung hinter einem Sitzungs-Cookie oder das Scrapen kontogeschützter Daten. Hier behält ein dedizierter Proxy mit langem Rotationsintervall (oder nur manueller Rotation) dieselbe Carrier-IP für die gesamte Sitzung, sodass die Seite einen einzigen kohärenten Besucher sieht statt einer IP, die mitten im Ablauf springt. Siehe rotierende vs. dedizierte Proxies für den vollständigen Kompromiss.

Proxy-Typen für Scraping im Vergleich

Proxy-TypAnti-Bot-TrustAm besten für
4G/5G Mobile (Proxy4G)Am höchsten – Carrier-IP hinter CGNATAbgehärtete Ziele, Social, SERP, Konto-Abläufe
ResidentialHochAllgemeines Scraping, Geo-Inhalte
DatacenterNiedrig – per ASN markiertUngeschützte APIs, interne Tools
Kostenlose/öffentliche ProxiesKeiner – vorab gesperrt, unsicherNichts mit Produktionsreife

Siehe Mobile vs. Residential vs. Datacenter für die ausführlichere Aufschlüsselung.

Web Scraping mit Python (requests)

python
import requests

# Credentials are emailed within minutes of payment.
# Use HTTP/HTTPS or swap to socks5:// for SOCKS5.
proxies = {
    "http":  "http://USER:PASS@HOST:PORT",
    "https": "http://USER:PASS@HOST:PORT",
}

resp = requests.get(
    "https://example.com/listings",
    proxies=proxies,
    headers={"User-Agent": "Mozilla/5.0 (Linux; Android 14) AppleWebKit/537.36"},
    timeout=30,
)
print(resp.status_code, resp.headers.get("x-served-from"))

# Force a fresh carrier IP between batches (Dedicated reset link):
# requests.get("https://YOUR-RESET-LINK")

Scraping-Best-Practices, die die Erfolgsquoten hoch halten

  • Passen Sie die Rotation an die Aufgabe an – rotieren Sie pro Anfrage-Batch beim Crawling, halten Sie eine feste dedizierte IP für Sitzungs-/Anmelde-Abläufe.
  • Senden Sie einen realistischen mobilen User-Agent und einen vollständigen Header-Satz; eine Carrier-IP mit einem Python-Standard-UA sieht weiterhin automatisiert aus.
  • Drosseln Sie die Anfragerate pro IP und fügen Sie Jitter hinzu – eine saubere IP, die 50 Anfragen/Sekunde abfeuert, ist trotzdem offensichtlich.
  • Respektieren Sie die robots.txt und die Bedingungen jeder Seite; scrapen Sie öffentliche Daten und vermeiden Sie eingeloggtes Scraping, zu dem Sie nicht berechtigt sind.
  • Verwenden Sie Cookies/Sitzungen auf einer festen IP wieder, anstatt sich bei jeder Anfrage neu zu authentifizieren.
  • Setzen Sie die IP Ihres Servers auf die Whitelist oder nutzen Sie Benutzer/Passwort-Authentifizierung – beides wird unterstützt, keine Klartext-Zugangsdaten in geteilten Skripten.
  • Behandeln Sie 429/403 mit Backoff und einer IP-Rotation, anstatt sich durch eine Sperre zu hämmern.

Vom Scraping zu autonomen und SERP-Workloads

Web Scraping läuft selten allein. Wenn Ihr Crawler eine LLM-Pipeline speist oder unbeaufsichtigt läuft, treiben dieselben Carrier-IPs auch KI-Agenten und Automatisierung an – und autonome Agenten können sich über das x402-Protokoll sogar selbst finanzieren und Zugang kaufen, ohne dass ein Mensch im Spiel ist. Wenn Sie speziell Google-Ergebnisse abgreifen, erfordert SERP- und Rank-Tracking häufige Rotation und saubere Mobile-IPs, um die CAPTCHA-Wand zu umgehen, gegen die Datacenter-Scraper sofort laufen.

Jeder Tarif ist No-KYC – keine Ausweis-, Namens-, Telefon- oder E-Mail-Verifizierung, Konto wird bei der ersten Bestellung automatisch erstellt – und per Krypto bezahlt (BTC, ETH, SOL, USDT). Dedicated beginnt bei $27/mo, Shared bei $10.80/mo; die Zugangsdaten landen wenige Minuten nach der Zahlung in Ihrem Postfach. Durchstöbern Sie die Standorte oder springen Sie zu den Preisen für länderspezifische Tarife.

Häufige Fragen

Was ist der beste Proxy für Web Scraping?

Für Ziele mit Anti-Bot-Schutz – soziale Plattformen, Marktplätze, Suchmaschinen – liefern 4G/5G Mobile Proxies auf echten Carrier-IPs die höchste Erfolgsquote, da sie den Trust-Score von Millionen echter Telefone hinter CGNAT teilen und nicht gesperrt werden können, ohne legitime Abonnenten zu beeinträchtigen. Datacenter-Proxies sind günstiger, werden aber durch die ASN-Reputation markiert. Für ungeschützte interne APIs kann Datacenter ausreichen; für alles Abgehärtete gewinnt Mobile.

Sollte ich für Scraping rotierende oder feste Proxies verwenden?

Verwenden Sie rotierende IPs für das Crawling unabhängiger Seiten mit hohem Volumen, damit keine einzelne IP eine verdächtige Anzahl von Anfragen ansammelt – der Shared-Tarif von Proxy4G rotiert alle 5 Minuten, Dedicated rotiert über einen Timer von 1–60 Minuten oder auf Abruf. Verwenden Sie eine feste IP (Dedicated mit langer Rotation) für sitzungsgebundene Arbeit wie Anmeldungen, mehrstufige Paginierung oder Warenkorb-Abläufe, bei denen das Ziel über die Anfragen hinweg einen kohärenten Besucher sehen muss.

Werden Websites die Mobile Proxies von Proxy4G sperren?

Weit seltener als Datacenter-IPs. Da jede Proxy4G-IP eine echte Carrier-Adresse hinter CGNAT ist, würde eine Sperre auch echte mobile Kunden dieses Carriers sperren, sodass Anti-Bot-Systeme sie mit dem höchsten Standard-Trust behandeln (100%-Trust-Score). Sperren passieren trotzdem, wenn Sie unvorsichtig scrapen – beheben Sie das mit der richtigen Rotation, realistischen Headern, Ratendrosselung und Backoff bei 429/403-Antworten.

Unterstützt Proxy4G SOCKS5 für Scraper?

Ja. Jeder Tarif unterstützt HTTP, HTTPS und SOCKS5, mit Benutzername/Passwort- oder IP-Whitelist-Authentifizierung. SOCKS5 ist nützlich, wenn die DNS-Auflösung am Proxy erfolgen soll oder Sie Nicht-HTTP-Traffic tunneln. In der requests-Bibliothek von Python setzen Sie beide Proxy-Schlüssel auf socks5://USER:PASS@HOST:PORT und installieren das requests[socks]-Extra. Die Verbindungsdetails werden wenige Minuten nach der Zahlung per E-Mail verschickt.

Ist Web Scraping mit Proxies legal?

Das Scrapen öffentlich verfügbarer Daten ist in vielen Rechtsordnungen grundsätzlich rechtmäßig, aber die Legalität hängt davon ab, was Sie scrapen, wo, und von den Nutzungsbedingungen einer Seite – das Scrapen personenbezogener Daten oder das Umgehen einer Authentifizierung, zu der Sie nicht berechtigt sind, birgt Risiken. Proxy4G stellt die Netzwerkinfrastruktur bereit; Sie sind für eine rechtmäßige, die Bedingungen respektierende Nutzung verantwortlich. Siehe unseren Leitfaden dazu, ob Mobile Proxies legal sind, für das Gesamtbild.

Wie bezahle ich und wie schnell kann ich mit dem Scraping beginnen?

Die Zahlung erfolgt ausschließlich per Kryptowährung – Bitcoin, Ethereum, Solana oder USDT, plus eine Wallet-Aufladung – ohne Karten oder PayPal und ohne KYC. Ihr Konto wird bei der ersten Bestellung automatisch erstellt, ohne dass eine Ausweis-, Namens- oder E-Mail-Verifizierung erforderlich ist. Die Verbindungs-Zugangsdaten (Host, Port, Benutzername, Passwort) treffen wenige Minuten nach der Zahlung per E-Mail ein, sodass Sie sie noch in derselben Sitzung in Ihren Crawler einbinden können.

Starten Sie das Scraping auf echten Carrier-IPs

Wählen Sie ein Land und einen Carrier, entscheiden Sie sich für rotierend oder dediziert, zahlen Sie per Krypto. Kein KYC, Zugangsdaten in Minuten per E-Mail.

Konfigurieren Sie Ihren Proxy