Cloudflare startet Marktplatz für Webseiten Scraping

Unser Podcast mit Sven Kramer & Sebastian Karger

Gefällt Ihnen dieser Einblick? Erhalten Sie jede Woche aktuelle Analysen und Impulse wie diesen direkt in Ihr Postfach.
Jetzt für das Tech-Update anmelden!

Die digitale Welt dreht sich schnell! Dieser Artikel wurde vor mehr als 180 Tage veröffentlicht. Während die grundlegenden Überlegungen weiterhin relevant sein können, entsprechen möglicherweise nicht mehr alle Details oder Daten dem heutigen Stand. Benötigen Sie tagesaktuelle Einschätzungen? Sprechen Sie uns gerne an!

This content has been automatically translated.

Pay per Crawl - AI Crawler

Cloudflare

Noch wird es ein "Experiment" genannt, welches in einer "private Beta" vergangene Woche gestartet ist. Cloudflare, der Infrastruktur-Gigant, der rund 20 % des Webs mit Infrastruktur versorgt, möchte mit seinem neuen Marktplatz "Pay per Crawl" Publisher und Webseitenbetreiber für das Scrapen von Webseiten (z.B. AI-Bots) bezahlen. Eine Idee, die das Potenzial hat, die Spielregeln für die Monetarisierung von Inhalten komplett neu zu schreiben.

Warum ist das wichtig?

Bisher war der Deal klar: Google und Co. durchsuchen Websites und liefern Traffic. Im Zeitalter der KI-Chatbots funktioniert dieses Modell nur noch bedingt. Die Bots beschaffen sich die Informationen von den Websites, die Nutzer bekommen ihre Antwort direkt im Chat und besuchen die ursprüngliche Seite gar nicht mehr. Das Resultat: Die Content-Ersteller gehen leer aus. Cloudflare liefert dazu spannende Zahlen: Während Googles Crawler für 14 Crawls immerhin einen Besucher liefert, benötigt OpenAIs Crawler dafür 1.700 und der von Anthropic sogar 73.000 Crawls. Wobei: Die 14 Crawls pro Besucher bei Google beziehen sich mit Sicherheit auf die Zeit vor der AI-Zusammenfassung.

Für wen ist das wichtig?

Bisher konnten nur große Player wie die "New York Times" Lizenzdeals mit KI-Unternehmen aushandeln. Cloudflares Ansatz könnte dies demokratisieren und allen Webseiten-Betreibern eine Einnahmequelle sichern. Aber auch für Cloudflare selbst hat dieser Ansatz enormes Potenzial. Sie positionieren sich als der zentrale Gatekeeper und Zahlungsabwickler, in einer Zeit, in der  KI-Agenten mit eigenem Budget für uns recherchieren könnten. Warum sollte ich ein anderes Produkt vorziehen, wenn Cloudflare mir nicht nur die technische Infrastruktur liefert, sondern auch gleich ein Geschäftsmodell?

Unsere Einordnung

Das "Pay per Crawl"-Modell kehrt die Machtverhältnisse um: Website-Betreiber können individuell entscheiden, wer ihre Daten zu welchem Preis nutzen darf oder es ganz verbieten. Für Unternehmen bedeutet das eine neue Chance, ihre digitalen Assets zu monetarisieren und die Kontrolle über ihr geistiges Eigentum zurückzugewinnen.

Allemal besser als Googles Offerwall, bei dem wir nicht verstehen, warum es die Probleme der AI-Zusammenfassung für Webseiten-Betreiber besser machen sollte. Ein großes Problem bleibt: Traffic liefert auch dieser Ansatz nicht. Für z.B. Verlage kann es die Schmerzen lindern, aber Unternehmen wie Dienstleister oder Handel benötigen den Traffic, um die Nutzer zu konvertieren.

Mehr zu diesem Thema in unser neuen Podcast-Episode am kommenden Donnerstag.

Für unsere Kunden geht es an dieser Stelle noch weiter.
Jetzt anmelden!

Sehen Sie Parallelen zu Ihren Herausforderungen? Lassen Sie uns besprechen, wie eine maßgeschneiderte Lösung für Sie aussehen könnte.

Weitere Themen

Wir verwenden Cookies, um die Nutzung dieser Website zu verbessern, zu analysieren und unsere Marketingbemühungen zu unterstützen. Indem Sie auf „Akzeptieren“ klicken, stimmen Sie der Verwendung dieser Cookies zu. Mehr Informationen finden Sie in unserer Datenschutzerklärung.