Mit dem Porsche zum Bäcker

Unser Podcast mit Sven Kramer & Sebastian Karger

Gefällt Ihnen dieser Einblick? Erhalten Sie jede Woche aktuelle Analysen und Impulse wie diesen direkt in Ihr Postfach.
Jetzt für das Tech-Update anmelden!

Die digitale Welt dreht sich schnell! Dieser Artikel wurde vor mehr als 180 Tage veröffentlicht. Während die grundlegenden Überlegungen weiterhin relevant sein können, entsprechen möglicherweise nicht mehr alle Details oder Daten dem heutigen Stand. Benötigen Sie tagesaktuelle Einschätzungen? Sprechen Sie uns gerne an!

This content has been automatically translated.

Update

Eisberg-Infografik zu Token-Ausgaben: Von 10 Mio. $sind 20 \% (2 Mio.$) als wertschöpfend belegt, während 80 % (8 Mio. $) unter der Wasserlinie noch nicht quantifiziert sind.

Accenture

Wer Fable eine Terminbestätigung formulieren lässt, fährt auch mit dem Porsche zum Bäcker. KI ist längst im Arbeitsalltag angekommen. Die Rechnung auch.

Accenture hat 750 Führungskräfte aus 17 Ländern befragt: Jedes dritte Unternehmen hat sein Token-Budget aufgebraucht, bevor das Jahr zu Ende ist. Der Grund ist so banal wie teuer. 54 Prozent aller Anfragen landen bei einem stärkeren Modell als nötig. Accenture hat über 9.000 Aufgaben analysiert. Bei 90 Prozent davon hätte ein solides Mittelklasse-Modell völlig gereicht. Hätte man doch nur eine KI mit automatischer Modellauswahl.

Warum ist das wichtig?

Eine Großbank ist in nur einem Jahr von praktisch null auf 5 Millionen Euro Token-Kosten gekommen. Ein einzelner Prozess hat dabei 200.000 Euro pro Woche verbraucht, bis er gestoppt wurde. Es scheinen schlicht die Instrumente für das Monitoring und die Steuerung zu fehlen.
Dazu: Die Befragten erwarten in den nächsten zwei Jahren 78 Prozent mehr Verbrauch. Gleichzeitig lässt sich weniger als jeder fünfte Euro einem messbaren Geschäftsergebnis zuordnen. Und wer auf sinkende Preise hofft, sollte sich keine großen Hoffnungen machen. Neun von zehn Unternehmen würden günstigere Tokens sofort in neue Use Cases stecken.

Unsere Einordnung

Neue Technologie wird erst ausprobiert und danach gesteuert. Das war schon immer so und ist bei KI nicht anders. Mit Agenten verschärft sich das Thema jedoch zusätzlich. Jeder Agent ruft weitere Modelle auf, schleppt wachsenden Kontext mit und rechnet gern mal doppelt. Das Ergebnis ist ein Kostenmultiplikator, den kaum ein Budget vorgesehen hat.

Die gute Nachricht: Das Problem ist lösbar. Enterprise-AI-Plattformen wählen für jede Anfrage automatisch das passende Modell. Budgets lassen sich pro Team festlegen, Limits setzen und Kosten bis auf den einzelnen Use Case zurückverfolgen. Beim üblichen Wildwuchs aus Einzel-Accounts und Firmenkreditkarte fehlt genau diese Steuerung. Der Porsche bleibt also in der Garage und kommt nur raus, wenn sich die Fahrt wirklich lohnt.

One more: Spielgeld ist Pflicht

Die Studie empfiehlt, jeden Token vorher zu begründen. Wenn man bedenkt, dass Accenture ein eigenes Tokenomics-Angebot startet, ist das auch kein Wunder. Wir empfehlen, es nicht zu übertreiben. Wer beim Experimentieren spart, spart am Ende an der Zukunft. Es bedarf auch Budgets zum Ausprobieren, ohne ROI-Nachweis und ohne schlechtes Gewissen. Gemessen wird erst, wenn etwas skaliert. So bleibt der Porsche für die Testfahrt verfügbar. Nur zum Bäcker fährt er nicht mehr.

Für unsere Kunden geht es an dieser Stelle noch weiter.
Jetzt anmelden!

Jetzt reinhören!

Sehen Sie Parallelen zu Ihren Herausforderungen? Lassen Sie uns besprechen, wie eine maßgeschneiderte Lösung für Sie aussehen könnte.

Weitere Themen

Wir verwenden Cookies, um die Nutzung dieser Website zu verbessern, zu analysieren und unsere Marketingbemühungen zu unterstützen. Indem Sie auf „Akzeptieren“ klicken, stimmen Sie der Verwendung dieser Cookies zu. Mehr Informationen finden Sie in unserer Datenschutzerklärung.