Wenn die Elite die Haustür vergisst

Unser Podcast mit Sven Kramer & Sebastian Karger

Gefällt Ihnen dieser Einblick? Erhalten Sie jede Woche aktuelle Analysen und Impulse wie diesen direkt in Ihr Postfach.
Jetzt für das Tech-Update anmelden!

Die digitale Welt dreht sich schnell! Dieser Artikel wurde vor mehr als 180 Tage veröffentlicht. Während die grundlegenden Überlegungen weiterhin relevant sein können, entsprechen möglicherweise nicht mehr alle Details oder Daten dem heutigen Stand. Benötigen Sie tagesaktuelle Einschätzungen? Sprechen Sie uns gerne an!

This content has been automatically translated.

Update

Laptop zeigt die Benutzeroberfläche von Lilli, der generativen KI-Plattform von McKinsey, mit Textfeldern für Prompt-Eingaben und Case-Study-Unterschrift.

McKinsey

Da verkauft eine der einflussreichsten Strategieberatungen (aka McKinsey) KI-Expertise für Millionenbeträge und der interne Stolz – der Chatbot „Lilli“ – wird in gerade einmal zwei Stunden geknackt. Das Security-Start-up Codewall erlangte vollen Lese- und Schreibzugriff auf 46,5 Millionen Chat-Nachrichten und über 700.000 vertrauliche Dateien. Das Start-up hinterlässt mit diesem "PR-Coup" auf jeden Fall die ultimative Visitenkarte.

Warum ist das wichtig?

Wenn 72 % der Belegschaft eines Weltmarktführers sensible Daten wie Fusionsstrategien in ein Tool füttern, das nicht einmal Basis-Hacks standhält, ist das kein IT-Fehler, sondern ein Governance-Versagen. Der Vorfall zeigt erneut: KI beschleunigt nicht nur Prozesse, sondern auch die Frequenz, mit der Schwachstellen automatisiert gefunden und ausgenutzt werden können.

Unsere Einordnung

McKinsey betont, dass die Systeme „robust“ seien und keine Kundendaten abgeflossen sind, aber allein die Möglichkeit, die KI-Anweisungen zu editieren und 40.000 Berater gezielt zu täuschen, ist ein systemisches Risiko. Es geht dabei nicht um ein Strategiepapier für den örtlichen Dachdecker. Es geht um IPOs, M&A Transaktionen, Lay-offs, Due Dilligences ... schon schwierig, wenn diese Daten öffentlich zugänglich sind und sie manipuliert werden könnten.

KI beschleunigt die Entwicklung massiv. Solange sie nicht nur für Angriffe, sondern ebenso intensiv für den Schutz eingesetzt wird, lässt sich argumentieren, dass Sicherheit und Risiko parallel zueinander steigen.

One more: Das Honeypot-Dilemma

Wer eine wirklich leistungsfähige KI im Unternehmen etablieren will, kommt an der schmerzhaften Wahrheit nicht vorbei: Man braucht einen „Single Point of Truth“. Erst wenn Daten nicht mehr in Silos verrotten, sondern zentral, strukturiert und verknüpft vorliegen, lernt die KI wirklich fliegen.
Mit jedem Terabyte an wertvollem Wissen, das an einem Ort konzentriert abgelegt wird, entsteht gleichzeitig der ultimativen „Honeypot“ für Angreifer. McKinsey's Chatbot Lilli schafft hier Begehrlichkeit. Das ist für Hacker eine Einladung zum All-you-can-eat-Buffet.

Für unsere Kunden geht es an dieser Stelle noch weiter.
Jetzt anmelden!

Jetzt reinhören!

Sehen Sie Parallelen zu Ihren Herausforderungen? Lassen Sie uns besprechen, wie eine maßgeschneiderte Lösung für Sie aussehen könnte.

Weitere Themen

Wir verwenden Cookies, um die Nutzung dieser Website zu verbessern, zu analysieren und unsere Marketingbemühungen zu unterstützen. Indem Sie auf „Akzeptieren“ klicken, stimmen Sie der Verwendung dieser Cookies zu. Mehr Informationen finden Sie in unserer Datenschutzerklärung.