Willkommen zu unserem Sommer-Spezial! Statt einer Pause tauchen wir in ein Thema ein, das aktuell jedes Unternehmen umtreibt. In dieser Folge unseres Podcasts „Schlaflos dank Seattle“ übernimmt Elena Witt aus dem Liquam-Team als Urlaubsvertretung und wir beleuchten ein weiteres Thema aus dem Kosmos der Enterprise AI.
Die Integration von Künstlicher Intelligenz in den Unternehmensalltag schreitet rasant voran. Mitarbeitende nutzen im Büroalltag Werkzeuge wie ChatGPT oder Microsoft Copilot, um Prozesse zu beschleunigen. Dieser unkontrollierte Einsatz birgt jedoch erhebliche Risiken für die Datensicherheit, die Haftung und das Geschäftsgeheimnisschutzgesetz. Die Entstehung einer Schatten-IT durch öffentliche KI-Tools stellt Firmen vor regulatorische Herausforderungen, die strategische Lösungen erfordern.
Der EU AI Act und die Klassifizierung von Risiken
Mit dem EU AI Act greift ein umfassender rechtlicher Rahmen für den Einsatz von Systemen mit Künstlicher Intelligenz. Die Verordnung teilt Anwendungen in verschiedene Risikoklassen ein. Entscheidend für die rechtlichen Pflichten eines Unternehmens ist die genaue Einstufung des jeweiligen Anwendungsfalls (Use Case). Systeme, die beispielsweise im HR-Bereich für die Bewerberauswahl genutzt werden, fallen häufig in die Kategorie der Hochrisiko-KI. Dies zieht strenge gesetzliche Auflagen nach sich, die von den Verantwortlichen zwingend eingehalten werden müssen.
Haftung und die gesetzliche Schulungspflicht
Die rechtliche Verantwortung für KI-generierte Inhalte und Entscheidungen liegt weiterhin beim Menschen, nicht bei der Maschine. Daher gewinnt die Schulungspflicht der Belegschaft massiv an Bedeutung. Unternehmen müssen ihre Mitarbeitenden im sicheren und sensiblen Umgang mit KI-Systemen schulen. Diese Sensibilisierung dient als zentraler Hebel, um Haftungsrisiken zu minimieren und ein Bewusstsein für Datenschutz und Urheberrechte im digitalen Arbeitsplatz zu schaffen.
Dokumentation über Use-Case-Register und Modellkarten
Jeder Einsatz von Künstlicher Intelligenz in einer Organisation verlangt nach einer präzisen und nachvollziehbaren Dokumentation. Die Erstellung von Use-Case-Registern und sogenannten Modellkarten (Model Cards) hilft dabei, die Funktionsweise, Datenbasis und den Einsatzzweck der Modelle transparent zu machen. Da der Prüfaufwand für Unternehmen enorm hoch ist, bieten sich automatisierte Software-Lösungen an, um den Compliance-Prozess effizient und rechtssicher zu begleiten.
Public AI im Vergleich zu Private-Enterprise-AI
Die Nutzung von kostenlosen, öffentlichen KI-Diensten führt oft in ein rechtliches Vakuum, da eingegebene Daten häufig für das Training der Modelle verwendet werden. Eine Private-Enterprise-AI bietet hierzu die Alternative. Durch eine geschlossene, firmeneigene KI-Infrastruktur lässt sich Compliance bereits durch die Architektur des Systems (Compliance by Design) sicherstellen. Sensible Geschäftsdaten bleiben innerhalb des Unternehmensnetzwerks geschützt, während die technologischen Innovationsvorteile voll ausgeschöpft werden können.
