KI-Compliance 2026: den EU AI Act mit dem 30-60-90-Tage-Plan umsetzen

Was Mittelständler jetzt wissen müssen

Der EU AI Act ist die Verordnung (EU) 2024/1689 — ein europaweit einheitliches, risikobasiertes Regelwerk für KI-Systeme. Entscheidend ist nicht, ob ein Unternehmen groß oder klein ist, sondern welche Rolle es einnimmt und wie ein KI-System eingesetzt wird. Eine generelle KMU-Ausnahme gibt es nicht. KI-Compliance im Mittelstand bedeutet deshalb: Aufwand nach Risiko priorisieren, Verantwortungen eindeutig festlegen und die wichtigsten Nachweise zentral führen.

Die Fristen im Überblick

Vier Mythen — und die Fakten

„Unser Unternehmen ist zu klein für den EU AI Act." Auch KMU können Anbieter, Betreiber, Importeur oder Händler sein. „Ein Standard-Tool verlagert jede Verantwortung auf den Hersteller." Das nutzende Unternehmen bleibt für Inventar, sichere Nutzung, Schulung und Zweckbestimmung verantwortlich. „DSGVO-konform bedeutet automatisch AI-Act-konform." Datenschutz ist nur eine Prüfspur — der AI Act ergänzt Risikobewertung, menschliche Aufsicht, Transparenz und Dokumentation. „Die Schulungspflicht ist ein einmaliger Standardkurs." Artikel 4 verlangt ein ausreichendes Maß an KI-Kompetenz, passend zu Rolle, Risiko und Einsatzumfeld.

Risikoklassen verstehen

Vier Kategorien helfen im Arbeitsalltag: Verbotene Praktiken nach Artikel 5 dürfen nicht eingesetzt werden. Hochrisiko-KI nach Artikel 6 und Anhang III unterliegt besonders strengen Anforderungen — typische Kandidaten sind Bewerbervorauswahl im Recruiting oder Kreditentscheidungen. Transparenzpflichtige KI umfasst Systeme, die mit Menschen interagieren oder Inhalte erzeugen — der Kundenchatbot ist der zentrale Praxisfall. Sonstige KI mit geringerem Risiko — viele interne Assistenz- und Rechercheanwendungen — braucht dennoch sichere Datenverarbeitung, Schulung und interne Kontrollen.

Die Prüfung muss bei jeder wesentlichen Änderung wiederholt werden: neue Datenquellen, eine Erweiterung auf HR-Entscheidungen, ein Modellwechsel oder die Öffnung eines internen Assistenten für Kunden. Und: Wer eine KI-Lösung nur einkauft, ist rechtlich meist Betreiber — kann aber durch eigene Entwicklung, Inverkehrbringen unter eigenem Namen oder Zweckänderung in eine Anbieterrolle geraten.

Priorisieren: Risiko vor Vollständigkeitsillusion

Bearbeiten Sie nicht jeden Use Case gleich intensiv. Priorität erhalten zunächst verbotene oder potenziell hochriskante Anwendungen, danach Systeme mit personenbezogenen, vertraulichen oder geschäftskritischen Daten — erst anschließend Anwendungen mit niedrigerem Risiko. Für die operative Reihenfolge helfen vier Dimensionen: Geschäftsnutzen (Relevanz für Umsatz, Qualität, Service), Personenrisiko (Einfluss auf Chancen, Rechte, Zugang zu Leistungen), Datenrisiko (Personen-, Kunden-, Vertrags- oder Betriebsgeheimnisdaten) und Umsetzungsaufwand. Ein hoher Geschäftsnutzen rechtfertigt keine niedrigere rechtliche Einordnung — er hilft aber, knappe Ressourcen auf die Fälle zu konzentrieren, bei denen ein sauberer Rollout besonders viel bewirkt.

Der abhakbare 30-60-90-Tage-Plan

Ein wirksames KI-Compliance-Programm beginnt nicht mit einem umfangreichen Handbuch. Es beginnt mit einem verbindlichen Arbeitsauftrag der Geschäftsführung, einem kleinen Kernteam und einem belastbaren Überblick über die tatsächliche Nutzung. Für viele Organisationen ist die 30-60-90-Tage-Roadmap der schnellste Weg von ungeordneter KI-Nutzung zu steuerbarer KI-Governance.

Sechs typische Fälle richtig behandeln

Ein HR-Tool zur automatisierten Bewerbervorauswahl ist ein potenzieller Hochrisiko-Fall nach Anhang III: Es braucht menschliche Prüfung mit echter Entscheidungskompetenz, Tests auf Diskriminierungsrisiken, nachvollziehbare Dokumentation und rollenbezogene Schulung — Betriebsrat, Datenschutz und Legal gehören vor dem produktiven Rollout eingebunden. Eine Kreditentscheidung oder Risikobewertung in Lebens- und Krankenversicherungen ist besonders prüfbedürftig und kann ebenfalls unter Anhang III fallen; hier reicht eine einfache Tool-Freigabe nicht aus.

Ein Kundenservice-Chatbot im Maschinenbau ist häufig kein Hochrisiko-System — Nutzer müssen aber grundsätzlich erkennen können, dass sie mit KI interagieren. Der Bot braucht eine unkomplizierte Übergabe an Servicemitarbeitende, klare Grenzen bei Sicherheitsfragen, datenschutzgerechtes Logging und regelmäßige Qualitätskontrollen; gerade bei Voice-Anrufen sind Transparenzhinweis, Übergabeprozess und Aufzeichnungskonzept vor dem Rollout verbindlich festzulegen. Generative KI für Marketingtexte trägt oft geringere AI-Act-Risiken — trotzdem gehören Faktencheck, Markenfreigabe und die Prüfung von Urheber- und Persönlichkeitsrechten dazu; Marketingmaterial wird nicht allein deshalb kennzeichnungspflichtig, weil KI daran mitgewirkt hat.

Ein interner RAG-Wissensassistent fällt oft in die geringere Risikoklasse — wichtig sind zugriffsabhängige Wissensquellen, Aktualitätsprüfungen, Retrieval-Tests und Schutz gegen Prompt Injection; ein RAG-System darf keine Dokumente zitieren, auf die der jeweilige Nutzer keinen Zugriff hätte. Predictive Maintenance in der Produktion ist nicht automatisch hochriskant; werden Empfehlungen jedoch für sicherheitskritische Komponenten oder verbindliche Betriebsfreigaben genutzt, ist die Einordnung als Sicherheitskomponente früh zu prüfen.

Wer ist wofür verantwortlich?

Die häufigste Fehlannahme lautet: Wer eine KI-Lösung einkauft, ist nur Nutzer. Rechtlich kann ein Unternehmen Betreiber sein, zugleich aber durch eigene Entwicklung, Inverkehrbringen unter eigenem Namen oder die Änderung des Verwendungszwecks in eine Anbieterrolle geraten. Fine-Tuning löst nicht automatisch eine Anbieterrolle aus — entscheidend sind Umfang der Veränderung, neuer oder geänderter Zweck und Bereitstellung unter eigenem Namen. Gleiches gilt für RAG-Anwendungen: Eine Wissensbasis allein macht ein Unternehmen nicht pauschal zum Anbieter.

Für Betreiber von Hochrisiko-KI zählen insbesondere: bestimmungsgemäße Nutzung, qualifizierte menschliche Aufsicht, Kontrolle der Eingabedaten im eigenen Einflussbereich, Monitoring, Aufbewahrung verfügbarer Logs sowie das Management schwerwiegender Vorfälle. Intern gehört die Verantwortung in eine Pflichtenmatrix: Geschäftsführung mandatiert Governance und akzeptiert oder stoppt Risiken; Legal/Compliance verantwortet Rechtsmonitoring und Freigabeprüfung; Datenschutz die DSGVO-Spur; Informationssicherheit Zugriffsmodell und Incident-Prozess; der Einkauf die Anbieterprüfung; HR Recruiting-Fälle und Schulungsplanung; der Betriebsrat wird bei Systemen zur Verhaltens- oder Leistungsüberwachung früh eingebunden — nicht bloß nachträglich informiert. Diese Matrix gehört in die KI-Richtlinie, in Projektaufträge und in die Freigabeformulare.

Von Standard-SaaS bis RAG: die Architektur bewerten

Die Architektur entscheidet maßgeblich darüber, welche Nachweise Sie benötigen und wie gut Sie Datenflüsse steuern können. Stellen Sie für jeden Use Case dieselben Kontrollfragen: Wer kontrolliert Modell, Daten, Prompts, Retrieval-Quellen, Deployment, Updates und Zweckbestimmung? Bei Standard-SaaS-KI verantwortet der Anbieter zentrale Produkteigenschaften — das Unternehmen bleibt Betreiber und muss Nutzung, Daten, Kompetenz und Transparenz steuern. Bei API-Integrationen steigt die Verantwortung für Prompt-Logik, Eingabe- und Ausgabeprüfung sowie Fehlerbehandlung. Bei RAG-Anwendungen liegt der Schwerpunkt auf Berechtigungen, Qualität und Aktualität der Quellen. Wer Modelle selbst entwickelt oder unter eigenem Namen in Verkehr bringt, muss Risikomanagement, Qualitätssicherung und technische Dokumentation von Beginn an mitplanen. Und: KI kann in CRM-, ERP-, CAD- oder HR-Software verborgen sein — deshalb gehören auch Software-Updates und aktivierte Add-ons ins KI-Inventar.

Kontrollmodell: sicher arbeiten, ohne Innovation zu bremsen

Eine gute KI-Richtlinie besteht nicht aus allgemeinen Appellen. Sie zeigt Mitarbeitenden in wenigen Minuten, welche Tools erlaubt sind, welche Daten tabu sind, wann eine Freigabe erforderlich ist und wer bei Unsicherheit entscheidet. Do: nur freigegebene Plattformen und Wissensquellen nutzen; Fakten, Quellen und Empfehlungen vor geschäftskritischer Verwendung prüfen; Unsicherheiten kennzeichnen; sensible Entscheidungen an qualifizierte Menschen übergeben. Don’t: keine Vertragsdaten, Gesundheitsdaten, Personalakten oder Geschäftsgeheimnisse in private KI-Accounts; keine ungeprüften KI-Ausgaben in Angebote, Gutachten, Personalentscheidungen oder Kundenkommunikation; keine Wissensquellen ohne Eigentümer und Berechtigungsprüfung; keine Systeme mit geändertem Zweck ohne aktualisierte Risikobewertung.

Human-in-the-Loop bedeutet nicht, dass ein Mensch jede Ausgabe nur formal abnickt. Die verantwortliche Person braucht Zeit, Kompetenz, Zugriff auf relevante Quellen und ein echtes Recht, Ergebnisse zu korrigieren, zu verwerfen oder den Prozess zu stoppen. Mindestanforderungen an Logging und Audit-Trail: System- und Modellversion, Zeitpunkt, verantwortlicher Prozess, Datenkategorie, Freigabestatus, verwendete Wissensquelle, relevante menschliche Entscheidung und erkannte Vorfälle. Zu den konkreten Betriebsrisiken zählen Halluzinationen, Prompt Injection, Bias, unzulässige Offenlegung, fehlerhafte Automatisierung, Urheberrechtsverletzungen und Modelländerungen des Anbieters.

Shadow AI: vom Verstoß zur sicheren Alternative

Ein Mitarbeitender lädt Vertragsdaten in einen privaten KI-Account hoch, um Klauseln zusammenzufassen — ein typischer Shadow-AI-Fall. Die richtige Reaktion ist weder öffentliches Bloßstellen noch bloßes Verbieten. Zuerst wird der Vorgang gesichert und bewertet: Welche Daten wurden übertragen, welche Rechte waren betroffen, war eine Löschung möglich, liegt ein Datenschutz- oder Sicherheitsvorfall vor? Danach folgen Sofortmaßnahmen, Dokumentation, rechtliche Bewertung und gegebenenfalls Meldungen. Parallel erhält der Fachbereich eine sichere Alternative — etwa einen freigegebenen Assistenten mit EU-Hosting, kontrollierter Wissensbasis, Quellenangaben und klaren Berechtigungen. Die Erkenntnisse fließen in Schulung, Richtlinie und technische Erkennung zurück.

KI-Compliance ist mehr als der AI Act

Ein AI-Act-Check ohne Datenschutz, Informationssicherheit und Arbeitsrecht lässt zentrale Risiken offen. Immer prüfen: DSGVO, Geschäftsgeheimnisse, Informationssicherheit, Vertrags- und Urheberrecht — bei personenbezogenen Daten insbesondere Rechtsgrundlage, Zweckbindung, Datenminimierung, Auftragsverarbeitung, Folgenabschätzung, Betroffenenrechte und internationale Übermittlungen. Anwendungsabhängig prüfen: NIS2, Data Act und DORA gelten nicht pauschal für jedes KMU und nicht allein wegen der KI-Nutzung. Bei HR- und Monitoring-Use-Cases besonders prüfen: Arbeitsrecht, AGG, BDSG und Betriebsverfassungsrecht — technische Einrichtungen zur Verhaltens- oder Leistungsüberwachung können Mitbestimmungsrechte auslösen. Je stärker KI Zugang zu Leistungen, Gesundheit, Sicherheit oder regulierten Entscheidungen beeinflusst, desto wichtiger wird zusätzlich die branchenspezifische Prüfspur.

Anbieter prüfen und Vorfälle steuern

Der Einkauf ist ein zentraler Kontrollpunkt. Ein Anbieterfragebogen sollte nicht nur Zertifikate abfragen, sondern die tatsächliche Betriebsfähigkeit bewerten: Datenresidenz und EU-Hosting, Nutzung von Kundendaten für Training, Subprozessoren, technische und organisatorische Maßnahmen, Modell- und Preisänderungen, Verfügbarkeit, Exportmöglichkeiten, Auditnachweise und Exit-Szenarien. Zusätzlich sollte der Anbieter erklären, welche AI-Act-Rolle er einnimmt, wie Modellupdates angekündigt und über welchen Kanal Vorfälle gemeldet werden. Ein KI-Incident-Prozess folgt einer klaren Reihenfolge: Erkennung, Sofortmaßnahme, fachliche und rechtliche Bewertung, Eskalation, Dokumentation, Ursachenanalyse, Korrektur, Kommunikation und Lessons Learned — integriert in bestehende Datenschutz- und Security-Prozesse statt als paralleles Meldesystem.

Für das Management reichen wenige, aber aussagekräftige KPIs: Anteil inventarisierter KI-Systeme, Freigabestatus und überfällige Reviews, offene Risiken nach Kritikalität, Schulungsquote, Anzahl und Bearbeitungszeit von Shadow-AI-Funden, offene Vendor-Risiken sowie Anzahl, Schwere und Lösungszeit von KI-Incidents. Ein Dashboard sollte dabei nicht nur Risiken zeigen, sondern auch Nutzen: aktive Use Cases, Nutzungsqualität, Bearbeitungszeit, Quellenabdeckung und Akzeptanz.

Fazit: bis zum 2. August 2026 handlungsfähig werden

KI-Compliance muss kein schwerfälliges Bürokratieprojekt werden. Für den Mittelstand zählt ein pragmatischer, nachweisbarer Regelbetrieb: Risiken früh erkennen, sichere Alternativen bereitstellen und Fachbereiche nicht allein lassen. Die drei wichtigsten Sofortmaßnahmen: 1. KI-Inventar erstellen — alle Anwendungen, Datenquellen, Anbieter, Nutzergruppen und Zwecke erfassen. 2. Risikofälle priorisieren — verbotene Praktiken, potenziell hochriskante Systeme und Anwendungen mit sensiblen Daten zuerst. 3. Verantwortung und KI-Kompetenz organisieren — Rollen, Freigaben, Schulungen, Kontrollen und Reporting im Alltag verankern.

Der entscheidende Perspektivwechsel: KI-Compliance ist keine einmalige Rechtsprüfung vor dem Go-live, sondern ein kontinuierlicher Betriebsprozess für Änderungen, neue Datenquellen, Modellupdates, neue Agenten und neue Einsatzorte. Eine Plattform wie hermine.ai verbindet dabei sichere KI-Anwendung, EU-Hosting, Wissensbasen, Quellenprüfung, Schulungsnachweise und kontrollierte Freigaben in einer praxistauglichen Umgebung.

FAQ: die häufigsten Fragen