KI-Compliance & AI Act

Der AI Act arbeitet mit vier Risikoklassen. Je höher das Risiko, desto strenger die Pflichten — und desto teurer die Nicht-Compliance. Jedes System aus der Inventur wird einer Klasse zugeordnet.

Die vier Stufen:

• Verboten — Social Scoring, manipulative KI, Echtzeit-Gesichtserkennung im öffentlichen Raum (mit engen Ausnahmen), Emotionserkennung am Arbeitsplatz oder in Bildung. Diese Praktiken sind seit Februar 2025 untersagt — wer sie einsetzt, muss sie sofort einstellen.
• Hochrisiko — KI in Personalauswahl, Bonitätsprüfung, Bildungsentscheidungen, Strafverfolgung, Migrationskontrolle, kritischer Infrastruktur. Hier gelten die strengsten Pflichten: Konformitätsbewertung, technische Dokumentation, Risikomanagement, menschliche Aufsicht, Logging, hohe Datenqualität. Pflichten greifen ab August 2026.
• Begrenztes Risiko — Chatbots, Deepfakes, KI-generierte Inhalte. Pflicht: Transparenz. Nutzer müssen wissen, dass sie mit KI interagieren oder KI-erzeugten Content sehen.
• Minimales Risiko — alles andere (Spam-Filter, Empfehlungssysteme, KI-Autovervollständigung). Keine spezifischen Pflichten aus dem AI Act, aber DSGVO und andere Vorschriften gelten weiter.

Sonderfall: General Purpose AI (GPAI):

• Modelle wie GPT-4 oder Claude unterliegen eigenen Pflichten ab August 2025
• Hauptbetroffen sind Anbieter, nicht Nutzer — aber wer eigene Modelle finetuned und vertreibt, kann darunter fallen

Die Klassifizierung wird pro System dokumentiert, mit Begründung. Das ist keine Excel-Spielerei — bei einem Audit ist genau diese Begründung der erste Punkt, nach dem gefragt wird.

Aus der Lücken-Liste wird ein Framework, das in bestehende Strukturen eingebaut wird — nicht ein Paralleluniversum aus Formularen. Compliance, die niemand nutzt, ist schlechter als keine Compliance.

Was im Framework steckt:

• KI-Policy — eine Seite, was Mitarbeitende dürfen und nicht dürfen (z. B. keine Kundendaten in Public ChatGPT, kein Code in fremde APIs ohne Freigabe)
• Onboarding-Checkliste für neue KI-Tools — Risikoklassifizierung, DPIA-Check, AVV-Frage, Datenfluss-Skizze, Freigabe-Workflow
• Templates — technische Doku, Risikobewertung, DPIA, AVV-Anhang für KI-Spezifika, Trainings-Datenherkunft
• Rollen und Zuständigkeiten — wer ist KI-Verantwortlicher? Wer entscheidet über Freigaben? Wer prüft technische Doku?
• Audit-Trail — wo werden Entscheidungen protokolliert? Wie lange werden Logs aufbewahrt?
• Eskalation und Vorfälle — was tun bei einem Datenleck, einem Bias-Vorfall, einer Beschwerde?

Self-Hosted als Compliance-Hebel — wo es passt:

• Für besonders sensible Daten lokale Modelle nutzen (z. B. Ollama mit Gemma) — kein Drittland-Transfer, kein Schrems-II-Risiko
• Self-Hosted-Stack für Kanzleien, Praxen, Behörden, KRITIS-Betreiber — qualitativ unter Frontier-Modellen, dafür auditierbar lokal
• Hybrid-Architektur: unkritische Aufgaben in der Cloud, sensible Routinen lokal — pragmatischer Mittelweg, der für die meisten KMU funktioniert

Das Framework wächst mit dem Unternehmen. Erstes KI-Tool: einseitige Policy + ein Eintrag im VVZ. Zehn Tools später: dasselbe Framework, nur erweitert. Die Templates und Prozesse bleiben gleich.

Compliance ist kein Projekt, das man abschließt — sondern ein laufender Zustand. Sobald das Framework steht, geht es um Mitarbeiterschulung, Update-Disziplin und regelmäßige Überprüfung.

Schulung — auf zwei Ebenen:

• Allgemeine Sensibilisierung für alle Mitarbeitenden — was ist KI, was darf ich, was nicht, woran erkenne ich problematische Tools, wem melde ich Vorfälle?
• Vertiefte Schulung für Verantwortliche — Datenschutz-Beauftragte, KI-Beauftragte, IT-Verantwortliche. Risikoklassifizierung, DPIA, technische Anforderungen

Update-Disziplin:

• Wenn ein neues KI-Tool eingeführt wird, läuft es durch die Onboarding-Checkliste — keine Ausnahmen
• Bei größeren Modell-Updates (z. B. neuer Modell-Provider, neuer Trainingsdatensatz) wird die Risikobewertung aktualisiert
• Gesetzliche Updates (neue AI-Act-Leitlinien, BaFin-Mitteilungen) werden in das Framework eingearbeitet — vierteljährlicher Check

Regelmäßige Audits — intern und extern:

• Halbjährliche interne Selbstprüfung anhand der eigenen Checkliste — was hat sich geändert, was ist neu, wo gibt es Lücken?
• Externe Audits in regulierten Branchen (BaFin-Prüfung, ISO 27001, branchenspezifische Audits) frühzeitig vorbereiten — die Doku liegt bereit, statt im Audit-Stress zusammengeschrieben zu werden
• Penetrationstests für KI-Systeme mit externer Schnittstelle — Prompt Injection, Jailbreaking, Datenextraktion

Was bei Vorfällen passiert:

• Klar definierter Meldepfad innerhalb von 72 Stunden bei meldepflichtigen Datenpannen (Art. 33 DSGVO)
• Vorfall-Dokumentation, Ursachenanalyse, Korrekturmaßnahmen — wird im Audit geprüft
• Lessons Learned fließen ins Framework zurück

Mit dieser laufenden Pflege wird Compliance vom kostspieligen Risikofaktor zu einem Wettbewerbsvorteil — gerade bei B2B-Kunden, Versicherungen und Förderanträgen wird zunehmend nach belastbarer KI-Compliance gefragt.