KI-Governance legt fest, wer welche KI wofür mit welchen Daten nutzen darf, wie Risiken bewertet, Ergebnisse geprüft, Ausnahmen behandelt und Nachweise geführt werden. Sie muss Nutzung ermöglichen und Verantwortung sichtbar machen.
Was der Begriff tatsächlich bedeutet
Ein tragfähiges Modell verbindet Grundsätze, Use-Case-Inventar, Rollen, Risikoklassen, Freigabe, Beschaffung, Betrieb, Schulung und Incident Management.
Warum das im Unternehmen relevant ist
Der EU AI Act schafft risikobasierte Pflichten; konkrete Anwendbarkeit muss im Einzelfall qualifiziert geprüft werden. Die Seite bietet methodische Orientierung, keine Rechtsberatung.
Kontrolliert vorgehen
Der CTPM-Praxisrahmen für kontrollierbare KI-Anwendungen führt in sieben Schritten von der Aufgabe zur belastbaren Nutzung: Aufgabe verstehen, Kontext und Daten klären, KI gezielt einsetzen, fachlich prüfen, Abweichungen behandeln, verantwortlich freigeben und den Transfer dokumentieren. Er ist ein transparenter Arbeitsrahmen, keine Zertifizierung.
- Aufgabe und Wirkung festlegen
- Daten, Kontext und Berechtigung klären
- Ergebnis gegen fachliche Kriterien prüfen
- Abweichung, Freigabe und Nachweis regeln
CTPM-Praxisbeispiel
CTPM-Praxisbeispiel: Ein Unternehmen startet mit zehn Use Cases. Für jeden werden Zweck, Betroffene, Daten, Modell, Wirkung, Kontrollen und Eigentümer dokumentiert. Nur freigegebene Kombinationen gehen in den Pilot.
Qualitäts- und Testkriterien
Die folgenden Kriterien machen die Qualität für diesen Anwendungsfall beobachtbar:
- Use Cases und Systeme sind inventarisiert.
- Risikoklasse bestimmt Tiefe der Kontrolle.
- Rollen besitzen echte Entscheidungsrechte.
- Vorfälle und Änderungen führen zu Review.
Risiken und typische Fehlannahmen
Governance scheitert, wenn sie nur aus einer Policy besteht, sämtliche Nutzung gleich behandelt oder Verantwortung diffus auf ein Gremium verteilt.
Beispiel für Ihr Transferergebnis
Transferergebnis: ein Governance-Canvas mit Use-Case-Inventar, Rollen, Risikostufen, Kontrollen, Nachweisen und Review-Zyklus.
Quellen und Referenzen
- NIST: Artificial Intelligence Risk Management Framework (AI RMF 1.0) (2023)
- European Commission: Regulatory framework for Artificial Intelligence (AI Act) (2024)
- European Commission: Guidelines on transparency obligations under the AI Act (2025)
- NIST: Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (2024)