Vor der Einführung sollte der Vorstand fünf Dinge schriftlich sehen: welche Arbeitsabläufe die KI berühren wird, wer ihre Ergebnisse freigibt, was protokolliert wird, welchem Risikorahmenwerk die Bewertung folgt und wie das Unternehmen einen Arbeitsablauf stoppt. Zusammen ergeben sie einen kurzen Governance-Plan, den die Geschäftsleitung aktuell hält, keine Richtlinie, die einmal geschrieben und abgelegt wird.
#Das Wichtigste in Kürze
- Governance beginnt mit einer Bestandsaufnahme: Der Vorstand kann keine KI beaufsichtigen, von der er nicht weiß, dass sie läuft.
- Jeder Arbeitsablauf braucht eine namentlich benannte Person, die KI-Ergebnisse freigibt und übersteuern kann.
- Protokolle sollten es einer Prüferin oder einem Prüfer ermöglichen nachzuvollziehen, was das System mit welchen Eingaben getan hat und wer es freigegeben hat.
- Benennen Sie ein anerkanntes Rahmenwerk wie das NIST AI Risk Management Framework oder ISO/IEC 42001, damit der Vorstand kein selbst gestricktes beurteilen muss.
- Regulierte Unternehmen sind zusätzlich ihren Branchenaufsichten verpflichtet, deren Regeln über den allgemeinen stehen.
#Welche Governance sollte vor der Einführung von KI stehen?
- Eine Bestandsaufnahme jedes Arbeitsablaufs, in dem KI etwas erzeugt oder verändert, einschließlich der Werkzeuge, die Mitarbeitende auf eigene Faust nutzen.
- Eine namentlich benannte freigebende Person für jeden Arbeitsablauf, mit der Befugnis, Ergebnisse abzulehnen oder zu korrigieren.
- Eine Risikobewertung jedes Arbeitsablaufs anhand eines benannten Rahmenwerks, abgelegt zusammen mit der Bestandsaufnahme.
- Protokollierung, die Eingaben, Ergebnisse, Modellversionen und Freigaben erfasst.
- Einen Ausschalter: wer einen Arbeitsablauf stoppen kann, wie, und was das Team von Hand erledigt, solange er gestoppt ist.
- Einen Prüftermin, vom Vorstand festgelegt, an dem Bestandsaufnahme und Bewertungen erneut geprüft werden.
Diese Liste schreibt Stennir in jedes Beratungsmandat. Warum, haben wir in Warum wir zu jedem Beratungsmandat einen Governance-Plan liefern erklärt.
#Nach welchen Risikorahmenwerken sollte der Vorstand fragen?
Zwei sind weit verbreitet. Das NIST AI Risk Management Framework behandelt menschliche Aufsicht und Verantwortlichkeit als Teil des Umgangs mit KI-Risiken (NIST, Januar 2023). ISO/IEC 42001 ist die internationale Norm für ein KI-Managementsystem (ISO, Dezember 2023), nach der sich ein Unternehmen zertifizieren lassen kann.
Für die Sicherheitsseite setzen die OWASP Top 10 for LLM Applications Prompt Injection an die erste Stelle: Text von einem Kunden oder aus einem Dokument kann versuchen zu verändern, was das Modell tut. Der Vorstand braucht dazu nicht die technischen Details, sondern nur die Bestätigung, dass jemand jeden Arbeitsablauf darauf getestet hat.
#Was ändert sich für ein reguliertes Finanzunternehmen?
Branchenaufsichten wie SAMA und NCA setzen eigene Regeln; prüfen Sie diese. Sie gelten zusätzlich zum allgemeinen Datenschutzrecht, sodass ein Arbeitsablauf, der eine allgemeine Prüfung besteht, für eine Bank oder einen Versicherer trotzdem mehr brauchen kann. Bitten Sie die Compliance-Abteilung, jeden Arbeitsablauf mit den veröffentlichten Anforderungen der Aufsicht abzugleichen, bevor Kundendaten verwendet werden.
Dieser Beitrag ist keine Rechts- oder Regulierungsberatung; klären Sie Fragen mit Ihrer Rechtsberatung und Ihrer Compliance-Funktion. Stennir liefert die Details zum Arbeitsablauf, die diese für ihre Entscheidung brauchen: welche Daten jeder Schritt berührt, wo sie verarbeitet werden, wer das Ergebnis freigibt und was protokolliert wird.
#Was sollten Sie protokollieren, um prüfen zu können, was ein KI-System getan hat?
- Die Eingabe, die das System erhalten hat, oder einen Verweis darauf, wenn der volle Text nicht gespeichert werden darf.
- Das Modell und seine Version sowie die Version der Anweisungen, die es erhalten hat.
- Die Dokumente oder Datensätze, die es abgerufen hat, um die Antwort zu erzeugen.
- Das Ergebnis, das es erzeugt hat, vor jeder menschlichen Bearbeitung.
- Wer es freigegeben, bearbeitet oder abgelehnt hat, mit Zeitstempel.
- Was danach im nachgelagerten System geschah, etwa ein aktualisierter Datensatz oder eine versendete Nachricht.
Mit diesen sechs Angaben kann eine Prüferin oder ein Prüfer jede Entscheidung im Nachhinein rekonstruieren. Ohne die Zeile zur Freigabe kann niemand sagen, wer verantwortlich war, wenn etwas schiefgeht.
We are
Stennir schreibt Bestandsaufnahme, freigebende Personen, Protokollierung und Ausschalter in jeden Arbeitsablauf, bevor er läuft, und überlässt Ihnen Konten, Protokolle und Schalter.
We aren't
Stennir ist keine Anwaltskanzlei und keine Zertifizierungsstelle und ersetzt weder Ihre Compliance-Funktion noch die Prüfung durch Ihre Aufsicht.
#Was sollte ein Vorstand oder Risikoausschuss als Nächstes tun?
Verlangen Sie von der Geschäftsleitung zuerst die Bestandsaufnahme: jede Stelle, an der KI bereits Arbeit berührt, einschließlich der Werkzeuge, die Mitarbeitende selbst eingeführt haben. Verlangen Sie dann für jede eine freigebende Person und ein Protokollkonzept. KI-Beratung liefert beides, und KI für Compliance zeigt, wie Prüfabläufe funktionieren. Machen Sie die kostenlose Bereitschaftsprüfung oder buchen Sie ein 30-minütiges Gespräch.
#Häufige Fragen
Muss der Vorstand jeden KI-Arbeitsablauf genehmigen?
Nein. Der Vorstand genehmigt den Governance-Plan und die Risikobereitschaft und sieht die Bestandsaufnahme. Die Geschäftsleitung genehmigt einzelne Arbeitsabläufe innerhalb dieser Regeln. Der Vorstand sollte informiert werden, wenn ein Arbeitsablauf Kundendaten berührt, eine Entscheidung über eine Person trifft oder unter eine Branchenaufsicht fällt, denn dort liegt das größte Risiko.
Wer gibt frei, was die KI erzeugt?
Eine namentlich benannte Person im Unternehmen, die diese Arbeit bereits verantwortet, etwa die Leitung der Schadenbearbeitung oder des Finanzteams. Sie kann jedes Ergebnis ablehnen oder korrigieren, und ihre Entscheidung wird protokolliert. Stennir übernimmt diese Rolle nicht, denn die Verantwortung muss in Ihrem Unternehmen bleiben.
Was bleibt bei uns?
Alles, was für eine Prüfung zählt: die Konten, die Daten, die Protokolle, die Anweisungen an das Modell und der Ausschalter. Stennir richtet sie auf Ihren Namen ein. Beenden Sie die Zusammenarbeit mit uns, bleiben Protokolle und Governance-Unterlagen für Ihr eigenes Team und Ihre Prüfer lesbar.
Was könnte schiefgehen?
Typische Fehler sind eine Bestandsaufnahme, die von Mitarbeitenden selbst eingeführte Werkzeuge übersieht, Freigaben, die zu einem bloßen Klick ohne echte Prüfung werden, und Protokolle, die das Ergebnis erfassen, aber nicht, wer es freigegeben hat. Jeder dieser Fehler lässt sich in einer Testprüfung vor der Einführung leicht finden und ist danach viel schwerer zu erklären.
