Erstellen Sie ein Inventar der KI-Anwendungen mit Zweck, Verantwortlichem, Daten, Anbieter und betroffenen Personen. Teilen Sie diese nach Risiko ein, ordnen Sie jeder Stufe Freigabe-, Sicherheits- und Qualitätskontrollen zu, legen Sie Regeln für Änderungen und Vorfälle fest und überprüfen Sie regelmäßig, ob das System weiterhin den zulässigen Zweck erfüllt.
Der KI-Einsatz in Unternehmen entsteht oft nicht durch ein einziges zentrales Projekt. Teams testen Online-Tools, integrieren ein Modell in Workflows oder erwerben eine Funktion in bestehender Software. Ohne Inventar weiß die Organisation nicht, welche Daten an Anbieter gehen, wer die Ausgaben kontrolliert und wie das System bei einem Incident oder geänderten Bedingungen abgeschaltet wird.
AI Governance soll einen angemessenen und verantwortungsvollen Einsatz ermöglichen, nicht für jedes Experiment dieselbe Bürokratie schaffen. Der Umfang der Kontrolle richtet sich nach Zweck, Daten, betroffenen Personen und den Folgen eines Fehlers. Jedes Produktivsystem hat eine verantwortliche Person, zulässige Grenzen, Evaluationsnachweise, eine betriebliche Überwachung und einen Plan für Änderung oder Abschaltung.
Erfassen Sie Verwendungen, Verantwortliche und Abhängigkeiten
Das Inventar umfasst interne Prototypen, Automatisierungen, Chatbots sowie KI-Funktionen, die in gekaufte Tools integriert sind. Geben Sie bei jedem Eintrag den Arbeitszweck, die Nutzer, den Verantwortlichen, das Modell oder den Anbieter, die Datenquellen, Ausgaben, Integrationen und den Status von der Idee bis zur Außerbetriebnahme an. Der Name einer Technologie ohne Beschreibung der Entscheidung hilft nicht, die Auswirkungen zu beurteilen.
Der Prozessverantwortliche ist für Nutzen und Grenzen zuständig, der technische Verantwortliche für Implementierung und Betrieb, Fachrollen für Daten, Sicherheit, Datenschutz oder rechtliche Pflichten. Die konkrete Aufteilung hängt vom Unternehmen ab, doch keine Aufgabe sollte ohne entscheidungsbefugte Person bleiben. Dokumentieren Sie Abhängigkeiten von Konten, Prompts und externen Diensten sowohl für Änderungen als auch für die Beendigung.
Klassifizieren Sie Risiken nach Zweck und Folgen
Beurteilen Sie, ob die KI nur bei einem internen Entwurf hilft, einem Menschen Empfehlungen gibt, nach außen kommuniziert oder eine Aktion ausführt. Berücksichtigen Sie die Sensibilität der Daten, den Nutzerkreis, die Umkehrbarkeit, mögliche Diskriminierung, Sicherheit und die Möglichkeit des Menschen, eine Entscheidung anzufechten. Dasselbe Modell kann beim Zusammenfassen eines öffentlichen Textes ein geringes und bei der Bewertung einer Person ein höheres Risiko haben.
Verknüpfen Sie Risikostufen mit konkreten Pflichten: Umfang der Dokumentation, fachliche Beurteilung, Evaluierungen, menschliche Kontrolle, Monitoring und Freigabe des Releases. Eine Ausnahme braucht eine Begründung, einen Verantwortlichen und ein Ablaufdatum. Überprüfen Sie die Klassifizierung bei einer neuen Datenquelle, einem neuen Publikum, einem neuen Tool oder einer automatischen Aktion, nicht nur beim Wechsel des Modells.
- Zweck und Auswirkung auf Kunden, Mitarbeitende oder die Öffentlichkeit
- Sensibilität, Herkunft und zulässige Verwendung der Daten
- Grad der Autonomie, Umkehrbarkeit und Auswirkung von Fehlern
- Verfügbarkeit von Prüfung, Erklärung und Korrektur
Steuern Sie Daten, Dienstleister und Zugänge
Legen Sie bei jeder Nutzung fest, welche Daten das Modell erhält, auf welcher rechtlichen und betrieblichen Grundlage, wo sie verarbeitet werden, wie lange sie gespeichert werden und ob sie zur Verbesserung des Dienstes genutzt werden. Minimieren Sie die Eingaben und trennen Sie Produktion von Entwicklung. Geben Sie sensible Daten weder in ein nicht freigegebenes Tool noch in ein gemeinsam genutztes Konto ohne Zugriffskontrolle ein.
Beurteilen Sie einen Anbieter nach Vertragsbedingungen, Sicherheit, Verfügbarkeit, Support, Ankündigung von Änderungen, Export und Kündigungsmöglichkeit. Der Marketingname einer Funktion ersetzt keine technische Beschreibung des Datenflusses. Erfassen Sie Unterauftragnehmer und Regionen entsprechend den Anforderungen der Organisation. Verwalten Sie Zugangsdaten zentral, überprüfen Sie sie regelmäßig und entziehen Sie sie nach Projektende.
Genehmigen Sie Änderungen auf Basis von Nachweisen
Vor dem Produktivbetrieb durchläuft das System Tests, die für seine Aufgabe relevant sind: Qualität, Ablehnung, Sicherheit, Berechtigungen und der gesamte Workflow. Die Dokumentation nennt bekannte Grenzen, den Modus der menschlichen Kontrolle und die Abbruchbedingungen. Die freigebende Person sieht konkrete Ergebnisse und kritische Fehler, nicht nur ein ausgewähltes Beispiel. Der Pilotbetrieb hat einen begrenzten Umfang und eine klare Erfassung von Feedback.
Eine Änderung von Modell, Prompt, Retrieval, Taxonomie oder Tool kann das Verhalten verändern und durchläuft eine angemessene Regressionsprüfung. Versionen bleiben nachvollziehbar, und für das Deployment gibt es eine Möglichkeit zur Rückkehr. Ein automatisches Update des Anbieters wird als externe Änderung verfolgt. Ein vorübergehendes Experiment darf ohne neue Entscheidung nicht schleichend zu einer kritischen Produktionsabhängigkeit werden.
Bereiten Sie Monitoring, Incident-Management und regelmäßige Überprüfungen vor
Der Betrieb überwacht technischen Zustand, Qualität, menschliche Eingriffe, Kosten, Veränderungen der Eingaben, abgelehnte Zugriffe und Beschwerden. Jedes wesentliche Signal hat einen Verantwortlichen und ein Runbook. Der Incident-Prozess behandelt Datenabflüsse, gefährliche Ausgaben, nicht erlaubte Aktionen und systematische Fehler. Das Team kann das Modell, ein Tool oder den gesamten Ablauf abschalten, ohne eingehende Arbeit zu verlieren.
Eine regelmäßige Überprüfung stellt fest, ob der Zweck weiterhin gilt, sich das Risiko nicht verändert hat, die Berechtigungen aktuell sind und der Nutzen den Betrieb rechtfertigt. Ein System ohne Verantwortlichen oder ohne Nutzung wird sicher außer Betrieb genommen, einschließlich Schlüsseln, Indizes und Daten. Schulungen konzentrieren sich auf konkrete erlaubte Anwendungsfälle, Grenzen und das Melden von Problemen, nicht auf unkritisches Vertrauen oder ein pauschales Verbot.
Häufige Fragen
Braucht auch ein kleines Unternehmen AI-Governance?
Ja, aber dem Umfang angemessen. Grundlage ist zu wissen, welche Tools mit welchen Daten genutzt werden, wer dafür verantwortlich ist und wie sie kontrolliert oder abgeschaltet werden.
Ist AI-Governance nur eine Aufgabe der IT-Abteilung?
Nein. Die IT verantwortet Technik und Betrieb, doch Zweck, Auswirkungen auf die Arbeit, Daten und Pflichten liegen auch bei Fachbereich, Sicherheit, Recht und weiteren relevanten Rollen.
Wann muss das Risiko eines KI-Systems neu bewertet werden?
Bei Änderungen von Zweck, Nutzern, Daten, Autonomie, Werkzeugen, Anbieter oder Fehlerfolgen sowie nach einem bedeutenden Vorfall oder einer Erkenntnis aus dem Monitoring.
Quellen und weiterführende Lektüre
Adam Antoni vyvíja weby, aplikácie a softvér na mieru. Prepája firemné systémy, automatizuje procesy a vytvára AI agentov. Pôsobí v Spišskej Novej Vsi a spolupracuje s firmami na celom Slovensku.
