Zuerst den betroffenen Ablauf stabilisieren
Wenn eine KI falsche Zuordnungen erzeugt, müssen weitere fehlerhafte Aktionen zunächst begrenzt und betroffene Vorgänge gesichert werden. Die ausführliche Ursachenanalyse folgt, sobald der unmittelbare Umgang geklärt ist.
Halten Sie fest, welche Fassung aktiv war und welche Vorgänge möglicherweise betroffen sind. Diese Informationen helfen später, den Umfang der Untersuchung nachvollziehbar einzugrenzen.
Den zeitlichen Ablauf rekonstruieren
Wann wurde die Änderung aktiviert? Wann trat die erste erkennbare Abweichung auf? Welche Meldung erreichte wen? Trennen Sie bestätigte Beobachtungen von noch offenen Vermutungen.
Das Google-SRE-Kapitel zu Postmortems beschreibt eine Untersuchung ohne vorschnelle persönliche Schuldzuweisung. Im Mittelpunkt stehen beitragende Bedingungen und Verbesserungen des Systems.
Über die letzte falsche Ausgabe hinausgehen
Fiktives Beispiel: Eine neue Dokumentvorlage wird falsch gelesen. Zusätzlich fehlte ein Prüfhinweis, und die fachliche Kontrolle hatte nur die alte Vorlage getestet. Die Ursache besteht damit aus mehreren zusammenwirkenden Bedingungen.
Die Anweisung an eine einzelne Person, künftig genauer hinzusehen, würde diese Bedingungen kaum verändern. Mögliche Maßnahmen sind ein neuer Prüffall, eine erkennbare Formatabweichung und eine klarere Freigabe für Vorlagenänderungen.
Maßnahmen bis zur Prüfung verfolgen
Jede beschlossene Änderung benötigt eine zuständige Person und ein erkennbares Ergebnis. „Monitoring verbessern“ ist zu unbestimmt. Konkreter wäre ein Hinweis, wenn eine erwartete Dokumenteigenschaft fehlt.
Nach der Umsetzung wird der ursprüngliche Fehler kontrolliert nachgestellt. Weitere Fälle zeigen, ob die Änderung den Ablauf an anderer Stelle beeinträchtigt. Der Bericht sollte den tatsächlichen Abschluss dieser Prüfung festhalten.
Die Nachbesprechung wird so zu einem verwendbaren Teil der Betriebsunterlagen. Sie erklärt, warum bestimmte Prüfungen existieren und welche Grenzen bekannt sind. Bei einer späteren Erweiterung oder Übergabe können diese Erkenntnisse gezielt berücksichtigt werden.
Quellen und weiterführende Grundlagen
Über den Autor
Julian Süllner hat Provehor gegründet und führt das Unternehmen als Geschäftsführer. Er verantwortet Produktentwicklung, Kundenprojekte und die Ratgeber auf dieser Website.