
Montagmorgen im Büro: Eine KI hat eingegangene Rechnungen ausgelesen, Lieferanten zugeordnet und Buchungsvorschläge vorbereitet. Die Liste sieht auf den ersten Blick ordentlich aus. Beträge, Rechnungsnummern und Zahlungsziele stehen in den vorgesehenen Feldern. Doch ein sauber wirkendes Ergebnis ist noch kein geprüftes Ergebnis. Eine vertauschte Rechnungssumme, ein falsch gelesener Skonto-Hinweis oder eine unpassende Kostenstelle kann später Rückfragen und Korrekturen auslösen.
Das gilt auch für andere Abläufe. Eine KI kann E-Mails vorsortieren, Angebotsentwürfe erstellen, Gesprächsnotizen zusammenfassen oder Aufträge aus Formularen übernehmen. Sie kann dabei viel Vorarbeit leisten. Die Verantwortung für die fachliche Entscheidung sollte aber nicht ungeklärt an ein System übergehen.
Vertrauen entsteht nicht dadurch, dass eine KI einige Male überzeugende Ergebnisse liefert. Es entsteht durch einen Ablauf, der Fehler sichtbar macht, Grenzfälle abfängt und festlegt, wann ein Mensch entscheidet. Dafür reichen oft drei Bausteine: passende Testfälle vor dem Start, Stichproben im laufenden Betrieb und eine klare Freigabeschwelle.
Den Ablauf und die Folgen eines Fehlers zuerst klären
Bevor Sie Ergebnisse prüfen, sollten Sie den einzelnen Arbeitsschritt genau beschreiben. „Die KI bearbeitet Rechnungen“ ist dafür zu ungenau. Besser ist eine konkrete Beschreibung: Die KI liest Rechnungsdaten aus, schlägt einen Lieferanten und eine Kostenstelle vor und legt den Vorgang zur Prüfung ab. Eine Buchung oder Zahlung löst sie nicht selbst aus.
Diese Trennung ist entscheidend. Je näher ein Ergebnis an einer verbindlichen Handlung liegt, desto strenger sollte die Prüfung sein. Ein Entwurf für eine interne Notiz hat andere Folgen als ein Preis in einem Angebot oder eine Änderung von Bankdaten.
Fragen Sie deshalb für jeden Schritt:
- Welche Daten erhält die KI?
- Welches Ergebnis soll sie liefern?
- Welche Fehler sind möglich?
- Welche Folgen hätte der jeweilige Fehler?
- Wer erkennt den Fehler fachlich?
- Was darf erst nach menschlicher Freigabe passieren?
Bei einer Rechnung kann die KI etwa Text und Zahlen erkennen, Felder befüllen und Auffälligkeiten markieren. Beim Menschen bleibt die Prüfung, ob Lieferant, Betrag, Steuerangaben, Kostenstelle und Freigabeweg fachlich passen. Bei unklaren oder unvollständigen Unterlagen sollte der Vorgang nicht geraten werden. Er gehört in eine Liste zur Nachbearbeitung.
Diese Regel schützt auch vor einem verbreiteten Missverständnis: KI ist nicht in jedem Prozess die passende Technik. Wenn eine Rechnung stets im gleichen strukturierten Format eingeht und die Datenfelder eindeutig sind, kann eine regelbasierte Verarbeitung ausreichen. KI ist besonders dort sinnvoll, wo unterschiedliche Formate, Freitexte oder unvollständige Angaben verarbeitet werden müssen. Die Qualitätsprüfung brauchen beide Ansätze.
Testfälle vor dem Start vorbereiten
Ein Test mit wenigen einfachen Beispielen reicht nicht aus. Gerade Standardfälle funktionieren oft gut, während Ausnahmen später Probleme verursachen. Stellen Sie deshalb eine kleine Sammlung realitätsnaher, fachlich geprüfter Testfälle zusammen. Die Unterlagen sollten den Alltag abbilden, aber keine unnötigen personenbezogenen oder vertraulichen Daten enthalten.
Für einen Rechnungseingang könnten dazu gehören:
- eine vollständige Rechnung mit klaren Angaben
- eine Rechnung mit mehreren Positionen
- ein Dokument mit schlechter Scanqualität
- eine Rechnung, bei der Lieferant oder Rechnungsnummer schwer lesbar sind
- eine Gutschrift
- eine Rechnung mit abweichender Lieferadresse
- ein Dokument, das keine Rechnung ist
- eine Rechnung mit fehlenden Angaben
- ein möglicher Doppelvorgang
Zu jedem Testfall gehört ein erwartetes Ergebnis. Das muss nicht immer ein vollständig ausgefüllter Datensatz sein. Bei einer unklaren Vorlage kann das korrekte Ergebnis gerade sein, dass die KI den Vorgang zur Prüfung weitergibt. Damit verhindern Sie, dass ein System scheinbare Sicherheit erzeugt und Lücken mit Vermutungen füllt.
| Prüffrage | Automatisch möglich | Beim Menschen bleibt |
|---|---|---|
| Dokument erkennen | Rechnung, Gutschrift oder sonstige Unterlage vorsortieren | Zweifelhafte Fälle einordnen |
| Daten auslesen | Betrag, Datum und Rechnungsnummer übernehmen | Lesefehler und fachliche Plausibilität prüfen |
| Lieferant zuordnen | Vorschlag anhand vorhandener Daten erstellen | Neue oder ähnlich benannte Lieferanten entscheiden |
| Kostenstelle vorschlagen | Wiederkehrende Muster erkennen | Ausnahmefälle und fachliche Zuordnung freigeben |
| Vorgang weiterleiten | Passende Prüfliste erzeugen | Buchung, Zahlung oder verbindliche Freigabe erteilen |
Testen Sie nicht nur, ob das Ergebnis richtig ist. Prüfen Sie auch, ob es verständlich dargestellt wird. Die prüfende Person muss erkennen können, welche Daten aus dem Dokument stammen, welche Werte vorgeschlagen wurden und warum ein Vorgang als auffällig gilt. Eine Prüfliste, in der wichtige Unterschiede untergehen, ist im Alltag wenig wert.
Fehlerarten getrennt erfassen
Nicht jeder Fehler hat dieselbe Ursache. Wenn alle Abweichungen nur als „falsch“ notiert werden, bleibt unklar, was verbessert werden muss. Eine einfache Fehlerliste hilft, Muster zu erkennen.
Typische Fehlerarten sind:
- Erkennungsfehler: Ein Zeichen, Betrag oder Datum wurde falsch gelesen.
- Zuordnungsfehler: Die Daten wurden dem falschen Lieferanten, Auftrag oder Kunden zugeordnet.
- Vollständigkeitsfehler: Ein wichtiges Feld fehlt, obwohl es vorhanden sein sollte.
- Erfindungsfehler: Die KI ergänzt Angaben, die in der Quelle nicht enthalten sind.
- Regelverstoß: Ein Ergebnis widerspricht einer festgelegten Vorgabe, etwa einer Freigaberegel.
- Darstellungsfehler: Das Ergebnis ist fachlich korrekt, aber für die weitere Bearbeitung unklar oder unbrauchbar formatiert.
Besonders kritisch sind Erfindungsfehler. Eine KI kann sprachlich überzeugend formulieren, auch wenn ihr eine sichere Grundlage fehlt. Deshalb sollte ein Ablauf festlegen: Fehlt eine Information, kennzeichnet das System den Vorgang als unklar. Es ergänzt keinen Preis, keine Frist, keine Kontoverbindung und keine fachliche Aussage auf Verdacht.
Halten Sie bei jedem Fehler kurz fest, was eingegeben wurde, welches Ergebnis herauskam, was erwartet war und wie der Fehler behandelt wurde. Daraus entstehen mit der Zeit bessere Anweisungen, zusätzliche Prüfregeln oder neue Testfälle. Nicht jeder Einzelfall lässt sich technisch verhindern. Aber wiederkehrende Fehler sollten nicht dauerhaft von Hand korrigiert werden müssen.
Mit Stichproben im Alltag weiterprüfen
Auch nach einem erfolgreichen Test bleibt eine KI ein Bestandteil eines laufenden Prozesses. Eingangsformate ändern sich. Neue Lieferanten, Produkte oder Formulierungen kommen hinzu. Mitarbeitende passen Vorlagen an. Deshalb endet Qualitätssicherung nicht mit dem Start.
Beginnen Sie in einer kontrollierten Phase. Die KI verarbeitet Vorgänge und bereitet Ergebnisse vor, aber eine zuständige Person prüft zunächst jeden Vorgang oder einen bewusst großen Anteil. Erst wenn der Ablauf über verschiedene Fälle hinweg stabil funktioniert, können Sie auf regelmäßige Stichproben umstellen.
Die Stichprobe sollte nicht nur bequeme Standardfälle enthalten. Nehmen Sie gezielt Vorgänge aus unterschiedlichen Quellen, von neuen Absendern, mit ungewöhnlichen Beträgen oder mit erkannten Unsicherheiten. Prüfen Sie außerdem Fälle, bei denen die KI selbst eine hohe Sicherheit signalisiert. Gerade dort fällt ein Fehler sonst leicht durch, weil niemand mehr genau hinsieht.
Automatisch übernehmen kann der Ablauf die Auswahl und Bereitstellung der Prüfvorgänge. Beim Menschen bleibt die Bewertung, ob das Ergebnis fachlich korrekt ist und ob die Prüfung angepasst werden muss. Wird ein erheblicher Fehler entdeckt, sollte der betreffende Arbeitsschritt nicht einfach weiterlaufen. Prüfen Sie die Ursache und entscheiden Sie, ob zusätzliche Kontrollschritte nötig sind.
Eine Freigabeschwelle klar definieren
Die Freigabeschwelle beantwortet eine einfache Frage: Unter welchen Bedingungen darf ein Ergebnis ohne weitere Bearbeitung weitergegeben werden, und wann muss ein Mensch entscheiden?
Diese Schwelle sollte nicht allein von einer technischen Sicherheitsangabe abhängen. Ein hoher automatischer Wert ersetzt keine fachliche Regel. Entscheidend sind die mögliche Auswirkung, die Vollständigkeit der Daten und der konkrete Vorgang.
Eine praktikable Regel kann so aussehen: Vollständige, bekannte Standardvorgänge werden automatisch vorbereitet und in einer Stichprobe kontrolliert. Unbekannte Lieferanten, fehlende Angaben, abweichende Beträge, neue Bankdaten, ungewöhnliche Formulierungen oder nicht eindeutige Zuordnungen gehen immer in die menschliche Prüfung. Verbindliche externe Kommunikation, Zahlungen und Entscheidungen mit finanziellen oder personellen Folgen bleiben freigabepflichtig.
Benennen Sie dafür eine Rolle, nicht nur ein Team. Es muss klar sein, wer im Zweifel entscheidet, wer Fehler bewertet und wer Änderungen am Ablauf freigibt. Ebenso braucht es einen einfachen Weg zurück: Wenn die Qualität nachlässt, muss die automatische Weiterverarbeitung gestoppt oder auf eine strengere Prüfung zurückgestellt werden können.
Vertrauen entsteht durch einen kontrollierbaren Ablauf
Eine KI muss nicht fehlerfrei sein, um nützlich zu sein. Sie muss in einem Prozess arbeiten, der Fehler erkennt, Folgen begrenzt und Verantwortung eindeutig zuordnet. Testfälle zeigen vor dem Start, ob der Ablauf die relevanten Situationen abdeckt. Stichproben zeigen im Betrieb, ob die Qualität stabil bleibt. Die Freigabeschwelle sorgt dafür, dass kritische Entscheidungen beim Menschen bleiben.
Starten Sie mit einem klar abgegrenzten Schritt. Dokumentieren Sie die erwarteten Ergebnisse. Prüfen Sie Ausnahmen bewusst. Und erweitern Sie die automatische Verarbeitung erst, wenn die fachlich zuständigen Personen die Ergebnisse nachvollziehen und kontrollieren können.
Wer eine KI-Lösung vor dem Start absichern möchte, kann in einem unverbindlichen Gespräch mit SABR Automation Testfälle und Freigabeschwelle durchgehen.
- Qualitätssicherung
- KI
- Freigabe

