Zum Inhalt springen

Sicherheit und Betrieb, für die IT-Leitung

So bleibt ein mit KI automatisierter Prozess unter Kontrolle.

Hier stehen die Antworten auf die Fragen vor einer Freigabe: Wer darf worauf zugreifen, was wird protokolliert, wo liegen die Daten, was passiert bei einem Ausfall, und wer haftet für eine falsche Entscheidung des Systems?

Eine pauschale Konformität behaupten wir nicht. Ob eine Lösung den Anforderungen genügt, hängt von Anwendungsfall, Verträgen, Infrastruktur, Daten und Betrieb ab. Diese Einstufung gehört in den Blueprint, wo sie sich prüfen lässt.

Kostenlosen Prozess-Check buchen

45 Minuten · ein konkreter Ablauf · kein Vortrag, kein Softwareverkauf

Sechs Kontrollpunkte in jedem Prozess

  • Minimale, rollenbasierte Zugriffe

    Ein Agent sieht nur die Daten, die sein Prozess braucht, nicht das ganze Postfach des Unternehmens.

  • Nachvollziehbare Protokollierung

    Jede wichtige Aktion ist im Nachhinein prüfbar: was erkannt, entschieden und geändert wurde.

  • Menschliche Freigabe für kritische Entscheidungen

    Welche Fälle das sind, wird im Blueprint festgelegt und nicht dem Modell überlassen.

  • Definierte Rückfallwege

    Bei Unsicherheit, Systemausfall oder unbekanntem Fall greift ein festgelegter Rückfallweg.

  • Datenschutz und Aufbewahrung zum Anwendungsfall

    Speicherorte, Löschfristen und Unterauftragsverarbeiter werden benannt, nicht angenommen.

  • Messbare Qualitätskontrollen im Betrieb

    Stichproben und Prüfregeln laufen weiter, wenn der Go-live längst vorbei ist.

Auftragsverarbeitung

Ein aktuelles Datenblatt zur Auftragsverarbeitung nützt einer IT-Leitung mehr als drei Absätze Sicherheitsprosa. Es liegt dem Blueprint bei. Die sechs Fragen, die vorher kommen, beantworten wir hier.

Wer ist Auftragsverarbeiter?
Wir, für die Verarbeitung im beauftragten Prozess. Den Vertrag zur Auftragsverarbeitung schließen wir vor dem ersten produktiven Vorgang.
Welche Unterauftragsverarbeiter gibt es?
Sie werden im Blueprint namentlich benannt, zusammen mit Zweck, Sitz und Rechtsgrundlage. Ein Modellanbieter ist ein Unterauftragsverarbeiter, auch wenn er nur einen Satz Text zu sehen bekommt.
Wo werden Daten verarbeitet?
Je nach Anwendungsfall in der EU, auf von uns betriebener Infrastruktur oder vollständig in Ihrer eigenen Umgebung. Wir entscheiden das im Lösungsentwurf und begründen es.
Wie lange werden Daten gespeichert?
Je Datenart mit einer festen Frist, die zum Zweck passt. Transkripte eines Telefonagenten sind kein Archivgut, sondern Betriebsdaten mit Löschfrist.
Werden Kundendaten zum Modelltraining verwendet?
Nein. Das sichern wir vertraglich zu und wählen die eingesetzten Dienste entsprechend aus.
Wer haftet für eine falsche Entscheidung des Systems?
Entscheidungen mit Tragweite trifft das System nicht. Welche Fälle ein Mensch bei Ihnen freigibt, legt der Blueprint fest; das System legt sie nur vor. Für die Umsetzung haften wir im vertraglich vereinbarten Rahmen. Umfang und Grenzen stehen im Projektvertrag, nicht auf einer Website. Eine Versicherung, die es nicht gibt, nennen wir nicht.

Telefonagenten: Transparenz, Einwilligung, Ausweg

Systeme, die unmittelbar mit Menschen sprechen, unterliegen Transparenzpflichten: Die betroffene Person muss erkennen können, dass sie mit einem KI-System spricht. Transparenz, Protokollierung und Freigaben planen wir von Anfang an ein, nicht kurz vor dem Go-live.

Die folgenden Punkte beschreiben die deutsche Rechtslage. Für Österreich und die Schweiz gelten ähnliche, aber nicht gleiche Regeln; sie werden im Einzelfall geprüft.

  • Ansage zu Gesprächsbeginn

    Der Anrufer erfährt, dass ein KI-System das Gespräch führt. Die KI-Verordnung (EU AI Act) verlangt diese Transparenz. Sie zeigt dem Anrufer auch, dass hier jemand die Regeln kennt und einhält.

  • Keine Tonaufnahme als Standard

    Standard ist eine schriftliche Zusammenfassung des Gesprächs mit Löschfrist, ohne Tonaufnahme. Eine Aufzeichnung gibt es nur, wenn Sie sie wollen und der Anrufer vorher zustimmt; wer ablehnt, wird trotzdem bedient.

  • Auch die Zusammenfassung hat eine Löschfrist

    Gesprächsnotizen sind personenbezogene Daten, auch ohne Tonaufnahme. Wie lange sie aufbewahrt werden, wird festgelegt und eingehalten.

  • Ausweg zum Menschen

    Jederzeit und ohne Umweg über ein Menü, das ihn versteckt.

  • Definiertes Ausfallverhalten

    Ist das System nicht erreichbar, greift eine feste Rückfallnummer. Ein stummer Anschluss ist der schlechteste denkbare erste Eindruck.

Was im Betrieb gemessen wird

Monitoring heißt: Jemand sieht sich festgelegte Größen regelmäßig an. Diese hier erheben wir in jedem Projekt, und auf ihnen baut jede Verbesserung nach dem Go-live auf.

Reaktionszeiten sagen wir erst zu, wenn eine Rufbereitschaft organisiert ist. Ohne Dienstplan wäre das ein Versprechen, das am ersten Urlaubstag bricht.

  • Bearbeitungszeit pro Vorgang
  • Durchlaufzeit bis zum Ergebnis, einschließlich Liegezeiten
  • Anteil vollständig automatisierter Vorgänge
  • Zahl und Art manueller Eingriffe
  • Fehler- und Nachbearbeitungsquote
  • Reaktionszeit im Kundenkontakt
  • Kosten pro Vorgang, einschließlich Modell- und Infrastrukturkosten
  • Qualität anhand definierter Prüfregeln

Welcher Prozess kostet Ihr Team jeden Tag unnötig Zeit?

Bringen Sie einen konkreten Ablauf mit. In 45 Minuten klären wir, ob sich seine Automatisierung rechnet und was der nächste Schritt wäre.

Direkt mit einem Gründer · unverbindlich · ohne Verkaufsshow

Erst ein Prozess.
Dann der nächste.