Zum Inhalt springen

KI-Grundlagen

Generative KI

Generative KI ist der Sammelbegriff für KI-Systeme, die aus gelernten Mustern neue Inhalte erzeugen, etwa Texte, Bilder, Audio, Video oder Programmcode, statt vorhandene Daten nur zu sortieren, zu bewerten oder vorherzusagen.

Auch: Generative AI, GenAI, generative künstliche Intelligenz

Das Gabler Wirtschaftslexikon fasst generative KI als Sammelbegriff für Systeme, die Bilder, Video, Audio, Text, Code, 3D-Modelle und Simulationen hervorbringen können, und zwar auf scheinbar professionelle und kreative Weise. Das Wort „scheinbar“ ist bewusst gewählt. Die Ergebnisse sehen aus wie von einem Menschen gemacht, entstehen aber auf einem anderen Weg: Das BSI beschreibt, dass solche Modelle beim Training Muster aus vorhandenen Daten lernen und danach neue Inhalte erzeugen, die diesen Mustern folgen.

Bekannt geworden ist der Begriff mit Chatassistenten und Bildgeneratoren. Für Unternehmen interessanter ist meist eine unscheinbarere Seite: Dieselben Modelle, die Gedichte schreiben, können auch eine Reklamations-E-Mail lesen und daraus einen sauber gefüllten Datensatz machen.

Erzeugen statt einordnen

Den Unterschied zur älteren, oft „analytisch“ genannten KI zeigt am besten die Art der Ausgabe.

Klassische KI Generative KI
typische Ausgabe eine Kategorie, eine Zahl, eine Wahrscheinlichkeit ein neuer Text, ein Bild, ein Stück Code
Beispiel „Spam: ja oder nein“, Ausfallrisiko einer Maschine Antwortentwurf auf eine Kundenanfrage
Training meist für genau eine Aufgabe mit eigenen Beispieldaten einmal breit vortrainiert, dann für viele Aufgaben nutzbar
Prüfbarkeit Ausgabe aus einer festen Menge möglicher Werte Ausgabe offen, jede Antwort kann anders ausfallen

Die dritte Zeile ist der eigentliche Umbruch. Früher brauchte jede Aufgabe ein eigenes Modell mit eigenen, mühsam beschrifteten Trainingsdaten. Heute steht ein großes, vortrainiertes Modell zur Verfügung, das man mit einer Anweisung, einem Prompt, auf eine Aufgabe ansetzt. Forscher der Stanford University haben dafür 2021 den Begriff Foundation Model geprägt: Modelle, die auf breiten Daten trainiert werden und sich an viele nachgelagerte Aufgaben anpassen lassen. Sie haben zugleich auf die Kehrseite hingewiesen. Schwächen des Grundmodells erben alle Anwendungen, die darauf aufbauen.

Welche Modellfamilien dahinterstehen

Für Text sind es Large Language Models, die fast immer auf der Transformer-Architektur beruhen. Für Bilder nennt das BSI vor allem zwei Verfahren: Generative Adversarial Networks, bei denen ein erzeugendes und ein prüfendes Netz gegeneinander trainiert werden, und Diffusionsmodelle, die lernen, aus zufälligem Rauschen schrittweise ein Bild herauszuarbeiten. Immer häufiger verarbeitet ein einziges Modell mehrere Arten von Eingaben, etwa Text und Bild zugleich. Man spricht dann von multimodalen Modellen.

Für eine Kaufentscheidung muss man diese Verfahren nicht im Detail kennen. Hilfreich ist nur ein gemeinsamer Nenner: Alle erzeugen ihre Ausgabe aus Wahrscheinlichkeiten. Dieselbe Eingabe kann zu unterschiedlichen Ergebnissen führen, und kein Verfahren garantiert, dass das Ergebnis stimmt.

Generativ heißt im Büro selten kreativ

In der Prozessautomatisierung wird generative KI überwiegend für Aufgaben eingesetzt, die im Ergebnis gar nicht kreativ sind. Ein konstruiertes Beispiel: Ein Modell liest eine eingehende Lieferantenmail, erkennt, dass es um eine Preisänderung geht, und gibt Lieferantennummer, Artikel und neuen Preis in festen Feldern aus. Technisch erzeugt das Modell dabei Text. Fachlich erledigt es eine Textklassifikation und eine Extraktion, also genau das, wofür man früher klassische Verfahren mit eigenem Training gebraucht hätte.

Der Vorteil liegt in der Flexibilität: Neue Kategorien oder Felder lassen sich durch eine geänderte Anweisung einführen, ohne neues Training. Der Preis ist, dass die Ausgabe offen bleibt. Damit ein nachfolgendes System sie zuverlässig verarbeiten kann, gibt man ein festes Format vor, wie es der Eintrag zur strukturierten Ausgabe beschreibt, und prüft jedes Feld, bevor es weiterverwendet wird.

Die Risiken, die man vorher kennen sollte

Falsche Inhalte. Das BSI hält fest, dass generative Modelle keine oder nur unzureichende Garantien für die Qualität ihrer Ausgaben bieten. Sie können Inhalte erfinden, die weder in der Eingabe noch in den Trainingsdaten standen. Diese Halluzinationen wirken oft glaubwürdig, gerade wenn sie Quellen nennen, die selbst erfunden sind.

Abfluss von Daten. Alles, was einem Modell für seine Aufgabe übergeben wird, ist nach Einschätzung des BSI vom Risiko betroffen. Übernimmt ein Modell zusätzliche Aufgaben, etwa die Bearbeitung von E-Mails, erstreckt sich das Risiko auf diese E-Mails. Bei Diensten von Drittanbietern ist ein Abfluss an diese denkbar.

Rechte Dritter. Gabler verweist auf offene Fragen des Urheberrechts und darauf, dass erzeugte Inhalte Personen verletzen können. Wer generierte Texte oder Bilder veröffentlicht, sollte klären, wer sie prüft und freigibt.

Missbrauch. Dieselben Fähigkeiten helfen Angreifern, etwa beim Verfassen glaubwürdiger Phishing-Mails. Das betrifft weniger die eigene Anwendung als die Bedrohungslage, mit der ein Unternehmen ohnehin rechnen muss.

Das BSI empfiehlt Unternehmen, vor der Einbindung generativer KI in ihre Abläufe eine eigene Risikoanalyse für den konkreten Anwendungsfall durchzuführen und bestehende Sicherheitsmaßnahmen darauf abzustimmen. Daneben gelten die Pflichten der europäischen KI-Verordnung, die je nach Rolle und Einsatzzweck unterschiedlich ausfallen. Beides lässt sich gut zusammen erledigen, weil dieselben Fragen am Anfang stehen: Welche Daten fließen wohin, wer prüft die Ergebnisse, und was geschieht, wenn eines falsch ist.

Quellen

  1. Generative KI, Gabler Wirtschaftslexikon, Springer Fachmedien
  2. Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden, Version 2.0, Bundesamt für Sicherheit in der Informationstechnik, 2025
  3. On the Opportunities and Risks of Foundation Models, Bommasani et al., Stanford University, arXiv, 2021
  4. Generative Adversarial Networks, Goodfellow et al., arXiv, 2014
  5. Denoising Diffusion Probabilistic Models, Ho, Jain, Abbeel, arXiv, 2020

Inhaltlich geprüft im Oktober 2026. Der Eintrag erklärt einen Begriff und ersetzt keine Rechts- oder Steuerberatung.

Welcher Prozess kostet Ihr Team jeden Tag unnötig Zeit?

Bringen Sie einen konkreten Ablauf mit. In 45 Minuten klären wir, ob sich seine Automatisierung rechnet und was der nächste Schritt wäre.

Direkt mit einem Gründer · unverbindlich · ohne Verkaufsshow

Erst ein Prozess.
Dann der nächste.