Ein großes Sprachmodell entsteht in zwei Schritten. Zuerst wird es an riesigen Textmengen vortrainiert, danach auf bestimmte Aufgaben zugeschnitten. Fine-Tuning setzt diesen zweiten Schritt fort, nur mit eigenen Daten. Microsoft beschreibt es als Anpassung eines vortrainierten Modells an eine bestimmte Aufgabe, bei der die Gewichte des Modells anhand eines kleineren, aufgabenspezifischen Datensatzes geringfügig verändert werden. Das Modell muss dafür nicht von vorn lernen. Es baut auf dem auf, was es schon kann.
Die Idee klingt verlockend: Man gibt dem Modell die eigenen Unterlagen, und danach kennt es das Unternehmen. Genau so funktioniert es aber nicht, und an diesem Missverständnis scheitern viele Vorhaben.
Was Fine-Tuning einem Modell beibringt
Fine-Tuning verändert vor allem, wie ein Modell antwortet, weniger, was es weiß. Die Dokumentation von Microsoft nennt als typische Einsatzfelder: einen gewünschten Stil oder Ton einhalten, Ausgaben in festen Formaten erzeugen, Werkzeuge treffsicherer aufrufen und lange Prompts mit vielen Beispielen überflüssig machen. OpenAI ergänzt einen wirtschaftlichen Grund: Man kann ein kleineres, günstigeres und schnelleres Modell so trainieren, dass es eine eng umrissene Aufgabe ebenso gut erledigt wie ein großes.
Für das Vermitteln von Fakten ist das Verfahren schlecht geeignet. Gekhman und andere haben 2024 untersucht, was passiert, wenn man einem Modell per Fine-Tuning neues Wissen beibringen will. Solche Beispiele lernte das Modell deutlich langsamer als Beispiele, die zu seinem vorhandenen Wissen passten, und je mehr davon es schließlich gelernt hatte, desto stärker neigte es zu Halluzinationen. Die Autoren folgern, dass Modelle ihr Faktenwissen überwiegend im Vortraining erwerben und Fine-Tuning ihnen beibringt, es besser zu nutzen.
Dazu kommt ein praktisches Problem: Was einmal ins Modell trainiert ist, lässt sich nicht gezielt ändern. Ändert sich eine Preisliste, müsste man neu trainieren.
Abgrenzung zu Prompting und RAG
Drei Wege führen dazu, dass ein Modell eine Aufgabe im eigenen Unternehmen erledigt. Sie lösen verschiedene Probleme.
| Prompting | Retrieval Augmented Generation | Fine-Tuning | |
|---|---|---|---|
| was sich ändert | die Anweisung je Anfrage | die mitgelieferten Dokumente je Anfrage | die Gewichte des Modells |
| gut für | Aufgabenbeschreibung, Regeln, wenige Beispiele | aktuelles, umfangreiches Firmenwissen | Stil, Format, eng umrissene Routineaufgaben |
| Wissen aktualisieren | Prompt anpassen | Dokument austauschen | neu trainieren |
| Aufwand vorab | gering | mittel: Dokumente aufbereiten, Suche einrichten | hoch: Trainingsdaten erstellen, trainieren, prüfen |
| Herkunft einer Antwort | nachvollziehbar | Quelle lässt sich anzeigen | nicht nachvollziehbar |
Die Reihenfolge der Spalten ist zugleich eine sinnvolle Reihenfolge der Versuche. OpenAI empfiehlt, mit Prompt Engineering und einer sauberen Messung zu beginnen. Fehlt dem Modell Wissen, ist Retrieval Augmented Generation der passende Weg. Fine-Tuning lohnt sich erst, wenn beides ausgereizt ist und ein klar messbares Problem bleibt, etwa ein Format, das trotz guter Anweisungen nicht eingehalten wird, oder Kosten, die bei großem Volumen ein kleineres Modell verlangen. Die Verfahren schließen sich nicht aus: Microsoft beschreibt auch die Kombination, bei der ein Modell darauf trainiert wird, abgerufene Dokumente besser zu verwenden.
Was man dafür braucht
Beispiele in guter Qualität. Microsoft nennt als typische Größenordnung Hunderte bis einige Tausend Paare aus Eingabe und gewünschter Antwort. Entscheidend ist weniger die Menge als die Qualität: Die Beispiele müssen korrekt, einheitlich und repräsentativ für die tatsächlich vorkommenden Fälle sein. Schlechte oder einseitige Daten führen laut Microsoft zu einem Modell, das schlechter verallgemeinert. In der Praxis ist das Erstellen dieser Beispiele der größte Aufwand.
Eine Messung vorher und nachher. Ohne feste Testfälle lässt sich nicht zeigen, ob das trainierte Modell besser ist als das Ausgangsmodell mit gutem Prompt. Wie man das aufbaut, beschreibt der Eintrag zur Evaluation von KI-Systemen.
Einen Plan für die Wiederholung. Microsoft weist darauf hin, dass ein Fine-Tuning wiederholt werden muss, wenn sich die Daten ändern oder ein neues Basismodell erscheint. Wer ein Modell nachtrainiert, bindet sich an dessen Basis.
Wer es anbietet und wie es technisch geht
Das Angebot der großen Anbieter ist in Bewegung. Zum Stand Oktober 2026 schreibt OpenAI in seiner Dokumentation, die Fine-Tuning-Plattform werde zurückgefahren und stehe neuen Nutzern nicht mehr offen. Google bietet in der Gemini API seit Mai 2025 kein Modell mehr an, das sich nachtrainieren lässt, und verweist auf seine Unternehmensplattform. Microsoft bietet über seine Plattform Foundry mehrere Verfahren an. Wer heute ein Fine-Tuning plant, sollte deshalb zuerst klären, wie lange das gewählte Angebot und das Basismodell verfügbar bleiben.
Daneben stehen Modelle mit offen verfügbaren Gewichten, die man selbst nachtrainieren und betreiben kann. Verbreitet ist dafür ein sparsames Verfahren namens LoRA, das Hu und andere 2021 vorgestellt haben: Statt alle Gewichte zu verändern, trainiert man wenige zusätzliche Parameter, was Rechenaufwand und Speicherbedarf erheblich senkt. Das macht eigenes Fine-Tuning auch ohne großes Rechenzentrum möglich, verlagert aber Betrieb, Sicherheit und Aktualisierung ins eigene Haus.
Risiken, die man mitdenken sollte
Trainingsdaten werden Teil des Modells. Personenbezogene oder vertrauliche Angaben in den Beispielen lassen sich danach kaum noch gezielt entfernen. Das BSI weist außerdem darauf hin, dass über manipulierte Trainingsdaten oder Bewertungsmodelle beim Fine-Tuning Hintertüren eingeschleust werden können, und empfiehlt, die Vertrauenswürdigkeit vortrainierter Modelle vor dem Nachtrainieren kritisch zu prüfen.
Schließlich die Kosten: Zum Training kommen die Erstellung der Daten, die Prüfung und der Betrieb des eigenen Modells. In einer Betrachtung der Gesamtkosten fällt Fine-Tuning deshalb selten günstiger aus als ein guter Prompt mit passender Dokumentensuche. Es lohnt sich dort, wo eine eng umrissene Aufgabe in sehr großer Zahl anfällt.
Quellen
- Überlegungen zur Feinabstimmung, Microsoft Learn, Microsoft Foundry, 2026
- Model optimization, OpenAI, API-Dokumentation
- Fine-tuning with the Gemini API, Google, Gemini API-Dokumentation
- Does Fine-Tuning LLMs on New Knowledge Encourage Hallucinations?, Gekhman et al., arXiv, 2024
- LoRA: Low-Rank Adaptation of Large Language Models, Hu et al., Microsoft, arXiv, 2021
- Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden, Version 2.0, Bundesamt für Sicherheit in der Informationstechnik, 2025
Inhaltlich geprüft im Oktober 2026. Der Eintrag erklärt einen Begriff und ersetzt keine Rechts- oder Steuerberatung.

