Zum Inhalt springen

KI-Grundlagen

Open-Weight-Modell

Ein Open-Weight-Modell ist ein KI-Modell, dessen trainierte Gewichte öffentlich zum Herunterladen bereitstehen. Man kann es auf eigener Hardware betreiben und anpassen, während Trainingsdaten und Trainingscode meist nicht offenliegen.

Auch: Open Weights, Modell mit offenen Gewichten, offenes Modell, Open-Source-Modell (umgangssprachlich)

Ein trainiertes Sprachmodell besteht im Kern aus einer sehr großen Menge Zahlen, den Gewichten. Die Open Source Initiative (OSI) beschreibt sie als die gelernten Parameter, die über der Modellarchitektur liegen und aus einer Eingabe eine Ausgabe machen. Wer diese Zahlen hat, kann das Modell ausführen. Bei den Diensten von OpenAI, Anthropic oder Google bleiben sie beim Anbieter, man schickt Anfragen hin und bekommt Antworten zurück. Bei einem Open-Weight-Modell stellt der Hersteller die Gewichte zum Herunterladen bereit. Das Modell läuft dann dort, wo man es hinstellt: im eigenen Rechenzentrum, bei einem Hoster der Wahl oder auf einem Laptop.

Im Alltag werden solche Modelle oft Open Source genannt. Fachlich ist das meist falsch, und der Unterschied hat praktische Folgen.

Was offen ist und was nicht

Gewichte sind das Ergebnis des Trainings, nicht sein Rezept. Mit ihnen kann man das Modell nutzen und weitertrainieren, aber nicht nachvollziehen, woraus es gelernt hat, und nicht nachbauen. Die OSI hat deshalb im Oktober 2024 die Open Source AI Definition 1.0 veröffentlicht. Sie verlangt, dass ein KI-System für jeden Zweck ohne Erlaubnis genutzt, untersucht, verändert und weitergegeben werden darf. Dafür müssen drei Dinge zugänglich sein: die Gewichte, der vollständige Code für Training und Betrieb und so ausführliche Angaben zu den Trainingsdaten, dass eine fachkundige Person ein im Wesentlichen gleichwertiges System bauen könnte.

Bestandteil typisches Open-Weight-Modell Open Source AI nach OSI
Gewichte frei herunterladbar frei verfügbar
Code für Training meist nicht veröffentlicht vollständig veröffentlicht
Trainingsdaten allenfalls grob beschrieben so beschrieben, dass ein Nachbau möglich ist
Lizenz je nach Hersteller, oft mit Auflagen Nutzung für jeden Zweck, ohne Erlaubnis zu fragen

Für ein Unternehmen, das ein Modell einfach einsetzen will, ist die fehlende Offenheit der Trainingsdaten selten das Problem. Entscheidend ist die Lizenz.

Die Lizenz entscheidet, was man darf

Die Bandbreite ist groß. Am einen Ende stehen Modelle unter freien Lizenzen wie Apache 2.0, die kommerzielle Nutzung, Veränderung und Weitergabe weitgehend ohne Auflagen erlauben. So hat OpenAI 2025 sein Modell gpt-oss-20b veröffentlicht, und auch Google stellt die vierte Generation seiner Gemma-Modelle nach eigener Dokumentation unter Apache 2.0 (Stand Oktober 2026).

Am anderen Ende stehen eigene Lizenzen der Hersteller mit Bedingungen. Ein bekanntes Beispiel ist die Lizenz für Llama 3.1 von Meta. Sie verlangt unter anderem, bei Weitergabe gut sichtbar „Built with Llama“ anzugeben, abgeleitete Modelle mit „Llama“ beginnen zu lassen und eine Richtlinie zur zulässigen Nutzung einzuhalten, die Teil des Vertrags ist. Unternehmen mit mehr als 700 Millionen monatlich aktiven Nutzern brauchen eine gesonderte Erlaubnis. Die OSI hat im Februar 2025 festgestellt, dass diese Lizenzen nicht Open Source sind, weil sie die Nutzung für bestimmte Zwecke und durch bestimmte Nutzergruppen einschränken.

Für den Mittelstand ist die Nutzerschwelle bedeutungslos, die übrigen Auflagen nicht. Die OSI weist außerdem darauf hin, dass neuere Llama-Lizenzen Personen in der EU teilweise von der Nutzung ausschließen. Lizenzen unterscheiden sich zudem oft von Version zu Version desselben Modells. Wer ein Modell in ein Produkt oder einen Kundenprozess einbaut, sollte die Lizenz der konkret verwendeten Version lesen und ablegen.

Auch die KI-Verordnung knüpft an die Lizenz an. Nach Art. 53 Abs. 2 entfallen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck bestimmte Dokumentationspflichten, wenn das Modell unter einer freien und quelloffenen Lizenz veröffentlicht ist, die Zugang, Nutzung, Veränderung und Weitergabe erlaubt, und wenn Gewichte, Architektur und Nutzungsinformationen öffentlich sind. Für Modelle mit systemischem Risiko gilt diese Ausnahme nicht. Die Pflichten treffen in erster Linie den Hersteller des Modells. Wer ein offenes Modell selbst stark verändert und weitergibt, sollte prüfen lassen, ob er dadurch selbst in diese Rolle rückt.

Was der eigene Betrieb verlangt

Das Versprechen offener Gewichte ist Kontrolle. Die Daten verlassen das Haus nicht, kein Anbieter kann das Modell abkündigen oder sein Verhalten über Nacht ändern, und das Modell lässt sich per Fine-Tuning an eigene Aufgaben anpassen. Für die Datensouveränität ist das der stärkste Hebel. Der Preis ist, dass man alles selbst übernimmt, was sonst der Anbieter erledigt.

Hardware. Die Gewichte müssen in den Speicher der Grafikkarte passen. Google gibt für sein größtes Gemma-4-Modell mit 31 Milliarden Parametern 69,9 GB bei voller 16-Bit-Genauigkeit an, in einer auf 4 Bit verkleinerten Fassung 17,5 GB. Für gpt-oss-20b nennt OpenAI 16 GB Speicher (beides Stand Oktober 2026). Dazu kommt Arbeitsspeicher für die laufenden Anfragen. Was dabei technisch geschieht und warum das Verkleinern der Gewichte Qualität kosten kann, erklärt der Eintrag zur Inferenz.

Betrieb. Jemand muss die Software für die Auslieferung des Modells einrichten, Updates einspielen, Ausfälle bemerken und die Last verteilen. Neue Modellversionen erscheinen in kurzen Abständen, und der Wechsel muss getestet werden wie bei jedem Anbieter auch. Ob das im eigenen Rechenzentrum oder bei einem Hoster geschieht, ist eine eigene Abwägung, die der Eintrag zu On-Premises und Cloud beschreibt.

Qualität. Die Spitzenmodelle von OpenAI, Anthropic und Google gibt es bisher nur als Dienst, nicht als offene Gewichte. Für viele klar umrissene Aufgaben reicht ein offenes Modell trotzdem, besonders ein kleines Sprachmodell, das auf bescheidener Hardware läuft. Ob es reicht, zeigt nur ein Test mit eigenen Fällen.

Herkunft prüfen

Offene Gewichte werden über öffentliche Plattformen verteilt, und nicht alles, was dort liegt, stammt vom Hersteller. Das BSI warnt, dass Modelle auf diesem Weg manipuliert werden können, entweder durch veränderte Gewichte, die etwa diskriminierende Ausgaben hervorrufen, oder durch Schadcode, der in die gespeicherte Modelldatei eingeschleust wird. Gewichte sollten deshalb nur aus der offiziellen Quelle des Herstellers stammen, und ihre Prüfsummen sollten mit den veröffentlichten Werten übereinstimmen. Abgeleitete Varianten unbekannter Herkunft gehören nicht in einen produktiven Prozess.

Fragen vor der Entscheidung

  • Unter welcher Lizenz steht genau diese Modellversion, und welche Auflagen enthält sie?
  • Welche Daten sollen verarbeitet werden, und ist der eigene Betrieb dafür wirklich nötig, oder genügt ein Dienst mit Verarbeitung in der EU?
  • Wer betreibt, überwacht und aktualisiert das Modell, und was kostet das über mehrere Jahre?
  • Reicht die Qualität des offenen Modells für die Aufgabe, gemessen an echten Fällen?

Quellen

  1. The Open Source AI Definition 1.0, Open Source Initiative, 2024
  2. Meta's LLaMa license is still not Open Source, Open Source Initiative, 2025
  3. Llama 3.1 Community License Agreement, Meta, GitHub, 2024
  4. AI Act, Article 53: Obligations for providers of general-purpose AI models, Europäische Kommission, AI Act Service Desk
  5. Gemma 4 model overview, Google AI for Developers
  6. gpt-oss-20b, Model Card, OpenAI, Hugging Face, 2025
  7. Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden, Version 2.0, Bundesamt für Sicherheit in der Informationstechnik, 2025

Inhaltlich geprüft im Oktober 2026. Der Eintrag erklärt einen Begriff und ersetzt keine Rechts- oder Steuerberatung.

Welcher Prozess kostet Ihr Team jeden Tag unnötig Zeit?

Bringen Sie einen konkreten Ablauf mit. In 45 Minuten klären wir, ob sich seine Automatisierung rechnet und was der nächste Schritt wäre.

Direkt mit einem Gründer · unverbindlich · ohne Verkaufsshow

Erst ein Prozess.
Dann der nächste.