Zum Inhalt springen

Integration und Betrieb

On-Premises und Cloud

On-Premises heißt, dass Software und Daten auf eigener Hardware in eigenen oder selbst kontrollierten Räumen laufen; Cloud heißt, dass man Rechenleistung und Dienste über das Netz von einem Anbieter bezieht. Bei KI entscheidet sich daran vor allem, wo das Sprachmodell rechnet und wer es betreibt.

Auch: On-Prem, On-Premise, Self-Hosting, Private Cloud, Public Cloud, Hybrid Cloud

Bei klassischer Unternehmenssoftware war die Frage überschaubar: Steht der Server im eigenen Keller, oder mietet man die Anwendung bei einem Anbieter? Bei KI-gestützten Abläufen hat sie eine neue Schärfe bekommen. Ein Sprachmodell bekommt E-Mails, Verträge und Kundendaten zu sehen, und es braucht zum Rechnen spezialisierte Hardware, die man nicht nebenbei im Serverraum betreibt. Zwischen „alles beim großen Anbieter“ und „alles im eigenen Haus“ liegen mehrere Abstufungen, und jede hat ihren Preis.

Was die Begriffe genau meinen

Die meistzitierte Definition von Cloud Computing stammt vom amerikanischen Normungsinstitut NIST (SP 800-145, 2011). Sie nennt fünf Merkmale: Nutzer beziehen Rechenleistung selbst und nach Bedarf, über das Netz, aus einem gemeinsam genutzten Pool von Ressourcen, der sich schnell vergrößern und verkleinern lässt, und die Nutzung wird gemessen und abgerechnet. Dazu kommen drei Servicemodelle. Bei Software as a Service nutzt man eine fertige Anwendung. Bei Platform as a Service bringt man eigene Anwendungen auf eine Plattform des Anbieters. Bei Infrastructure as a Service mietet man Rechner, Speicher und Netz und betreibt darauf, was man will.

Für die Debatte um On-Premises sind die Bereitstellungsmodelle der Definition aufschlussreich. Eine Public Cloud steht jedermann offen und befindet sich in den Räumen des Anbieters. Eine Private Cloud ist einer einzigen Organisation vorbehalten, kann aber laut NIST von ihr selbst oder einem Dritten betrieben werden und sich innerhalb oder außerhalb ihrer Räume befinden. Private Cloud und On-Premises sind also nicht dasselbe: Die eine Frage betrifft, wer die Ressourcen nutzt, die andere, wo sie stehen. Eine Hybrid Cloud verbindet nach NIST zwei oder mehr getrennte Cloud-Infrastrukturen. Im Sprachgebrauch meint „hybrid“ oft etwas Lockereres: einiges im eigenen Haus, anderes beim Anbieter.

Vier Wege, ein Sprachmodell zu betreiben

Betriebsmodell Wo das Modell rechnet Verfügbare Modelle Kostenverlauf Eigener Aufwand
Schnittstelle des Anbieters, global dort, wo der Anbieter gerade Kapazität hat alle, neue zuerst je Token, ohne Grundkosten gering
Schnittstelle mit Verarbeitung in der EU in Rechenzentren innerhalb einer festgelegten Zone eingeschränkt, neue oft später je Token, teils Aufschlag gering
Private Cloud, gemietete Rechenleistung auf Servern, die nur dem eigenen Unternehmen dienen offene Modelle fix je Zeit, unabhängig von Nutzung mittel
Eigene Hardware (On-Premises) im eigenen Rechenzentrum oder Serverraum offene Modelle Anschaffung, Strom, Personal hoch

Die Schnittstelle des Anbieters. Das ist der einfachste und verbreitetste Weg: Man schickt Anfragen über eine API an das Modell eines großen Anbieters und zahlt je Token. Wo genau gerechnet wird, bestimmt bei der Standardeinstellung der Anbieter. Anthropic etwa beschreibt für seine eigene Schnittstelle, dass die Verarbeitung bei der Voreinstellung „global“ in jeder verfügbaren Region stattfinden kann. Als Alternative bietet Anthropic dort derzeit nur eine Verarbeitung ausschließlich in den USA an (Stand Oktober 2026).

Die Schnittstelle mit Verarbeitung in der EU. Mehrere Anbieter erlauben, die Verarbeitung auf eine Region zu beschränken. Bei Microsoft Foundry gibt es dafür eine eigene Bereitstellungsart, die Anfragen und Antworten nur innerhalb der EU-Datenzone verarbeitet. OpenAI führt eine Region Europa (EWR und Schweiz); regionale Verarbeitung und Speicherung zusammen gibt es dort nach eigener Dokumentation nur für die USA und Europa, und für Regionen außerhalb der USA stellt OpenAI zusätzliche Vertragsvoraussetzungen. Bei Anthropic-Modellen auf Amazon Bedrock oder Google Cloud bestimmt die gewählte Region oder das Inferenzprofil den Verarbeitungsort. Die Bindung an eine Region kann Geld kosten: Anthropic berechnet für die reine US-Verarbeitung auf der eigenen Schnittstelle das 1,1-Fache des Standardpreises. Zwei Einschränkungen sollte man kennen. Microsoft schreibt offen, dass neue Modelle zuerst global erscheinen, dann in den Datenzonen und zuletzt in einzelnen Regionen, für Letztere ohne zugesagten Termin. Und der Ort der Speicherung ist nicht der Ort der Verarbeitung: Bei Microsoft bleiben gespeicherte Daten bei allen Bereitstellungsarten in der gewählten Region, gerechnet wird bei der globalen Variante aber womöglich anderswo.

Die Private Cloud. Wer kein fremdes Modell nutzen will, kann ein offenes Modell auf Servern betreiben, die ein Hoster ausschließlich für ihn bereitstellt, etwa bei einem Anbieter in Deutschland. Das Modell ist dann unter eigener Kontrolle, die Hardware nicht. Man zahlt für die Rechenzeit, auch wenn das Modell gerade nichts zu tun hat.

Die eigene Hardware. Das Modell läuft auf Servern, die das Unternehmen kauft und in eigenen Räumen betreibt. Kein Datensatz verlässt das Haus, und niemand außer der eigenen IT entscheidet, wann ein Modell gewechselt wird.

Was für die eigene Hardware spricht und was dagegen

Für den Betrieb im eigenen Haus sprechen handfeste Gründe: Daten, die das Unternehmen nicht verlassen dürfen, etwa aufgrund vertraglicher Zusagen an Kunden; Anlagen ohne verlässliche Internetanbindung; der Wunsch, nicht von der Preisgestaltung und den Abkündigungen eines Anbieters abhängig zu sein; und bei sehr gleichmäßiger, hoher Auslastung womöglich auch die Kosten.

Dagegen steht einiges, das in Entscheidungsvorlagen gern zu kurz kommt. Auf eigener Hardware laufen nur offene Modelle; alles, was ein Anbieter ausschließlich über seine Schnittstelle anbietet, scheidet aus. Ob ein offenes Modell für die eigene Aufgabe gut genug ist, muss man erst messen. Die Hardware ist auf eine Spitzenlast auszulegen, die vielleicht nur am Monatsende auftritt, und steht den Rest der Zeit teilweise still. Und der Betrieb verlangt Fachleute für Aktualisierung, Absicherung und Überwachung. Microsoft, als Cloud-Anbieter nicht unparteiisch, zählt in seiner Darstellung der geteilten Verantwortung typische Lücken im Eigenbetrieb auf: verzögerte Sicherheitsupdates, veraltete Hardware, fehlende Überwachung des Netzes, ungetestete Datensicherungen. Die Liste ist interessengeleitet, aber nicht falsch. Ob ein Unternehmen diese Aufgaben verlässlich erfüllen kann, gehört ehrlich in die Rechnung der Total Cost of Ownership.

Was in jedem Modell beim Unternehmen bleibt

Mit dem Betriebsmodell verschiebt sich die Verantwortung, aber sie verschwindet nie ganz. In der Übersicht von Microsoft trägt im eigenen Rechenzentrum der Kunde alles, vom Gebäude bis zur Anwendung. Je weiter man in die Cloud geht, desto mehr übernimmt der Anbieter. Bei jedem Modell bleiben beim Kunden aber seine Daten, seine Konfiguration, die Benutzerkonten und die Vergabe von Zugriffsrechten.

Für Cloud-Modelle kommt die rechtliche Seite hinzu. Wer personenbezogene Daten an einen Modellanbieter schickt, braucht einen Vertrag zur Auftragsverarbeitung, und wenn Daten die EU verlassen können, die Regeln der Drittlandübermittlung. Die übergeordnete Frage, wie viel Kontrolle über die eigenen Daten man braucht und wie man sie nachweist, behandelt der Eintrag Datensouveränität.

Wie man zu einer Entscheidung kommt

Die Wahl sollte von den Daten ausgehen, nicht von der Technik, und sie muss nicht für alle Abläufe gleich ausfallen. Ein konstruiertes Beispiel: Ein Unternehmen liest Lieferantenrechnungen über die Schnittstelle eines großen Anbieters mit Verarbeitung in der EU aus, weil die Belege kaum personenbezogene Daten enthalten und die Qualität des Modells zählt. Die Auswertung von Bewerbungsunterlagen dagegen läuft mit einem offenen Modell bei einem Hoster in Deutschland, auch wenn das Modell schwächer ist.

Hilfreiche Fragen für diese Abwägung:

  • Welche Daten verarbeitet der Ablauf, und welche davon dürfen das Haus, die EU oder einen bestimmten Anbieter nicht verlassen?
  • Steht das Modell, das für die Aufgabe nötig ist, in der gewünschten Region oder als offenes Modell überhaupt zur Verfügung?
  • Wie verteilt sich die Last über den Monat, und lohnt sich feste Kapazität dafür?
  • Wer betreibt, aktualisiert und überwacht ein eigenes Modell, und wer vertritt diese Person im Urlaub?
  • Lässt sich der Ablauf so bauen, dass man das Betriebsmodell später wechseln kann, ohne ihn neu zu entwickeln?

Die letzte Frage ist die wichtigste. Die Angebote der Anbieter, die verfügbaren Regionen und die Leistungsfähigkeit offener Modelle ändern sich schnell. Wer das Modell hinter einer eigenen, schmalen Schnittstelle anspricht, kann auf solche Änderungen reagieren, statt an einer Entscheidung von heute festzuhängen.

Quellen

  1. NIST SP 800-145: The NIST Definition of Cloud Computing, National Institute of Standards and Technology, 2011
  2. Shared responsibility in the cloud, Microsoft Learn, Azure Security
  3. Understanding deployment types in Microsoft Foundry Models, Microsoft Learn, Microsoft Foundry
  4. Data controls in the OpenAI platform, OpenAI API Docs
  5. Data residency, Anthropic, Claude Platform Docs

Inhaltlich geprüft im Oktober 2026. Der Eintrag erklärt einen Begriff und ersetzt keine Rechts- oder Steuerberatung.

Welcher Prozess kostet Ihr Team jeden Tag unnötig Zeit?

Bringen Sie einen konkreten Ablauf mit. In 45 Minuten klären wir, ob sich seine Automatisierung rechnet und was der nächste Schritt wäre.

Direkt mit einem Gründer · unverbindlich · ohne Verkaufsshow

Erst ein Prozess.
Dann der nächste.