Wenn ein KI-Coaching-Tool auf die Shortlist kommt, taucht im DACH-Buying-Committee früher oder später eine Frage auf, die nichts mit Features zu tun hat: Wo laufen die Daten? Auf Servern des Anbieters — oder auf eigener Infrastruktur?
Die Frage klingt binär. Cloud oder On-Prem. In der Realität ist sie das selten. Zwischen „vollständig managed in der Cloud" und „alles auf eigenen Servern" liegen mehrere Abstufungen — und die richtige Wahl hängt nicht vom Marketing-Narrativ ab, sondern von drei Faktoren: regulatorische Anforderungen, IT-Architektur und operative Kapazität.
Dieser Artikel liefert eine Entscheidungshilfe. Keine Empfehlung für das eine oder andere Modell — sondern die Fragen, die IT, Datenschutz und Fachbereich gemeinsam beantworten müssen.
Warum die Frage gerade jetzt drängend ist
KI-Coaching-Tools verarbeiten Daten, die in keine klassische SaaS-Kategorie passen. Es sind keine Kontaktdaten wie im CRM. Es sind Verhaltensdaten: wie jemand argumentiert, wo Unsicherheiten liegen, welche Einwände schwerfallen. Dazu kommen Audiodaten bei Voice-Coaching, Rubric-Scores und Metadaten wie Übungshäufigkeit und Fortschrittskurven.
In regulierten Branchen — Banken, Versicherungen, Pharma, öffentlicher Sektor — gibt es für solche Daten oft klare Vorgaben: Verarbeitung nur innerhalb der eigenen Infrastruktur. Kein Ermessensspielraum, kein „Cloud in der EU reicht". Sondern: eigene Server, volle Kontrolle, dokumentierter Zugriff.
Gleichzeitig steigt der Druck auf IT-Abteilungen, KI-Tools schnell bereitzustellen. Fachbereiche wollen nicht sechs Monate auf eine On-Prem-Installation warten, wenn die Cloud-Variante in zwei Wochen läuft. Das erzeugt Spannung — und diese Spannung aufzulösen, ist die eigentliche Aufgabe.
Die drei Hosting-Modelle im Überblick
Bevor man entscheidet, muss man wissen, was zur Wahl steht. Drei Modelle decken das Spektrum ab:
Managed Cloud (DE/EU). Die Plattform läuft auf Servern des Anbieters — idealerweise auf deutschen oder EU-Servern mit dokumentierter Datenresidenz. Updates, Wartung und Skalierung übernimmt der Anbieter. Die IT des Kunden konfiguriert SSO, Rollen und Netzwerk-Policies, betreibt aber keine Infrastruktur.
On-Premise (Self-Hosted). Die Plattform wird auf der eigenen Infrastruktur des Kunden installiert — physisch oder virtuell, im eigenen Rechenzentrum oder in einer Private Cloud. Kein Datenfluss nach außen. Updates werden vom Kunden oder gemeinsam mit dem Anbieter eingespielt. Volle Kontrolle, volle Verantwortung.
Hybrid (Cloud-Plattform mit BYOK). Die Plattform läuft in der Cloud, aber der Kunde nutzt eigene API-Keys für LLM-Provider. Damit bleiben Kosten transparent, LLM-Anfragen laufen über die eigenen Verträge, und der Anbieter hat keinen Zugriff auf die KI-Interaktionen. Ein Mittelweg zwischen Kontrolle und Betriebsaufwand.
Wann On-Premise die richtige Wahl ist
On-Premise ist kein Relikt. Für bestimmte Kontexte ist es die einzig akzeptable Option:
Regulatorische Pflicht. Wenn interne Compliance oder Branchenregulierung vorschreibt, dass personenbezogene Verhaltensdaten ausschließlich auf eigener Infrastruktur verarbeitet werden dürfen, gibt es keine Diskussion. Das betrifft typischerweise Banken (BaFin-Anforderungen), Versicherungen, Teile des Gesundheitswesens und den öffentlichen Sektor.
Betriebsrat mit harter Linie. In manchen Unternehmen akzeptiert der Betriebsrat keine externe Datenverarbeitung für Tools, die Mitarbeiterverhalten analysieren — unabhängig von der DSGVO-Konformität. Wenn die Betriebsvereinbarung „keine Cloud für Leistungsdaten" festlegt, ist On-Prem der Weg.
Bestehende Private Cloud. Wenn das Unternehmen bereits eine Kubernetes-Infrastruktur oder eine Private Cloud betreibt und KI-Workloads dort laufen, ist die Integration eines weiteren Tools operativ einfacher als ein neuer externer Vendor.
Maximale Datensouveränität. Wenn die Organisation sicherstellen muss, dass kein Byte das eigene Netzwerk verlässt — auch nicht verschlüsselt, auch nicht anonymisiert — dann ist On-Prem die einzige Option, die diese Garantie bietet.
Wann Cloud (DE) ausreicht — und oft besser ist
Für die Mehrheit der mittelständischen und großen Unternehmen in DACH ist eine Managed Cloud auf deutschen Servern die pragmatischere Wahl:
Schnellerer Start. Cloud-Deployments stehen in Tagen bis Wochen. On-Prem-Installationen dauern oft Wochen bis Monate — abhängig von Infrastruktur, Netzwerk-Policies und internen Freigabeprozessen.
Laufende Updates. KI-Tools entwickeln sich schnell. In der Cloud bekommt jeder Kunde automatisch neue Features, Sicherheits-Patches und Modell-Verbesserungen. On-Prem bedeutet: jedes Update muss geplant, getestet und eingespielt werden.
Geringerer Ops-Aufwand. Kein internes Team muss die Plattform betreiben, Monitoring aufsetzen oder Skalierung managen. Die IT-Abteilung konfiguriert statt zu administrieren.
AVV und Unterauftragsverarbeiter dokumentiert. Ein seriöser Cloud-Anbieter mit deutschen Servern liefert Auftragsverarbeitungsvertrag, Sub-Processor-Liste und Datenfluss-Dokumentation. Für die meisten DSGVO-Prüfungen reicht das — vorausgesetzt, die Inhalte stimmen. Was genau geprüft werden muss, beschreibt der Artikel DSGVO und KI-Coaching: Was wirklich zählt.
Die Entscheidungsmatrix: Sieben Fragen für IT und Datenschutz
Statt abstrakter Empfehlungen — diese sieben Fragen führen zur richtigen Architekturentscheidung:
1. Gibt es eine regulatorische Pflicht für On-Prem? Wenn ja: On-Prem. Kein Ermessensspielraum. Wenn nein: alle Optionen offen.
2. Was sagt die bestehende Betriebsvereinbarung? Wenn sie Cloud für verhaltensnahe Daten ausschließt: On-Prem oder Betriebsvereinbarung aktualisieren. Wie das funktioniert, zeigt der Artikel KI-Coach einführen ohne Betriebsrat-Stress.
3. Hat die IT Kapazität für den Betrieb? On-Prem bedeutet: eigenes Monitoring, eigene Updates, eigene Skalierung. Wenn das Team bereits ausgelastet ist, kann Cloud die bessere Ressourcen-Allokation sein.
4. Wie schnell muss das Tool produktiv sein? Wenn der Fachbereich in sechs Wochen starten will, ist Cloud realistischer. On-Prem-Projekte mit Infrastruktur-Setup, Security-Review und Netzwerk-Freigaben passen selten in diesen Zeitrahmen.
5. Welche LLM-Provider sind akzeptabel? On-Prem gibt volle Kontrolle über den KI-Provider — einschließlich lokaler Modelle ohne Internetverbindung. Cloud mit BYOK gibt Kontrolle über den Provider, aber die Plattform selbst läuft extern.
6. Wie wichtig sind laufende Updates? KI-Modelle und Coaching-Methodik entwickeln sich schnell. Cloud-Kunden profitieren automatisch. On-Prem-Kunden müssen Updates aktiv einspielen.
7. Wie sieht die Exit-Strategie aus? Bei Cloud: Daten-Export, Vertragskündigung, fertig. Bei On-Prem: die Infrastruktur bleibt, aber ohne Anbieter-Support wird die Plattform zum Legacy-System. Beide Modelle haben Risiken — sie sind nur unterschiedlich.
Was On-Prem technisch bedeutet — ohne Beschönigung
Wer On-Prem wählt, sollte wissen, was das im Betrieb bedeutet:
Infrastruktur-Anforderungen. Ein KI-Coaching-Tool braucht nicht nur einen Webserver. Es braucht Compute für LLM-Anfragen (oder Anbindung an lokale Modelle), Speicher für Wissensdatenbanken, eine Datenbank für Nutzer- und Übungsdaten und ggf. Audio-Processing-Kapazität. Die Anforderungen sollten vor der Entscheidung dokumentiert sein — nicht danach.
Update-Zyklen. In der Cloud sind Updates unsichtbar. On-Prem heißt: Release-Notes lesen, Staging-Umgebung testen, Change-Management-Prozess durchlaufen, Downtime planen. Wer das nicht regelmäßig macht, bleibt auf einer veralteten Version — mit bekannten Lücken.
LLM-Integration. On-Prem kann bedeuten: lokale Modelle (Llama, Mistral) ohne Internetverbindung. Das ist maximale Souveränität. Aber lokale Modelle brauchen GPU-Kapazität, und die Qualität liegt nicht immer auf dem Niveau der großen Cloud-LLMs. Die Alternative: On-Prem-Plattform mit kontrolliertem Ausgang zu einem LLM-Provider — dann ist On-Prem „alles lokal außer KI-Inferenz".
Support-Modell. Wie unterstützt der Anbieter bei On-Prem-Installationen? Gibt es Remote-Support — und wenn ja, über welchen Kanal? Kann der Anbieter auf die Installation zugreifen, und unter welchen Bedingungen? Das muss vertraglich geregelt sein.
Der pragmatische Weg: Cloud starten, On-Prem als Option behalten
In der Praxis sehen wir häufig diesen Verlauf: Der Fachbereich will schnell starten. IT und Datenschutz wollen Kontrolle. Die Lösung ist oft nicht „entweder-oder", sondern eine Sequenz.
Schritt eins: Cloud-Deployment auf deutschen Servern. Schneller Proof of Value. Der Fachbereich arbeitet produktiv, das Buying-Committee sieht Ergebnisse.
Schritt zwei: Parallel prüft die IT, ob On-Prem langfristig nötig oder gewünscht ist. Wenn ja: geplante Migration nach dem Pilot — mit Daten-Export aus der Cloud und Setup auf eigener Infrastruktur.
Schritt drei: Im laufenden Betrieb entscheiden, ob BYOK als Mittelweg ausreicht — eigene API-Keys, eigene Kostensteuerung, aber Plattform in der Cloud.
Dieser Weg vermeidet die zwei häufigsten Fehler: sechs Monate On-Prem-Planung ohne Proof of Value — oder Cloud-Lock-in ohne Exit-Option.
Checkliste: Hosting-Entscheidung für KI-Coaching (DACH)
Für IT-Leitung, Datenschutzbeauftragte und Fachbereich — als Gesprächsgrundlage:
- Regulatorische Vorgaben dokumentiert (Branche, Betriebsvereinbarung, interne Policies)
- Datenklassifikation durchgeführt (welche Coaching-Daten sind wie sensibel)
- IT-Kapazität für On-Prem-Betrieb realistisch eingeschätzt
- Timeline des Fachbereichs berücksichtigt (Pilot-Start, Go-Live)
- LLM-Strategie geklärt (Cloud-Provider, lokale Modelle, BYOK)
- Update- und Patch-Prozess definiert (wer, wie oft, Staging)
- Exit-Strategie für beide Modelle dokumentiert
- Anbieter auf beide Optionen (Cloud DE + On-Prem) geprüft
Weiterführend
- DSGVO und KI-Coaching: Was wirklich zählt — Welche Datenschutzfragen bei der Anbieterauswahl Substanz haben
- KI-Coach einführen ohne Betriebsrat-Stress — Wie die Betriebsvereinbarung zum Enabler wird statt zum Blocker