Was kostet KI-Hosting wirklich? Cloud-Kosten für KMU im Vergleich 2026

Wichtig: Ein hoher DSGVO-Score bedeutet nicht automatisch einen aufsichtsbehördlich vertretbaren Einsatz im Einzelfall. Entscheidend sind auch die konkrete Nutzung, ein AVV und interne Datenschutzprozesse. Die folgenden DSGVO-Scores sind Risikoeinschätzungen, keine rechtlichen Bewertungen.

Praxisregel

• ✅ Gelegentliche Nutzung, ohne personenbezogene Daten: Chat-Abo oder Cloud-API reicht meist.
• ✅ Dauerhaft hohes Volumen oder besonders strenge Datenschutzanforderungen: Self-Hosting prüfen und die Kosten für einen festen Workload durchrechnen.
• ⚠️ Personenbezogene Daten über eine US-API: AVV und Datenresidenz vorab prüfen.
• ⚠️ Enterprise-Preise nie schätzen – „auf Anfrage“ beim Anbieter einholen.

Drei Betriebsmodelle, drei Kosteneinheiten

Die Modelle lassen sich nicht direkt gegeneinander aufrechnen, weil sie in unterschiedlichen Einheiten abgerechnet werden:

Tabelle seitlich scrollen →

Was KI-Hosting für KMU tatsächlich kostet

Bei reiner API-Nutzung (Pay-per-Token) zahlst du nur für verarbeitete Anfragen. Laut einer Marktübersicht vom Juli 2026 liegen Token-Preise je nach Modell und Kontextlänge zwischen wenigen Cent und mehreren Euro pro eine Million Token. Für ein Team mit gelegentlicher Nutzung bleibt das meist im niedrigen zweistelligen Euro-Bereich pro Monat.

Beim Self-Hosting verschiebt sich die Rechnung. Ein 7B-Modell läuft laut einer Analyse von Mai 2026 bereits auf einer Workstation mit rund 8 GB VRAM, ein 70B-Modell braucht dagegen einen dedizierten GPU-Server. Eine feste Break-even-Schwelle lässt sich daraus nicht ableiten: Die Quelle nennt eine Größenordnung von 100 bis 200 Stunden Nutzung im Monat, doch eine Nutzungsstunde sagt nichts über Tokenvolumen, Modell, Kontextlänge oder Parallelität aus, und beim Eigenbetrieb bestimmen GPU, Auslastung, Energie und Betriebsaufwand die Kosten. Als Entscheidungsgrenze ist die Stundenangabe deshalb nicht übertragbar; belastbar wird der Vergleich erst mit einem festen Workload (Modellklasse, Tokens pro Monat, API-Preis, Hardware oder GPU-Miete, Auslastung, Administrationszeit). Ein durchgerechnetes Beispiel folgt weiter unten.

Für den vollständigen Implementierungs-Case nennt dieselbe Quelle 35.000–85.000 € Initial-Investition plus 18.000–42.000 € laufende Kosten jährlich; kleinere Einstiegspakete beginnen bereits ab rund 4.990 €. In dieser jährlichen Spanne stecken laut gleicher Quelle mehrere Posten, die bei einer reinen API-Nutzung entfallen: Support-Verträge für die eingesetzte Hardware, laufendes Monitoring und Patch-Management des Systems sowie die interne Schulung des Teams, das den Betrieb übernimmt.

Wie stark diese Posten ins Gewicht fallen, hängt vor allem davon ab, ob vorhandenes IT-Personal die Aufgabe mitübernehmen kann oder ob zusätzliche Kapazität extern eingekauft werden muss – ein Faktor, der in pauschalen Kostenübersichten häufig untergeht. Hinzu kommt ein Standort-Faktor: EU-Cloud-Anbieter wie Hetzner, IONOS, StackIT oder OVHcloud bieten GPU-Instanzen mit Hosting in der EU; die Listenpreise unterscheiden sich je nach Anbieter und Ausstattung spürbar von US-Hyperscalern, dafür ist die Prüfung eines Serverstandorts außerhalb der EU meist einfacher; Unterauftragnehmer und Supportzugriffe bleiben zu prüfen.

Zur Einordnung ein Rechenbeispiel mit festem Workload (Stand: 2026-10): Ein KMU mit 10 Mitarbeitenden nutzt einen Dokumentenassistenten. Jede Person stellt an 21 Arbeitstagen im Monat 20 Anfragen mit durchschnittlich 3.000 Token Eingabe und 500 Token Ausgabe. Das sind 4.200 Anfragen mit 12,6 Mio. Token Eingabe und 2,1 Mio. Token Ausgabe pro Monat. Das Volumen ist eine Annahme, keine Messung.

Tabelle seitlich scrollen →

Beim Eigenbetrieb kommt der Betrieb selbst hinzu (Einrichtung, Updates, Überwachung); dafür liegt kein belegter Preis vor. Bei gleicher Mischung aus Eingabe und Ausgabe (6 zu 1) wird die reine GPU-Miete erst bei rund 180 Mio. Token pro Monat gegenüber Claude Sonnet 5.5 günstiger als die API, bei rund 360 Mio. gegenüber Claude Haiku 4.5, bei rund 940 Mio. gegenüber Gemini 3.5 Flash-Lite und bei rund 2,7 Mrd. gegenüber Mistral Small 4. Das ist das 12- bis 180-Fache des Beispielvolumens von 14,7 Mio. Token.

Grenzen des Beispiels: USD- und EUR-Preise sind nicht umgerechnet. Das selbst betriebene Modell der 7B- bis 8B-Klasse ist kleiner als die verglichenen API-Modelle, die Qualität ist also nicht gleich. Eine L4 mit 24 GB reicht für ein 70B-Modell nicht, und ob sich die Anfragen von 10 Personen auf eine einzelne GPU verteilen lassen, wurde nicht geprüft. Caching und Batch-Rabatte der Anbieter würden die API-Kosten weiter senken. Kommt, wie bei einer Steuerberater-Kanzlei, die Verarbeitung von Mandantendaten hinzu, sind zusätzlich Verschwiegenheitspflichten nach §203 StGB und ein AVV zu prüfen.

Preisquellen (abgerufen im Oktober 2026): Anthropic, Google Gemini API, Mistral AI, Scaleway GPU-Instanzen.

Relevante KI-Hosting-Tools im Überblick

Hinweis: Ollama, Runpod und Open Telekom Cloud sind noch nicht vollständig in unserer Datenbank geprüft.

Tabelle seitlich scrollen →

Der DSGVO-Score setzt sich aus sieben gewichteten Kategorien zusammen (u. a. KI-Training, AVV, Rechtsgrundlage, Datenspeicherung) – Details in der Methodik. Bei DeepSeek bezieht sich der niedrige Wert ausschließlich auf Datenschutz und Compliance, nicht auf die Qualität der KI-Funktionen selbst.

Warum diese Tools?

Diese Auswahl ist keine vollständige Marktübersicht, sondern deckt vier typische Einstiegspunkte ab: etablierte Cloud-APIs für den sofortigen Einstieg, zwei Self-Hosting-Werkzeuge für den Betrieb eigener Modelle, eine EU-Alternative mit Datenresidenz-Fokus und ein Negativbeispiel, an dem sich Risikofaktoren konkret zeigen lassen.

Wer KI nur gelegentlich für Recherche oder Textentwürfe braucht, kennt das Problem: Ein fester Abo-Preis lohnt sich kaum, wenn das Tool nur an wenigen Tagen im Monat läuft. Genau hier passen ChatGPT Plus und Claude (Anthropic) – beide lassen sich als Abo ab 20 $ bzw. 20 $ USD/Monat nutzen; die nutzungsbasierte API ist ein getrenntes Produkt mit anderer Abrechnung.

Wer bereits mit Google Workspace arbeitet, verliert bei einem Tool-Wechsel oft Zeit durch Medienbrüche zwischen Mail, Docs und KI-Chat. Gemini setzt direkt in dieser Umgebung an, ab 4,99 € €/Monat.

Betriebe mit klarer EU-Datenresidenz-Anforderung stehen vor der Frage, ob ein US-Anbieter überhaupt infrage kommt. Mistral AI sitzt in Paris und erreicht mit 7,0/10 den höchsten Score dieser Übersicht – ein Hinweis auf geringeren Prüfaufwand, kein Freibrief.

Für Teams mit dauerhaft hohem Volumen oder dem Ziel, keine Daten an Dritte zu geben, kann Self-Hosting wirtschaftlicher sein, sobald sich der Betrieb für den konkreten Workload rechnet. Ollama eignet sich für den Einstieg auf eigener Hardware, Runpod liefert bei Bedarf zusätzliche GPU-Kapazität in der Cloud, ohne eigene Server anzuschaffen.

Wer Self-Hosting mit EU-Infrastruktur statt eigenem Rechenzentrum kombinieren will, findet in der Open Telekom Cloud (Deutsche Telekom) eine Option mit Hosting in Deutschland. Ein Beispiel aus der Praxis: Ein Fertigungsbetrieb, der Maschinendaten und Qualitätsprotokolle per KI auswerten lässt und dabei auf durchgängiges EU-Hosting angewiesen ist – etwa wegen interner Compliance-Vorgaben oder Anforderungen aus der Lieferkette –, findet hier Rechenzentren in Deutschland, mit deutlich weniger Fragen zu einem Datentransfer außerhalb der EU, sofern Anbieter, Region und Unterauftragnehmer geprüft sind.

Was andere Optionen problematisch macht

DeepSeek wirbt mit niedrigen oder kostenlosen Tarifen, erreicht in unserer Methodik aber nur 1,5/10. Hintergrund: DeepSeek ist ein chinesisches Unternehmen, Nutzerdaten werden nach öffentlich verfügbaren Analysen (Stand 2026) auch in China gespeichert und unterliegen dortigen Sicherheitsgesetzen – ein Transferrisiko, das ein günstiger Preis nicht aufwiegt. Nach unserer Recherche (Stand: 2026-09) liegt zudem kein öffentlich dokumentierter AVV vor, der eine geschäftliche Nutzung mit Personenbezug ohne Weiteres absichern würde.

Generell gilt: Ein auffällig günstiger Tarif ohne erkennbaren EU-Bezug verschiebt das Risiko meist nur vom Budget in den Compliance-Bereich – der Prüfaufwand für AVV, Datenresidenz und Subprozessoren bleibt bestehen.

DSGVO-Pflichten je nach Hosting-Modell

Bei Cloud-API-Nutzung mit Personenbezug ist ein AVV mit dem Anbieter Pflicht. Von den hier verglichenen US-Anbietern ist nach aktueller Prüfung (Stand: 2026-10) nur Gemini (Google) am EU-US Data Privacy Framework zertifiziert; ChatGPT (OpenAI) und Claude (Anthropic) stützen die Datenübermittlung in die USA stattdessen auf Standardvertragsklauseln (SCCs). Unabhängig vom genutzten Transfermechanismus bleibt die Anwendbarkeit des Cloud Act durch die US-Unternehmensstruktur bei allen drei Anbietern nicht vollständig ausgeschlossen. Verarbeitung außerhalb der EU ist zusätzlich eine Drittlandübermittlung, die eine eigene Rechtsgrundlage braucht.

Kurz gesagt: Werden personenbezogene Daten über eine US-API verarbeitet, brauchst du fast immer: einen AVV, eine geprüfte Rechtsgrundlage für den Datentransfer (DPF-Zertifizierung oder SCCs, je nach Anbieter) und eine Dokumentation, welche Daten an die API gehen.

Beim Self-Hosting kann der Drittlandtransfer entfallen, wenn Verarbeitung, Administration und Dienstleisterkette nachweislich auf EU/EWR oder die eigene kontrollierte Infrastruktur begrenzt sind; bei gemieteter Infrastruktur, etwa einer GPU-Cloud, müssen Anbieter, Region und Unterauftragnehmer gesondert geprüft werden. Dafür liegt die Verantwortung für technische und organisatorische Maßnahmen vollständig beim eigenen Unternehmen – Verschlüsselung, Zugriffskontrollen und Patch-Management sind dann keine Anbieterleistung mehr. Für die Kostenkalkulation heißt das: Compliance ist kein Nebenposten, sondern Teil der oben genannten laufenden Betriebskosten. Für DPIA, AVV-Erstellung und ein externes Audit des eigenen KI-Stacks fallen zusätzliche Kosten an, deren Höhe stark vom Prüfumfang und vom gewählten Dienstleister abhängt – ein konkretes Angebot eines spezialisierten Datenschutz-Dienstleisters liefert hier eine belastbarere Grundlage als pauschale Richtwerte.

Methodik

Die DSGVO-Scores stammen aus unserer siebenteiligen Bewertungsmethodik (KI-Training, AVV, Rechtsgrundlage/Drittlandtransfer, Datenspeicherung, Betroffenenrechte, Transparenz, technische Sicherheit) und sind Risikoeinschätzungen, keine Rechtsgutachten. Details zur Gewichtung unter /methodik.

Fazit & Empfehlung

Als qualitative Orientierung: Für viele KMU ist der Einstieg über ein Chat-Abo oder eine Cloud-API der kleinere Schritt – die laufenden Kosten bleiben überschaubar, ein Wechsel ist jederzeit möglich. Ein belastbarer Gesamtkostenvergleich über alle drei Betriebsmodelle ist nur für einen fest definierten Workload möglich, wie im Rechenbeispiel oben; für andere Fälle sind Leistungsumfang, Integrationstiefe, Datenmenge und Personalaufwand nicht einheitlich definiert. Bei dauerhaft hohem Nutzungsvolumen oder strengen Datenschutzanforderungen kann Self-Hosting wirtschaftlich und rechtlich interessant werden – dann allerdings mit höherer Initial-Investition, laufenden Betriebskosten für Support und Schulung sowie eigener Verantwortung für die technischen und organisatorischen Maßnahmen.

Du willst nicht jeden Vertrag selbst prüfen? Unsere Tooltests zeigen pro KI-Tool: AVV, DPA, KI-Training, Cloud-Act-Risiko, DSGVO-Score.