Ollama

Ollama Test 2026: KI-Modelle lokal betreiben statt Daten in die Cloud schicken?

Ollama ist eine kostenlose Open-Source-Plattform, mit der sich offene KI-Sprachmodelle wie Llama, Mistral oder Gemma direkt auf dem eigenen Rechner ausführen lassen — ohne dass Prompts einen Cloud-Anbieter erreichen. Für Freelancer und KMU, die KI-Funktionen nutzen wollen, ohne sensible Daten an ein drittes Unternehmen zu schicken, ist das ein grundlegend anderer Ansatz als ChatGPT oder Claude. Dieser Test basiert auf der Analyse öffentlich verfügbarer Datenschutzdokumente, der Preisseite und ggf. verfügbarer AVV-Dokumentation (Stand: 2026-09).

Warum nutzen KMU Ollama?

Der zentrale Vorteil ist Datenkontrolle: Läuft ein Modell lokal, verlässt kein Prompt und keine Antwort das eigene Gerät — es gibt keinen externen Auftragsverarbeiter, dessen AVV geprüft werden müsste. Für Kanzleien, Praxen oder Entwicklerteams, die mit Mandanten- oder Kundendaten arbeiten, entfällt damit ein ganzer Prüfungsschritt. Der Verzicht auf laufende API-Kosten spart bei intensiver Nutzung zusätzlich spürbar Geld, weil nur die eigene Hardware Rechenleistung liefert.

Wie gut funktioniert Ollama in der Praxis?

Die Modellqualität hängt vollständig vom installierten offenen Modell ab — Ollama trainiert keine eigenen Sprachmodelle, sondern stellt nur die Ausführungsumgebung bereit. Der Qualitätsunterschied zwischen den Modellgrößen ist dabei erheblich: Laut offizieller Modellkarte von Meta (Hugging Face, Stand des Abrufs: 2026-09) erreicht das kleine, auch auf einem normalen Büro-Laptop lauffähige Llama-3.1-8B-Modell im Code-Test HumanEval 72,6 Punkte (Pass@1), das mittlere 70B-Modell 80,5 Punkte und das große 405B-Modell 89,0 Punkte. Letzteres benötigt dafür aber mehrere leistungsstarke GPUs mit viel VRAM, wie sie in einem typischen KMU-Büro erfahrungsgemäß nicht vorhanden sind — wer lokal auf Laptop-Hardware bleibt, arbeitet also faktisch mit der schwächeren 8B-Klasse. Konfiguriert wird über die Kommandozeile — eine Oberfläche für Einsteiger fehlt, das Tool richtet sich an technisch versierte Nutzer:innen statt an Officeteams ohne IT-Hintergrund.

Workflow-Beispiel: Ein Entwicklerbüro lässt ein lokales Llama-Modell interne Code-Kommentare und Commit-Messages zusammenfassen → Ollama auf dem Entwickler-Rechner → fertige Zusammenfassung in Sekunden, ohne dass Quellcode je einen Server verlässt → keine AVV- oder Drittlandprüfung nötig, da kein Drittanbieter beteiligt ist.

Wer keine eigene Hardware für größere Modelle betreiben will, kann alternativ Ollamas gehostete Cloud-Modelle nutzen — dann verlässt der Prompt das Gerät und wird laut Datenschutzerklärung transient in den USA, Europa oder Singapur verarbeitet. Ein direkter, anbieterübergreifender Qualitätsvergleich der Cloud-Modelle zu großen kommerziellen Anbietern wie Claude oder GPT-4o ist mangels unabhängiger, vergleichender Benchmarks nicht überprüfbar (Stand: 2026-09) — Metas eigene Zahlen belegen nur die Qualität innerhalb der eigenen Modellreihe.

Für wen ist Ollama geeignet?

Am besten passt Ollama zu Entwicklerteams und technisch versierten Freelancern, die Kontrolle über ihre Infrastruktur wollen und Modelle selbst einrichten und pflegen können — etwa für Code-Assistenz in Editor-Integrationen oder automatisierte Textverarbeitung in n8n-Workflows. Auch für Kanzleien oder Praxen mit strengen Vertraulichkeitspflichten lohnt sich ein Blick, weil die lokale Verarbeitung das Auftragsverarbeitungsproblem an der Wurzel löst. Weniger geeignet ist Ollama für Teams ohne IT-Ressourcen: Ohne jemanden, der Modelle aktuell hält, GPU-Anforderungen einschätzt und bei Problemen eingreift, bleibt das Tool erfahrungsgemäß eher ein Bastelprojekt als ein verlässliches Werkzeug im Tagesgeschäft.

Preise & Pläne

Die lokale Ausführung ist vollständig kostenlos — Kosten entstehen nur für die eigene Hardware. Wer stattdessen die gehosteten Cloud-Modelle nutzt, zahlt für den Ollama-Cloud-Plan 20 $/Monat mit einem Nutzungsguthaben von 60 USD, gedeckelt bei maximal 300 USD/Monat (Stand: 2026-09). Ein kostenloser Cloud-Kontingent-Plan ist nicht dokumentiert.

Empfehlung für Einzel-Nutzer und kleine Teams: Für die meisten Anwendungsfälle reicht die kostenlose lokale Ausführung auf eigener Hardware — sie deckt Textaufgaben, Code-Unterstützung und einfache Automatisierung ab, ohne laufende Kosten oder Datenschutzprüfung eines Cloud-Anbieters. Der Cloud-Plan (20 $/Monat) lohnt sich erst, wenn die eigene Hardware für größere Modelle nicht ausreicht oder mobiler Zugriff ohne lokalen Rechner nötig ist.

DSGVO & Datenschutz

Wie wir bewerten: Wir prüfen Serverstandort, AVV-Verfügbarkeit, KI-Training und US-Datentransfer. Score 1–10, 10 = vollständig DSGVO-freundlich.

DSGVO-Bewertung: 5,0/10

Warum 5,0/10? ✅ Kein KI-Training mit Nutzereingaben (laut Datenschutzerklärung) ✅ Cloud-Anfragen nur transient verarbeitet, keine dauerhafte Speicherung ✅ Lokale Ausführung möglich — dann verlässt keine Daten das eigene Gerät ❌ Kein Auftragsverarbeitungsvertrag öffentlich auffindbar ❌ Unternehmenssitz nicht klar dokumentiert ❌ Cloud-Verarbeitung u. a. in den USA ohne dokumentiertes DPF/SCCs ❌ Keine Angaben zu Betroffenenrechte-Self-Service gefunden ❌ Keine öffentlichen Angaben zu technischen Sicherheitsmaßnahmen

Hauptabzüge entstehen durch den fehlenden Self-Service-AVV und die unklare Transparenz zum Unternehmenssitz — beides wiegt schwerer, sobald personenbezogene Daten über die Cloud-Variante verarbeitet werden, statt ausschließlich lokal zu bleiben.

Was dokumentiert ist

Laut Datenschutzerklärung (Stand: 2026-09) läuft Ollama primär lokal: „We do not collect, store, transmit, or have access to your prompts, responses, model interactions, or other content you process locally.“ Für Cloud-Modelle gilt laut derselben Quelle: „this content is not stored beyond the time required to fulfill the request“, und explizit: „We do not use your inputs or outputs to train any AI models.“ Verantwortliche Stelle ist laut Datenschutzerklärung die Ollama Inc., Kontakt per E-Mail.

Was fehlt oder unklar ist

Ein Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO ist auf der geprüften Datenschutzseite nicht öffentlich nachweisbar (Stand: 2026-09) — für die geschäftliche Nutzung der Cloud-Variante mit personenbezogenen Daten ist das ein relevanter Prüfpunkt. Der genaue Unternehmenssitz wird nicht explizit genannt, ebenso fehlen öffentliche Angaben zu technischen Sicherheitsmaßnahmen und zu Betroffenenrechten. Für die Cloud-Verarbeitung in den USA ist weder eine DPF-Zertifizierung noch die Verwendung von Standardvertragsklauseln (SCCs) dokumentiert. In Summe: Die lokale Nutzung ist datenschutzrechtlich unkompliziert, weil kein externer Auftragsverarbeiter beteiligt ist — sobald aber die Cloud-Variante mit personenbezogenen Daten läuft, bleiben mehrere zentrale Nachweise offen.

Ollama vs. ChatGPT / Claude

Wer bereits ChatGPT oder Claude nutzt, vergleicht Ollama meist direkt gegen diesen Cloud-Marktstandard: einfache Bedienung ohne eigene Hardware gegen volle Datenkontrolle mit Einrichtungsaufwand. Für Teams, die überwiegend unkritische Texte verarbeiten und keine Infrastruktur pflegen wollen, bleibt der Cloud-Anbieter meist die pragmatischere Wahl — für Kanzleien und Entwicklerteams mit Vertraulichkeitspflichten überwiegt dagegen der Datenschutzvorteil der lokalen Ausführung.

Alternativen

ChatGPT / Claude — deutlich einfacher im Alltag nutzbar und ohne eigene Hardware-Anforderungen, dafür mit externem Auftragsverarbeiter und AVV-Pflicht. LM Studio — ähnlicher Local-first-Ansatz, aber mit grafischer Oberfläche statt Kommandozeile, dadurch einsteigerfreundlicher. Aleph Alpha — europäischer Anbieter mit EU-Serverstandort für Teams, die Cloud-Komfort mit europäischer Rechtsgrundlage kombinieren wollen.

Häufige Fragen

Ist Ollama aus DSGVO-Sicht unbedenklich? Bei rein lokaler Ausführung entfällt die klassische Auftragsverarbeitungs-Prüfung, weil keine Daten an Ollama übertragen werden. Bei Nutzung der Cloud-Modelle gelten die üblichen Prüfpunkte — und dort fehlt aktuell ein öffentlich auffindbarer AVV.

Braucht mein Unternehmen einen AVV für Ollama? Nur für die Cloud-Variante — und genau dort ist aktuell keiner öffentlich dokumentiert. Bei rein lokaler Nutzung entsteht keine Auftragsverarbeitung im Sinne der DSGVO.

Ist Ollama kostenlos? Die lokale Ausführung ist vollständig kostenlos, es fallen nur Stromkosten und ggf. Hardware-Investitionen an. Der optionale Cloud-Plan kostet 20 $/Monat.

Brauche ich eine leistungsstarke GPU für Ollama? Für große Modelle wie das 405B-Llama-Modell ja — kleinere Modelle wie 8B laufen auch auf durchschnittlicher Laptop-Hardware, liefern laut Metas eigenen HumanEval-Werten aber spürbar schwächere Codequalität als die großen Modellvarianten.

Trainiert Ollama eigene Modelle mit meinen Daten? Laut Datenschutzerklärung nein — weder lokale noch Cloud-Eingaben werden laut Anbieter zum Training verwendet.

Fazit & Empfehlung

Wähle Ollama, wenn du technisches Know-how im Team hast und Kontrolle über die Datenverarbeitung wichtiger ist als Bedienkomfort — etwa in Kanzleien, Praxen oder Entwicklerteams mit Vertraulichkeitspflichten. Lieber ChatGPT oder Claude, wenn ein einsatzbereites Tool ohne Einrichtungsaufwand gebraucht wird und ein AVV mit klarer Vertragsgrundlage wichtiger ist als lokale Datenhoheit. Ollama löst das Auftragsverarbeitungsproblem bei lokaler Nutzung elegant, verlangt dafür aber technisches Engagement — für IT-affine KMU eine der wenigen Möglichkeiten, KI-Funktionen ganz ohne externen Cloud-Anbieter zu nutzen.