Hardware für Ollama
Die kurze Antwort: für die meisten Anwendungen im Mittelstand reichen 16 GB RAM und kein Grafikprozessor. Die lange Antwort steht unten, mit dem Rechenweg statt einer Faustregel.
Kosten und Angebot: KI selbst hosten. Die Entscheidung, ob Sie kaufen oder mieten: KI-Server kaufen oder mieten. Der Überblick für Entscheider: Hardware für lokale KI im Unternehmen.
webAION ist der Ein-Personen-Betrieb von Ronni Wordel in Lauenburg/Elbe (Kreis Herzogtum Lauenburg). Er richtet offene Sprachmodelle mit Ollama und Open WebUI auf einem Server in Deutschland oder auf Ihrer Hardware im Haus ein und betreut sie auf Wunsch im Abo. Die Zusammenarbeit läuft bundesweit per Telefon, Videocall und Fernzugriff, Termine vor Ort in der Region nach Absprache. Stand der Angaben auf dieser Seite: Oktober 2026.
Faustformel für die übliche 4-Bit-Quantisierung: Parameter in Milliarden × 0,6 ergibt den Bedarf in Gigabyte, plus Reserve für Kontext und Betriebssystem. Danach sind die Werte unten gerechnet.
| Modellklasse | Beispiele | RAM | VRAM |
|---|---|---|---|
| 3B Kurze Texte zusammenfassen, einfache Klassifizierung. Merklich schwächer bei allem, was Schlussfolgern verlangt. | Qwen3 4B, Gemma 4 (klein) | 6 GB | nicht nötig |
| 7 bis 9BRegelfall Der Bereich, in dem die meisten KMU-Anwendungen liegen: E-Mails vorformulieren, Dokumente durchsuchen, Angebote aus Stichpunkten. | Qwen3 8B, Qwen3.5 9B | 12 GB | 8 GB |
| 14B Spürbar besser bei mehrstufigen Aufgaben. Ohne Grafikkarte wird die Wartezeit unangenehm. | DeepSeek R1 14B, Qwen3 14B | 20 GB | 12 GB |
| 24 bis 32B Die Arbeitsklasse für deutsche Texte in Kundenqualität. Das Modell wiegt rund 14 bis 17 GB und passt auf eine Karte mit 24 GB Grafikspeicher. Ohne Grafikkarte nur mit viel Geduld. | Qwen3.5 27B, Mistral Small (24B) | 32 GB | 24 GB |
| 70B Nahe an den Cloud-Modellen. Auf eine 24-GB-Karte passt das Modell nicht vollständig, ohne Grafikkarte ist es praktisch nicht alltagstauglich. | Llama 3.3 70B | 48 GB | 48 GB (43 GB Gewichte) |
VRAM ist der Speicher der Grafikkarte. Steht dort ein Wert, läuft das Modell damit deutlich schneller, nötig ist es erst ab der 14-B-Klasse. Modellnamen und Größen: Stand Oktober 2026, geprüft an der Ollama-Bibliothek. Die Namen sind Verfallsware, die Klassen bleiben gültig.
Drei Wege, die sich vor allem darin unterscheiden, wer die Verantwortung für den laufenden Betrieb trägt.
Der übliche Einstieg
ca. 10 bis 30 €/Monat
Ein bis zehn Nutzer, Texte und Dokumente. Für die allermeisten der richtige Start.
Daten verlassen das Haus nie
einmalig, je nach Gerät
Wenn Daten das Netzwerk nicht verlassen dürfen und jemand im Haus die Technik betreut.
Wenn 27B, 70B oder viele Nutzer
ca. 255 €/Monat inkl. USt. (Beispiel mit 24 GB)
Große Modelle, viele gleichzeitige Nutzer oder Aufgaben, bei denen Wartezeit stört.
Alle Beträge auf dieser Seite sind Marktpreise von Hostern (Stand Oktober 2026), keine Preise von webAION, und webAION erhält keine Provision. Prüfen Sie sie vor der Entscheidung beim Anbieter Ihrer Wahl, sie ändern sich: Mehrere Hoster haben ihre Preise 2026 angehoben. Ob Mieten oder Kaufen für Ihre Teamgröße günstiger ist, rechnetKI-Server kaufen oder mietenmit Beispielzahlen vor.
Ollama läuft auch ohne Grafikkarte, dann rechnet der Prozessor. Bei 7-B-Modellen bleibt das im Bereich weniger Sekunden pro Antwort und stört im Alltag nicht. Bei 70-B-Modellen wird daraus eine spürbare Wartezeit. Eine Grafikkarte beschleunigt die Ausgabe grob um den Faktor fünf bis zehn.
Das sind Größenordnungen, keine Messwerte für Ihre Hardware. Wie schnell es bei Ihnen wird, hängt an Prozessor, Speicherbandbreite, Modell und Kontextlänge. Wer eine belastbare Zahl braucht, misst sie auf der Zielmaschine, alles andere ist geraten.
Was der Betrieb im Monat kostet, steht auf der SeiteKI selbst hosten, ob Kaufen oder Mieten günstiger ist, im RatgeberKI-Server kaufen oder mieten. Dieselbe Rechnung gilt für LM Studio; wann welches Werkzeug passt, zeigt derVergleich LM Studio gegen Ollama.
Schreiben Sie kurz, welche Aufgaben die KI übernehmen soll und wie viele Leute damit arbeiten würden. Dann sagt der Inhaber Ihnen, welche Modellklasse reicht, und ob sich ein eigener Server überhaupt lohnt.
Bei einer Ein-Personen-Firma ist das die berechtigte Frage. Die ehrliche Antwort vorweg: Es gibt keine Vertretung, die einspringt. Deshalb kommen verbreitete Standard-Werkzeuge zum Einsatz, und die Vertragslaufzeiten sind klar geregelt.
Astro, n8n, Docker, Postgres. Alles quelloffen und weit verbreitet. Jede Webagentur und jeder freie Entwickler kann das übernehmen, ohne sich in ein Sondersystem einzuarbeiten.
Mietverträge laufen nach 24 Monaten Mindestlaufzeit monatlich weiter und sind monatlich kündbar. Kein automatisch verlängerter Jahresvertrag, aus dem Sie nicht rauskommen.
Was Sie im Gegenzug bekommen: Sie sprechen mit der Person, die auch baut. Keine Weitergabe an ein Junior-Team, keine Rückfrage-Schleife über einen Projektleiter.
KI-Server kaufen, mieten oder Cloud-Schnittstelle nutzen? Eine Entscheidung nach Datenlage, Nutzerzahl und Betreuung, mit Rechenweg, Beispielzahlen und Marktpreisen mit Stand Oktober 2026.
Was Ollama Cloud kostet, wo gerechnet wird und was das für den Datenschutz im Betrieb heißt. Tarife, Standort und Datenschutzerklärung mit Stand Oktober 2026 und Quelle, ohne Rechtsberatung.
Lokale KI heißt: das Sprachmodell läuft auf Ihrer Hardware oder auf einem deutschen Server. Welche Modelle es tragen, welche Hardware nötig ist, was es kostet und für wen sich das ausdrücklich nicht rechnet.