Die kurze Antwort: für die meisten Anwendungen im Mittelstand reichen 16 GB RAM und kein Grafikprozessor. Die lange Antwort steht unten, mit dem Rechenweg statt einer Faustregel.
Faustformel für die übliche 4-Bit-Quantisierung: Parameter in Milliarden × 0,6 ergibt den Bedarf in Gigabyte, plus Reserve für Kontext und Betriebssystem. Danach sind die Werte unten gerechnet.
| Modellklasse | Beispiele | RAM | VRAM |
|---|---|---|---|
| 3B Kurze Texte zusammenfassen, einfache Klassifizierung. Merklich schwächer bei allem, was Schlussfolgern verlangt. | Llama 3.2 3B, Phi-3 Mini | 6 GB | nicht nötig |
| 7–8BRegelfall Der Bereich, in dem die meisten KMU-Anwendungen liegen: E-Mails vorformulieren, Dokumente durchsuchen, Angebote aus Stichpunkten. | Llama 3.1 8B, Mistral 7B, Qwen 2.5 7B | 12 GB | 8 GB |
| 14B Spürbar besser bei mehrstufigen Aufgaben. Ohne Grafikkarte wird die Wartezeit unangenehm. | Qwen 2.5 14B, Phi-4 | 20 GB | 12 GB |
| 70B Nahe an den Cloud-Modellen. Ohne Grafikkarte praktisch nicht alltagstauglich. | Llama 3.3 70B | 48 GB | 24 GB (4-Bit) bis 48 GB |
VRAM ist der Speicher der Grafikkarte. Steht dort ein Wert, läuft das Modell damit deutlich schneller — nötig ist es erst ab der 14-B-Klasse.
Drei Wege, die sich vor allem darin unterscheiden, wer die Verantwortung für den laufenden Betrieb trägt.
Der übliche Einstieg
ca. 10–20 €/Monat
Ein bis zehn Nutzer, Texte und Dokumente. Für die allermeisten der richtige Start.
Daten verlassen das Haus nie
einmalig, je nach Gerät
Wenn Daten das Netzwerk nicht verlassen dürfen und jemand im Haus die Technik betreut.
Wenn 70B oder viele Nutzer
ab ca. 150 €/Monat
Große Modelle, viele gleichzeitige Nutzer oder Aufgaben, bei denen Wartezeit stört.
Alle Beträge auf dieser Seite sind Marktpreise deutscher Anbieter (Stand Juli 2026), keine Preise von webAION und keine Provision für uns. Prüfen Sie sie vor der Entscheidung beim Anbieter Ihrer Wahl — sie ändern sich.
Ollama läuft auch ohne Grafikkarte, dann rechnet der Prozessor. Bei 7-B-Modellen bleibt das im Bereich weniger Sekunden pro Antwort und stört im Alltag nicht. Bei 70-B-Modellen wird daraus eine spürbare Wartezeit. Eine Grafikkarte beschleunigt die Ausgabe grob um den Faktor fünf bis zehn.
Das sind Größenordnungen, keine Messwerte für Ihre Hardware. Wie schnell es bei Ihnen wird, hängt an Prozessor, Speicherbandbreite, Modell und Kontextlänge. Wer eine belastbare Zahl braucht, misst sie auf der Zielmaschine — alles andere ist geraten.
Schreiben Sie kurz, welche Aufgaben die KI übernehmen soll und wie viele Leute damit arbeiten würden. Dann sagen wir Ihnen, welche Modellklasse reicht — und ob sich ein eigener Server überhaupt lohnt.
Bei einer Ein-Personen-Firma ist das die berechtigte Frage. Die ehrliche Antwort vorweg: Es gibt keine Vertretung, die einspringt. Deshalb ist alles so gebaut, dass Sie auch ohne mich handlungsfähig bleiben.
Domain, Hosting-Konto und alle Zugangsdaten laufen auf Ihren Namen, nicht auf meinen. Sie brauchen mich nicht, um an Ihre eigene Website zu kommen.
Beim Kauf ohnehin. Auch sonst ist es normaler Astro- und TypeScript-Code in einem Git-Repository, kein Baukasten und kein Format, das nur ich öffnen kann.
Astro, n8n, Docker, Postgres. Alles quelloffen und weit verbreitet. Jede Webagentur und jeder freie Entwickler kann das übernehmen, ohne sich in ein Sondersystem einzuarbeiten.
Mietverträge laufen nach 24 Monaten Mindestlaufzeit monatlich weiter und sind monatlich kündbar. Kein automatisch verlängerter Jahresvertrag, aus dem Sie nicht rauskommen.
Was Sie im Gegenzug bekommen: Sie sprechen mit der Person, die auch baut. Keine Weitergabe an ein Junior-Team, keine Rückfrage-Schleife über einen Projektleiter.
Konkrete KI-Beispiele für die Arztpraxis: Telefon-Entlastung, Doku-Vorbereitung, Termin-Orga. Was bei Gesundheitsdaten (Art. 9 DSGVO) erlaubt und was heikel ist.
KI in der Anwalts- und Steuerkanzlei: konkrete Beispiele für Vertragsanalyse, Recherche, Entwürfe und Fristen — DSGVO-konform und ohne US-Cloud.
KI im Marketing für KMU: konkrete Use-Cases von Content bis Bild-Assets, welches Modell wofür, was KI nicht ersetzt und was DSGVO erlaubt.