Ollama
Der Dienst im Hintergrund
Läuft als Server, spricht das gängige Schnittstellen-Format und lässt sich in bestehende Software einbinden. Die Bedienoberfläche kommt separat dazu, meist Open WebUI.
Preis
kostenlos (quelloffen), Kosten entstehen für Hardware oder Server
Am besten für
- Mehrere Nutzer im Betrieb
- Anbindung an n8n oder eigene Software
- Server im Haus oder in Deutschland gemietet
- Dauerbetrieb ohne offenes Programmfenster
Pro
- Läuft als Dienst, startet mit dem System
- Schnittstelle im OpenAI-Format, damit an vieles anschlussfähig
- Läuft auch ohne Bildschirm auf einem Server
- Große Modellauswahl, Aktualisierung per Befehl
- Docker-tauglich, damit sauber trennbar
Contra
- Ohne Zusatz keine Oberfläche, der erste Kontakt ist die Kommandozeile
- Rechteverwaltung für mehrere Nutzer kommt erst mit Open WebUI
- Feineinstellungen brauchen Konfigurationsdateien