#04 – Ein Sprachmodell in 10 Minuten lokal

Zehn Minuten, ein kostenloses Programm – und ein Sprachmodell läuft auf Ihrem eigenen Rechner. Auch dann, wenn Sie das WLAN ausschalten. In Folge 4 installieren wir gemeinsam Ollama, wählen das passende Modell für Ihren Arbeitsspeicher und testen es mit Aufgaben aus dem Alltag.

Anleitung

1. Ollama herunterladen: ollama.com/download (Mac ab macOS 14, Windows 10/11, Linux)
2. Installieren – Linux: curl -fsSL https://ollama.com/install.sh | sh
3. Modell starten – in der App auswählen oder im Terminal: ollama run gemma4:12b
4. WLAN aus, weiterfragen: Antwortet das Modell, läuft es lokal.
5. Aufräumen: ollama list · ollama rm <modell> · ollama ps

Modelle nach Arbeitsspeicher

• 8 GB: qwen3:4b
• 16 GB: gemma4:12b
• 16–24 GB: gpt-oss:20b
• ab 32 GB: qwen3.8:27b

Achtung: Modelle mit „cloud“ im Namen laufen nicht lokal.

Grafiken zur Folge: Die fünf Schritte als Bild · Modelle nach Arbeitsspeicher

Kapitel

00:00 Cold Open · 00:40 Begrüßung · 01:20 Was Sie brauchen · 02:40 Schritt für Schritt: Ollama installieren · 05:00 Welches Modell zum Start? · 06:40 Worauf Sie achten sollten · 07:50 Praxis-Tipp: Drei Testaufgaben · 08:50 Ausblick auf #05

Links und Quellen

• Ollama unter Windows: Voraussetzungen
• Die Ollama-App mit Chat-Fenster und Drag & Drop