Lokale Agenten
Deine eigene KI auf deiner eigenen Hardware: Setup, Modellauswahl und maximale Privatsphäre.
1 Warum und worauf
Lokale KI: warum du ein neuronales Netz auf dem eigenen Rechner laufen lässt
Lokale KI einfach erklärt: Datenschutz, kostenlos nach der Installation, offline und ohne Limits. Und ehrlich zu den Nachteilen - schwächer als die Cloud und du brauchst Speicherreserven.
Hardware für lokale KI: wie viel VRAM du wirklich brauchst
Welche Hardware lokale KI-Modelle stemmt: der entscheidende Faktor ist der Grafikspeicher VRAM, RAM als Reserve, Apple Silicon mit gemeinsamem Speicher. Daumenwerte für 7B, 13B und 70B plus Rettung für die schwache Maschine.
2 Installieren und starten
Ollama: So startest du ein lokales neuronales Netz mit einem einzigen Befehl
Ollama ist der einfachste Weg, ein lokales neuronales Netz zu starten: Installation, die Befehle pull und run, Chat im Terminal, offline. Wir erklären den leisen Server unter der Haube in einfachen Worten.
LM Studio: lokale LLMs ganz ohne Terminal, nur mit der Maus
LM Studio - die GUI für lokale LLMs: Modelle bei Hugging Face suchen und herunterladen, chatten wie bei ChatGPT und ein lokaler Server mit OpenAI-kompatibler API. Ganz ohne Terminal.
Wie du ein lokales KI-Modell für deine Hardware auswählst
Wie du ein lokales KI-Modell auswählst: wir nehmen die Familien (Llama, Qwen, Mistral, Gemma) auseinander, die Parameterzahl von 7B bis 70B und die Quantisierung Q4/Q5/Q8 für das VRAM deines Rechners.
3 In die Praxis einbinden
Lokales Modell mit dem Agenten verbinden: Base URL und Key
Das lokale Modell liefert eine OpenAI-kompatible Adresse auf localhost. Ich zeige dir, wie du es über Base URL und Dummy-Key an deinen Editor, eine Extension oder dein eigenes Skript anschließt.
Lokaler oder Cloud-KI-Agent: Was du wählen solltest und wann
Lokaler oder Cloud-KI-Agent - was wählen? Privatsphäre und null Kosten gegen Köpfchen und Tempo. Wann der eigene Rechner reicht, wann du die Cloud brauchst und wie du einen Hybrid baust.