Der Faltplan
10 Schritte zur eigenen KI. Wie man Ollama installiert, findest du überall. Hier steht, was sonst keiner aufschreibt: bei jedem Schritt meine echte Zahl und die Falle, in die ich getappt bin.
10 Schritte, 10 Fallen · gemessen mit origami · selbstgfaltet.de
- Grafikkarte ehrlich prüfen
Schau, wie viel Speicher (VRAM) deine Grafikkarte hat. Im Rechner „Passt das auf meinen PC?“ siehst du, was ungefähr passt.
GemessenGemma 4 26B belegt bei mir rund 17 GB. Auf der 8-GB-Karte liegen ca. 7,6 GB, der Rest im Arbeitsspeicher.
FallePasst nicht alles auf die Karte, ist vor allem das Einlesen langer Texte zäh. Das Schreiben geht trotzdem flott.
- Modelle mit eigenen Aufgaben testen
Ollama installieren, zwei, drei Modelle laden und mit zehn Aufgaben testen, die du wirklich stellen würdest. Zeit und Ergebnis aufschreiben.
GemessenGemma 26B: 81 Punkte, 54 s pro Aufgabe. Das größere Qwen3.6: 76 Punkte, aber dreimal so langsam.
FalleZähl, wie oft gar keine Antwort kommt. Das kleine Qwen3.5 war schnell, hat aber 6 von 10 Mal nichts geschrieben.
- Den Anfang des Prompts nie ändern
Anweisungen und Werkzeugliste bleiben bei jeder Anfrage exakt gleich. Uhrzeit, Datum und Wechselndes hängst du hinten an die Nachricht.
GemessenVorher bis ca. 107 s bis zur Antwort, nachher 8 bis 12 s.
FalleSchon eine Uhrzeit oben in den Anweisungen reicht, und das Modell liest jedes Mal alles neu ein.
- Vorwärmen
Nach dem Start und beim Öffnen der App schickt deine Oberfläche eine leere Probe-Anfrage mit genau deinem Prompt. Dann ist der Anfang schon eingelesen, wenn du tippst.
GemessenErste Frage 9 s statt 39 s.
FalleNicht während einer laufenden Antwort vorwärmen, und nicht ständig. Bei mir höchstens alle 2 Minuten.
- Feste Werkzeuge statt Webseiten
Für Dinge, die oft gefragt werden (Wetter, Bahn, Rechnen), ein eigenes Werkzeug bauen, das eine fertige kleine Antwort liefert.
GemessenWetterfrage: fast 4 Minuten, mit eigenem Werkzeug 14 Sekunden.
FalleLässt du das Modell ganze Webseiten lesen, verheddert es sich und braucht ewig. Und rechnen sollte nie das Modell, immer der Code.
- Aufgaben aufteilen
Alltagssachen bleiben lokal, Schweres geht an ein Cloud-Modell. Entscheiden lässt du das eine einfache Wortliste, keine KI.
GemessenBei mir geht alles über 700 Zeichen, Code und Recherche direkt an Claude.
FalleIm Vergleich war Claude in allen 7 Aufgaben besser. Lokal lohnt sich für Alltag und private Daten, nicht für alles.
- Notbremse einbauen
Dein Code zählt mit: Fehler, wiederholte Aktionen, Schritte ohne Ergebnis. Bei einer festen Grenze wird abgebrochen oder abgegeben.
GemessenBei mir: 3 Fehler, 3-mal dieselbe Aktion oder 20 Schritte, dann übernimmt Claude.
FalleLokale Modelle probieren gern dasselbe immer wieder. Ohne Bremse im Code läuft das ewig.
- Freigaben im Code, nicht im Prompt
Löschen, Installieren, Absenden nur nach deinem Okay. Das regelt der Code, das Modell kann es gar nicht umgehen.
Gemessenorigami hat neun Schutzschichten zwischen Gemma und dem PC. Die meisten sind entstanden, weil ein Test eine Lücke gefunden hat.
Falle„Bitte niemals löschen“ im Prompt ist eine Bitte, keine Sperre.
- Gedächtnis mit Bedacht
Dauerhafte Fakten gezielt speichern lassen, mit Rückgängig-Knopf. Lange Chats automatisch zusammenfassen, Wichtiges wörtlich behalten.
GemessenEin neuer Gedächtnis-Eintrag kostet die nächste Anfrage ca. 20 s extra. Chat-Fenster bei mir ca. 16.000 Tokens.
FalleJeder neue Eintrag ändert den Prompt, dann wird alles neu eingelesen (siehe Schritt 3). Keine Passwörter oder Gesundheitsdaten speichern.
- Sicher von unterwegs, und stabil
Zugriff über einen Tunnel wie Tailscale, Login mit Passwort plus Zwei-Faktor-Code. Dazu Autostart ohne Anmeldung, Neustart nach Absturz und ein nächtliches Backup.
GemessenBei mir: steht nach Absturz nach 5 s wieder auf, Backup um 3 Uhr, 14 Tage werden aufgehoben.
FalleVerwaltungsseiten nur direkt am PC, nie übers Internet. Und Windows-Grenzen im Blick behalten: Ein Ausfall bei mir hing an zu wenigen freien Netzwerk-Ports und einer zu kleinen Auslagerungsdatei.
Alles abgehakt? Dann hast du dir deine eigene KI gefaltet. – Ori
Gemessen auf einer RTX 4060 (8 GB) mit 32 GB Arbeitsspeicher und gemma4:26b, November 2026. Auf anderer Hardware sind die Zahlen anders, die Fallen meistens nicht.