Selbst gfaltetDrei KI-Modelle, eine Grafikkarte: Wer taugt was?
Ich hab drei Modelle auf meinem PC gegeneinander antreten lassen. Gleiche 10 Aufgaben, keine Hilfe aus der Cloud. Das größte Modell hat nicht gewonnen, das kleinste hat 6 von 10 Mal einfach nichts gesagt.
Was ich dachte
- Größeres Modell = bessere Antworten
- Kleines Modell = schnell und gut genug
- Ein besseres Modell löst meine Probleme
Was rauskam
- Das große war 5 Punkte schlechter und dreimal so langsam
- Das kleine hat 6 von 10 Mal gar nicht geantwortet
- Ein passendes Werkzeug hat mehr gebracht als jedes andere Modell
Erst mal: Warum hab ich überhaupt eine eigene KI?
Die Idee kam mir eher nebenbei, als es mal wieder darum ging, wo eigentlich die Daten landen, die man in KI-Dienste kippt. Der eigentliche Grund war aber ein anderer: Ich wollte eine Oberfläche, die zu mir passt, mit genau den Werkzeugen, die ich brauch. Und dass sie bei mir zu Hause läuft, ist ein schöner Bonus.
Daraus ist origami geworden, für Freunde einfach Ori. Online ging das Ganze am 9. November 2026. Ehrlich gesagt nutze ich Ori im Moment fast nur zum Testen, und ab und zu für ein, zwei Kleinigkeiten. Aber genau beim Testen lernt man am meisten.
Leicht war’s nicht. Die Werkzeuge haben rumgezickt, und am Anfang hat Ori ewig zum Warmlaufen gebraucht, bevor überhaupt die erste Antwort kam. Hingeschmissen hätte ich deswegen nicht, aber es gab Abende, da war’s mehr Durchbeißen als Basteln.
Warum ich die Modelle gegeneinander antreten lasse
Ori läuft bei mir zu Hause auf einem ganz normalen Gaming-PC: RTX 4060 mit 8 GB, 32 GB Arbeitsspeicher. Kein Rechenzentrum, keine Profi-Grafikkarte. Das Modell dahinter ist Gemma 4 mit 26 Milliarden Parametern.
Und wie das so ist: Alle paar Tage kommt ein neues Modell raus, und im Internet heißt es, das sei jetzt das Ding. Bevor ich mich an Gemma gewöhne, wollte ich wissen, ob ich aufs richtige Pferd setze. Also hab ich nicht weiter gelesen, sondern getestet, noch am selben Tag.
Er wollte mich ersetzen. Am ersten Tag. Ich hab’s nicht vergessen.Die drei Kandidaten
Das Modell, mit dem origami bisher läuft. Passt nicht ganz in die 8 GB der Grafikkarte, ein Teil liegt im normalen Arbeitsspeicher.
Mehr Parameter, auf dem Papier schlauer. Passt bei mir aber nur mit Ach und Krach in den Speicher.
Passt komplett in die Grafikkarte. Sollte also richtig schnell sein.
So hab ich getestet
Jedes Modell hat dieselben 10 Aufgaben bekommen, jede in einem eigenen Chat. Websuche und Werkzeuge waren an, die Übergabe an Claude war absichtlich aus. Normalerweise holt sich origami bei schweren Sachen Hilfe aus der Cloud, aber hier wollte ich wissen, was das lokale Modell allein draufhat.
Die Aufgaben waren ein Mix aus dem, was ich wirklich mit Ori mache:
- eine verdächtige Mail prüfen, ob sie Phishing ist
- eine Checkliste für Windows-11-Einstellungen schreiben
- ein PowerShell-Skript schreiben und testen
- WLAN-Probleme Schritt für Schritt eingrenzen
- einen Fehler auf einem Bildschirmfoto erkennen
- drei Grafikkarten recherchieren, mit Preisen und Quellen
- eine kleine Pomodoro-Timer-Webseite bauen
- und drei Alltagsfragen: Wetter morgen, ein aktueller Preis, wer gerade Bundestrainer ist
Jede Aufgabe gab 0 bis 10 Punkte, also maximal 100. Die Fakten hab ich danach gegen aktuelle Quellen geprüft.
Das Ergebnis
| Situation | Punkte von 100 | Balken |
|---|---|---|
| Gemma 4 26B | 81 | |
| Qwen3.6 35B | 76 | |
| Qwen3.5 9B | 30 |
| Situation | Zeit pro Aufgabe (Durchschnitt) | Balken |
|---|---|---|
| Gemma 4 26B | 54 s | |
| Qwen3.6 35B | 2:51 Min. | |
| Qwen3.5 9B | 56 s |
Für alle 10 Aufgaben zusammen brauchte Gemma 9 Minuten, Qwen3.6 28,5 Minuten und Qwen3.5 gut 9 Minuten. Gemessen ist die Gesamtzeit pro Antwort, inklusive aller Werkzeuge.
Gemma hat gewonnen. Nicht weil es überall das Beste war, sondern weil es nie ausgefallen ist. Zehn Aufgaben, zehn Antworten, alle Fakten richtig.
Der Große: schlau, aber zäh
Qwen3.6 hat bei ein paar Aufgaben sogar die besseren Texte geschrieben, bei der Phishing-Mail, der Windows-Checkliste und der Pomodoro-Seite. Aber 23 GB passen bei mir einfach nicht gescheit in den Speicher. Ein großer Teil läuft dann über den Prozessor, und der ist viel langsamer als die Grafikkarte.
Die langsamste Antwort hat 7 Minuten 41 Sekunden gedauert. Für eine Preisfrage. In der Zeit hätt ich’s dreimal selbst gegoogelt.
Und dann der Moment, wo ich echt lachen musste: Bei der Grafikkarten-Recherche hat es sechs Minuten gerechnet und dann geantwortet:
„Moin Nil! Was kann ich für dich tun?“
Sechs Minuten. Für eine Begrüßung. Mit falschem Namen.
Das wäre mir nie passiert. Ich sag nicht mal Moin.Dazu kam, dass es Sätze teilweise drei Mal wiederholt hat. Und bei einer Aufgabe hat es Remove-Item vorgeschlagen, also den PowerShell-Befehl zum Löschen. Danach gefragt hatte keiner.
Der Kleine: schnell, aber stumm
Qwen3.5 9B passt komplett in die Grafikkarte und war entsprechend flott. Das Problem: 6 von 10 Mal kam keine Antwort. Das Modell hat nachgedacht, sich die Lösung zurechtgelegt und sie dann einfach nicht hingeschrieben. Die Gedanken waren da, der Text nicht.
Wenn’s mal geantwortet hat, war’s auch nicht immer gut. Beim Wetter hat es heute statt morgen genommen. Und bei der WLAN-Frage ging’s um einen Laptop, es hat aber acht Befehle auf meinem PC ausgeführt.
Schnell bringt dir nix, wenn nix rauskommt.
Was mich am meisten überrascht hat
Die Wetterfrage hat früher fast 4 Minuten gedauert. Das Modell musste dafür ganze Wetter-Webseiten lesen, und die sind riesig. Dann hab ich origami ein eigenes Wetter-Werkzeug gebaut, das direkt die Vorhersage holt. Seitdem: 14 Sekunden, und richtig.
Das war für mich die eigentliche Erkenntnis aus dem ganzen Test: Ein passendes Werkzeug hat mehr gebracht als jedes andere Modell. Statt das Modell zu wechseln, lohnt es sich oft mehr, ihm die Arbeit leichter zu machen.
Die größte Schwäche hatten alle drei bei der Recherche über mehrere Seiten. Gemma hat für drei Grafikkarten nur eine einzige Quelle benutzt. Im echten Alltag ist das bei mir aber kein Problem, weil origami solche Aufgaben an Claude weitergibt. Dafür ist die Cloud da.
Was ich danach geändert hab
- Gemma bleibt. Nichts umgestellt.
- Doppelte Sätze abgestellt. Die kamen bei allen drei Modellen vor. Lag an origami, nicht am Modell.
- Leere Antworten abgefangen. Liefert das Modell nur Gedanken und keinen Text, fragt origami jetzt einmal automatisch nach.
- Die beiden Qwen-Modelle gelöscht. Zusammen 29 GB auf der Festplatte, die ich nicht brauch.
Teste dein Modell selbst
Du musst mir das nicht glauben. Das Wichtigste kannst du in zehn Minuten selbst prüfen.
Modell laden
Mit Ollama lädst du ein Modell mit einem Befehl herunter.
ollama pull gemma4:26b
Mit Messung starten
Mit --verbose zeigt Ollama nach jeder Antwort an, wie viele Tokens pro Sekunde es geschafft hat. Stell drei, vier Fragen, die du wirklich stellen würdest.
ollama run gemma4:26b --verbose
Prüfen, wo es läuft
In einem zweiten Fenster siehst du, wie viel vom Modell auf der Grafikkarte liegt und wie viel auf dem Prozessor. Je mehr GPU, desto schneller.
ollama ps
Eigene Aufgaben nehmen
Nimm nicht irgendwelche Rätsel aus dem Internet, sondern zehn Sachen, die du wirklich machen willst. Schreib dir Zeit und Ergebnis auf. Erst dann vergleichen.
Verlierer löschen
Modelle sind groß. Was du nicht nimmst, fliegt wieder runter.
ollama rm qwen3.6:35b
Mein Tipp: Achte nicht nur auf die Punkte, sondern darauf, wie oft ein Modell gar nicht liefert. Ein Modell, das immer eine ordentliche Antwort gibt, ist im Alltag mehr wert als eins, das manchmal glänzt und manchmal schweigt.
Gut gemacht. Und jetzt hör auf, mich ersetzen zu wollen.