Werkzeuge

Das eigentliche KI-Gehirn. Eine große Datei, die gelernt hat, wie Sprache funktioniert.

Ein Wortstück. KI liest und schreibt nicht in Wörtern, sondern in Tokens, grob ¾ Wort.

Der Speicher der Grafikkarte. Passt das Modell hier rein, ist es schnell.

Das Modell wird verkleinert, indem Zahlen ungenauer gespeichert werden. Q4 heißt 4 Bit pro Zahl.

Wie viel vom Gespräch die KI gleichzeitig im Kopf behält.

Manche Modelle schreiben sich erst Gedanken auf, bevor sie antworten. Kostet Zeit, und manchmal bleibt es beim Denken.

Die Milliarden Zahlen, die ein Modell beim Training gelernt hat. Daraus besteht es eigentlich.

Text in einer Datei oder Webseite, der sich als Befehl an die KI ausgibt, damit sie etwas tut, was du nicht willst.

Eine verschlüsselte Verbindung, über die du deinen PC von unterwegs erreichst, ohne am Router etwas aufzumachen.

Das, was du der KI schreibst.

Anweisungen, die die KI vor jedem Gespräch bekommt. Wirkt schwächer, als man denkt.

Was die KI schon eingelesen hat, merkt sie sich. Bleibt der Anfang gleich, spart das viel Zeit.

Eine Funktion, die die KI aufrufen darf, zum Beispiel suchen oder rechnen.

Eine KI, die selbst entscheidet, welche Werkzeuge sie nacheinander benutzt.

Ein Standard, über den KIs an Werkzeuge angeschlossen werden.

Programm, das Modelle auf deinem PC laufen lässt.

Ein Modell aus vielen kleinen Spezialisten, von denen pro Wort nur wenige arbeiten. Groß, aber schneller als gedacht.

Der Bauplan ist offen, jeder darf reinschauen und mitbauen.