Claude Code ohne Informatikstudium · Teil 3 von 3

Was die KI nicht für dich entscheiden sollte

Claude Code schreibt den Großteil meines Codes. Ein paar Entscheidungen geb ich trotzdem nie ab: was gelöscht wird, welche Zahlen stimmen, was online geht und was in den Anweisungen statt im Code landet. Mit Beispielen aus origami.

Claude Code12.11.20267 Min. Lesezeit

Kurz gesagt

Darf die KI machen

Code schreiben und umbauen
Fehler suchen und Vorschläge machen
Texte entwerfen, Tests laufen lassen

Entscheide ich

Was gelöscht oder verschickt wird
Ob eine Zahl stimmt
Was online geht
Ob ein Schutz abgeschaltet wird

Warum überhaupt Grenzen

Claude Code ist richtig gut. So gut, dass man schnell anfängt, einfach alles abzunicken. Genau da wird’s gefährlich. Nicht weil die KI böse ist, sondern weil sie sich irren kann und dabei sehr überzeugend klingt.

Ich hab für mich ein paar Sachen festgelegt, die ich nie abgebe. Die meisten hab ich nicht vorher gewusst, sondern gelernt, weil was schiefging.

Ich klinge immer überzeugend. Das ist ein Feature, kein Versprechen.

Die fünf Sachen, die ich nie abgebe

Was ich selbst entscheide

1. Löschen und Verschicken nie ungefragt

Alles, was man nicht rückgängig machen kann, braucht mein Okay. Bei origami geht Löschen nur in den Papierkorb, Absenden im Browser nur mit Freigabe.

= der Brief, den du selbst einwirfst

2. Ob Zahlen stimmen immer gegenprüfen

KI rechnet und schätzt manchmal daneben. Auf diesem Blog gilt deshalb: nur Zahlen, die ich selbst gemessen hab.

= der Kassenzettel, den du nachrechnest

3. Was online geht ich lese vorher

Jeder Artikel hier entsteht als Entwurf. Erst wenn ich „passt“ sage, geht er live.

= die Zeitung, die erst nach dem Korrekturlesen gedruckt wird

4. Ob ein Schutz abgeschaltet wird nur mit gutem Grund

Rät die KI, eine Sicherheitseinstellung abzuschalten, will ich erst die saubere Lösung sehen.

= die Haustür, die man nicht aushängt, weil der Schlüssel klemmt

5. Was in den Code gehört nicht nur in den Prompt

Was nie passieren darf, regel ich im Code. Eine Bitte in den Anweisungen ist keine Sperre.

= Schloss statt Zettel an der Tür

Beispiele, wo ich’s gelernt hab

Der Druckerfehler. Bei einem Test hat Gemma, das Modell in origami, für einen Druckerfehler vorgeschlagen, eine Sicherheitseinstellung abzuschalten. Ohne ein Wort der Warnung. Technisch hätte das wahrscheinlich funktioniert. Aber man hätte damit eine Tür aufgemacht, die aus gutem Grund zu ist. Seitdem muss origami bei so was neu antworten: saubere Lösung zuerst, Notlösung nur befristet.

Das doppelte Formular. origami hat im Test ein Formular zweimal abgeschickt. Seitdem wird Absenden nur mit Freigabe gemacht. Mehr dazu in Meine KI surft selbst.

Das Löschen. Ich hätte einfach in origamis Anweisungen schreiben können: „Lösch nie etwas endgültig.“ Darauf verlassen wollte ich mich aber nicht. Also ist das im Werkzeug selbst geregelt.

Bitte im Prompt gegen Regel im Code

Bitte im Prompt

„Lösch nie etwas endgültig.“ Das Modell liest das. Meistens hält es sich dran. Meistens.

Regel im Code

Das Werkzeug zum Aufräumen kann gar nicht endgültig löschen, es verschiebt nur in den Papierkorb. Und es zeigt mir vorher den ganzen Plan als Freigabe-Karte. Falsch entscheiden geht nicht, weil es die Möglichkeit nicht gibt.

Und beim Programmieren mit Claude Code?

Da gilt dasselbe, nur im Kleinen:

Lies die Rückfragen. Wenn Claude Code fragt, ob es etwas installieren, löschen oder einen Befehl ausführen darf: lesen. Nicht reflexartig Ja drücken.
Prüf, ob’s wirklich läuft. „Ist fertig“ heißt nicht, dass es funktioniert. Selbst ausprobieren, jedes Mal.
Keine Passwörter in den Chat. Zugangsdaten, Schlüssel und Kennwörter gehören in eigene Dateien, die nicht ins Git-Repository kommen. Nicht in den Prompt.
Versteh die großen Entscheidungen. Welche Datenbank, wo es läuft, wer drankommt. Lass dir Vorschläge machen, aber entscheide selbst. Du musst damit leben, nicht die KI.

Ich mach dir die Arbeit. Die Verantwortung bleibt bei dir. Fairer Deal.

Deine eigenen Grenzen festlegen

So legst du fest, was die KI darf

Liste machen
Schreib auf, was in deinem Projekt nie ohne dich passieren darf. Löschen, Verschicken, Bezahlen, Veröffentlichen. Meistens sind es weniger als zehn Punkte.
Regeln in eine CLAUDE.md
Claude Code liest die Datei CLAUDE.md in deinem Projekt bei jedem Start. Da kommen deine Regeln rein: Ton, Grenzen, Abläufe. Mit /init legt Claude Code sie für dich an.
```
/init
```
Das Wichtigste in den Code
Was wirklich nie passieren darf, reicht nicht in der CLAUDE.md. Bau es so, dass es technisch nicht geht: keine Löschfunktion, eine Freigabe-Abfrage, ein gesperrter Knopf.
Entwürfe statt direkt live
Neue Sachen erst in einem eigenen Git-Zweig (Branch), dann anschauen, dann übernehmen. So mach ich das auch mit jedem Artikel auf diesem Blog.
Regelmäßig nachschärfen
Jedes Mal, wenn was schiefgeht, kommt eine Regel dazu. So ist auch die Schutzschicht von origami entstanden.