Der KI-Handlanger: Eine ehrliche Selbstreflexion im Schatten des Coldcard-Bugs

Der jüngste Artikel in den Einundzwanzig News, „Wenn andere auch nicht Programmieren können“, hat bei mir einen wunden Punkt getroffen. Obwohl ich keinen sicherheitsrelevanten Core-Code für Bitcoin schreibe, lief mir beim Lesen ein kalter Schauer über den Rücken. Der Artikel beschreibt akribisch, wie mangelndes Verständnis und blinder Aktionismus („Hauptsache es läuft“) zu einer kritischen Sicherheitslücke in der Coldcard-Firmware führten. Und plötzlich saß ich da, blickte auf mein eigenes Projekt – die Einundzwanzig-Meetup-App – und musste mir eine unangenehme Frage stellen: Bin ich nicht gerade auf demselben gefährlichen Pfad?

Das Geständnis: Ich bin kein Entwickler#

Lassen wir die Kirche im Dorf: Ich bin kein Entwickler. Ich verstehe Code im Grunde nicht. Wenn man auf mein GitHub-Repository schaut, sieht man eine wachsende App, aber der wahre Autor dieser Zeilen bin nicht ich. Es ist die künstliche Intelligenz. Ich bin derjenige, der die Prompts schreibt, die Fehlermeldungen hin und her kopiert und am Ende Knöpfe drückt. Es fühlt sich in der heutigen Zeit fast schon beschämend an. Man zeigt stolz, was man „gebaut“ hat, erntet vielleicht sogar Lob aus der Community, aber tief im Inneren nagt das Gefühl des Hochstaplers. Man schmückt sich mit Federn, die einem nicht gehören. Am Ende des Tages bin ich nicht der Schöpfer, sondern nur der Handlanger der KI.

„Manchmal, wenn Entwickler nicht weiterwissen, probieren sie wahllose Dinge aus, um zu sehen, ob es hilft... Der Compiler gab dem Entwickler eine letzte Chance, sein Vorhaben zu überdenken, aber der Alarm wurde ignoriert und abgestellt.“ — Einundzwanzig News, über den Coldcard-Bug

Die Parallele zu „runs“#

Genau hier schließt sich der Kreis zu dem Coldcard-Debakel. Der dortige Entwickler stand vor einem Compiler-Fehler, verstand das zugrundeliegende C-Problem nicht und schaltete den Hardware-Zufallszahlengenerator ab, um den Fehler stummzuschalten. Der Commit trug den lakonischen Titel „runs“. Es lief zwar, aber es war katastrophal. Wenn ich ehrlich bin, tue ich mit der KI oft genau dasselbe. Wenn eine Fehlermeldung aufpoppt, frage ich nicht „Warum passiert das im System?“, sondern ich füttere die KI mit dem Fehler und sage: „Mach, dass es weggeht.“ Und wenn die App danach startet, denke ich mir: Super, läuft. Doch was im Hintergrund passiert, welche Abhängigkeiten entstehen und ob dort unsichtbare Abgründe klaffen, entzieht sich komplett meiner Kontrolle. Das ist der Trugschluss von modernen LLMs: Sie vermitteln uns die Illusion von Kompetenz. Sie lassen uns glauben, wir könnten komplexe Systeme beherrschen, ohne die Grundlagen gelernt zu haben. Es erweckt den Anschein, als bräuchte man kein tiefes Verständnis mehr, um funktionale Software auszuliefern. Aber das ist eine Lüge.

Aber: Täglich dazu lernen#

Gibt es einen Ausweg aus diesem Dilemma? Ich denke schon, und er liegt in der radikalen Ehrlichkeit und dem Willen zur Demut. Ja, ich nutze die KI als Krücke. Aber ich nutze sie auch als Lehrer. Jeder Fehler, den ich dank der KI behebe, ist eine Gelegenheit, eine Zeile Code länger anzustarren und zu verstehen, was dort eigentlich passiert. Ich bin zwar als bloßer Handlanger gestartet, aber mein Ziel ist es, jeden Tag ein Stückchen mehr zu begreifen. Die KI darf nicht die Blackbox bleiben, die mir das Denken abnimmt, sondern sie muss die interaktive Dokumentation sein, die mich befähigt, irgendwann selbst zu gehen. Zudem unterscheidet sich mein Projekt in einem wesentlichen Punkt vom Coldcard-Bug: Ich baue keine Sicherheitssoftware für das härteste Geld der Welt. Die Meetup-App verwaltet keine Private Keys. Trotzdem trägt jedes Stück Software in unserem Space eine Verantwortung, besonders wenn es von der Community genutzt wird.

Mein Versprechen an die Community#

Ich teile diese Gedanken auf Nostr und in den Einundzwanzig News nicht, um Mitleid zu erregen, sondern um transparent zu sein und mich selbst in die Pflicht zu nehmen:

1. Radikale Transparenz: Dieses Projekt ist zu 100% mit KI-Unterstützung gebaut. Ich werde mich niemals als der geniale Programmierer hinstellen, der ich nicht bin.
2. Open Source und Review: Weil ich den Code selbst nicht vollumfänglich verstehe, bin ich auf euch angewiesen. Schaut in mein Repository (louisthecat86/Einundzwanzig-Meetup-App). Kritisiert mich, korrigiert mich und helft mir zu lernen.
3. Demut vor der Komplexität: Ich werde versuchen, seltener einfach nur „runs“ zu akzeptieren, sondern die KI vermehrt zu fragen: „Erkläre mir genau, warum dieser Fix funktioniert und welche Nebenwirkungen er hat.“ Wir leben im Zeitalter der Code-Demokratisierung durch KI. Das ist ein mächtiges Werkzeug, um Ideen zum Leben zu erwecken. Aber wenn wir die Demut vor dem Handwerk des Programmierens verlieren, laufen wir ungebremst in die nächste Sackgasse. Lasst uns die KI nutzen, um über uns hinauszuwachsen – nicht, um unsere Unwissenheit zu bemänteln.