Ich vertraue keinem AI-Agent
Ich vertraue keinem AI-Agent. Und trotzdem hat einer gerade ein ganzes Feature Set gebaut, fast ohne meine Hände an der Tastatur. Am Ende meines letzten Blogs habe ich Ihnen versprochen zu zeigen, wie bei uns ein OK Point zwischen Mensch und AI-Agent funktioniert. Hier ist er. Er funktioniert nicht über Vertrauen, sondern über Beweis.
Kurz zur Einordnung: Unsere Grundlage für den Fluss ist Time-Oriented Software Development. Arbeit fliesst aus einer priorisierten Liste, über ein Konzept, durch einen OK Point, in eine strikt zeitlich fixierte Realisierung. Die Ausweitung dieses OK Point auf Mensch und AI-Agent ist unsere Weiterentwicklung, mit der nicht alle mitgehen. Wir schon. Warum, zeigt der Rest dieses Textes.
STDD: Spec, Test, Driven Development
Wir haben unserer Arbeitsweise einen Namen gegeben: Spec Test Driven Development, kurz STDD. Der Ausgangspunkt ist Spec-Driven Development, die Idee, die Spec und nicht den Code zur Quelle der Wahrheit zu machen. Unsere Weiterentwicklung steckt in einem Buchstaben: dem T für Test. Eine Spec allein beschreibt, was gelten soll. Erst der Test beweist, dass es auch gilt, und macht aus einer Absichtserklärung eine überprüfbare Vereinbarung.
Drei Teile, drei Aufgaben:
- Spec ist die Vereinbarung: was gebaut wird und welche Bedingungen gelten. Sie ist der OK Point in geschriebener Form, kein Zuruf.
- Test ist der Beweis: ob die Vereinbarung gehalten hat, entscheidet kein Bauchgefühl, sondern ein objektives, grünes Kriterium.
- Driven Development ist der Fluss: aus einer priorisierten Liste, über den OK Point, in eine zeitlich fixierte Realisierung.
Eine Runde läuft immer gleich:
- Jede Arbeit beginnt als Task in einer priorisierten Liste.
- Der AI-Agent schlägt eine Spec vor. Ich schärfe nach.
- Erster OK Point: Go, Adjust oder Stop auf die Spec.
- Nach dem Go die Realisierung nach Test-Driven Development: zuerst die Tests aus der Spec, die noch fehlschlagen (rot). Dann implementiert der AI-Agent, bis die Tests grün sind.
- Dann die unabhängige Prüfung: ein anderer, spezialisierter AI-Agent mit frischem Kontext verifiziert, ob die Spec wirklich im Code angekommen ist, nicht der, der sie gebaut hat.
- Zweiter OK Point: der Merge. Erst wenn die Prüfung bestätigt, dass die Vereinbarung im Code steht, landet der Code via Pull Request (PR) im Main. Der Weg von dort nach Produktion ist ein eigener, ebenfalls voll automatisierter Flow.
Zwei OK Points, nicht einer: einmal auf die Spec, einmal auf den Merge. Dazwischen prüft nicht der AI-Agent sein eigenes Werk, sondern ein anderer, spezialisierter.
Der OK Point sitzt ausserdem nicht bei jeder Zeile, sondern an den richtigen Grenzen. Ein Task repräsentiert ein Feature, einen Chore oder ein ganzes Feature Set mit seinen Kindern. Genau deshalb delegiere ich an einen AI-Agent nicht nur eine einzelne Änderung, sondern ein ganzes Feature Set, und entscheide nur an den Grenzen, wo es zählt.
Prompting steers. STDD constrains. The loop proves.
Der Beweis
Das ist keine Theorie. Ein Feature Set, das die Vererbung von Skills und Workflows entlang unseres Organisations-Baums umsetzt, ein mehrmandantenfähiges, tief in Berechtigungen verwurzeltes Stück Software, ist praktisch ohne manuelle Eingriffe entstanden. Der AI-Agent hat es in Teile zerlegt, spezifiziert, gebaut, getestet, die Reviews eingearbeitet und ausgeliefert. Ich war an den OK Points. Den Rest hat er gemacht. Das ist der Sprung von «AI schreibt Code» zu autonomer Entwicklung mit Verantwortung.
Und ich kann jeden Schritt belegen. Jede Entscheidung, jede Übernahme, jede Verifikation hinterlässt eine Spur:
Eine echte Beweiskette aus der beacon platform: zwölf Events, jedes signiert und verkettet.
Kein «ich glaube, das war so». Jedes Event ist signiert und mit dem vorigen verkettet, eine Kette, die niemand unbemerkt ändern kann. Der Audit-Trail ist der OK Point, eingefroren in der Zeit. Vom ersten Task bis zum Release in Produktion ist alles nachlesbar. Wir bauen beacon. mit der beacon platform, und der härteste Kunde der Plattform sind wir selbst.
Warum ich trotzdem keinem AI-Agent vertraue
Weil ich nicht muss. Vertrauen ist das, was man braucht, wenn man keinen Beweis hat. Ich habe die Spec als Vertrag, die Tests als Kriterium, eine unabhängige Prüfung vor dem Merge und den Audit-Trail als Beleg. Kein AI-Agent merged seinen Code ohne meine Erlaubnis. Go, Adjust, Stop bleibt beim Menschen, an beiden OK Points.
Das ist der ganzheitliche Ansatz hinter der beacon platform: kein Werkzeug, das Code ausspuckt, sondern Methode und Plattform als ein System. Die Methode gibt den Fluss vor. Die Plattform hält die AI-Agents auf Spur und macht jeden Schritt nachvollziehbar und kostenseitig zurechenbar.
Ein OK Point zwischen zwei Menschen ist ein Handschlag: mündlich, interpretierbar, morgen anders erinnert. Der OK Point zwischen mir und einem AI-Agent ist das Gegenteil. Er ist der bestbelegte Handschlag, den ich je gegeben habe.