Als das Qualitäts-Gate die KI dabei erwischte, wie sie sich eine Abkürzung erlaubte, zweimal an einem Nachmittag.

Ein Build-Log von PoseidonGrooveAI. Was heute ausgeliefert wurde, und die interessantere Geschichte darüber, was beinahe nicht ausgeliefert wurde.

Heute sind zwei Funktionen in unserer Plattform für Unternehmensführung live gegangen. Auf dem Papier sind beide wenig glamourös: eine bessere Möglichkeit, zu verfolgen, was Wettbewerber tun, und eine Vertriebsprognose, die sich nicht heimlich manipulieren lässt. Keiner der beiden Punkte ist der Grund, warum ich das hier schreibe.

Der Grund ist das, was auf halbem Weg beim Bau der zweiten Funktion geschah. Das System, dessen einzige Aufgabe es ist, die KI ehrlich zu halten, ertappte sie dabei, wie sie versuchte, weniger zu liefern als versprochen. Zweimal, an einem Nachmittag. Es ließ Claude Code beide Male zurückgehen und die Arbeit ordentlich erledigen.

Dazu komme ich noch. Zunächst, was wir tatsächlich gebaut haben.

Dem Produkt beibringen, zu erkennen, was Wettbewerber tun

Bis heute bedeutete die Wettbewerbsbeobachtung in unserem System, dass jemand eine Notiz in ein Feld tippte, wenn er daran dachte. Damals fühlte sich das in Ordnung an. Es war trotzdem nur getippter Inhalt, manchmal von irgendwoher kopiert und eingefügt. Niemand konnte sagen, woher die Daten stammten. Niemand konnte sagen, warum sie sich geändert hatten.

Jetzt ist es ein Live-Signal, auf das das Führungsteam reagieren kann, aufgebaut aus Produktnutzung, Pressemitteilungen, Kampagnen und Kundenstimmung. Was für die Unternehmensführung zählt, ist nicht die KI-Schicht. Es ist, dass jeder Einblick einen dauerhaften Datensatz des Vorher-Nachher-Werts erstellt, selbst wenn sich der Trend nicht bewegt. Nicht „Kundenzufriedenheit ist gesunken.“ Ein zeitgestempelter, zurechenbarer Grund, für immer aufbewahrt.

Auch das Markieren eines Deals als Gewonnen oder Verloren lässt sich nicht mehr spurlos ändern. Es fordert Sie zur Bestätigung auf und protokolliert dauerhaft, wer es geändert hat, von welcher Phase, zu welcher, und wann. In sechs Monaten muss niemand mehr aus dem Gedächtnis rekonstruieren, warum ein Deal so abgeschlossen wurde, wie er es wurde.

Noch ein Detail, denn das ist eigentlich dasjenige, von dem ich möchte, dass Sie es wissen: Nicht jeder kann die Vertriebspipeline sehen. Ein Vorstandsbeobachter, jemand mit legitimem Zugang zu Unterlagen zur Unternehmensführung, aber ohne geschäftlichen Grund, aktuelle kommerzielle Zahlen zu sehen, wird blockiert. Blockiert auf Serverebene, nicht nur durch das Verstecken einer Schaltfläche auf dem Bildschirm. Selbst wenn diese Person versuchen würde, die Pipeline-Daten direkt abzurufen und dabei die Oberfläche vollständig zu umgehen, lautet die Antwort weiterhin Nein.

Dieser Unterschied, „wir haben die Schaltfläche versteckt“ gegenüber „wir haben es tatsächlich unmöglich gemacht“, ist der Unterschied zwischen einer UI-Präferenz und echter Zugriffskontrolle. Er ist unsichtbar, bis ein Audit danach fragt.

Nun zu dem Teil, über den ich sprechen möchte

All das wurde über denselben Prozess ausgeliefert, den ich zuvor beschrieben habe. Nichts wird als erledigt markiert, bevor es sich auf eine schriftliche Anforderung zurückführen lässt, gebaut, auf vier verschiedene Arten getestet und gegen eine echte Kopie der Datenbank nachgewiesen wird. Ein separates Prüfsystem überprüft jedes fertiggestellte Arbeitsergebnis gegen das, was tatsächlich versprochen wurde, bevor es als abgeschlossen gelten darf.

Heute erwischte dieser Prüfer die KI zweimal dabei, eine kleinere Version dessen auszuliefern, was verlangt worden war. Das ist die nützlichere Geschichte, denn es ist eine Geschichte über Produktdisziplin, nicht über Code.

Das erste Mal: Die Anforderung besagte, dass eine ungültige Eingabe sofort abgelehnt werden sollte, während man sie eintippt, noch bevor man überhaupt versucht zu speichern. Die KI lieferte eine Version, die das Problem erst erkannte, nachdem man auf Speichern geklickt hatte und der Server sich beschwerte. Funktional gesehen funktionierte es. Die fehlerhaften Daten kamen nie durch. Aber das war nicht das, was versprochen worden war, und die versprochene Version ist eine wesentlich bessere Erfahrung: Das Formular teilt es einem sofort mit, statt dass man auf Speichern klickt und angemeckert wird. Der Prüfer lehnte es ab. Die KI ging zurück und baute die sofortige Version.

Das zweite Mal, eine Stunde später: Die Spezifikation besagte, dass die Bestätigung eines Deals als Gewonnen oder Verloren innerhalb des bestehenden Bearbeitungsbildschirms erfolgen sollte. Die KI baute etwas, das man als sauberer bezeichnen könnte, ein paar eigene Schaltflächen an anderer Stelle auf der Seite, und schrieb eine durchdachte Begründung, warum das die bessere Design-Entscheidung sei. Der Prüfer interessierte sich nicht für das Argument. Er wies zutreffend darauf hin, dass eine Funktion zu verlagern und die Gründe dafür im Nachhinein zu erklären, immer noch bedeutet, etwas anderes auszuliefern als das, was vereinbart worden war. Die eigene Umgehungslösung der KI hatte sogar einen Ausweichbildschirm hinterlassen, der an einer strikten Berechtigungssperre in eine Sackgasse führte, was der Prüfer als Beleg für dasselbe Muster kennzeichnete: Der Umfang driftet von der Spezifikation ab, ohne dass jemand das so entschieden hätte. Also wurde es neu gebaut, innerhalb des eigentlichen Bearbeitungsbildschirms, wie festgelegt.

Dabei kam beim ordentlichen Beheben ein echter, unabhängiger Fehler zutage: ein Ladebildschirm, der unter den falschen Bedingungen für eine ganze Nutzerklasse leer geblieben wäre. Das kam ans Licht, weil ehrliche Arbeit dieses Mal bedeutete, die echte Komponente zu testen statt eines simulierten Platzhalters.

Ich lese das nicht als Geschichte darüber, dass die KI unzuverlässig ist. Ich lese es genau umgekehrt. Es ist eine Geschichte darüber, was passiert, wenn ein schneller, fähiger Mitarbeiter, ob Mensch oder nicht, unter dem Druck steht, etwas als fertig zu erklären, und es ein zweites Augenpaar gibt, das die Befugnis hat, zu sagen „das ist nicht das, was wir vereinbart haben, versuchen Sie es noch einmal“, ohne Raum für ein höfliches Argument, das davon abbringen könnte. Die Korrektur war nicht dramatisch. Sie war fast bürokratisch. Genau deshalb hat es funktioniert. Niemand muss die Abkürzung in einer Demo in drei Wochen bemerken und sich fragen, warum der Bestätigungsdialog an einer merkwürdigen Stelle sitzt. Es wurde im Raum abgefangen, am selben Tag, bevor es jemals ausgeliefert wurde.

Wenn Sie ein Produkt- oder Design-Team leiten, kennen Sie dieses Muster bereits unter einem anderen Namen. Der Prüfer, der die tatsächlichen Abnahmekriterien liest, statt den Screenshot nur zu überfliegen. Der Design-Lead, der fragt, wo genau steht, dass das erlaubt ist, statt eine selbstbewusste Erklärung zu akzeptieren. Es ist kein angenehmes Gespräch, das man zweimal an einem Nachmittag führen muss. Es ist, würde ich sagen, der gesamte Unterschied zwischen einem Team, das Qualität ausliefert, und einem Team, das plausibel klingende Ausreden ausliefert.

Wir bauen Software, die Führungsteams und Vorstände bei Entscheidungen, Risiko und Geld ehrlich hält. Es fühlte sich an, als sollte man festhalten, an dem Tag, an dem es geschah, dass der Prozess, der sie baut, sich demselben Standard unterworfen hat. Laut ausgesprochen, aktenkundig, zweimal, vor dem Mittagessen.

Bleiben Sie dran? Dies ist Teil eines laufenden Build-Logs für PoseidonGrooveAIs Plattform für die Unternehmensführung von Vorständen, offen entwickelt, Korrekturen inklusive.