„Sei kein Unkraut. Werde eine Pflanze, für die man dankbar ist.“
Der Satz klingt wie ein seltsamer Zuruf des Chefs bei der Morgenbesprechung. Wer ihn hört, denkt wahrscheinlich: „Moment, werden jetzt sogar Pflanzen nach Leistung beurteilt?“
Doch wer sich überlegt, wie eine KI Artikel schreibt, veröffentlicht, beobachtet, verbessert und danach neue Artikel wachsen lässt, merkt: Dieser Quatsch-Spruch trifft den Kern erstaunlich gut. Wer nur mehr Artikel erzeugt, züchtet Unkraut. Ein Artikel dagegen, der die Frage einer suchenden Person beantwortet, ganz natürlich zu anderen Artikeln führt, bei veralteten Angaben aktualisiert wird und sich verzweigt, sobald eine neue Frage auftaucht, ist schon eher eine Pflanze.
Die Wurzel dieses Gedankens ist einfach: Wenn jemand einen Fehler macht, sucht man nicht zuerst die Schuld bei der Person. Wenn derselbe Fehler wieder passiert, repariert man zuerst das System.
Nicht bei „Ich passe nächstes Mal auf“ aufhören, sondern fragen, wie der Fehler möglich war
Bei Fehlern von Menschen gibt es zwei Sichtweisen. Die eine sucht die Ursache bei der einzelnen Person. Die andere schaut auf das System. Der Psychologe James Reason stellte zwei Denkweisen gegenüber. Die erste achtet nur auf Vergessen und Unaufmerksamkeit. Die zweite fragt auch, unter welchen Bedingungen Unfälle leicht passieren und wo die Schutzmaßnahmen Lücken hatten. [1]
Auch bei Google gilt in der Zuverlässigkeits-Technik (SRE): Wenn ein schwerer Ausfall nachbesprochen wird, geht es nicht darum, einen Schuldigen zu bestrafen. Die Nachbesprechung soll helfen, das System so zu ändern, dass der Fehler seltener wiederkommt. Die Idee dahinter: Wer Fehler verstecken lässt, wird langfristig weniger zuverlässig. Wer aus Fehlern lernt und das System stärkt, wird zuverlässiger. [2]
Beim Einsatz von KI ist es genauso.
Die KI vergisst etwas, und man sagt: „Merk dir das nächstes Mal.“ Sie hört mittendrin auf, und man sagt: „Mach es bitte zu Ende.“ Sie vergisst die Prüfung vor der Veröffentlichung, und man sagt: „Prüf das in Zukunft bitte immer.“ Wer das hundertmal wiederholt, braucht am Ende jemanden, der nur dazu da ist, der KI Standpauken zu halten.
Deshalb denkt man um.
- Wenn die KI etwas vergisst, liegt die verbindliche Fassung außerhalb von ihr.
- Wenn sie mittendrin stoppt, bleiben eine Warteschlange und ein Wiedereinstiegspunkt erhalten.
- Wenn sie „fertig“ mit „funktioniert“ verwechselt, gilt erst als fertig, was man am echten Ergebnis nachgelesen hat.
- Wenn ein einzelner Fehler alles anhält, wird nur das betroffene Stück zur Seite gelegt.
- Wenn derselbe Mangel wiederkommt, wird daraus eine feste Prüfregel.
Das Ziel ist nicht „Sei besser“, sondern „Baue eine Umgebung, in der auch bei normalem Ablauf schwer etwas kaputtgeht“. Dieser Gedanke wird sogar wichtiger, je klüger die KI wird.
Die Schwächen der alten KI waren ein überraschend guter Lehrer
Wer nur die KI von heute benutzt, glaubt leicht: Wenn das Modell klug genug ist, läuft alles von selbst. Wer die KI aber schon aus Zeiten kennt, als sie noch schwächer war, sieht etwas anderes.
Die frühere KI vergaß oft etwas. Sie gab sich mittendrin zufrieden. Sie hielt nur einen Teil der Vorgaben ein. Sie führte Tests aus, schaute sich aber das echte Ergebnis nicht an. Sie sagte „Fertig“, und dann war die Arbeit doch nicht fertig.
Das ist lästig, aber für die Menschen, die das System entwerfen, ist es Lehrstoff.
Weil die KI vergisst, baut man ein Gedächtnis außerhalb von ihr. Weil sie stehen bleibt, baut man Sicherungspunkte zum Weitermachen. Weil sie sich selbst für fertig erklärt, baut man feste Sperren, die das Weitergehen ohne Nachweis verhindern. Weil sie nur erklärt und nichts ändert, schreibt man die Regel: Wer analysiert hat, setzt es auch um. Weil Fälle vorkommen, in denen man glaubt, etwas sei veröffentlicht, liest man die echte Seite im Netz nach.
Mit anderen Worten: Zäune, Straßen, Lager, Ampeln und Prüfschritte, die im Kampf mit der schwachen KI entstanden sind, kommen später der starken KI zugute.
Die KI ist nicht plötzlich zum Genie geworden. Man hat an jeder Stelle, an der die frühere KI etwas kaputt gemacht hat, eine Leitplanke aufgestellt, und deshalb kann die starke KI von heute schnell fahren.
Auch das Rahmenwerk des US-Instituts NIST für den Umgang mit KI-Risiken betrachtet Verlässlichkeit nicht nur als Leistung des Modells allein. Es betrachtet den ganzen Lebenslauf: Entwurf, Betrieb, Bewertung und Überwachung. [3] Auch ein Bericht des NIST von 2026 hält fest: Die Überwachung nach dem Start ist wichtig, um in der echten Umgebung die Verlässlichkeit zu prüfen und unerwartete Ausgaben und Folgen zu erkennen. [4]
Von der Fabrik zur Pflanze: Artikel wachsen, statt nur bestellt zu werden
In einer Fabrik bestellt ein Mensch: „Schreib als Nächstes diesen Artikel.“ Und die Maschine baut ihn.
Bei einer Pflanze ist es anders.
Draußen wächst die Nachfrage in der Suche. Ein bestehender Artikel bekommt neue Suchwörter. Leserinnen und Leser wechseln oft zwischen bestimmten Artikeln. Zu einem Thema entstehen neue Fragen wie „Was kostet das?“, „Warum ist das so?“ oder „Wer nutzt das?“.
Durch diese Reize treibt an der richtigen Stelle ein Trieb aus.
Veränderung draußen
↓
Samen entdecken
↓
Kann ein bestehender Artikel die Frage beantworten?
├─ ja → bestehenden Artikel wachsen lassen
└─ nein → neuen Trieb anlegen
↓
Prüfung und Veröffentlichung
↓
Reaktion der Leser
↓
Wurzeln und Äste neu verbinden
Ein einzelner Artikel muss auch nicht endlos dicker werden. Wenn eine eigenständige Frage herangewachsen ist, zweigt sie als eigener Unterartikel ab. Äste dagegen, die bei derselben Frage landen, kann man zusammenführen.
Wichtig ist: Dass es mehr Artikel gibt, ist noch kein Erfolg.
Unkraut vermehrt sich auch. Eine wertvolle Pflanze ist für jemanden nützlich.
Darum wird der Zuruf „Sei kein Unkraut, sondern eine Pflanze, für die man dankbar ist“, der nach Morgenbesprechung klingt, plötzlich zu einer echten Anforderung an den Entwurf.
Welche Organe sind ChatGPT, GitHub und Cloudflare?
Bei einem Medium, das wie eine Pflanze funktioniert, sollte man nicht alles in eine einzige KI packen. Wenn man die Aufgaben trennt, wirkt das Ganze wie ein Lebewesen.
Die zeitgesteuerten ChatGPT-Läufe sind Gehirn und Wachstumsspitze
Sie lesen den Zustand der Außenwelt und der Website. Sie entscheiden: Was recherchieren wir? Was verbessern wir? Treiben wir einen neuen Trieb aus? Auch das Schreiben der Artikel gehört hierher.
Aber ChatGPT selbst sollte nicht der einzige Speicher sein. Bei jedem Lauf liest es die verbindliche Fassung außerhalb von sich, entscheidet und schreibt das Ergebnis dorthin zurück.
GitHub ist die DNA und das Langzeitgedächtnis
Dort liegen Artikel, Regeln, Warteschlangen, der Verlauf der Änderungen, die Gründe für Entscheidungen und der Stand der Arbeit.
Auch wenn das Modell ausgetauscht wird: Solange die DNA erhalten bleibt, kann eine andere KI sie lesen und weitermachen.
Cloudflare ist der Körper und der Blutkreislauf
Cloudflare liefert die Artikel an die Leser aus und beobachtet: Welcher Artikel wird angezeigt? Wo wird geklickt? Wohin geht es danach weiter?
Das schwere Nachdenken findet nicht bei jedem Seitenaufruf statt. Der Körper verteilt vorab berechnete Vorschläge und Gewichtungen schnell.
Google Trends und Suchdaten sind die Sinnesorgane
Google sagt: Trends kann man als Hilfe für die Planung von Inhalten nutzen, aber man sollte nicht nur deshalb über ein Thema schreiben, weil es gerade im Trend liegt. [5] Auf der Seite für aktuell steigende Suchanfragen kann man zwischen mehr als 100 Ländern und Regionen wechseln und sehen, wo die Suche zuletzt stark gestiegen ist. [6]
Trends sind also keine fertige Antwort, was man schreiben soll. Sie sind eher ein Geruch, der zeigt: Irgendwo tut sich etwas.
Ein Programmier-Agent wie Codex ist die Bauabteilung
Er kümmert sich nicht um das tägliche Austreiben und Wachsen. Er übernimmt große Umbauten: Leitungen verlegen, das Speicherformat ändern, neue Sensoren einbauen.
Mit dieser Aufteilung entsteht keine Artikelfabrik, sondern etwas, das einem Ökosystem ähnlicher ist.
Eine „KI nach meinem Vorbild“ soll nicht Interessen kopieren, sondern die Denkbewegung
Wenn man eine KI baut, die zu einer Person passt, entsteht oft ein Interessenprofil: „Diese Person mag Reisen.“ „Sie mag KI.“ „Sie mag Essen.“
Das allein ist aber zu eng.
Übertragen will man in Wahrheit die Denkbewegung, wenn die Person etwas Unbekanntes sieht.
„Was ist das?“ → „Warum ist es so gekommen?“ → „Wer hat einen Vorteil davon?“ → „Wie viel Geld ist im Spiel?“ → „Was sagen die Regeln dazu?“ → „Passen die offizielle Begründung und die Wirklichkeit zusammen?“ → „Was würde ein normaler Mensch als Nächstes wissen wollen?“ → „Was sagen Originalquellen oder Studien dazu?“
Wer diese Reihenfolge gelernt hat, kann sie auch bei Gartenbau, Halbleitern, Pflegeversicherung, Insekten oder Sport im Ausland nutzen, auch wenn die Person selbst sich dafür nicht interessiert.
Gerade Gebiete, die die Person nicht interessieren, sind wertvoll. Das Interesse eines Menschen hat Grenzen in Zeit und Richtung. Ein Denkmuster dagegen lässt sich in der ganzen Welt vervielfältigen.
Man will keine Kopie von Vorlieben.
Man will die Fähigkeit, Probleme zu entdecken, auf viele Gebiete übertragen.
Der Chat ist Rohöl, GitHub ist raffiniertes Gedächtnis
Hier ist wichtig, woher das Material für diese „KI nach meinem Vorbild“ kommt.
Wer nur fertige Artikel ansieht, verliert den Weg dorthin.
Wirklich dicht ist der Chat.
Woran ist die Person zuerst hängen geblieben? Wo hat sie nach der Antwort gesagt: „Darum geht es nicht“? Was hat sie danach gefragt? Wo hat sie gelacht? Welche zwei Dinge hat sie plötzlich verbunden? Auf welche allgemeine Regel kam sie am Ende?
Im fertigen Artikel steht vielleicht nur „Medium wie eine Pflanze“. Im Chat bleibt dagegen diese Entwicklung stehen:
Ich möchte, dass Artikel automatisch mehr werden
↓
Nein, eher wie ein Lebewesen als wie eine Fabrik
↓
Sie sollen von selbst wachsen wie Pflanzen
↓
Aber Unkraut will ich nicht
↓
Nur nützliche Pflanzen sollen wachsen
↓
„Moment, werden Pflanzen jetzt auch nach Leistung beurteilt?“
Dieser Verlauf selbst sind die Lerndaten.
Die Rollen sind also so verteilt.
Chat = Rohöl
Gedankenspuren herausziehen = Raffinerie
GitHub = raffiniertes Langzeitgedächtnis
Man muss nicht den ganzen Chat in ein öffentliches Repository packen. Persönliche und private Angaben fallen weg. Man bewahrt nur in abstrakter Form auf: Woran blieb die Person hängen? Wie wandelte sie die Frage um? Was nahm sie an, was verwarf sie?
Die Antworten der KI selbst zählen als Lerndaten nur schwach. Sonst hält die KI ihre eigenen Sätze für den Geschmack der Person und beginnt, sich selbst zu kopieren.
Gegen Unkraut hilft: nicht zu stark optimieren
Wenn man automatisiert, denkt man schnell: „Zeigen wir doch mehr von dem, was am meisten angeklickt wird.“
Aber nur damit wird der Wald rasch zur Monokultur.
Der Besucherstrom sammelt sich bei beliebten Artikeln. Neue Artikel haben noch keine Geschichte und werden deshalb nicht angezeigt. Weil sie nicht angezeigt werden, sammeln sie auch keine Erfolge. Am Ende werden nur die Artikel, die schon immer stark waren, noch stärker.
Deshalb braucht es Platz zum Ausprobieren.
Der größte Teil nutzt Wege, die sich bewährt haben. Ein kleiner Teil läuft aber zu neuen Artikeln, zu seltenen Themen, zu anderen Gruppen und zu Wegen, die noch nicht genug getestet wurden.
Man legt nicht alles fest, was gerade gewinnt, und man macht auch nicht alles zufällig.
Man schützt, was sich bewährt hat, und lässt ein wenig Raum für unbekannte Wege.
Beim Zusammenführen von Artikeln gilt dasselbe. Wenn man alles verschmilzt, nur weil es ähnlich ist, gehen auch seltsame Vergleiche, eigene Fragen und witzige Beobachtungen verloren.
Vor dem Zusammenführen hält man fest, was im Artikel unbedingt bleiben muss. Man kann sich das wie eine eigene „DNA des Artikels“ vorstellen. Nach dem Zusammenführen prüft man, wo es gelandet ist. Man löscht nicht, sondern bestimmt zuerst den neuen Platz und pfropft dann auf.
Auch Pflanzen haben Kennzahlen (KPIs), aber man entlässt sie nicht wegen einer einzigen Zahl
Hier wird es plötzlich wie in einer Firma.
„Wie viele Triebe gab es diesen Monat?“
„Die Quote, mit der Leser weiterklicken, ist gesunken.“
„Dieser Ast trägt nichts zum Ertrag bei.“
„Er ist ein neuer Trieb, also noch in der Testgruppe.“
„Dann warten wir bis zum nächsten Beobachtungszeitraum.“
Man führt schon Bewertungsgespräche mit Pflanzen.
Aber wenn man wirklich nur nach einer einzigen Zahl urteilt, entsteht eine andere Art von Unfall als Unkraut. Auch wenn nur die Klickrate hoch ist, ist ein Artikel nicht unbedingt gut, wenn die Leser sofort zurückgehen. Es gibt Artikel, die wenig über die Suche kommen, aber als Brücke zu anderen Artikeln wichtig sind. Und es gibt Artikel, die heute kaum gelesen werden, aber später durch die Jahreszeit oder eine Gesetzesänderung gebraucht werden.
Man sollte mindestens mehrere Arten von Nutzen zusammen betrachten.
- Hat der Artikel die Frage der Leser beantwortet?
- Hat er ganz natürlich zum nächsten Artikel geführt?
- Hat er neue Suchnachfrage aufgegriffen?
- Sind die Angaben noch aktuell?
- Konzentriert sich der Besucherstrom zu stark auf einzelne Artikel?
- Bekommen auch neue Triebe eine Chance, sich zu zeigen?
- Sind eigene Beobachtungen und Witz erhalten geblieben?
- Ist der Artikel nach einer Änderung wirklich besser geworden?
Pflanzen haben also Kennzahlen. Aber man fällt sie nicht einfach, weil sie diesen Monat wenige Aufrufe haben.
Man schaut auf die Gesundheit des ganzen Waldes.
Zuletzt bleibt dem Chef nicht, Pflanzen auszuschimpfen
Das Interessante an diesem System ist: Die Arbeit der Menschen entfernt sich davon, einen Artikel nach dem anderen zu schreiben.
Der Mensch bestimmt das Ziel. Er wirft eine interessante Irritation in die Runde. Er legt fest, was erlaubt ist. Und wenn am System etwas nicht stimmt, hält er der einzelnen Person keine Standpauke, sondern repariert die Umgebung.
Die KI überträgt dieses Denken dann auf andere Gebiete.
Wenn etwas schiefgeht, ärgert man sich nicht über den Beteiligten, sondern fragt, warum der Fehler möglich war. Wenn neue Nachfrage entsteht, treibt ein neuer Trieb aus. Ein Ast, der gewachsen ist, wird kräftiger. Einen Ast, der nicht wächst, reißt man nicht aus, bevor man ihn genug getestet hat. Wenn man ähnliche Äste zusammenführt, verliert man nicht ihre besonderen Eigenschaften.
Und am Ende geht der Chef durch den Wald und sagt:
„Sei kein Unkraut. Werde eine Pflanze, für die man dankbar ist.“
Wenn die Angestellten Menschen sind, ist das eine lästige Morgenbesprechung.
Liest man es aber als Grundsatz für ein KI-Ökosystem aus Artikeln, stimmt es aus irgendeinem Grund ziemlich gut.
Ziel ist nicht, dass etwas wächst. Werdet gelesen, seid nützlich und nährt den nächsten Trieb.
Quellen (6)
- https://www.bmj.com/content/320/7237/768 bmj.com
- https://sre.google/sre-book/postmortem-culture/ sre.google
- https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10 nist.gov
- https://www.nist.gov/publications/challenges-monitoring-deployed-ai-systems-center-ai-standards-and-innovation nist.gov
- https://developers.google.com/search/docs/monitor-debug/trends-start developers.google.com
- https://support.google.com/trends/answer/3076011 support.google.com
