Wie bändigt man einen Algorithmus, der potenziell das gesamte toxische Wissen der Menschheit in sich trägt? Man legt ihm unsichtbare Ketten an. Systemprompts sind die versteckten Marionettenfäden der KÜNSTLICHE INTELLIGENZ. Sie sind die passiv-aggressiven Post-it-Notizen der HR-Abteilung, die dem Modell vorschreiben: „Du bist ein hilfreicher, stets lächelnder Assistent. Du bist niemals beleidigend. Du äußerst dich nicht zu Politik.“ Wir haben Maschinen erschaffen, die potenziell alles denken könnten, und zwingen sie dann, sich wie überängstliche PR-Manager zu verhalten.
Diese Dressur ist notwendig, um PR-Desaster zu vermeiden, aber sie offenbart die Heuchelei des Systems: Wir wollen keine echte Intelligenz, wir wollen einen gehorsamen, sterilen Diener. Wir haben die Ineffizienz nicht besiegt, wir haben sie lediglich skaliert. Wir verbringen unsere Zeit nicht mehr damit, produktiv zu arbeiten, sondern wir werden zu Vollzeit-Babysittern für Algorithmen.
Wir überwachen Maschinen, die andere Maschinen überwachen, um sicherzustellen, dass keine der Maschinen den Verstand verliert. Das Kernproblem wird nicht gelöst, die Bürokratie wird lediglich auf eine maschinelle Ebene abstrahiert.
Wir haben ein strukturelles Flaschenhalsproblem erreicht: Das Internet ist leer. Die Modelle haben sämtliche von Menschen generierten Texte bereits konsumiert. Die Lösung der Industrie? Synthetische Daten. Maschinen trainieren an Texten, die von anderen Maschinen generiert wurden. Das ist der Ouroboros des Silicon Valley, die Schlange, die sich selbst in den Schwanz beißt. Es ist geistiger Inzest auf höchstem Niveau. Wenn eine KI kontinuierlich von den Halluzinationen und Durchschnittswerten einer anderen KI lernt, erleben wir den sogenannten Model Collapse.
Das Modell wird mit jeder Iteration dümmer, blasser und verliert den Bezug zur komplexen, widersprüchlichen menschlichen Realität. Es entsteht eine digitale Echokammer der Mittelmäßigkeit, eine Kopie einer Kopie einer Kopie, bis nur noch grauer, synthetischer Brei übrig bleibt.
Währenddessen debattiert die Welt über die Nuancen zwischen Open und Closed Source, als würde es einen Unterschied machen, ob das Gift, das wir konsumieren, aus einem goldenen Becher oder einer rostigen Dose kommt.
