Hast du schon einmal erlebt, dass ein bestimmter Prompt gut funktioniert und dann plötzlich nicht mehr?
Bist du schon einmal in eine Endlosschleife geraten, in der du deinen System-Prompt ständig nachgebessert hast, um bessere Ergebnisse zu erzielen, aber nichts funktioniert hat?
System-Prompt-Lernen könnte genau das sein, was du brauchst.
System-Prompt-Lernen (SPL) ist ein neues Interessengebiet in der KI-Community und wurde im Mai durch Andrej Karpathy auf X weithin bekannt.
System-Prompt-Lernen setzt an den Grenzen unflexibler, störanfälliger KI-Systeme an, die auf statischen System-Prompts oder schwerfälligen Fine-Tuning-Konfigurationen beruhen. Es bietet eine weitere Möglichkeit, kontinuierliches Lernen in KI-Systemen zu unterstützen.
Bevor wir einsteigen, sehen wir uns kurz einige Grundlagen des Promptings an.
Bei der Entwicklung eines Agents oder benutzerdefinierten Modells müssen wir zunächst zwei zentrale Komponenten entwerfen:
Einen System-Prompt
Einen Nutzer-Prompt
System-Prompts legen die Grundregeln für das Verhalten eines Modells fest. Für individuelle KI-Lösungen beginnen sie häufig etwa so:
„Du bist ein intelligenter Assistent. Deine Aufgabe ist es, <Aufgabe hier einfügen> auszuführen.
Du darfst weder (A) noch (B) oder (C) tun.“
Nutzer-Prompts enthalten dagegen normalerweise die Anfrage einer Person sowie weitere relevante Angaben, etwa Zeitzone und Präferenzen. Ein Nutzer-Prompt könnte so aussehen:
Ich bin in der Hauptstadt Portugals. Was könnte ich heute Abend unternehmen?
Nach der Veröffentlichung neuer Modelle großer KI-Labore kommt es häufig zu Leaks von System-Prompts, weil Nutzende Chatbots per Jailbreak dazu bringen, ihre zugrunde liegenden Anweisungen offenzulegen. Eine beliebte GitHub-Repository sammelt inzwischen viele dieser System-Prompts an einem Ort. Sie zeigen das „Erfolgsrezept“, das KI-Labore im Laufe der Zeit entwickelt haben, um ein angemessenes Modellverhalten zu fördern. Der kürzlich geleakte System-Prompt von GPT-5 (offengelegt in ChatGPT) umfasst beispielsweise rund 6.000 Wörter. Das zeigt, wie viel Wissen und Anleitung kodiert werden muss, um das Systemverhalten zu prägen.
Solche umfassenden System-Prompts decken meist mehrere zentrale Bereiche ab, darunter:
Suchanweisungen
Tool-Definitionen
Nutzerpräferenzen
Zitieranweisungen
Schnelle Korrekturen für bekannte Probleme
In der Praxis bessern Entwicklungsteams individueller KI-Systeme die System-Prompts während des Testens und Optimierens ihrer Anwendungen schrittweise von Hand nach. Dabei dienen vor allem Evaluierungen als Orientierung.
Weitere Möglichkeiten, das Verhalten eines Modells zu steuern, sind:
Prompt Engineering einschließlich Retrieval-Augmented Generation (RAG), womit sich die für ein Modell bereitgestellten Inhalte steuern lassen
Fine-Tuning (direkte Änderung der zugrunde liegenden Modellgewichte)
Was wäre, wenn es noch eine andere Möglichkeit gäbe, das Modellverhalten zu beeinflussen? Stell dir ein System vor, das mithilfe zuvor erzeugter Überlegungen, Pläne und Strategien dynamisch lernt und seinen eigenen System-Prompt verbessert. Zur Bewertung seiner Ausgaben könnte es sowohl Nutzerfeedback als auch LLM-as-a-Judge-Evaluierungen heranziehen.
Denke an eine dauerhafte geschäftliche Herausforderung, die du mit einem agentenbasierten System automatisieren möchtest. Wirksame Lösungen erfordern Reasoning-Fähigkeiten, die über eine einfache Workflow-Automatisierung hinausgehen. In solchen Fällen ist eine Komponente zur Planerstellung in deinem KI-System unverzichtbar. So kann das System je nach Aufgabe auf unterschiedliche Weise mit mehreren Agents arbeiten. Einzelne Schritte können Anweisungen enthalten, um für Teilaufgaben auf andere Agents zuzugreifen oder Tools einzusetzen.
Hinweis: Ein Agent-Tool ist eine externe Funktion, API oder Ressource, die ein KI-Agent aufrufen kann, um über Textausgaben hinaus reale Aktionen auszuführen.
Du könntest den System-Prompt des Modells mit einem Plan „initialisieren“, der den logischen Schritten eines Menschen folgt. LLMs benötigen jedoch meist genauere Vorgaben zur Tool-Nutzung, Ausgabeformatierung und zu ähnlichen Anforderungen. Manchmal ist die optimale Strategie unklar. Oder du befasst dich mit einem Problem, das nicht erneut geprüft wurde, weil es bislang als gelöst galt. Genau hier setzt System-Prompt-Lernen (SPL) an.
SPL verbessert einen System-Prompt schrittweise, indem zuvor erzeugte Strategien einbezogen werden. Mit neuen Problemen sammelt das System nach und nach Wissen und wird robuster. Du kannst dir das wie ein Handbuch zur Lösung von Problemen in deinem Fachgebiet vorstellen.
SPL übernimmt nach und nach Erkenntnisse aus Nutzerfeedback in den System-Prompt. Mit zunehmender Reife deines Systems erkennst du möglicherweise wiederkehrende Probleme, aus denen sich allgemeinere, übergeordnete Prinzipien ableiten lassen.
Sehen wir uns Schritt für Schritt genauer an, wie der Prozess funktioniert:
Beginne mit der Nutzeranfrage, die das System zur Ausführung einer bestimmten Aufgabe auffordert.
Wenn dein System nur ein Problem bearbeitet, kannst du einen „gierigen“ Ansatz wählen und die am besten bewerteten Strategien aus früheren Durchläufen auswählen. Alternativ kannst du die Erkundung fördern, indem du Stichproben aus einer Verteilung ziehst, die gut bewertete Strategien bevorzugt, gelegentlich aber auch schlechter bewertete berücksichtigt. Das ist besonders hilfreich, wenn du gerade erst mit dem Sammeln von Strategien beginnst.
Bei Systemen für vielfältige Problemstellungen empfiehlt sich eine Klassifizierungsebene. Alternativ kannst du Embeddings und Kosinusähnlichkeit nutzen, also dieselben Verfahren, die üblicherweise bei RAG eingesetzt werden, um relevante Ansätze zu ermitteln. So kannst du Strategien auswählen, die zum jeweiligen Problem passen, beispielsweise speziell auf Programmieraufgaben zugeschnittene Strategien.
Hinweis: Embeddings in Verbindung mit der Kosinusähnlichkeit ermöglichen es, den Zusammenhang zwischen zwei Informationen zu messen. So lassen sich Dokumente, Anfragen oder Ideen leichter zuordnen, selbst wenn sie unterschiedlich formuliert sind.
Beispiel für einen einfachen Strategiespeicher als Ausgangspunkt zur Lösung von Programmierproblemen.
Hinweis: Die hier gezeigten „Ausgangsstrategien“ dienen nur zur Veranschaulichung. In realen Programmierszenarien würden wir sie weiter verfeinern. Für spezielle Geschäftsprobleme müssten im Laufe der Zeit zusätzliche Erkenntnisse gesammelt werden.
Generierungs-ID (umgekehrte Reihenfolge) | Thema | Bewertung | Strategietext | Erläuterung |
|---|---|---|---|---|
4 | Programmierung | 1 | Verstehe das Problem, die Einschränkungen und die Sonderfälle. Entwirf einen Algorithmus mit den passenden Datenstrukturen. Validiere den Plan anhand von Beispielen und Invarianten. Implementiere sauberen, gut lesbaren Code. Verfeinere ihn durch Refactoring, Optimierung und abschließende Formatierung. Tool-Nutzung: Erkläre bei der Nutzung eines Tools kurz, warum es benötigt wurde. | Übernimmt und kombiniert die stärksten Elemente der drei nachfolgenden Strategien. |
3 | Programmierung | 1 | Verstehe das Problem, die Einschränkungen und die Sonderfälle. Entwirf einen Algorithmus mit den passenden Datenstrukturen. Validiere den Plan anhand von Beispielen und Invarianten. Implementiere sauberen, gut lesbaren Code. Verfeinere ihn durch Refactoring, Optimierung und abschließende Formatierung. | Eine ausgewogenere Strategie, die jedoch keine Hinweise zur Tool-Nutzung enthält. |
2 | Programmierung | -1 | Verstehe das Problem, die Einschränkungen und die Sonderfälle. Entwirf einen Algorithmus mit den richtigen Daten. Implementiere sauberen, gut lesbaren Code. Tool-Nutzung: Fasse beim Zugriff auf Tools kurz zusammen, warum du das jeweilige Tool verwendet hast. | Eine bessere Strategie, die die Tool-Nutzung erwähnt, aber noch verbessert werden könnte. |
1 | Programmierung | -1 | Überfliege das Problem. Löse das Problem. Erstelle minimale Tests. Reiche ein, was auch immer läuft. | Erwähnt Tests, ist insgesamt aber eine schwache Strategie. |
3. Nimm nach dem Sampling von N die ausgewählten Strategien in den System-Prompt auf. Dadurch stützt sich die Planerstellung auf vorheriges Expertenfeedback, statt das Modell mit minimalen Vorgaben Pläne erstellen zu lassen. Ermutige das Modell, „unkonventionell zu denken“ und bei Bedarf Schritte hinzuzufügen, statt die Beispielstrategien einfach wortwörtlich zu kopieren.
4. Erstelle mit deinem dynamisch erzeugten System-Prompt eine neue Strategie für die Anfrage der nutzenden Person. Dieser Prozess sollte zusätzliche Aufgaben hervorbringen, die das Endergebnis verbessern. Das Ziel ist Kreativität: Kombiniere die stärksten Elemente bisheriger Strategien, fasse sich überschneidende Schritte zusammen und ergänze bei Bedarf hilfreiche neue Schritte.
Hinweis: Denke daran, dass die Temperatur ein anpassbarer Parameter ist. Mit ihr lassen sich vielfältigere, weniger deterministische Ausgaben erzeugen, was bei kreativen Aufgaben nützlich ist. Bei einer Temperatur über null kann jeder erzeugte Plan anders ausfallen.
5. Bewerte die Modellausgabe anschließend anhand konkreter Kriterien für eine gute Lösung deines Problems. Nutze dazu entweder eine menschliche Bewertung oder ein LLM als Bewertungsinstanz. Für das zuvor genannte Beispiel mit Aktivitäten in Portugal könnten folgende Bewertungskriterien gelten:
Kürze (die Antwort ist auf einen Satz begrenzt)
Relevanz der vorgeschlagenen Aktivität
Richtigkeit des Ortsbezugs
6. Verfeinere die Strategie anhand dieser Bewertung mit einem weiteren Modell. Eine optionale Feedbackschleife kann menschliche Rückmeldungen einbeziehen und gemeinsame Verbesserungen ermöglichen. Speichere die verfeinerte Strategie mit passenden Metadaten in deiner Datenbank, um Versionen und Änderungen nachzuverfolgen.
Doch warum dieser ganze Aufwand? Du könntest die Ausgaben manuell prüfen und den System-Prompt entsprechend anpassen. Leistungsfähige Reasoning-Modelle können Strategien jedoch sowohl anhand des Ausgabekontexts als auch mithilfe menschlichen Feedbacks verbessern. Menschen erkennen Mängel einfacher Ansätze meist schnell. Bei komplexen Systemen, die ein breiteres Spektrum an Problemen bearbeiten, wird dies jedoch schwierig und mühsam.
LLMs benötigen häufig detaillierte Anweisungen und zusätzliche Schritte, um das Kontextwissen zu erfassen, das Menschen intuitiv in ein Problem einbringen. Wenn ein System auf ein breiteres Problemspektrum ausgeweitet wird, kann die Zahl der erforderlichen Aufgaben schnell steigen. Bei Programmierproblemen verstehen Menschen beispielsweise die umgebende Codebasis oft intuitiv, während ein LLM zunächst mehrere Dateien „lesen“ muss.
Wann es hilft: Stell dir vor, du leitest ein Kundenservice-Team und ein KI-Agent übernimmt die Vorsortierung von Tickets. Mit der Zeit könnte SPL eine Kategorisierungsmethode entdecken, die dein Team noch nicht erwogen hat, und so die Eskalationsquote senken.
Wann es nicht hilft: Wenn Compliance-Anforderungen oder Vorschriften deine Abläufe bereits festlegen, etwa in der Finanzberichterstattung, bietet SPL möglicherweise wenig Mehrwert. Kreativität wird dann eher zum Risiko als zum Vorteil.
Wann es hilft: In rechercheintensiven Funktionen wie Market Intelligence oder Product Strategy kannst du mit der KI zusammenarbeiten, indem du ihre Pläne verfeinerst, ihre Ausgaben anreicherst und diese Verbesserungen künftig weiterverwendest. Jede Interaktion steigert die Wirksamkeit des Systems.
Wann es nicht hilft: Nutzt dein Team KI überwiegend für einfache Abläufe mit wenig menschlichem Beitrag, etwa zur Rechnungsverarbeitung, kann der Abstimmungsaufwand den Nutzen übersteigen.
Wann es hilft: Angenommen, du expandierst in eine neue Region und die KI muss plötzlich Fragen zum lokalen Steuerrecht bearbeiten. Mit SPL kannst du neue Regeln und Heuristiken schnell kodieren, sobald sie relevant werden, und so wiederkehrende Fehler vermeiden.
Wann es nicht hilft: In einer statischen Umgebung, etwa bei der Umwandlung von Besprechungstranskripten in standardisierte Zusammenfassungen, bietet eine ständige Anpassung kaum Vorteile.
In der Theorie klingt all das vielversprechend, doch die Umsetzung von SPL bringt echte Herausforderungen mit sich. Einige der wichtigsten stellen wir im Folgenden vor:
In den frühen Phasen der Strategieentwicklung stockt der Fortschritt häufig: Neue Ausgaben führen frühere nicht weiter, und die Entwicklung verliert an Dynamik. Dafür gibt es meist zwei Hauptursachen:
Lösung: Kodiere sämtliches verfügbares Geschäftswissen von Anfang an, damit das System auf eine solide Wissensbasis zurückgreifen kann.
Lösung: Entwickle ein differenziertes Bewertungsschema, das mehrere Aspekte einer Antwort wie Richtigkeit, Klarheit und Relevanz bewertet. Passe das Sampling an diese Signale an.
Wenn dein System Hunderte Strategien erzeugt, aber kaum Feedback erhält, um gute von schlechten zu unterscheiden, wird das Sampling schnell unübersichtlich. Die Lösung lautet: aussortieren.
Berücksichtige beim Bereinigen deines Strategiespeichers folgende Punkte:
Lebensdauer: Mustere Strategien aus, sobald sie einen festgelegten Zeitraum oder eine bestimmte Anzahl von Generationen überschreiten.
Bewertung: Nutze dein Bewertungsschema, um Strategien auszufiltern, die dauerhaft schlecht abschneiden. In Kombination mit der Lebensdauer stellst du so sicher, dass du nur Ansätze behältst, die sich langfristig bewähren.
LLM-Bewertung: Prüfe Strategien regelmäßig, um solche zu erkennen, die keine eigenständigen Erkenntnisse mehr liefern. Ihre nützlichen Elemente sind wahrscheinlich bereits in neuere Versionen eingeflossen.
Lösung: Behandle deine Strategiedatenbank als lebendiges System. Bereinige sie regelmäßig, damit nur relevantes, wertvolles Wissen erhalten bleibt.
System-Prompt-Lernen steckt noch in den Kinderschuhen, hat aber enormes Potenzial. Unternehmen, die ausschließlich auf statische Prompts oder endloses Fine-Tuning setzen, stoßen auf bekannte Grenzen: störanfällige Systeme, steigende Kosten und unnötigen Aufwand. SPL bietet einen Ausweg aus diesem Kreislauf: Systeme verbessern sich mit der Zeit und kodieren übergeordnete Prinzipien statt einzelner Korrekturen.
SPL entwickelt sich noch, doch die Richtung ist klar: Systeme, die aus eigenen Ergebnissen lernen können, werden Systeme ohne diese Fähigkeit überholen. Jetzt ist der richtige Zeitpunkt, um zu experimentieren: Starte klein, halte Erkenntnisse fest und schaffe die Grundlage für KI-Systeme, die sich mit jeder Interaktion verbessern.