Systempromptlæring: Et nyt paradigme for AI-systemer

Har du oplevet, at en bestemt prompt fungerer godt, men pludselig holder op med at virke?

Har du siddet fast i en cyklus, hvor du konstant lapper på din systemprompt for at forbedre resultaterne, men intet virker?

Systempromptlæring kan være præcis det, du har brug for.

Systempromptlæring (SPL) er et nyt interesseområde i AI-miljøet og blev i maj gjort bredt kendt af Andrej Karpathy på X.

Systempromptlæring afhjælper begrænsningerne ved ufleksible og skrøbelige AI-systemer, der bygger på statiske systemprompter eller uoverskuelige opsætninger til finjustering. Det giver endnu en mulighed for at understøtte kontinuerlig læring i AI-systemer.

Før vi går i dybden, gennemgår vi kort nogle grundlæggende principper for prompting.

Når vi udvikler en agent eller en tilpasset model, skal vi først udforme to centrale komponenter:

1. En systemprompt

2. En brugerprompt

Systemprompter fastlægger de grundlæggende regler for, hvordan en model skal opføre sig. Når de skrives til tilpassede AI-løsninger, begynder de ofte sådan her:

“You are an intelligent assistant. Your role is to perform <insert task here>.

You must not do (A), (B), or (C).”

Til gengæld indeholder brugerprompter typisk brugerens spørgsmål og andre relevante oplysninger såsom tidszone og præferencer. En brugerprompt kan se sådan ud:

I’m in the capital city of Portugal. Can you suggest some things I can do tonight?

Læk af systemprompter er blevet almindelige efter lanceringer af nye modeller fra store AI-laboratorier, fordi brugere jailbreaker chatbots for at afsløre deres underliggende instruktioner. Et populært GitHub-lager samler nu mange af disse systemprompter ét sted. De afslører den »hemmelige opskrift«, som AI-laboratorier gennem tiden har udviklet for at fremme hensigtsmæssig modeladfærd. Eksempelvis indeholder den nyligt lækkede systemprompt til GPT-5 (afsløret i ChatGPT) cirka 6.000 ord. Det illustrerer, hvor meget viden og vejledning der skal indbygges for at forme systemets adfærd.

Disse omfattende systemprompter dækker typisk flere centrale områder, såsom:

• Søgeinstruktioner

• Værktøjsdefinitioner

• Brugerpræferencer

• Instruktioner til kildehenvisninger

• Hurtige rettelser af kendte problemer

I praksis lapper udviklere af tilpassede AI-systemer manuelt og løbende på systemprompter, mens de tester og forbedrer deres applikationer. De bruger primært evalueringer til at styre processen.

Andre metoder til at styre en models adfærd omfatter:

• Prompt engineering, herunder retrieval-augmented generation (RAG), som styrer det indhold, modellen får

• Finjustering (direkte ændring af modellens underliggende vægte)

Hvad nu, hvis der fandtes en anden måde at påvirke modellens adfærd på? Forestil dig et system, der dynamisk lærer og forbedrer sin egen systemprompt ved hjælp af tidligere genererede tanker, planer og strategier. Det kan bruge både brugerfeedback og evalueringer med LLM som dommer til at bedømme sine resultater.

Tænk på en vedvarende forretningsudfordring, som du vil automatisere ved hjælp af et agentbaseret system. Effektive løsninger kræver ræsonneringsevner, der rækker ud over grundlæggende automatisering af arbejdsgange. I sådanne tilfælde er det afgørende at indbygge en komponent til plangenerering i AI-systemet. Det gør det muligt for systemet at arbejde med flere agenter på forskellige måder afhængigt af opgaven. De enkelte trin kan indeholde instruktioner om at benytte andre agenter til at løse delopgaver eller anvende værktøjer.

Bemærk: Et agentværktøj er enhver ekstern funktion, API eller ressource, som en AI-agent kan kalde for at gå ud over tekst og udføre handlinger i den virkelige verden.

Du kan vælge at »pode« modellens systemprompt med en plan, der følger de logiske trin, et menneske ville tage. LLM'er har dog typisk brug for mere konkret vejledning om brug af værktøjer, formatering af resultater og lignende krav. Nogle gange er den optimale strategi uklar, eller også arbejder du med et problem, som ikke er blevet genovervejet, fordi det tidligere blev anset for løst. Det er her, systempromptlæring (SPL) kommer ind i billedet.

SPL forbedrer en systemprompt iterativt ved at indarbejde tidligere genererede strategier. Efterhånden som nye problemer opstår, opbygger systemet gradvist viden og bliver mere robust. Tænk på det som at opbygge en håndbog i problemløsning inden for dit område.

SPL indarbejder gradvist indsigter fra brugerfeedback i systemprompten. Efterhånden som systemet modnes, kan du opdage tilbagevendende problemer, der kan omsættes til mere generelle, overordnede principper.

Lad os se nærmere på processen trin for trin:

1. Begynd med brugerens forespørgsel, hvor systemet bliver bedt om at udføre en bestemt opgave.

2. 1. Hvis systemet kun håndterer ét problem, kan du vælge en »grådig« tilgang ved at udvælge strategierne med den højeste score fra tidligere kørsler. Alternativt kan du fremme udforskning ved at sample fra en fordeling, der favoriserer højt vurderede strategier, men indimellem også medtager lavere vurderede. Det er især nyttigt, når du lige er begyndt at indsamle strategier.

   2. Til systemer, der skal håndtere forskellige problemsæt, kan du tilføje et klassifikationslag eller bruge indlejringer og cosinuslighed – de samme teknikker, som typisk bruges i RAG – til at finde relevante tilgange. Det hjælper dig med at vælge strategier, der passer til det konkrete problem, eksempelvis strategier skræddersyet til programmeringsopgaver.

Bemærk: Indlejringer brugt sammen med cosinuslighed gør det muligt at måle, hvor tæt to oplysninger er relateret. Det gør det lettere at matche dokumenter, forespørgsler eller idéer, selv når ordlyden er forskellig.

Eksempel på et udgangspunkt for et forenklet strategilager til løsning af programmeringsproblemer.

Bemærk: De viste »startstrategier« er kun eksempler. I virkelige programmeringssituationer ville vi forbedre dem yderligere. Nicheprægede forretningsproblemer kræver, at der indsamles yderligere indsigter over tid.

3. Når du har samplet N, skal de indarbejdes i systemprompten. Det forankrer plangenereringen i tidligere ekspertfeedback i stedet for at lade modellen udarbejde planer med minimal vejledning. Tilskynd modellen til at »tænke ud af boksen« og tilføje trin efter behov i stedet for blot at kopiere eksempelstrategier ordret.

4. Brug din dynamisk oprettede systemprompt til at generere en ny strategi, der imødekommer brugerens anmodning. Denne proces bør skabe yderligere opgaver, der forbedrer det endelige resultat. Målet er kreativitet: Kombiner de stærkeste elementer fra tidligere strategier, saml overlappende trin, og tilføj nyttige nye trin efter behov.

Bemærk: Husk, at temperatur er en parameter, der kan justeres for at skabe mere varierede og mindre deterministiske resultater, hvilket er nyttigt, når kreativitet er ønsket. Når temperaturen ikke er nul, kan hver genereret plan være forskellig.

5. Når du har modtaget modellens resultat, skal det vurderes af enten et menneske eller en LLM-dommer ud fra specifikke kriterier, der definerer en god løsning på dit problem. For eksemplet med aktiviteter i Portugal, som blev nævnt tidligere, kan vurderingskriterierne omfatte:

• Kortfattethed (et svar begrænset til én sætning)

• Den foreslåede aktivitets relevans

• Geografisk nøjagtighed

6. Brug på baggrund af vurderingen en anden model til at forbedre strategien. En valgfri feedbacksløjfe kan inddrage input fra mennesker og understøtte fælles forbedringer. Gem den forbedrede strategi i databasen med relevante metadata, så versioner og ændringer kan spores.

Hvorfor så gøre sig alle de anstrengelser? Du kan gennemgå resultaterne manuelt og tilpasse systemprompten derefter. Avancerede ræsonneringsmodeller kan dog forbedre strategier ved hjælp af både resultatets kontekst og feedback fra mennesker. Mennesker kan nemt få øje på fejl i enkle tilgange, men i komplekse systemer, der håndterer bredere problemsæt, bliver det både svært og tidskrævende.

LLM'er har ofte brug for detaljerede instruktioner og yderligere trin for at indsamle den kontekstuelle viden, som mennesker naturligt tilfører et problem. Antallet af nødvendige opgaver kan hurtigt vokse, når et system udvides til at håndtere bredere problemsæt. Mennesker, der løser programmeringsproblemer, kan eksempelvis forstå den omgivende kodebase intuitivt, mens en LLM måske først skal »læse« flere filer.

• Når det hjælper: Forestil dig, at du leder et kundeserviceteam, hvor en AI-agent står for den indledende sortering af henvendelser. Med tiden kan SPL afdække en kategoriseringsmetode, som dit team ikke havde overvejet, og dermed reducere antallet af eskaleringer.

• Når det ikke hjælper: Hvis compliancekrav eller regler allerede fastlægger jeres arbejdsgange, eksempelvis ved finansiel rapportering, kan SPL have begrænset værdi, fordi kreativitet bliver en ulempe frem for en fordel.

• Når det hjælper: I forskningstunge roller som markedsanalyse eller produktstrategi kan du samarbejde med AI'en ved at forbedre dens planer, berige dens resultater og indarbejde forbedringerne til fremtidig brug. Hver interaktion gør systemet mere effektivt.

• Når det ikke hjælper: Hvis dit team primært bruger AI til enkle arbejdsgange med minimal menneskelig medvirken, eksempelvis fakturabehandling, kan omkostningerne ved samarbejdet overstige gevinsten.

• Når det hjælper: Antag, at I udvider til en ny region, og AI'en pludselig skal håndtere spørgsmål om lokale skatteregler. SPL gør det muligt hurtigt at indarbejde nye regler og heuristikker, efterhånden som de opstår, og dermed forhindre gentagne fejl.

• Når det ikke hjælper: Hvis jeres miljø er statisk, eksempelvis når mødetransskriptioner omdannes til standardiserede resuméer, giver konstant tilpasning kun få fordele.

I teorien lyder det hele lovende, men implementeringen af SPL indebærer reelle udfordringer. Nedenfor gennemgår vi nogle af de vigtigste:

I de tidlige faser af strategigenereringen går udviklingen ofte i stå: Nye resultater bygger ikke videre på de tidligere, og fremdriften aftager. Det skyldes normalt to hovedproblemer:

• • Løsning: Indarbejd al tilgængelig forretningsviden fra begyndelsen, så systemet har et solidt grundlag at trække på.

• • Løsning: Udform en nuanceret vurderingsrubrik, der bedømmer flere aspekter af et svar, såsom nøjagtighed, klarhed og relevans, og tilpas jeres sampling, så den afspejler disse signaler.

Hvis systemet genererer hundredvis af strategier, men kun får lidt feedback til at skelne gode fra dårlige, bliver sampling hurtigt uoverskuelig. Løsningen er beskæring.

Når du forbedrer strategilageret, bør du overveje:

• Levetid: Udfas strategier, når de overskrider et fastsat tidsrum eller antal generationer.

• Score: Brug vurderingsrubrikken til at filtrere strategier fra, der konsekvent klarer sig dårligt. Kombineret med levetid sikrer det, at du kun beholder tilgange, som beviser deres værdi over tid.

• LLM-bedømmelse: Vurder regelmæssigt strategierne for at finde dem, der ikke længere bidrager med unik indsigt, fordi deres nyttige elementer sandsynligvis allerede er indarbejdet i nyere versioner.

Løsning: Behandl strategidatabasen som et levende system: Beskær den regelmæssigt, så kun relevant viden af høj værdi bevares.

Systempromptlæring er stadig i sin spæde start, men potentialet er enormt. Virksomheder, der udelukkende benytter statiske prompter eller endeløs finjustering, vil møde velkendte begrænsninger: skrøbelige systemer, stigende omkostninger og spildt arbejde. SPL tilbyder en vej ud af denne cyklus ved at skabe systemer, der forbedres over tid og indarbejder overordnede principper frem for enkeltstående lappeløsninger.

SPL er stadig under udvikling, men retningen er klar: Systemer, der kan lære af sig selv, vil overhale dem, der ikke kan. Tiden er inde til at eksperimentere, begynde i det små, fastholde erfaringerne og skabe fundamentet for AI-systemer, der forbedres ved hver interaktion.