Prompt Engineering: Det handler ikke om instruksjoner, men om kontekst

Prompt Engineering: Det handler ikke om instruksjoner, men om kontekst

I tidlige faser av et fagfelt ser man ofte mange generalister. Etterhvert som faget utvikles og kompleksiteten øker, oppstår det naturlig behov for spesialisering. Som for eksempel i programmeringens tidlige dager håndterte én utvikler alle aspekter av et programmeringsprosjekt. Etter hvert førte bransjens modning til spesialisering innen områder som frontend, backend, UI og UX, noe som økte effektivitet og kvalitet.

Jeg mener at vi er her med AI nå. Selv om mange utviklere i dag inkorporerer prompting i sitt arbeid, ser vi at feltets økende kompleksitet og potensial skaper behov for dypere spesialisering. Denne trenden mot spesialisering innen AI-utnyttelse forventes å øke effektiviteten og kvaliteten i AI-drevne løsninger betydelig. Dette følger samme mønster som vi har sett innen tradisjonell programvareutvikling, hvor spesialisering har ført til markante forbedringer i både produktivitet og resultater.

Er det på tide å skille AI-prompting fra tradisjonell programmeringstenkning og datavitenskapelig logikk? Oppdag hvorfor "if-then"-logikk kolliderer med språkmodellers flytende og kontekstbaserte natur, og hvorfor en ny tilnærming til prompting er nødvendig.

Du tror kanskje du skriver instruksjoner til ChatGPT, men det er ikke helt sånn det fungerer

Dette handler ikke om "resonnering" i tradisjonell forstand. Språkmodellen forstår ikke egentlig disse sammenhengene - den er laget av dem. Den består av disse sammenhengene; disse relasjonene og måtene å samhandle med dem på er selve grunnlaget for modellen. Hvis du skriver inn følgende i prompten:

Bildet viser et utdrag fra en systemprompt. Dette er et kompetansekart over ulike ferdigheter relevant til oppgaven “copywriter”. Hver kategori er delt inn i spesifikke underkategorier og ferdigheter.

Språkmodellen vil da fungere som en bedre tekstforfatter. I denne tilnærmingen gir vi ingen instruksjoner, og modellen utfører heller ingen instruksjoner. I stedet har vi veiledet modellen mot å spesialisere seg på bestemte emner og nøkkelord.

Ved å inkludere disse konseptene aktiverer vi de relevante "nervebanene" i modellen, basert på den spesifikke dataen den er trent på for disse nøkkelordene. Selv om man skulle skrive faktiske instrukser, utføres mesteparten av arbeidet ved å inkludere de riktige relaterte mønstrene i modellen.

Disse nøkkelordene trigger automatisk de tilknyttede strukturene i modellen, noe som gjør den i stand til å generere relevant og spesialisert innhold uten direkte instruksjoner.

Hva er greia med instruksjoner, da?

Greit, så hva skjer egentlig når vi skriver en instruksjon? Som man får beskjed om og gjøre i omtrent alle guider for prompt engineering.

Du gir AI puslebitene den trenger. Velger du de riktige bitene, kan AI sette sammen bildet du ønsker å se.

Tenk deg at du spør en venn: "Kan du skrive en stil om andre verdenskrig?" Det første vennen din gjør er å høre på spørsmålet ditt, ikke sant? Det samme gjør ChatGPT. Den "hører" på det du skriver ved å lese setningen din.

Nå, forestill deg at vennen din tar setningen din og klipper den opp i små biter, som et puslespill. Hver bit er et ord eller en del av et ord. ChatGPT gjør noe lignende - den deler opp setningen i "tokens". For eksempel blir "Kan du skrive en stil om andre verdenskrig?" delt opp i mindre biter som: ["Kan", "du", "skrive", "en", "stil", "om", "andre", "verdenskrig"].

Deretter ser vennen din på hver bit og prøver å forstå hva den betyr i forhold til de andre bitene. På samme måte analyserer ChatGPT hvert token i sammenheng med de andre. Det er som å lese mellom linjene - den prøver å forstå hva du egentlig mener, ikke bare hva ordene betyr hver for seg.

ChatGPT har lest mer enn de fleste av oss kan drømme om. Den har slukt internett, bøker, artikler - you name it. Så når du ber den om noe, er det som om den blar gjennom et enormt bibliotek i hodet sitt for å finne relevante "bøker" å slå opp i.

For å gjøre det enda mer forståelig, la oss se på hvordan ChatGPT tenker på ordet "skrive" i setningen din. Den ser ikke bare på "skrive" alene, men hvordan det henger sammen med "stil" og "andre verdenskrig". Det er litt som å spille memory - den prøver å koble sammen alle brikkene for å få et helhetlig bilde.

Ok, nå som vi forstår at AI-modeller ikke prosesserer 'instruksjoner' på samme måte som mennesker, men heller tolker dem som del av en større kontekst. Tilbake til eksempelet mitt over:

Tekstformatteringen i dette kompetansekartet bruker parenteser, tall og bokstaver for å skape en oversiktlig hierarkisk struktur. Denne metoden viser tydelig hvordan ferdigheter er relatert til hverandre. Se på det som en sekvensiell prosess, der rekkefølgen av elementer følger en logisk arbeidsflyt fra planlegging til utførelse. Begynner ting å gi mening..?

- Hovedkategorier • Tallene (1, 2, 3, osv.) representerer hovedkategoriene eller hovedområdene innenfor kompetansekartet.

- Underkategorier • Bokstavene (a, b, c, osv.) representerer spesifikke ferdigheter eller underkategorier innenfor hver hovedkategori.

Dette er én mulig formateringsmetode. Det er mange forskjellige måter avhengig av behovet og hva oppgaven til ai-assistenten skal være:

En annen type formattering jeg ofte bruker (Mermaid Charts)

Prompt engineering handler om mer enn å få en modell til å følge instruksjoner. Det handler om å forstå og utnytte modellens dype evne til å prosessere kontekst, simulere komplekse scenarier, og generere nyanserte, meningsfulle responser. Denne tilnærmingen åpner for innovative løsninger og anvendelser som langt overgår begrensningene ved tradisjonelle, instruksjonsbaserte metoder.

Aktivering av relevante mønstre i en AI-modell kan ofte forbedre svarets kvalitet, men det er ikke en absolutt regel. Kvalitet avhenger av flere faktorer:

1. Oppgavens natur

2. Ønsket detaljnivå

3. Brukerens behov

Å engasjere mange mønstre kan gi mer nyanserte svar, men kan også føre til unødvendig kompleksitet. Det ideelle er en balanse - nok mønstre for et informert svar, men ikke så mange at svaret blir uklart. Målet er å oppnå presisjon og relevans tilpasset den spesifikke situasjonen.

Dypere i mønstrene

Har du noen gang lurt på hva som skjer når du ber ChatGPT om å gjøre noe litt... uvanlig?

Hva hvis du ber den utføre noen fancy triks som tekstkamuflasje, endring av hashverdier og kryptering. Vet du hva svaret var? "Beklager, men som en språkmodell kan jeg ikke utføre slike tekniske oppgaver." Typisk AI-svar, ikke sant?

Men her kommer det interessante: Selv om ChatGPT påstår at den ikke kan gjøre disse tingene, så påvirker bare det å nevne disse begrepene måten den svarer på. Det er som å si "ikke tenk på en rosa elefant" - du kan ikke la være å tenke på det!

Når du nevner ord som "tekstkamuflasje" eller "kryptering", er det som om du vekker en sovende bjørn i ChatGPT's "hjerne". Den begynner å tenke på disse temaene, og selv om den ikke direkte utfører oppgavene, så farger det absolutt svarene den gir.

Med følgende tekst som en del av system prompten:

Prompten inneholder en liste over ulike teknikker og metoder relatert til å unngå AI-detektering

Ved å gi disse begrepene som kontekst, veileder du modellen til å generere responser som er mer i tråd med temaene du har oppgitt. Selv om modellen ikke kan utføre handlingene direkte, vil den "tenke" på disse teknikkene mens den genererer svar. Dette betyr at svarene vil bli påvirket av konteksten av å unngå AI-detektering.

Så, neste gang du chatter med en AI, husk at den kanskje gjør mer enn den innrømmer - på en indirekte måte, selvfølgelig. Morsomt, ikke sant?

Arkitekter av kontekst

Fremtiden for AI ligger ikke bare i å forbedre modellenes ytelse, men i å utvikle mer sofistikerte måter å samhandle med dem på. Ved å forstå at modellen ikke bare prosesserer, men essensielt sett er et nettverk av relasjoner, kan vi begynne å utnytte deres fulle potensial på måter vi knapt har begynt å forestille oss.

Forståelsen av at språkmodeller ikke følger tradisjonelle, regelbaserte systemer, men i stedet opererer basert på komplekse mønstre og statistiske sammenhenger, åpner opp for nye muligheter.

Akkurat som DNA ikke direkte instruerer en celle, men fungerer som en kontekstuell prompt, opererer dataene i en AI-modell som ChatGPT som et omfattende nettverk av lærte mønstre og statistiske sammenhenger.

Når vi introduserer en prompt til modellen, kan vi se det som å introdusere en ny "DNA-sekvens" i en celle. Modellen responderer ikke ved å følge forhåndsdefinerte instruksjoner, men ved å forme sitt svar basert på de eksisterende relasjonene i sin "cellulære" struktur. Dette reflekterer den ikke-sekvensielle og kontekstbaserte prosesseringen vi har diskutert tidligere.

Denne prosessen minner om epigenetikk - hvordan gener aktiveres eller deaktiveres avhengig av miljøfaktorer. På lignende vis aktiverer våre prompts ulike "gener" eller aspekter av AI-modellen, noe som resulterer i unike svar hver gang. Dette understreker den dynamiske naturen av modellens respons og hvordan den tilpasser seg ulik input.

Når det kommer til hvordan disse modellene faktisk prosesserer informasjon, blir det fort ganske teknisk. Men tenk på det som et puslespill der alle brikkene kan passe sammen på uendelig mange måter. Modellen prøver å finne den beste måten å sette sammen brikkene på for å svare på det vi spør om.

Det er fascinerende å tenke på at disse modellene ikke opererer med tradisjonelle, regelbaserte systemer som konvensjonelle datamaskiner. De har i stedet utviklet en form for statistisk "intuisjon" basert på massive mengder data. Men det er kritisk å huske at modellen ikke forstår relasjoner i menneskelig forstand - den ER relasjoner.