Wat gebeurt er met je prompt? Onder de motorkap van ChatGPT

Velen van ons zijn enorm druk met het schrijven van prompts. Maar wat gebeurt er onder de motorkap als jij een prompt invoert? En waarom is het belangrijk dat je dat als marketing- of communicatieprofessional begrijpt?

AI-begrippen

Voordat we de motorkap van ChatGPT optillen, wil ik eerst een aantal begrippen toelichten. Ik merk namelijk dat niet iedereen deze begrippen juist gebruikt.

Generatieve AI: dit is een technologie die zelfstandig content kan creëren, zoals tekst, beelden of muziek (en binnenkort dus ook video’s), gebaseerd op de data waarmee het getraind is.

GPT: GPT staat voor generative, pre-trained en transformer. De ‘Chat’ ervoor, betekent simpelweg dat het type AI in chatbotvorm beschikbaar is. GPT is een type AI gespecialiseerd in het begrijpen en genereren van menselijke taal. Het wordt getraind op een hele grote dataset van tekst om patronen, context en de nuances van taal te leren.

Dit stelt GPT in staat om tekst te produceren die lijkt op die van een mens, waardoor het bruikbaar is voor verschillende toepassingen, zoals het beantwoorden van vragen en het schrijven van teksten. GPT-modellen zijn door hun vermogen om te ‘leren’ van grote hoeveelheden data bijzonder krachtig in natuurlijke taalverwerking.

Large Language Model: een large language model (LLM), zoals ChatGPT is, is een specifiek type generatieve AI dat grote hoeveelheden tekst kan analyseren, begrijpen en generen.

Het proces achter prompting

Als jij een prompt invoert in ChatGPT, start er een complex proces om een relevant en coherent antwoord te genereren. Ik bespreek stap voor stap wat er gebeurt.

1. Promptverwerking

Het systeem ontvangt jouw prompt en analyseert het. Dit houdt in dat de tekst wordt omgezet in een formaat dat begrijpelijk is voor het model. In deze fase kijkt het model vooral naar de kernwoorden en de context van je prompt om de aard van het gewenste antwoord te begrijpen.

2. Tokenisatie

De verwerkte tekst splitst op in kleinere stukjes, ook wel ‘tokens’ genoemd. Tokens kunnen woorden, delen van woorden of leestekens zijn. Dit helpt het model om de structuur van de taal en de relaties tussen de woorden te begrijpen.

3. Diep neuronaal netwerk

ChatGPT maakt gebruik van een diep neuronaal netwerk (ook wel transformer genoemd, de T in GPT) dat getraind is op een enorme dataset van tekst van het internet en uit boeken. Dit model kan patronen, taalgebruik en context begrijpen door de relaties tussen tokens te analyseren. Het is als het ware getraind door miljoenen voorbeelden van tekst te bestuderen, waardoor het heeft geleerd hoe het moet reageren in verschillende situaties.

4. Antwoordgeneratie

Op basis van de analyse van de prompt en de kennis die het model heeft opgedaan tijdens zijn training, genereert het een antwoord. Dit proces omvat het voorspellen van de volgende woorden of zinnen die het meest waarschijnlijk en relevant zijn, gezien de context van de prompt. Het model doet dit door waarschijnlijkheden toe te wijzen aan mogelijke vervolgwoorden en de meest waarschijnlijke paden te kiezen om een coherent antwoord te vormen.

5. Optimalisatie en afwerking

Voordat het antwoord wordt teruggestuurd, wordt het geoptimaliseerd om te zorgen dat het duidelijk, samenhangend en relevant is. Dit kan inhouden dat het antwoord wordt aangepast om beter aan te sluiten bij de vraag of om te voldoen aan bepaalde richtlijnen (bijvoorbeeld het vermijden van bevooroordeelde of ongepaste inhoud).

6. Response

Het gegenereerde antwoord wordt teruggezonden naar de gebruiker.

Hoe kan het dat ChatGPT zo snel antwoord geeft?

Dit hele proces, van invoer tot antwoord, gebeurt in slechts enkele seconden. Hoe dat kan? Daar komt het transformer-netwerk weer om de hoek kijken, want hierdoor kan ChatGPT complexe taalpatronen begrijpen en genereren.

Deze technologie wordt ondersteund door parallelle verwerking op hardware, zoals GPU’s en TPU’s. Hierdoor kan het systeem enorme datasets efficiënt doorzoeken en analyseren. Ik hoor je nu denken: de wattes? Stel je voor dat je een gigantische bibliotheek hebt vol met boeken en je moet heel snel informatie vinden uit al die boeken. Dat klinkt als een hele klus, toch? Niet voor technologie.

Deze specifieke technologie werkt zo goed en snel, omdat het iets gebruikt dat lijkt op een team van superhelden, waarbij elk lid speciale taken heeft. In plaats van één superheld (of computerdeel) alles te laten doen, gebruikt het meerdere superhelden tegelijkertijd. Deze ‘superhelden’ zijn eigenlijk speciale computeronderdelen, zoals GPU’s en TPU’s. Denk aan een GPU als een kunstenaar die heel goed is in tekenen. Een TPU is een rekenwonder dat supersnel kan rekenen.

Daarbovenop zijn de datastructuren en algoritmes geoptimaliseerd om de snelheid en nauwkeurigheid van de antwoordgeneratie te maximaliseren. En voordat ChatGPT beschikbaar werd gesteld voor ons, onderging het een uitgebreide training op een breed scala aan tekstgegevens. Dit betekent dat het model al een diep begrip had ontwikkeld van taalstructuren en -context, waardoor het in staat is om op basis van eerder verworven kennis snel relevante antwoorden te genereren. Jij kende ook het alfabet al voordat je begon met lezen, zo kan je het zien.

Daarnaast draait ChatGPT op een geavanceerde server-infrastructuur die speciaal is ingericht om hoge prestaties te leveren. Dit is essentieel voor het verwerken van grote aantallen verzoeken met minimale vertraging. Al deze factoren bij elkaar, zorgen dat ChatGPT in staat is om binnen enkele seconden complexe vragen te beantwoorden.

Waarom moet jij hier als marketing- en communicatieprofessional iets van afweten?

Met een basiskennis van de technologie achter ChatGPT, begrijp je dat ChatGPT geen menselijke intenties of emoties heeft, maar dat het antwoorden construeert op basis van patronen en data waarop het is getraind. Met deze kennis kan je beter inschatten waar ChatGPT wel en geen waarde kan leveren en waar jij het dus wel en niet voor kan inzetten.

Door alle AI-ontwikkelingen vind ik het voor marketing- en communicatieprofessionals ook steeds belangrijker worden om wat meer technische kennis in huis te hebben. Je hoeft echt geen techneut te worden, maar door een beetje te begrijpen wat er onder de motorkap gebeurt van ChatGPT en andere tools, kan je het veel efficiënter inzetten en op waarde schatten.