Je eigen chatbot opzetten en gebruiken: 5 ervaringen & lessen

Inmiddels kan iedereen zonder technische kennis met 3 muisklikken aan de slag met een chatbot. Toch is er nog veel twijfel, werkt het ook echt? In dit artikel mijn ervaringen met het opzetten van 20 chatbots.

Even terug in de tijd: Eliza

Alweer zestig jaar geleden werd Eliza gelanceerd. Het werd uiteindelijk een nachtmerrie voor de maker. MIT-computerwetenschapper Joseph Weizenbaum had deze chatbot opgezet, om te laten zien hoe oppervlakkig de status van het gesprek tussen mens en machine was. Maar dit had het het tegenovergestelde effect. Het werd de eerste chatbot in de geschiedenis die jaren kostte om op te zetten.

Het waren geen simpele antwoorden en gesprekken die Eliza gaf aan en voerde met haar gebruikers. Mensen begonnen lange, diepe en zeer privé-gesprekken te voeren met een programma dat alleen in staat was de woorden van gebruikers naar hen terug te reflecteren. Verontrust en totaal verontwaardigd hierover, heeft Weizenbaum de rest van zijn leven gewaarschuwd voor de gevaren van AI en computers in het algemeen.

Het grappige is dat Eliza de antwoorden echt gaf op basis van een paar antwoorden. Om een gesprek op gang te brengen, probeerde het op basis van een trefwoord een vraag terug te stellen. Dus als jouw prompt ‘kind’ bevatte, dan stelde hij de vraag ‘hoe is het met jouw kind’. Was er geen duidelijk trefwoord, dan kreeg je een standaardvraag zoals ‘vertel me meer’.

User: Men are all alike.
Chatbot: IN WHAT WAY
User: They’re always bugging us about something or other.
Chatbot: CAN YOU THINK OF A SPECIFIC EXAMPLE
User: Well, my boyfriend made me come here.
Chatbot: YOUR BOYFRIEND MADE YOU COME HERE
User: He says I’m depressed much of the time.
Chatbot: I AM SORRY TO HEAR YOU ARE DEPRESSED

De nieuwste chatbots

Inmiddels baseren de nieuwste chatbots zich op massieve hoeveelheden data. Alleen al ChatGPT werkt op basis van een database van 45 terabyte. Dat is evenveel als 12.500 films of 12.500.000 foto’s van 12mb-resolutie. In november vorig jaar kwam OpenAI met weer een grote update; gebruikers konden vanaf toen hun eigen GPT maken, zonder enige technische kennis. In een paar minuten kan je al één online hebben en gaan gebruiken, schreef Kim Pot eerder.

Zelf ontplofte ik weer van de ideeën, vooral nadat ik in het afgelopen jaar al meerdere malen ‘down the rabbithole’ was gegaan. Ik keek hoe ChatGPT mijn dagelijkse werkzaamheden zou kunnen verbeteren, versterken of zelfs vervangen. Als eventorganisator keek ik naar alle tools die er zijn om events nóg strakker op te zetten en te verrijken. Als presentatiecoach deed ik hetzelfde, maar keek dan naar alle tools rondom het voorbereiden van een presentatie, van verhaal en slides tot vragen. Maar een van de meestgestelde vragen die ik krijg, als ik een keynote geef over het praktische gebruik van AI, blijft echt het opzetten van een eigen chatbot.

Je eigen chatbot: wat wil je er precies mee gaan doen?

Het is goed om van tevoren even na te denken wat je met de chatbot wil gaan doen. En vooral ook; wie hem gaat gebruiken. Ik heb zelf de afgelopen tijd 8 chatbots opgezet, maar die zijn echt alleen voor eigen gebruik. Dit is niet alleen handig voor de selectie van de chatbot zelf, maar ook voor het selecteren van de (type) data.

Ik hoor wel van mensen terug dat ze heel simpel een chatbot hebben opgezet en hierin een stapel industrierapporten en eigen adviesrapporten hebben geüpload en er daarna mee zijn ‘gaan spelen’. In mijn optiek is dat echt verloren tijd, als je niet een duidelijke doelstelling hebt bij het gebruik.

Voor mij is dat bij de ene chatbot puur de analyse van geluidsopnames, bij de andere echt het analyseren van mijn bedrijven en onverwachte trends en mogelijkheden signaleren. Op basis daarvan ga ik vervolgens gericht op zoek naar data om te voeden en series prompts om de juiste conversatie te voeren.

Welke gaat het worden?

Ook al kwam OpenAI breed in het nieuws met de lancering van de mogelijkheid om zelf een GPT op te zetten, er zijn talloze andere tools die je kan gebruiken. Ik ben dus ook eerst wat breder gaan kijken naar de mogelijkheden, hoe makkelijk ze op te zetten zijn en uiteraard, of ze de resultaten geven die ik wens.

Je kan bijvoorbeeld ook zeker een chatbot maken op basis van Google Bard, maar dat is voor de gemiddelde lezer van Frankwatching wellicht niet weggelegd. Je moet hier zelf gaan coderen met Python en andere scriptalen en je kan dus niet zoals met GPT, met een paar muissklikken een ‘ready to use’-bot lanceren.

Er zijn ook applicaties die gebruik maken van de kracht van GPT, maar met een eigen oplossing komen. Bijvoorbeeld voor op je eigen site, zoals Chatbase, CustomGPT en YourGPT. Daarnaast zijn er bots gericht op het opzetten van een klantenservice en leadflow. Allemaal bots die je zonder enige technische kennis kan inrichten en gebruiken. Beschik je wel over de technische kennis? Dan zou ik zeker eens gaan kijken naar open-source bots als PyTorch, Keras of Tenserflow.

Zelf gebruik ik echt enkel ChatGPT, omdat ik alleen ‘interne’ chatbots voor eigen gebruik heb. Daarnaast kan je tegenwoordig makkelijk met WordPress plugins en simpele tools, jouw eigen GPT-chatbot ook toevoegen aan je eigen website, om hem beschikbaar te maken voor klanten.

Verscholen pareltjes

Veel professionals zitten op potten goud, zonder dit te weten of dit überhaupt te kunnen gebruiken. Dan heb ik het niet over ouderwetse goudbaren of munten, maar echt data. Elke dag komt er ruim 300 miljoen terabyte bij, maar het is voor een gemiddelde ondernemer of organisatie lastig om de data ook echt strategisch in te zetten.

Waarom ik zo ontzettend enthousiast ben over de mogelijkheid om een eigen GPT te maken, maar ook waar ik veel mensen nog het potentieel verre van optimaal zie benutten? Dat gaat om de breedte van de data. Ik zie de meeste mensen niet verder komen dan het uploaden van een aantal generieke PDF-bestanden, terwijl een gemiddelde organisatie zo ontzettend veel bruikbare data heeft. Ga ook eens experimenteren met bijvoorbeeld:

Communicatie met klanten

Denk aan communicatie via e-mail, exports vanuit klantenservicetools als Zendesk, reviews en socialmediareacties.

Google Analytics

Er zijn veel goede blogs met stappenplannen en inspiratie over welke data je kan exporteren uit GA en vervolgens met de juiste prompts kan laten ‘werken’ in GPT. Ik heb hiermee allerlei heel interessante trends kunnen zien en zelfs prognoses laten maken.

Administratieprogramma’s

Die programma’s hebben ook altijd wel exporteerfuncties van vrijwel alle data. Dit gaf mij zeer interessante inzichten in type uitgaven, vergelijkingen met andere jaren etc. Analyses die ik in geen enkel boekhoudprogramma zelf kan inzien of genereren.

Video en audio

Eerder schreef ik al over de ‘multimodale AI’; je kan niet alleen op basis van tekstuele input met een chatbot aan het werk. Ook allerlei andere type content zijn nodig. Ik hoor echt geweldige toepassingen terug vanuit de publieken; van medici die MRI-scans uploaden voor een second opinion, tot het laten maken van een website op basis van een schets in een notebook. Ik ben zelf gaan experimenten met opnames van gesprekken en webinars. Op basis hiervan kreeg ik ook ongekend interessante uitkomsten.

Wetenschappelijke artikelen

Mijn werk rondom spreekcoaching baseer ik voornamelijk op wetenschap, maar op sommige onderwerpen (zoals bijvoorbeeld hoe je het brein van het publiek kan prikkelen of het effect van slides), is heel veel onderzoek beschikbaar. Ik heb op basis van een aantal hoofdonderwerpen via Google Scholar een kleine 200 wetenschappelijke artikelen gedownload en gevoed aan een eigen chatbot, waarmee ik eigen observaties toets en ook meta-analyses laat uitvoeren.

Internet of Things-apparaten

We dragen ze veel en hebben ze ook op steeds meer plekken in ons huis en op kantoor geïnstalleerd. Ook al zijn de bijgeleverde apps al goed voor basisanalyses en aanbevelingen, je kan vaak zoveel meer doen als je alle data downloadt en uploadt in een eigen chatbot. Van de Fitbit en Philips Hue, tot allerlei ‘slimme meters’, ze hebben allemaal exporteerfuncties waarmee je met een muisklik al jouw data kan downloaden, om vervolgens te uploaden en aan het werk te zetten in GPT.

Afname gebruik ChatGPT

Na de ongekend snelle groei van het gebruik van ChatGPT, nam het gebruik na een half jaar ineens af. De site viel van plek 3 naar plek 22 in de wereldwijde ranking van meestbezochte websites en er is nog steeds in bepaalde landen een sterke daling (meer dan 10%) van het gebruik.

Hier zie en hoor ik drie hoofdoorzaken:

• Verbod – Er zijn genoeg organisaties waar ik mee werk, waar het gebruik van tools als GPT simpelweg verboden is, zoals de Nederlandse ministeries.
• Missen kennis – De meerderheid van de handjes gaat altijd wel omhoog in het publiek, als ik vraag naar wie wel eens met GPT heeft gespeeld. Maar de meeste handjes gaan ook weer naar beneden als ik vraag wie het regelmatig gebruikt. De meeste mensen hebben echt duidelijk nog moeite met het formuleren van een goede ‘prompt’ en uberhaupt inzien waar chatbots hen van praktisch nut kunnen zijn.
• Niet blij met de output – Ik hoor ook steeds meer mensen die door de (soms slechte) kwaliteit van de output van tools als GPT, er de brui er aan geven. Volgens experts is GPT bijvoorbeeld sinds de vorige upgrade op sommige vlakken ‘dommer’ geworden. Iets wat maker OpenAI trouwens sterk afwijst; “we make each new version smarter.”

‘Laat ook maar’

Dat mensen zo snel teleurgesteld zijn en afdruipen, vind ik wel heel jammer. Net als in het normale leven worden de antwoorden op vragen vaak beter tijdens een gesprek. Ik ben soms echt een uur in gesprek met mijn GPT-data en neem ook vaak niet genoegen met het eerste antwoord.

Denk dus niet ‘laat maar’ als het antwoord tegenvalt, maar ga juist het gesprek aan. Dit is iets dat ik ook van de meeste mensen terughoor, ze doen dit niet. Zonde, want vaak is een tweede antwoord juist wel top. Maar nog veel belangrijker, je zorgt ervoor dat je eigen chatbot hier ook in korte tijd een stuk beter mee wordt in het algemeen. Denk dan aan de ‘tone of voice’, manier van antwoorden en formulering hiervan

Even omdenken voor de lancering

Er komen steeds meer humoristische voorbeelden van chatbots die helemaal ‘rogue’ gaan. Dan heb ik het niet over simpel hallicuneren, maar echt antwoorden geven die de eigenaar schaden. Voor de GPT-hype zagen we dit al met de Hitler-groetende bot van Microsoft, de liegende bot van Snapchat, de klantenservicebot van pakketbezorger DBD en talloze chatbots van gezondheidsorganisaties, die annorexiapatienten bijvoorbeeld ineens dieet advies gingen geven.

Een eigen chatbot, twijfel je nog?

Met het ongekende potentieel wat eigen chatbots mij al hebben gegeven en dagelijks geven, blijf ik me soms verbazen dat de meeste professionals nog niet hebben nagedacht over een eigen chatbot. Hopelijk heeft dit artikel weer een extra impuls gegeven aan alle twijfelaars.