AI-applicaties: zo ga je er verantwoord mee om [Gids]

In deze gids deel ik 7 principes die essentieel zijn voor het gebruik van AI-applicaties. Deze informatie is speciaal bedoeld voor ambtenaren, IT-managers, beleidsmedewerkers en bestuurders die willen begrijpen hoe ze AI-applicaties ethisch en verantwoord kunnen inzetten in de publieke sector.

In het voorafgaande artikel op Frankwatching: De rol van AI in overheidsdiensten: een kritische blik, heb je gelezen hoe je AI effectief kunt inzetten, maar ook hoe belangrijk het is om ethische- en privacy-aspecten te benadrukken.

Een verantwoorde implementatie: waarom is dit belangrijk?

AI-applicaties bieden mogelijkheden om processen te verbeteren en de efficiëntie te verhogen. Denk hierbij aan het automatiseren van administratieve taken, of voorspellende analyses voor beleidsvorming met de Microsoft Azure AI-oplossingen voor gegevensanalyse, machine learning en voorspellende modellering. Daarnaast ook applicaties voor burger-ondersteuning en klantenservice met AI-chatbot-platforms.

AI-chatbotplatforms stellen overheidsinstellingen in staat om geautomatiseerde chatbots te implementeren voor het beantwoorden van vragen, het verstrekken van informatie en het afhandelen van eenvoudige taken.

Ondanks de voordelen, kunnen er ook risico’s op het gebied van ethiek, wetgeving en operationele uitvoering ontstaan zonder een verantwoorde implementatie. Daarom is het van groot belang om een ethische benadering te hanteren bij het gebruik van AI.

Een solide basis voor AI-beleid: wat kun je met deze gids?

Om het gebruik van AI te bevorderen is kennis nodig en zijn richtlijnen noodzakelijk. Met praktische adviezen, richtlijnen en principes helpt deze gids je bij het minimaliseren van risico’s en het maximaliseren van de voordelen die AI kan bieden.

De 7 principes voor verantwoord gebruik van AI-applicaties zijn bedoeld voor beslissers die beleid willen ontwikkelen voor het gebruik van AI binnen hun organisatie. Je kunt ervoor zorgen dat het gebruik van AI op een verantwoorde, ethische manier wordt gereguleerd en bevorderd. Dit doe je door de principes, adviezen en richtlijnen in deze gids te integreren.

Principe 1: neem altijd actief deel

Bij het gebruik van AI-applicaties is een actieve rol voor mensen, human oversight en hun betrokkenheid, van groot belang. Het is noodzakelijk dat een mens met empathisch vermogen en een ethisch kompas overziet wat een AI-systeem doet, maar ook of het systeem het juiste aan het doen is.

Hiervoor is het van belang dat deze persoon begrijpt wat het systeem moet doen en kan beoordelen of het AI-systeem dit ook doet. Je moet bijvoorbeeld weten wat er met de gegevens van een persoon gebeurt en waarom het AI-systeem een bepaald voorstel doet.

We willen niet dat een AI-systeem ‘zelfstandig’ dingen uitvoert. Dat brengt risico’s met zich mee. Een ‘actieve rol’ is het begrijpen wat het systeem doet en hier een oordeel over vormen (of dit aansluit met wat het systeem moet doen).

Gebruik applicaties niet rechtstreeks om beslissingen te nemen of te communiceren. Menselijke tussenkomst is altijd nodig om te beoordelen, interpreteren en beleid te introduceren.

Principe 2: blijf verantwoordelijk

Ook al zijn AI-applicaties handig voor je werk, jij blijft altijd verantwoordelijk voor de resultaten. Je moet professionele waarden, wetten en regels naleven. Enkele voorbeelden daarvan zijn privacywetgeving en informatiebeveiligingseisen.

Nu de technologie zoveel kan, is het niet meer de vraag ‘Wat kun je?’, maar: ‘Wat wil je?’. Hier is dus weer een mens voor nodig. Dit gaat de techniek niet voor ons beslissen.

Het is niet alleen een keuze die de mens maakt, maar ook een keuze die we als maatschappij maken. De AI Act, AVG en onze grondwet geven hierin een richting. Informatiebeveiliging is belangrijk, omdat we willen dat onze gegevens beschermd blijven en een AI-systeem niet onbedoeld gemanipuleerd kan worden.

Principe 3: deel geen vertrouwelijke informatie zonder toestemming

Geef geen persoonlijke of vertrouwelijke informatie aan AI-applicaties, tenzij dit uitdrukkelijk is toegestaan. Gebruik alleen openbare teksten en wees ervan bewust dat gesprekken kunnen worden gebruikt voor modelverbetering.

Als je AI-systeem wettelijk, ethisch en beveiligingstechnisch op orde is, kan het gebruik van persoonsgegevens acceptabel zijn.

Het is aan te raden om het gebruik van persoonsgegevens in combinatie met AI-systemen te vermijden. Dit is vaak niet noodzakelijk en kan risico’s met zich meebrengen voor de privacy en veiligheid van personen.

Principe 4: controleer resultaten zorgvuldig

Controleer altijd zorgvuldig de resultaten van AI-applicaties, om fouten te voorkomen. De kwaliteit van jouw werk is belangrijker dan snelheid of gemak.

Om de betrouwbaarheid van AI-applicaties te waarborgen, zijn verschillende controlemethoden beschikbaar, zoals:

• Handmatige inspecties van resultaten
• Vergelijking met gouden standaarden
• Crossvalidaties en testen met nieuwe datasets
• Het monitoren van metrieken, zoals nauwkeurigheid
• In andere gevallen: menselijke controle

Door deze methoden te combineren, kunnen gebruikers fouten identificeren en de nauwkeurigheid van AI-resultaten verbeteren.

Principe 5: gebruik CoPilot bij voorkeur

CoPilot, een product van Microsoft, biedt end-to-end encryptie en verwijdert gegevens na elke sessie. Dit garandeert privacy en voorkomt het permanent opslaan van gegevens voor modelverbetering.

CoPilot is geen open source-applicatie. Het draait binnen de Microsoft-omgeving en heeft daarmee dezelfde beveiliging. Als je organisatie Microsoft heeft gecontracteerd, kun je AI gebruiken binnen een gecontracteerde omgeving. Dit is compliant met de geldende wet, regelgeving en je organisatiebeleid.

CoPilot gebruikt hetzelfde Large Language Model (LLM)-model als ChatGPT-4 (betaalde versie). Veel organisaties maken gebruik van Microsoft, daarom ook mijn advies om CoPilot te gebruiken. Dan hoef je niet opnieuw te contracteren.

Principe 6: wees transparant over het gebruik van AI-applicaties

Door deze principes te volgen, gebruik je AI-applicaties op een verantwoorde manier. Wees open over het gebruik richting collega’s, inwoners en andere betrokkenen.

Het delen van kennis is essentieel voor het leren en verbeteren van AI-toepassingen. De AI Act zegt dat we altijd personen moeten informeren dat ze interacteren met AI (een machine), of dat ze content lezen of zien die gegenereerd is door AI. Ook stelt het dat we open en transparant moeten zijn over het gebruik van AI.

Heb je een een mailtje opgesteld of een afbeelding gegenereerd met AI? Dan stelt de AI Act dat we de ontvanger informeren dat de inhoud is samengesteld met behulp van AI. Een eenvoudige vermelding onderaan je mail of een watermerk in de afbeelding is voldoende.

Principe 7: neem contact op bij vragen

Bij twijfels of vragen over het gebruik van AI-applicaties, neem contact op met de juiste kanalen binnen jouw organisatie. Raadpleeg collega’s of specifieke ondersteuningsgroepen om snel antwoord te krijgen en ervaringen te delen.

Een verantwoorde en ethische toepassing

Het is noodzakelijk om de voordelen van deze technologie te benutten terwijl je de risico’s minimaliseert. Door de principes in deze gids te volgen, beleid te vormen en ondersteuning te zoeken, kun je AI succesvol integreren in jouw organisatie.

Daarnaast kun je ook bijdragen aan een verantwoorde en ethische toepassing van deze technologie.