De AI Act komt eraan: hier moet je rekening mee houden

Het Europees Parlement heeft afgelopen zomer de AI Act aangenomen. Deze Europese wet legt strenge regels op aan ontwikkelaars en gebruikers van AI om de rechten van Europese burgers te beschermen. Als Frankwatching-lezer is de kans reëel dat de AI Act vanaf 2026 ook voor jouw organisatie en werk geldt. Dit artikel legt uit wat de AI Act is en waar je rekening mee moet houden.

De aandacht voor AI de laatste tijd is je vast niet ontgaan. En misschien experimenteer je al met ChatGPT of werk je al volop mee. Want de mogelijkheden van tools als ChatGPT zijn indrukwekkend en variëren van een wervende salesmail schrijven tot complete websites bouwen.

En de mogelijkheden van AI gaan nog veel verder. Zo spoort AI tumoren in scans op die ervaren artsen missen en speurt AI naar fraude bij financiële transacties.

De aanleiding voor de AI Act: de keerzijde van AI

Maar zoals zo vaak bij grote uitvindingen kan men AI ook met verkeerde bedoelingen gebruiken. Zo is dynamiet ooit uitgevonden om het leven van mijnwerkers gemakkelijker te maken, maar gebruiken anderen het om er bommen mee te maken. En zo kun je AI bijvoorbeeld misbruiken voor gezichtsherkenning, om mensen met bepaalde kenmerken te volgen of eruit te pikken.

De AI Act beschermt tegen de gevaren van AI

Om ons te beschermen tegen verkeerde bedoelingen met AI werkt het Europees Parlement aan de zogenaamde AI Act. De AI Act is een Europese wet die Europeanen beschermt tegen de risico’s van AI. Zo waarborgt de AI Act onze privacy en verbiedt deze AI om ons te kenmerken op basis van geslacht en ras.

Het Europees Parlement heeft inmiddels de laatste versie van de AI Act aangenomen en de verwachting is dat de AI Act in 2026 ingaat.

Zo werkt de AI Act

De AI Act gaat uit van het risico van verkeerd gebruik en ongewenste uitwerking van AI voor mensen. Daartoe werkt de AI Act met de volgende risiconiveaus, die aangeven wat de bouwers en gebruikers van AI wel en niet mogen:

• Onaanvaardbaar risico
  Hieronder valt AI die een bedreiging voor mensen is en de AI Act verbiedt deze vormen van AI. Denk bijvoorbeeld aan AI die voorspelt of iemand een misdaad zal plegen. Maar ook social scoring op grond van koopgedrag of financiële situatie (dat interessant voor marketing kan zijn) valt hieronder en mag straks niet meer.
• Hoog risico
  Tot dit niveau behoort AI die de rechten of veiligheid van mensen kan schaden. Zoals AI die sollicitanten screent of de klimaatbeheersing in kantoren regelt. De AI Act staat zulke AI onder strenge voorwaarden toe. Zo moet volstrekt helder zijn welke gegevens de AI gebruikt en ook moeten mensen toezien dat deze AI de rechten en veiligheid van mensen niet schaadt.
• Laag risico
  Alle andere AI valt onder dit niveau en hiervoor geldt dat voor gebruikers ervan altijd duidelijk moet zijn dat ze met AI te maken hebben. Verder mag deze AI geen beslissingen nemen en moet men aan eventuele auteursrechten voldoen. ChatGPT valt bijvoorbeeld onder laag risico, maar ook AI die video voor deepfakes genereert.

De AI Act geldt voor iedereen die AI ontwikkelt, levert of toepast. In alle branches. En om de risico-inschattingen inzichtelijk te maken, komt er een Europese database die AI-toepassingen zoals ChatGPT registreert. Alleen AI die in de database is opgenomen, mag straks in Europa verkocht en gebruikt worden.

Waar moet je rekening mee houden

Als Frankwatching-lezer is de kans het grootst dat je AI-gebruiker bent of wordt. En ook dan geldt de AI Act dus voor jou. Want stel dat je marketeer bent. Dan verbiedt de AI Act jou om AI voor social scoring toe te passen. En wanneer je als communicatiespecialist met ChatGPT content maakt, moet je straks vermelden dat je tekst met AI gemaakt is.

Boetes voor overtreders zullen variëren afhankelijk van de soort overtreding en de bedrijfsgrootte, maar kunnen oplopen tot 40 miljoen euro.

Belangrijk dus om je voor te bereiden en het volgende stappenplan kan je helpen om te voldoen aan de AI Act:

1. Breng de AI die je gebruikt in kaart
   Loop alle software die je gebruikt na en bekijk of AI daar een onderdeel van is. Vraag dit zo nodig op bij de ontwikkelaar of leverancier van je software.
2. Check in de registratie database of je de AI mag gebruiken
   Jij bent straks aansprakelijk als je ongeregistreerde en daardoor verboden AI gebruikt, dus wees zeker van de AI die je toepast.
3. Bepaal het risiconiveau per AI
   Bepaal of schat nu per je gebruikte AI het risiconiveau (onaanvaardbaar/hoog/laag) in.
4. Leg per AI vast hoe je het toepast of gaat gebruiken
   Werk daarna uit volgens welke regels en met welke voorzieningen je de AI gaat gebruiken. Stel dat je ChatGPT gebruikt om productpagina’s voor je website te genereren. Spreek dan af dat een of meerdere personen een aangemaakte pagina voor publicatie controleren en leg dit vast in een werkprocedure.
5. Voer per AI de vastgestelde werkwijze in
   Naast dat je in deze stap de afgesproken werkwijze rondom AI in de praktijk brengt, kan het ook zijn dat je op je website vermeldt dat je AI toepast en op welke gegevens AI zich daarbij baseert.

AI verantwoord en succesvol inzetten

De strenge regels van de AI Act beschermen burgers, maar beperken AI-ontwikkelaars, -leveranciers en -gebruikers. OpenAI, het bedrijf dat ChatGPT ontwikkelt, dreigde ChatGPT uit Europa terug te trekken als de EU de AI Act invoert. Maar de EU zwichtte niet voor deze chantage en OpenAI heeft het dreigement ondertussen weer ingetrokken.

Andere critici vrezen dat Europa de AI-boot mist door de beperkingen van de AI Act, maar alle grote AI-ontwikkelaars zoals Microsoft en Google zeggen toe dat ze de AI Act respecteren. Want de AI Act laat ook ruimte voor innovatie met vrijstellingen voor onderzoek naar nieuwe AI-toepassingen. Dus zolang je de AI Act in acht neemt, kun je AI verantwoord en succesvol inzetten.