'AI heeft invloed op de machtsverhoudingen in de wereld. Wie niet meedoet verliest'

Desinformatie, deepfakes, social scoring, privacy en IP-rechten. Kunstmatige intelligentie biedt veel kansen maar roept ook vragen op. Wat gaat AI betekenen voor jouw baan? Maar ook breder: wat gaat AI voor onze maatschappij en het bedrijfsleven betekenen? Een antwoord hierop is de AI Act, in 2024 aangenomen door de Europese Unie. Een streng wettenpakket waarmee de EU de risico's van AI wil beteugelen en tegelijkertijd innovatie een boost wil geven.

'Gedachte achter AI Act is te kijken hoe risicovol AI-toepassingen zijn'

Menno Weij is Partner Tech & Privacy bij BDO, één van de vijf grootste accountancyfirma's ter wereld. Weij geeft het bedrijf juridisch advies, ook over de nieuwe AI Act. ,,Europa wil heel graag piketpalen slaan om orde te brengen in het wilde westen aan AI-oplossingen waar we momenteel mee worden geconfronteerd. Er zijn ook in Nederland trieste voorbeelden dat het ernstig misgaat met AI-achtige systemen en de Nederlandse bevolking. Neem de Toeslagenaffaire. De gedachte achter de AI Act is om te kijken naar hoe risicovol die betreffende AI-toepassing is. Hoe meer risico's, hoe strenger de vereisten om te zorgen dat de kans op fouten wordt uitgebannen of in ieder geval zo klein mogelijk is."

LEES OOK Predictive AI bespaart dit bedrijf honderden vierkante meters en tienduizenden euro's

AI Act: beschermen van de burger

Een belangrijk doel van de wetgeving is het beschermen van de burger en duidelijk maken wanneer AI wordt ingezet. Het is een lastig pakket van wetten en regelgeving omdat het een complexe balans moet vinden tussen het bevorderen van innovatie aan de ene kant en de samenleving beschermen tegen kunstmatige intelligentie aan de andere kant. De wet gaat uit van risico's. Hoe hoger het risico, des te meer vereisten. De AI Act is opgedeeld in vier risicocategorieën die gefaseerd in de komende twee jaar van kracht worden:

Minimal risk: Denk hierbij aan AI in videogames of spamfilters. Hier komen geen wetten voor omdat de negatieve impact gering is.

Limited risk: In deze categorie vallen bijvoorbeeld chatbots en deepfakes. De focus ligt hier op transparantie. Zo moeten mensen op de hoogte worden gesteld dat ze met een AI-systeem communiceren of dat de inhoud AI-gegenereerd is.

High risk: Dit gaat over AI-systemen in bijvoorbeeld de medische sector, maar ook vervoer, educatie, veiligheid en de politie. Deze AI-systemen moeten onder andere voldoen aan strenge risicotesten en hoogkwalitatieve datasets.

Unacceptable risk: Deze AI-toepassingen worden verboden binnen de EU. Denk aan AI-toepassingen voor social scoring, biometrische toepassingen of manipulatieve systemen.

Voldoen aan de AI Act is een zwaar compliance-traject dat bedrijven, helaas zeg ik erbij, geld gaat kosten

,,Het is best een gedrocht, als ik het zo mag zeggen. Met veel vereisten voor met name partijen die het ontwikkelen en via andere partijen op de markt willen brengen. Dus niet iedereen gaat er blij mee zijn. Daar ben ik echt van overtuigd. Ik verzeker je, voldoen aan de AI Act is een zwaar compliance-traject dat bedrijven, helaas zeg ik erbij, geld gaat kosten. Je moet wel, want als die wet er is en je hebt AI die voor jou van toepassing is, dan moet je voldoen. Dan moet je in de keten waarborgen dat aanbieders voldoen. Europa wilde heel graag de eerste zijn. Nou, dat is gelukt. Maar is het voldoende doordacht? Wat betekent dit nu concreet voor bedrijven binnen Europa of buiten Europa die ermee te maken krijgen? Daar heb ik wel mijn vraagtekens bij."

AI Act zorgt voor een gelijk speelveld, omdat ook Amerikaanse en Chinese bedrijven eraan moeten voldoen. En dat vinden bedrijven vaak juist fijn

'Niet alleen aan de technologie en bedrijven overlaten'

Voormalig Tweede Kamerlid Kees Verhoeven heeft zich namens D66 altijd ingezet voor de digitalisering binnen de overheid. Na zijn afscheid uit de politiek in 2021 richtte hij Bureau Digitale Zaken op en begon hij als onafhankelijk technologieadviseur met als missie het bevorderen van effectief en integer gebruik van technologie. Verhoeven: ,,Dat je met regels komt, dat er politieke sturing nodig is, dat staat voor mij buiten kijf. Je kunt het niet alleen maar aan de technologie en de bedrijven overlaten. De AI Act is vooral een kader dat zegt: als je een vorm van AI maakt en hij valt in een categorie hoog risico, dan moet je aan bepaalde eisen voldoen. Ik denk niet dat het remmend hoeft te zijn. Als Amerikaanse en Chinese bedrijven hier komen met hun producten, moeten zij ook aan die wet voldoen. Dus in die zin zorgt het ook voor een gelijk speelveld. En dat vinden bedrijven vaak juist fijn."

LEES OOK de expertblog van Aragorn Meulendijks: 2025? Dan krijgt AI een robotlichaam'

'Data op Europees grondgebied proberen te houden'

Verhoeven: "AI is volledig afhankelijk van data. Degene die de data pakt kan de beste AI-modellen ontwikkelen. Dat zie je nu gebeuren bij OpenAI. Elk moment dat wij prompts invoeren en zeggen of we een leuke of niet zo leuke uitkomst vinden, dat is allemaal data. En die data gaan nu allemaal naar de Verenigde Staten. TikTok hetzelfde. Allemaal naar China. Dus we moeten die data op Europees grondgebied proberen te houden door eigen Europese AI-fabrieken te creëren waarin wij onze eigen data kunnen benutten. AI heeft invloed op de machtsverhoudingen in de wereld. Als jij niet meedoet aan die strijd, dan verlies je macht en dus welvaart."

Meer BusinessWise? Onze Weekly!

In onze wekelijkse nieuwsbrief vind je het beste van BusinessWise die week, ook over AI, ook over technologie. Abonneer je gratis en blijf altijd op de hoogte!