Joris Krijger (ASN Bank): 'Verantwoorde AI betekent verder kijken dan alleen financiële waarde'

Hoe ben je bij de ASN Bank aan de slag gegaan met ethiek en AI?

„Ik studeerde af met een scriptie over de bankencrisis van 2008 en de rol die technologie daarin speelde. Het viel me op dat, ondanks de enorme maatschappelijke schade, de hoofdrolspelers juridisch noch moreel echt verantwoordelijkheid erkenden. De intuïtie die ik in het onderzoek heb uitgewerkt is dat technologie, en de digitalisering van de financiële sector, onze morele verantwoordelijkheid beïnvloedt.''

„Een van de grote zorgen die ik zag was dat met steeds autonomere technologie er een soort 'verantwoordelijkheidsvacuüm' ontstaat waarin we niet alleen allerlei werkzaamheden maar ook de verantwoordelijkheid voor die werkzaamheden delegeren aan AI. Dat leek en lijkt me heel onwenselijk. Die scriptie won een prijs en trok de aandacht van wat toen nog de Volksbank heette en zijn nieuwe project 'Eerlijke Algoritmen'.''

Luister ook: AI Act wordt gefileerd: 'Europa reguleert, Silicon Valley bouwt'

De ASN Bank zag het risico van AI-biases vroeg in. Wat was de directe aanleiding?

„Net als veel financiële dienstverleners zag de ASN Bank al in een vroeg stadium de grote waarde van AI, machine learning en gerelateerde technologie. Je kunt daarmee bijvoorbeeld financiële risico's in een vroeg stadium signaleren en voorkomen. De ontwikkelaars die deze technologie namens de bank ontwikkelen lopen echter regelmatig tegen ethische dilemma's aan.''

„Ze worden geconfronteerd met vragen als: wanneer is een model voldoende uitlegbaar, of wat is bij onze kredietverstrekking een eerlijke verdeling tussen mannen en vrouwen? Dat zijn geen technische problemen, maar organisatievraagstukken, die de organisatie moet beantwoorden. Natuurlijk kun je dan een mooi manifest schrijven, maar echte uitdaging zit in het vertalen van ethische keuzes naar de praktijk.''

Lees ook: Wat als de ontwikkeling van AI vandaag zou stoppen?

Hoe richt je je organisatie goed in op het maken en vertalen van ethische keuzes?

„Dat is inderdaad een cruciale vraag voor organisaties die met AI aan de slag gaan. Daarbij wil ik benadrukken dat ethiek voor mij niet zozeer gaat over het vinden van de 'juiste antwoorden' maar over het kunnen rechtvaardigen van gemaakte keuzes. Ethiek begint bij welke waarden een organisatie nastreeft en de afwegingen die daarbij worden gemaakt.''

„Die zijn minstens zo bepalend voor hoe AI wordt ingezet als de technische keuzes. Dat betekent dat organisaties moeten werken aan een ethische infrastructuur om die keuzes bewust te maken. Aan alle keuzes hangt een prijskaartje en een systeem 'eerlijker' maken kan ook een minder efficiënt systeem betekenen. Wie maakt die keuze, en hoe wegen we economische waarde ten opzichte van maatschappelijke waarden?''

Lees ook: Wie bepaalt wat het juiste antwoord is bij AI-gegenereerde informatie?

Hoe hebben jullie dat beslissingsproces nu ingericht bij de ASN Bank?

„We hebben een commissie ethiek gevormd met vertegenwoordigers van verschillende disciplines uit de gehele organisatie - van duurzaamheidsexperts tot juristen en mensen van de ondernemingsraad. Hiermee zorgen we dat de gehele organisatie de ethische keuzes draagt die de bank maakt, bijvoorbeeld bij de ontwikkeling en toepassingen van AI-systemen.''

„Daarnaast hebben we een expertteam dat de ethische risico's beoordeelt, bijvoorbeeld voordat we een pilot starten, en kijkt naar de manieren waarop we daar mee om kunnen gaan. Is het eerlijk, is het uitlegbaar, en welke concrete maatregelen spreken we af om het systeem in lijn met onze waarden in te zetten. Soms gaat het om technologische keuzes, maar vaak ook om het proces eromheen, zoals het goed instrueren van medewerkers. En natuurlijk kijken we hierbij nu ook naar de AI Act.''

Lees ook: Personeelsbeleid op de schop? 'Nieuwe menselijke skills bloeien op dankzij AI-ondersteuning'

Hoe belangrijk is de Europese AI Act voor verantwoordelijke toepassing van AI?

„Ik vind het goed dat er risico-gebaseerde wetgeving is die uitgaat van reële risico's. Tegelijk is deze wet wel heel erg productgericht - het kijkt naar AI op dezelfde manier als naar een laptop of een broodrooster. Voor mij zit de belangrijkste uitdaging niet zozeer in het stukje technologie zelf, maar in wat het gaat doen in de omgeving waarin het terechtkomt.''

„Het probleem van 'bias', waar AI bepaalde groepen structureel benadeeld, is bekend en benoemd in de wet. Maar wat 'bias' is, wanneer 'bias' onwenselijk is, en hoe het gemitigeerd moet worden, lost de wet niet op. Ik hoop vooral dat deze 'juridisering' rond AI niet ten koste gaat van de ethiek bij AI. Zo kunnen mensen, omdat ze zich veiliger voelen door dit soort regelgeving, juist meer risico's nemen.''

„Door dit zogenaamde Peltzman-effect vergeten mensen sneller om eigen verantwoordelijkheid te nemen, terwijl het juist heel belangrijk is je eigen morele kompas te blijven ontwikkelen en gebruiken.''

Lees ook: Okke Suurenbroek van AkzoNobel: 'Onze zakelijke benadering van Legal AI heeft een relatief hoge risk appetite'

Wat wil je dat jouw bijdrage als Ethics & AI Officer aan de toekomst van de ASN Bank zal zijn?

„Ik wil graag dat mijn werk bijdraagt aan de verdere ontwikkeling van een organisatie waar ethische afwegingen niet gezien worden als obstakels, maar als fundamentele aspecten van goede besluitvorming. Zo win je het vertrouwen van je klanten, en vertrouwen is dé cruciale factor bij zowel bankieren als het gebruik van AI.''

„Je wint vertrouwen als je transparant bent over de dilemma's waar je tegenaan loopt. En als je in staat bent om goed uit te leggen vanuit welke motivering je soms lastige keuzes maakt op het gebied van AI. Als we straks AI inzetten op een manier die niet alleen efficiënt is, maar ook aantoonbaar rechtvaardig en transparant, dan is mijn missie geslaagd.''

Lees ook: Bas Rapati (Van Lanschot Kempen): 'Als je de beste wealth manager wilt zijn, moet je zelf met AI aan de slag'

Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in: