Fraude voorspellen met AI: 'Wij onderscheppen criminelen voor ze toeslaan'

Fourthline onderscheidt zich met geheel inhouse ontwikkelde software. Een bewuste keuze?

„Wij liepen bij onze start in 2017 ver vooruit. AI was nog niet mainstream en niet-tech mensen hadden geen idee wat het betekende. In een gespecialiseerd domein met weinig beschikbare data was de grootste hindernis om de technologie betrouwbaar te laten werken en schaalbaarheid te bereiken. We moesten alles vanaf nul opbouwen.''

„Maar wij waren ervan overtuigd dat de traditionele, rule based fraudedetectie van die tijd fundamenteel te beperkt was. Die kon immers alleen patronen vangen die mensen eerst al hadden geïdentificeerd en geprogrammeerd. Je loopt dan dus altijd achter de feiten aan.''

„AI kan leren van data op manieren die mensen niet kunnen. Subtiele patronen en verbindingen spotten over duizenden variabelen. Belangrijker nog: deze nieuwe technologie kan zich aanpassen en verbeteren naarmate fraudeurs hun tactieken veranderen. Wij hebben vol ingezet op de overtuiging dat deze patroonherkenning de standaard zou worden voor effectieve fraudepreventie.''

Lees ook: AI voorspelt rechtszaken: 'Met traditionele research misten we 95% van de relevante data'

Jullie hadden natuurlijk ook kunnen kiezen voor ontwikkeling met third-party oplossingen?

„Hier is het cruciaal dat die verschillende detectiemogelijkheden naadloos op elkaar aansluiten binnen één samenhangend systeem. Reeds beschikbare oplossingen waren daar niet voor ontworpen. Bovendien gaf volledig inhouse ontwikkelen volledige controle over de prestaties van de modellen en het vermogen om ze continu te verbeteren op basis van echte klantdata.''

„In onze gelaagde Know Your Customer-verdedigingsstrategie werken tientallen verschillende AI-modellen naadloos samen om fraude te detecteren. Dat gebeurt grofweg in twee hoofdlagen met talrijke sublagen, die allemaal op elkaar aansluiten. Eerst hebben we de checks die we kunnen doen op het mobiele device van de klant en het geproduceerde beeld. Van gezichtsherkenning tot het spotten van onnatuurlijke beeldpixels, en informatie uit de sensoren van de telefoon. Beweegt de gebruiker zijn device bijvoorbeeld op natuurlijke wijze terwijl hij de onboarding doet?''

„Daarna doet ons back-end systeem meer dan tweehonderd verschillende checks op de geüploade documenten. Als één ding niet klopt, gaat de case naar een menselijke analist. Maar ook als alles correct lijkt, hebben we nog een laatste check. Een data science model kijkt daarvoor naar alle achtereenvolgende verrichte checks en kijkt of de som van alle gevonden patronen logisch is. Als daar iets opvalt, gaat de aanmelding alsnog als suspected fraud naar de human-in-the-loop. Dankzij deze gecombineerde aanpak signaleert onze software liefst 99,98 procent van alle dubieuze aanmeldingen.''

Wat maakt jullie focus op inhouse ontwikkelde technologie nog meer mogelijk?

„Dankzij die insteek, en het feit dat we voorop liepen in de markt, konden we focussen op het oplossen van echte problemen zonder de AI-hype als afleiding. We bouwen gebaseerd op de werkelijke interne behoefte. Toen AI mainstream werd, hadden we al jaren bewezen resultaten terwijl anderen net begonnen te experimenteren.''

„In 2017 wisten we dat AI nauwkeuriger kon zijn dan mensen, maar onderschatte ik nog hoe snel we de afweging tussen kwaliteit en automatiseringspercentages konden balanceren. Na twaalf maanden ontwikkeling begonnen we met 17 procent automatisering op een enkel identiteitsdocument. Dankzij onze focus konden we binnen enkele jaren opschalen naar 99,98 procent nauwkeurigheid.''

„Onze AI-systemen focussen hierbij op anomaliedetectie in plaats van alleen patroonherkenning. Omdat ze op basis van echte data leren hoe authentieke documenten en echt gedrag eruitzien, zijn ze ook in staat nieuwe, onbekende fraudepatronen te detecteren. In plaats van het herkennen van bekende fraudepatronen, trekt ons systeem nu aan de bel wanneer iets 'niet goed voelt'.''

Lees ook: Douwe Groenevelt over disruptie in de legal sector: 'AI sloopt hoge muren rond het juridische bastion'

Wetgevers eisen dat dit proces wel uitlegbaar en inzichtelijk blijft. Hoe zorg je daarvoor?

„Explainable AI is inderdaad cruciaal om aan alle regels voor financiële dienstverleners te voldoen, zoals het in de GDPR vastgelegde 'recht op uitleg'. Je kunt je simpelweg niet verschuilen achter 'AI said no'.''

„We moeten toezichthouders ondubbelzinnig kunnen uitleggen waarom ons systeem specifieke beslissingen neemt. Dat geldt bijvoorbeeld ook voor audits en beroepsprocedures. Daarom hebben we uitlegbaarheid vanaf dag 1 ingebouwd in de fundering van onze modellen. Die genereren bij elke beslissing een duidelijke redenering, waarin ze ook duidelijk laten zien welke factoren zijn meegewogen. Dankzij die explainability and transparency by design-werkwijze zijn we nu goed gepositioneerd voor de invoering van de Europese AI Act.''

Volgens Forrester genereert Fourthline grote besparingen. Is dat jullie belangrijkste benefit?

„Volgens Forrester realiseren klanten van Fourthline gemiddeld 390 procent return on investment met onze dienstverlening. Dat komt omdat we handmatige reviewkosten dramatisch verminderen en verlies door fraude sterk terugdringen. Banken hebben minder mensen nodig om betere resultaten te boeken.''

„De snelheid van onze diensten is echter ook van grote waarde voor nieuwe klanten. Onze AI-gestuurde verificatie van een nieuwe klant gebeurt binnen enkele seconden, terwijl handmatige processen al snel uren kunnen duren. Banken die onze Know Your Customer-dienst gebruiken zien daardoor ook een veel hogere conversie.''

„Op dit moment zien we een duidelijke consolidatietrend in de markt. Banken willen minder partners die hogere kwaliteit kunnen bieden. Ze kiezen providers die enterprise grade AI-prestaties kunnen leveren over de gehele financiële criminaliteit levenscyclus. Zij begrijpen namelijk dat dit cruciale onderscheidende waarde biedt ten opzichte van andere dienstverleners.''

„Voor ons betekent dat dat de focus moet blijven liggen op wat echt telt: het maken van het beste product. In het verleden kon je soms marketingsucces boeken zonder het beste product te hebben. Daar kom je in de huidige markt niet meer mee weg.''

Jullie werken nu twee jaar samen met Hawk AI. Wat is de meerwaarde van dat partnership?

„Wij gebruiken AI-technologie om criminelen bij de onboarding te ontmaskeren. Hawk AI monitort realtime transacties en klantgedrag met AI om verdachte activiteiten sneller en nauwkeuriger op te kunnen sporen. Door onze in juli 2023 gestarte samenwerking kunnen we onze klanten een end-to-end compliance-oplossing aanbieden.''

„Toegangscontrole en transactiemonitoring zijn traditioneel aparte silo's geweest. Criminelen werken echter niet in silo's. De toekomst in onze sector ligt daarom in geïntegreerde AI-platforms die de gehele financiële levenscyclus dekken, van aanmelding tot transactie en alle acties daartussenin.''

„Daarbij is de identiteitsverificatie van een klant doorlopend aangesloten op de transactiemonitoring, en worden verdachte transactiepatronen doorlopend teruggekoppeld naar de risicobeoordeling. In plaats van het opsporen van reeds gepleegde fraude gaan we zo richting een voorspellende intelligentie die dubieuze transacties voorspelt vóór ze plaatsvinden.''

Lees ook: Okke Suurenbroek van AkzoNobel: 'Onze zakelijke benadering van Legal AI heeft een relatief hoge risk appetite

Hoe gaat AI-gestuurde financiële criminaliteitspreventie zich komende jaren ontwikkelen?

„Ik verwacht dat AI-gedreven criminaliteitspreventie in 2030 volledig geïntegreerd is over de gehele levenscyclus van de klant. Ik bedoel dan dus van de onboarding tot doorlopende realtime risicobeoordeling bij elke navolgende transactie.''

„Daarbij gaan AI-modellen dus doorlopend de identiteit van klanten valideren op basis van elk beschikbaar stukje informatie. Dankzij nieuwe wetgevingsmogelijkheden kunnen dat ook signalen zijn die afkomstig zijn van andere financiële dienstverleners.''

„Zo kan het bijvoorbeeld zo zijn dat we op een gegeven moment een enorme verhoogde activiteit zien van authenticatieverzoeken uit West-Afrika, terwijl de aanvragers allemaal in Europa wonen. Of dat we een groot aantal aanmeldingen vanaf hetzelfde Nederlandse adres binnenkrijgen. Dat is informatie die je graag ook deelt met andere dienstverleners.''

„Ik verwacht namelijk dat we in de toekomst vaker gaan leren van elkaars fraudepatronen, en die kennis gebruiken voor het creëren van een collectief verdedigingsnetwerk. Dat is nu nog lastig vanwege Europese privacywetgeving. Die verhindert bijvoorbeeld dat we informatie over personen die bij Bank A zijn betrapt direct uitwisselen met Bank B.''

Lees ook: AI als wegwijzer voor de perfecte match: 'We bouwen een Google Maps-systeem voor de arbeidsmarkt'

Zo maken fraudeurs dus eigenlijk misbruik van de bescherming van onze privacy?

„Inderdaad. Dankzij nieuwe encryptietechnieken wordt het nu echter mogelijk om privacygevoelige data waar nodig te anonimiseren, maar tegelijkertijd de op fraude wijzende patronen te bewaren. Daardoor kunnen we informatie over specifieke fraudecases gaan uitwisselen waarin de verantwoordelijke persoon niet wordt genoemd, maar zijn of haar specifieke gedrag voldoende is voor identificatie.''

„Tegelijkertijd zie je dat nieuwe anti-witwasregelgeving die er over twee jaar aankomt veel meer mogelijkheden creëert voor financiële instellingen om samen te werken op dit gebied. Dienstverleners kunnen dan nog meer gaan leren van elkaars fraudepatronen, en die kennis gebruiken voor het creëren van een collectief verdedigingsnetwerk. Uiteraard zijn wij dan graag de partij die ze daarbij helpt.''

Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in: