'Cyberdreiging groeit snel nu AI ook onze psychologische zwakheden leert herkennen'

Na een studie rechten werkte Julia Jakimenko voor een serie Nederlandse en Engelse startups. Ze raakte in 2020 geïntrigeerd door AI-technologie die menselijke gezichten en stemmen ging nabootsen. En met name ook de manieren waarop criminelen daar misbruik van gingen maken.

„Opeens zagen vriendinnen hun gezichten in dubieuze social media posts terug", herinnert ze. „Ik realiseerde me toen al hoe gevaarlijk deze technologie zou gaan worden. Daarom ben ik heel veel research gaan doen naar mogelijkheden om AI-technologie ook als bescherming in te zetten."

Lees ook: Advocatenkantoor Houthoff is voorloper in AI: 'We houden veel AI-ijzers in het vuur'

Welk aspect van AI-cybercriminaliteit is zorgwekkend?

„Je ziet nu al steeds meer AI-gegenereerde video's langkomen die niet of nauwelijks meer van echt zijn te onderscheiden. Hetzelfde geldt voor menselijke stemmen: je zou zweren dat je je directeur aan de lijn had, of zelfs je moeder. Bovendien wordt AI-technologie nu ook steeds beter in staat om
menselijke gedrag te analyseren en na te bootsen.''

„Dat is niet vreemd als je bijvoorbeeld bedenkt dat steeds meer mensen ChatGPT of Claude als therapeut gebruiken, en daarmee hun intieme problemen tot in detail bespreken. Dat zijn dezelfde AI-modellen die cybercriminelen gebruiken om hun aanvallen voor te bereiden. Vaak concentreren ze zich daarbij op de zwakste schakel: de mens. En die schakel wordt nu dus ook steeds voorspelbaarder.''

Hoe maken cybercriminelen hier gebruik van?

„Social engineering is het manipuleren van mensen om vertrouwelijke informatie prijs te geven of acties uit te voeren die ze normaal niet zouden doen. In plaats van technische zwakheden uit te buiten, maken cybercriminelen gebruik van menselijke psychologie en vertrouwen.''

„We kennen allemaal de eenvoudige voorbeelden. Phishing via valse e-mails om inloggegevens te stelen, of het bellen als IT-support, bankmedewerker of politieagent. Deze aanpak werkt omdat mensen van nature geneigd zijn te helpen, bang zijn voor autoriteit, of handelen onder tijdsdruk.''

„Gespecialiseerde criminelen besteden nu steeds meer tijd en aandacht aan het selecteren van slachtoffers en het op maat samenstellen van persoonlijk aanvallen. Zo zien we steeds vaker telefoontjes waarin criminelen met de stem van een leidinggevende snel de druk opvoeren om collega's grote bedragen te laten overmaken.''

„Des te levensechter de stem en de kennelijke urgentie, des te eerder de getargete collega toegeeft. Dat gaat nog geraffineerder nu AI steeds beter leert onze psychologische zwakheden te vinden en te triggeren. Dat is al zeer onrustbarend als het alleen gaat om geld. Ook kinderlokkers gebruiken deze
werkwijze echter steeds vaker bij het online groomen van jonge slachtoffers.''

Lees ook: 'Ik besefte dat iets structureel ging veranderen toen ik voor het eerst GenAI cybersecuritysoftware zag'

Wat maakt jullie software zo bijzonder?

„Voor we het eerste prototype bouwden heb ik heel veel research gedaan naar alle nieuwe ontwikkelingen op dit gebied. Ik heb een grote stapel PhD-papers gelezen en intensief contact gehad met onderzoekers bij verschillende universiteiten. Ik zag daarbij dat experts allemaal aan hun eigen methode werkten.''

„Zo heb je bijvoorbeeld pattern-based detectie, die zoekt naar afwijkingen in normale gebruikerspatronen. Plotseling ander taalgebruik in e-mails, inlogpogingen op ongewone uren, of andere communicatie die niet past bij het 'gebruikelijke' gedrag.''

„Met de analyse van neural forensic patronen kijk je heel nauwkeurig naar de 'digitale vingerafdrukken' van de content, zoals elk achtereenvolgend video frame. Een onnatuurlijk beweging van de handen of ogen, een lipbeweging die niet samenvalt met de stem, of een afwijkende of juist te perfecte textuur van de huid: elke onregelmatige pixel, lichtval of synchronisatie is een aanwijzing.''

„Daarnaast heb je bijvoorbeeld ook nog landmarking-technologie die de diepte-perceptie van gezicht, lichaam en achtergrond analyseert. Zogenaamde provenance-software die op basis van de metadata onderzoekt waar en wanneer de content is gemaakt en verspreid. En NLP-gebaseerde AI die de
inhoud van de boodschap analyseert op gevaren en inconsistenties.''

„Elk van deze en diverse andere toepassingen kijken vanuit een specifieke invalshoek naar de betrouwbaarheid van de content. Met Cyberette zijn wij begonnen om al die verschillende oplossingen samen te voegen, om zo vanuit holistisch perspectief te kunnen beoordelen hoe groot de kans is dat er iets niet klopt.''

„Ook gezien het succes tijdens CES 2025 slaat die aanpak erg aan. Met name de eerste grote klanten uit de cybersecuritysector, én de grote hoeveelheid input over de behoeftes van deze en andere klanten, hebben onze ontwikkeling een enorme boost gegeven. Die gebruiken we nu om onze software en dienstverlening snel verder op te schalen.''

Lees ook: Douwe Groenevelt over disruptie in de legal sector: 'AI sloopt hoge muren rond het juridische bastion'

Wat is jullie grootste uitdaging?

„Het samenstellen en onderhouden van hoogwaardige datasets om onze modellen te kunnen trainen is met afstand de grootste uitdaging. We hebben daarom een gespecialiseerd team dat datasets verzamelt en bestaande data gebruikt om nieuwe data te maken. Deze zogenaamde synthetische
data kan bijvoorbeeld bestaan uit bestaande, door AI aangepaste beelden of geluidssamples.''

„Alleen op die manier kunnen we ervoor zorgen dat we genoeg veelzijdige data hebben om onze modellen te trainen. Zo hebben we bijvoorbeeld Engelse stemsamples in zeker acht verschillende accenten. Des te meer data, des te groter de kans dat we een kleine glitch oppikken. Een crimineel die bijvoorbeeld net even in een ander accent praat valt zo door de mand.''

„Onze video samples delen we ook in op leeftijdscategorieën, geslachtscategorieën, nationaliteiten en andere etnische categorieën. Door onze datasets zo op te splitsen kunnen we steeds nauwkeuriger detecteren wanneer content niet overeenkomt met de verwachte patronen van een specifieke doelgroep.''

„Als je dit soort technologie ontwikkelt voor echt serieuze bedrijven moeten je datasets echt onberispelijk zijn. Mede dankzij mijn eigen juridische- en compliance achtergrond houden we vanaf het begin precies bij waar onze data vandaan komt, en hoe we die gebruiken en bewerken. Hoewel daar nu nog geen controle op is, wordt die data in de toekomst zonder twijfel streng geaudit.''

„Vanuit onze 'compliance first' mentaliteit denken wij nu al na over de aard van die audits, en het bewijs dat wij dan moeten leveren voor de afkomst van onze data. Wij kunnen dat nu al in detail aan onze opdrachtgevers laten zien. Veel bedrijven zijn daar niet transparant over. De eerste vraag die klanten zouden moeten stellen is: waar haal je je datasets vandaan, en heb je daar bewijs voor?''

Lees ook: Laura Brandwacht (Rewire): 'Als je AI succesvol wilt toepassen, moet je eerst de gebruikers goed begrijpen'

Wat zijn de belangrijkste punten op jullie road map voor de komende periode?

„Mede dankzij CES 2025 zijn wij nu al actief in de VS, en dat willen we graag verder uitbouwen, samen met andere grote internationale markten. Om dat mogelijk te maken gaan we zeker meer detectiemogelijkheden toevoegen voor de snel complexer wordende bedreigingen van morgen.''

„Hierbij ben ik bijvoorbeeld heel erg geïnteresseerd in mogelijkheden om op basis van de communicatie mogelijke dreigingen in een vroeg stadium te signaleren. Zoals ik al even kort vertelde gebruiken cybercriminelen psychologische trucs om hun slachtoffers onverstandige dingen te laten
doen. Die tactieken volgen vaak een escalerend patroon om de urgentie op te voeren.''

„Ook kinderlokkers gebruiken deze technologie bij het online groomen van hun jonge slachtoffers. Een van mijn collega's werkt nu aan mogelijkheden om de semantische patronen in de escalerende aanpak te herkennen. Dan kun je het beoogde slachtoffer, collega's of ouders dus direct waarschuwen dat zijn of haar gesprekspartner waarschijnlijk dubieuze motieven heeft.''

„Zeker bij bedrijven in gevoelige sectoren, zoals finance of health, verwacht ik dat AI-beveiliging tegen deepfakes en soortgelijke dreigingen straks net zo gewoon worden als bijvoorbeeld virusdetectie of 2-factor identificatie.''

Lees ook: Mick Costigan (Salesforce) voorspelt toekomst vol AI agents: 'Bring Your Own Agent-scenario's'

Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in: