'Ik besefte dat iets structureel ging veranderen toen ik voor het eerst GenAI cybersecuritysoftware zag'

Suzanne Button was eindverantwoordelijk voor cybersecurity bij enkele van 's werelds grootste technologie- en defensiebedrijven. Vanuit haar NAVO-ervaring heeft ze toegang tot geclassificeerde informatie over internationale cyberbedreigingen.

Haar werk voor bedrijven als Airbus, Siemens, Atos en Sitecore gaf haar diepgaand inzicht in de beveiliging van industriële controlesystemen en de kwetsbaarheden van kritieke infrastructuur. Bij de wereldwijd opererende, maar 13 jaar geleden in Amsterdam opgerichte AI Search bedrijf Elastic brengt ze nu zakelijke doelen op een lijn met snel complexer wordende cybersecurity uitdagingen.

Je hebt 32 jaar ervaring in cybersecurity. Op welk moment zag je dat AI alles ging veranderen?

„In cybersecurity werken we uiteraard al vele jaren met machine learning en kunstmatige intelligente technologie. Bijvoorbeeld om sneller potentiële risico's en malware op te sporen en de reactietijd te verkorten.''

„Ik besefte dat er iets structureel ging veranderen toen ik voor het eerst GenAI-gebaseerde cybersecuritysoftware zag. Die paste zijn reactie op een nieuw, tot dan toe niet gebruikt aanvalspatroon volledig zelfstandig en in realtime aan. Dat was echt een eyeopener.''

„In tegenstelling tot traditionele, statische, op regels gebaseerde systemen, leerde deze adaptieve AI-software razendsnel van het gedrag dat deze nieuwe dreiging vertoonde. Zo kon de software mogelijke nieuwe stappen en doelen voorspellen en zonder menselijke tussenkomst reageren om de dreiging te neutraliseren.''

„Voor mij maakte deze verschuiving duidelijk dat AI veel meer zou gaan betekenen dan een hulpmiddel om efficiënter te kunnen werken. Vanaf dat moment zag ik AI als de toekomstige ruggengraat voor zowel offensieve als defensieve strategieën in de cybersecurity.''

Lees ook: Mick Costigan (Salesforce) voorspelt toekomst vol AI agents: 'Bring Your Own Agent-scenario's'

Wat is de belangrijkste impact op manier waarop bedrijven hun cybersecurity organiseren?

„Het meest frappante is hoe de menselijke factor is geëvolueerd. Toen ik jaren geleden bij een groot SaaS-bedrijf de cybersecurity mocht opbouwen, kreeg carte blanche en een blanco cheque. Daarbij stuitte ik op twee fundamentele problemen.''

„Ten eerste waren er onvoldoende security-analisten beschikbaar. Bovendien waren de kosten voor de beschikbare analisten torenhoog, met salarissen die toen al makkelijk over de ton per jaar gingen. Dat tikt al snel aan als je je cybersecurity serieus neemt. Jaren geleden werkte ik bijvoorbeeld met bijna 500 mensen om security events en incidenten regel voor regel te analyseren.''

„Een 'standaard' analist kon 50 tot 60 regels per dag doorwerken, en de menselijke foutmarge was rond de 20 procent. Dat is echt schrikbarend hoog. Mede daardoor duurde het al snel vier uur voor we konden reageren, en vaak twee keer zoveel voor we de situatie hadden hersteld.''

„Kun je je voorstellen wat een aanvaller in acht uur kan doen als die ongehinderd zijn gang kan gaan in je IT-omgeving? In het ergste geval kan je hele bedrijf vastlopen, en in ernstige gevallen kan zelfs een hele stad of zelfs land tot stilstand worden gedwongen. Dat risico was dus onacceptabel groot.''

„Met AI-gedreven tools zoals Attack Discovery kunnen we op dit moment vierduizend regels per dag verwerken. Dat is dus een enorme vooruitgang. Probleem is dat de bad actors ook massaal gebruik zijn gaan maken van AI, zodat de dreiging net zo snel meegroeit.''

„Door de talrijke clouddiensten en externe werklocaties ontstond bovendien ook een enorm data-ecosysteem. Er is nu veel meer 'oppervlak' dat criminelen kunnen penetreren. Je kunt al je waardevolle data daardoor simpelweg niet meer centraal achter een hoge firewall bewaren.''

Lees ook: Daan van Rossum (FlexOS): 'HR is de aangewezen partij om de AI-transformatie te leiden'

Wat zijn de belangrijkste manieren waarop cybercriminelen AI op dit moment inzetten?

„Zeker na de lancering van ChatGPT-3 merkten we een enorme toename van het aantal aanvallen. Opeens kan iedereen AI-tools gebruiken om scripts te schrijven of Python-code te ontwikkelen. Bij mijn toenmalige werkgever zagen we het aantal aanvallen exploderen van vijf duizend naar meer dan 50.000 per week.''

„Bij aanvallen op financiële dienstverleners zijn de aanvallen bovendien veel geraffineerder geworden. Vaak combineren deze geavanceerde aanvallen de mogelijkheden van generative AI met autonome malware die zich kan aanpassen aan de beveiliging om traditionele beveiligingsmaatregelen te omzeilen.''

„Dat begint met het gebruik van GenAI om persoonlijke en organisatorische gegevens te verzamelen. Daarmee kunnen criminelen e-mails, berichten of zelfs realtime videogesprekken met deepfakes produceren. Daarmee bootsen ze op zeer overtuigende wijze de stem, schrijfstijl en ander gedrag van leidinggevenden na.''

„Zo wordt oplichting veel overtuigender en schaalbaarder. Door al die info samen te brengen kun je ook een 'kunstmatige identiteit' creëren. Daarmee is het mogelijk om door Know Your Customer- en andere onboarding controles glippen.''

„Als ze eenmaal binnen zijn gebruiken criminelen AI ook om transactiepatronen te analyseren en na te bootsen. Zo omzeilen ze de fraudedetectiesystemen die continu zoeken naar ongebruikelijke activiteiten binnen het systeem. Ze kunnen hierdoor grotere sommen geld overmaken of andere frauduleuze activiteiten opstarten die als het ware schuilgaan in de normale workflows.''

Hoe traceer je slimme malware die verstoppertje speelt met je beveiligingssoftware?

„Dat is inderdaad de uitdaging waar veel van onze klanten op dit moment voor staan. Logische antwoord is uiteraard dat je beveiliging ook AI-gedreven wordt, en in staat is zijn strategieën proactief aan te passen aan de aard van de dreiging.''

„De inzet van Agentic AI neemt daarom snel toe in cybersecurity. Agentic AI monitort het gehele digitale ecosysteem realtime om verdachte acties of processen. Waar traditionele AI mogelijk een verdachte login markeert, kan agentic AI bovendien direct doorpakken.''

„Bijvoorbeeld door een mogelijk geïnfecteerde laptop of telefoon direct in quarantaine te plaatsen, de gebruiker te informeren en tegelijk van het gedrag van het ongewenste proces te blijven leren. In feite hebben we het dan over een netwerk van autonoom opererende AI agents.''

„Die agents hebben allemaal hun eigen specialismes, en zijn dus bijvoorbeeld in staat zijn om onafhankelijk waar te nemen, te redeneren en te handelen binnen de gehele digitale omgeving. Door continu gedragingen te analyseren, te jagen op opkomende bedreigingen en realtime tegenmaatregelen te nemen, bouwen zij hun specialisme steeds verder uit.''

Lees ook: Waarschuwingen en advies van experts: dit is wat een CEO moet weten over cybersecurity

Agentic AI is dus het overkoepelende systeem dat de activiteiten van AI agents orkestreert?

„Inderdaad. Perplexity is een geweldig voorbeeld van deze werkwijze. Deze AI-zoekmachine combineert de kwaliteiten van ChatGPT, Grok, Gemini en talrijke andere modellen om het best mogelijke antwoord te geven. Het overkoepelende systeem bepaalt wat het optimale eindresultaat moet zijn, en welke kwaliteiten het hiervoor moet combineren.''

„Ik verwacht dat we deze benadering in cybersecurity ook veel gaan zien. Cruciaal is dat financiële instellingen hierbij ook veel meer gebruik gaan maken van hun massale hoeveelheden data. Door die via Retrieval Augmented Generation beschikbaar te stellen aan de agents, kunnen die gaan 'leren' welke transacties of processen meer nauwkeurige analyse vereisen.''

„Met cybersecurity belaste agents kunnen ook steeds nauwer gaan samenwerken met andere agents Je ziet nu bijvoorbeeld nog vaak dat alle stappen voor het ondertekenen van een contract nog handmatig gebeuren. Agentic AI gaat al die losse stukjes intelligentie samenbrengen.''

„Contract workflows worden dan volledig geautomatiseerd. Van initiële opstelling, via review en goedkeuring tot ondertekening en archivering. Als de agents die dat ondersteunen direct schakelen met hun cybersecurity-'collega's' wordt het veel moeilijker dit soort processen te manipuleren.''

Lees ook: Douwe Groenevelt over disruptie in de legal sector: 'AI sloopt hoge muren rond het juridische bastion'

Loop je door deze steeds autonomer opererende agents niet het risico dat je het overzicht verliest?

„Dit is inderdaad een belangrijk onderwerp, dat tijdens de congressen waar ik presenteer steeds vaker ter discussie komt. Ik zie twee kampen ontstaan. Kamp 1 ziet het als onvermijdelijk dat AI uiteindelijk alles overneemt. Kamp 2 houdt vast aan de mens als centrale draaischijf.''

„Ik zit hierbij ergens tussenin. Mede gezien de snelle toename van de dreiging is het denk ik onvermijdelijk dat we AI-oplossingen een aanzienlijke mate van zelfstandigheid geven. Ik ben echter sceptisch over 'black box'- oplossingen die zonder goede controle je hele beveiliging kunnen overnemen. Dat werkt uiteraard ook niet vanuit compliance oogpunt.''

„Sowieso wil je geen AI-oplossing 'loslaten' in je digitale omgeving zonder duidelijke regels op te stellen, en die eerst uitgebreid te testen in een gecontroleerde omgeving of sandbox. Als je elke check hebt afgevinkt ben je bovendien niet klaar. Je moet dit elk kwartaal reviewen met de vraag: werkt dit nog steeds zoals het bedoeld is?''

Lees ook: Stop met anderen de schuld geven: tijd voor écht veilige software

Zero Trust betekent 'vertrouw niemand, verifieer alles'. Geldt dat straks ook voor je AI agents?

„Zeker. In een toekomst waarin AI steeds meer verantwoordelijkheden overneemt, wordt Zero Trust wordt zelfs nog belangrijker. We gaan er nu al van uit dat je geen enkele gebruiker, applicatie en apparaat volledig kunt vertrouwen. Daarom verifiëren we altijd elke toegangspoging, en momitoren we elke activiteiten, ongeacht identiteit of locatie.''

„Moderne cyberaanvallen komen immers steeds vaker van binnenuit, door het compromitteren van interne systemen. Vanuit deze zienswijze gaan we elke AI agent nu ook behandelen als een afzonderlijke, potentieel onbetrouwbare entiteit, ongeacht netwerklocatie of oorsprong.''

„In eenvoudige bewoordingen betekent dit dat je elk AI-systeem behandelt alsof het een vreemde is die binnenkomt. Net zoals je bij een bankkluis elke persoon controleert voordat ze naar binnen mogen - ook je eigen medewerkers - doe je dat nu ook met AI-systemen.''

Lees ook: Nederlandse bedrijven wapenen zich beter tegen cyberaanvallen, maar blijven kwetsbaar

Hoe gaat het controleren van AI cybersecurity agents in de praktijk in zijn werk?

„Elke AI agent moet zich identificeren, bewijzen wat het wil doen, en krijgt alleen toegang tot de specifieke informatie die het nodig heeft voor die taak. Als twee AI-systemen met elkaar willen 'praten', moeten ze allebei eerst hun identiteit bewijzen en toestemming vragen. Net zoals twee onbekenden die elkaar ontmoeten.''

„Het maakt niet uit of het AI-systeem al jaren in je netwerk draait - het moet zich elke keer opnieuw legitimeren. Deze benadering erkent dat AI-systemen, net als mensen, gecompromitteerd kunnen raken of zich onverwacht kunnen gedragen, dus je vertrouwt ze nooit blind.''

„Door hun autonome karakter passen AI agents perfect bij de zero trust filosofie van "vertrouw niemand, verifieer alles". Ze opereren als digitale werknemers die continu toestemming moeten vragen voor nieuwe taken, wat precies is hoe zero trust bedoeld is: telkens opnieuw controleren in plaats van éénmalig vertrouwen.''

„Onder die voorwaarden kunnen agents 24/7 duizenden systemen tegelijkertijd bewaken, reageren op bekende en onbekende dreigingen en automatisch compliance-rapportages genereren voor audits. Door voorspellende analyse kunnen ze bovendien potentiële kwetsbaarheden identificeren voordat ze worden uitgebuit. In een nieuw tijdperk waarin het aantal AI-gedreven dreigingen snel toeneemt is dat een essentiële voorwaarde om succesvol te kunnen blijven ondernemen.''

Lees ook: Joris Krijger (ASN Bank): 'Verantwoorde AI betekent verder kijken dan alleen financiële waarde'

Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in: