‘De enorme potentiële schade van deze hack had het einde van McKinsey kunnen betekenen’

McKinsey gehackt door autonome AI-agent

Het nieuws sloeg in als een bom in de cybersecuritywereld - én ver daarbuiten. Cybersecuritybedrijf CodeWall verkreeg met een autonome AI-agent toegang tot Lilli, het interne AI-platform van McKinsey. Wereldwijd gebruiken tienduizenden McKinsey-consultants Lilli als AI-copilot om razendsnel een duizelingwekkende hoeveelheid vaak vertrouwelijke case- en klantkennis te doorzoeken en in te zetten.

Lilli had daarom toegang tot tientallen miljoenen chatlogs over bijvoorbeeld strategie en miljoenentransacties, honderdduizenden bestanden met vertrouwelijke klantinformatie, interne frameworks, 57.000 gebruikersaccounts van individuele consultants én de prompts die bijvoorbeeld bepaalden wat Lilli zelf wel of niet mocht doen. Een spreekwoordelijke goudmijn van onvoorstelbare omvang dus, die volgens CodeWall feitelijk voor het grijpen lag.

Lees ook - De ongekende hack door autonome AI bij McKinsey verandert alles

„Cybersecurityfirma CodeWall heeft een agent, dus een heel autonoom opererend stukje AI-software, voorzien voor een grote hoeveelheid gespecialiseerde hackerskennis”, vertelt Madelein van der Hout, senior security analyst van techanalist Forrester. „Zelf zegt CodeWall dat die agent daardoor in één klap meer wist dan hun meest ervaren security experts. Maar waar zo’n expert vaak heel veel dure uren bezig is met het zoeken naar mogelijke gaatjes in de beveiliging, kan een agent 24 uur per dag vrijwel kosteloos doorzoeken. Bovendien kun je natuurlijk ook veel meer agents tegelijk inzetten.”

SQL-injectie: een simpele babbeltruc

Wat de zaak volgens Van der Hout extra saillant maakt, is dat de manier waarop de agent volgens CodeWall toegang kreeg tot McKinsey’s AI-platform bepaald niet state-of-the-art was. Ze vergelijkt deze zogenoemde ‘SQL-injectie’ met een simpele babbeltruc. „Stel je de beveiliging voor als een flatgebouw met veel verschillende deuren en intercoms. De agent heeft zich in dit geval uitgegeven voor de bezorger van PostNL en op verschillende plekken heeft de IT-omgeving van McKinsey daarop gewoon de deur geopend.”

De deuren en intercoms in deze analogie heten in cybersecuritytaal endpoints. Van der Hout: „Endpoints zijn dus alle mogelijke toegangspunten die een aanvaller kan gebruiken om binnen te komen in je systemen, netwerk of organisatie. Dat kunnen fysieke apparaten zoals laptops en telefoons zijn, maar ook webapplicaties of de API’s die zorgen dat het ene computersysteem met het andere kan praten.”

Door de enorme toename van het aantal IT-systemen heeft een groot bedrijf volgens Van der Hout tegenwoordig al snel 135.000 verschillende endpoints. Het totale aanvalsoppervlak, oftewel de plekken waar organisaties kwetsbaar zijn voor cyberaanvallen, is daardoor enorm gegroeid. „Daarmee groeit dus ook het risico”, constateert Van der Hout, Zeker nu je eenvoudig een heel leger agents kunt inzetten om 24 uur per dag elke vierkante centimeter van dat oppervlak op gaatjes te onderzoeken.

Zeker van McKinsey, dat zichzelf nadrukkelijk profileert als voorloper op dit gebied, en wereldwijd bedrijven adviseert om zich te verdedigen tegen dit soort aanvallen, zou je echter mogen verwachten dat die gaatjes een stuk minder groot, zichtbaar en voorspelbaar zouden zijn.

Volgens eigen zeggen komt zo’n veertig procent van de wereldwijde omzet inmiddels uit AI-gerelateerd advieswerk. Dat uitgerekend het eigen interne AI-platform werd opengebroken via een kwetsbaarheid die al tientallen jaren bekend is, noemt Madelein van der Hout een ‘pijnlijke paradox’.

McKinsey’s digitale kroonjuwelen lagen voor het grijpen

De werkelijke omvang van deze ramp is bovendien nog veel omvangrijker. Terug naar het voorbeeld van de babbeltruc: stel je voor dat je dankzij een druk op de knop van één goedgelovige flatbewoner direct toegang krijgt tot alle appartementen in de gehele flat. Bijna niet voor te stellen, maar toch lijkt het er volgens Van der Hout sterk op dat dat precies is wat er bij McKinsey is gebeurd.

„Na een simpele manipulatie lagen volgens de informatie van CodeWall de gecombineerde digitale kroonjuwelen van het hele wereldwijde bedrijf voor het grijpen. Zo had de agent bijvoorbeeld toegang tot ruim 46 miljoen chatberichten over strategie, overnames en klantprojecten. Honderdduizenden gevoelige bestanden met vertrouwelijke klant- en projectdata, en gebruikersaccounts. Bovendien had de agent ook toegang tot de ‘gedragslaag’ van Lilli.”

Een meer kwaadaardige aanvaller had de AI daardoor volgens Van der Hout kunnen instrueren om allerlei ronduit rampzalige activiteiten te gaan uitvoeren.

„Stel je voor dat de chatbot consultants massaal verkeerd advies had gegeven over de communicatie met klanten, of de wijze waarop die een miljoenentransactie voorbereiden of uitvoeren. De potentiële schade was daarmee exponentieel gegroeid. McKinsey zelf doet nu alsof het allemaal wel meevalt. Maar als dit écht een bende cybercriminelen was geweest, had dit zomaar het einde van deze consultant kunnen betekenen.”

AI-agents ontketenen nieuwe wapenwedloop in cybersecurity

Voor Van der Hout illustreert de McKinsey-hack een fundamentele verschuiving in het cybersecuritylandschap. Nu AI de potentiële snelheid en impact van cyberaanvallen exponentieel vergroot, dwingt dat de verdediging om mee te accelereren.

„Het wordt een AI-tegen-AI-wedloop. Aan de verdedigingskant groeit daardoor de rol van AI bij proactieve detectie van zwakheden in de verdediging en het realtime ontdekken van en reageren op aanvallen.”

Het grote tekort aan cybersecuritytalent maakt dat volgens haar nog urgenter: wereldwijd staan naar schatting vier miljoen beveiligingsfuncties open. Van der Hout ziet de oplossing in een hybride model waarbij AI-agents steeds meer van het zware werk verrichten, en menselijke experts steeds nadrukkelijker gaan opereren als een soort dirigenten die de inspanningen van hun vele gespecialiseerde agents gaan coordineren: „De organisaties die er het beste in slagen om de synergie tussen mens en AI te optimaliseren zijn straks de winnaars van deze nieuwe, door AI aangejaagde cyberoorlog.”

Ontvang elke week - op maandag - het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in en maak kans op een Apple Watch!