Een cybersecurity-atoombom in handen van weinigen
Het nieuwe taalmodel Claude Mythos van Anthropic is gespecialiseerd in het opsporen van softwarelekken en andere kwetsbaarheden. Het Amerikaanse bedrijf pauzeerde de uitrol vanwege te grote risico’s voor de wereldwijde IT-infrastructuur.
In Project Glasswing is een kleine groep Amerikaanse techbedrijven verenigd om het model nader te testen. Europese en Nederlandse specialisten hebben geen inzicht in de ontwikkeling ervan en tasten daardoor in het duister. Welke ethische haken en ogen zitten aan deze kwestie?
“Hoewel we het niet precies weten is het aannemelijk dat Mythos een serieuze uitdaging gaat zijn voor ons huidige cybersecurity paradigma”
Joris Krijger
Joris Krijger is techniekfilosoof, AI-ethicus en auteur van Onze Kunstmatige Toekomst (2025). Hij is onderzoeker bij de Erasmus Universiteit Rotterdam en houdt zich bezig met de vraag hoe we van de kunstmatige toekomst een menswaardige toekomst kunnen maken.
Krijger licht toe: „Geavanceerde AI-toepassingen zoals Mythos zijn een reële bedreiging, omdat ze vele malen sneller en effectiever zijn in het vinden en exploiteren van kwetsbaarheden. Hoewel we het niet precies weten is het aannemelijk dat Mythos een serieuze uitdaging gaat zijn voor ons huidige cybersecurity paradigma. Net zoals wij slimmer kunnen werken door de brede beschikbaarheid van agents en taalmodellen kunnen kwaadwillenden dat ook.”
Volgens Krijger is Mythos een ‘symptomatisch probleem’ binnen een bredere verschuiving van de machtsbalans, waarbij overheden en het bedrijfsleven voor hun cybersecurity en AI-infrastructuur steeds afhankelijker worden van een kleine groep techbedrijven.
AI als de nieuwe basisnutsvoorziening
Eerder dit jaar schetste Sam Altman, de CEO van OpenAI, tijdens de BlackRock Infrastructure Summit een toekomst waarin intelligentie stroomt zoals elektriciteit. Hij ziet AI als een basisnutsvoorziening waar mensen toegang toe hebben wanneer ze die nodig hebben.
AI-bedrijven moeten flink investeren in enorme computerinfrastructuur, gespecialiseerde chips en gigantische datacenters. In die zin begint AI steeds minder op software te lijken en meer op infrastructuur, waarbij intelligentie op aanvraag (‘on demand’) wordt geleverd en het gebruik, net als bij stroom of water, meetbaar is.
De macht van een kleine Amerikaanse techelite
Een nutsvoorziening voor iedereen klinkt ideaal, maar wat zijn de haken en ogen hieraan? Krijger legt uit: ,,Het probleem is dat deze nutsvoorziening alleen in handen is van een paar private bedrijven. Dat maakt deze bedrijven ontzettend machtig, want zowel het bedrijfsleven als overheden worden steeds afhankelijker en de tegenmacht wordt steeds geringer. Anthropic bepaalt namelijk wie kwetsbaar is en wie wél wordt geïnformeerd. Dat maakt het best problematisch. Ook zij bepalen of de uitrol wordt gepauzeerd of niet.”
Kristy Claassen sluit zich hierbij volledig aan. Ze is onderzoeker, docent en specialist in AI-ethiek aan de Universiteit Twente en auteur van het proefschrift Being Human: AI through the lens of Ubuntu. Claassen: „Anthropic heeft de release uitgesteld, maar dat is voor de eerste keer. Wat is hun motivatie om dat te doen? Dat is mijns inziens ingegeven door geld en de angst om schade toe te brengen aan andere techbedrijven zoals Google omdat deze AI nog niet te controleren is.”
Volgens haar is het een opvallende stap van Anthropic, omdat eerdere modellen ook al schade hebben toegebracht, zo stelt ze. ,,AI leidt tot bijvoorbeeld banenverlies, maar tot nu toe laten deze bedrijven geen maatschappelijk besef zien.”
“Deze bangmakerij is onderdeel van hun PR-machine”
Kristy Claassen
Ze vindt ook dat andere stakeholders toegang moeten krijgen en mogen meebepalen of een model wordt uitgebracht. ,,Maar ik ben nogal sceptisch of dit gaat gebeuren, want deze bedrijven zijn zeer machtig en die macht wil men niet delen.”
Ze ziet ook dat Anthropic er marketingtechnisch van profiteert. „Deze bangmakerij is onderdeel van hun PR-machine. Dat gaat zover dat het een geopolitieke kant krijgt, want wij als Amerika zitten in een wedloop met China.’’
Waarom Europa niet langer mag achterblijven
Volgens Krijger zit er niets anders op dan dat Europese bedrijven beter gaan samenwerken. Hij zegt: „Europa loopt ver achter op het gebied van AI-infrastructuur, ethiek en cyberveiligheid. De vraag ‘Moeten we dit wel willen?’ is als het gaat om cyberveiligheid een gepasseerd station. Je moet deze nieuwe systemen goed doorgronden en anticiperen op de mogelijke gevolgen. Bereid je gezamenlijk voor, deel effectief informatie over de laatste vormen van cyberdreigingen, en benut optimaal de kennis en manieren om kwetsbaarheden te vinden.”
Hij gaat verder: „Op veiligheid concurreer je niet, zeker in een tijd die zo snel gaat en waarin bedrijven dezelfde soorten besturings- en cloudsystemen draaien. Eerder was cybersecurity een onzichtbare kracht in een organisatie, maar het krijgt steeds meer een publiekere rol.”
Lees ook: ‘Zonder ingrijpen leidt dit tot chaos’: waarom AI-model Mythos alarmfase één is voor CSO’s
Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in:
