Een nieuw AI-model van het Amerikaanse bedrijf Anthropic is zo sterk dat het bedrijf het voorlopig niet uitbrengt. Meer dan veertig Amerikaanse bedrijven mogen momenteel van Anthropic met de techniek werken om beveiligingsfouten in hun eigen systemen op te sporen, schrijft het AD.
Het gaat om grote techbedrijven, zoals Google, Apple en Microsoft. Mocht straks de hackpleuris uitbreken, dan hebben zij zich in ieder geval goed voorbereid. Anthropic zou inmiddels ook Britse banken hebben toegelaten.
Het probleem, volgens liberale en groene Europarlementariërs, is dat tussen de testpartijen geen enkel bedrijf of instituut uit de EU zit. Maak hier werk van, schrijven zij in een gezamenlijke brief aan de Europese Commissie. Banken meldden al eerder dat ze zich ernstige zorgen maken.
Waarom politici zich ‘kapot schrikken’ van AI-model Mythos
„Ik sprak al met meerdere partijen die hebben deelgenomen aan het programma,” zegt VVD-Europarlementariër Bart Groothuis, medeopsteller van de brief. „Ze zijn zich kapot geschrokken waartoe deze machine in staat is. Europa kijkt ernaar en neemt een afwachtende houding aan. Dat vind ik het domste wat je kunt doen.”
„We willen zelf kunnen checken welke zwaktes we hebben,” zegt Europarlementariër Kim van Sparrentak van GroenLinks-PvdA (binnenkort PRO), onderdeel van de groene fractie. „Ieder systeem heeft zijn zwaktes en we moeten daar in ieder geval voorzorgsmaatregelen voor kunnen nemen. Over een paar maanden zijn er al een heleboel van dit soort systemen, zeggen de meeste experts.”
“De AI kan bedrijven hacken, instellingen, ministeries en ga zo maar door”
Kim van Sparrentak, Europarlementariër GroenLinks-PvdA
Zelfstandige AI-hacks: een gouden kans voor criminelen
Het is namelijk niet alleen Mythos waarover politici zich zorgen maken. Groothuis wijst op vergelijkbare Chinese software, die open source is. Oftewel: iedereen kan daarmee aan de haal. „Dit soort makers zijn al in de buurt van Mythos en er zit geen bedrijf achter. Het is openbaar en laat zich niet reguleren.’’
Extra eng aan de laatste AI-software van Anthropic is dat AI-hulpjes, AI-agents, er zelf mee aan de haal kunnen gaan. „De AI kan bedrijven hacken, instellingen, ministeries en ga zo maar door.’’ Criminele staten en bad guys hebben daarmee een gouden kans in handen. Dat is heel vervelend voor iedereen.”
Lees ook: Claude-AI-agent wist in 9 seconden volledige bedrijfsdatabase: wat ging er precies mis?
Gevolgen voor de burger: ‘Massale hacks op komst’
Ook voor burgers heeft dat mogelijk verstrekkende consequenties. „Denk aan Odido, maar dan op massale schaal,” zegt Groothuis. „Het kan op zo’n grote schaal plaatsvinden dat je denkt: jeetje. Alle software die we hebben wordt kwetsbaar. Daarom moeten we ons wapenen. We moeten snel in actie komen. Die urgentie mis ik in de politiek.”
„Terwijl het Witte Huis zich hier persoonlijk mee bemoeit, heerst in de Europese Commissie een soort radiostilte,” zegt Groothuis. „Daar word ik heel nerveus van. De kranten staan er vol van, maar de politiek hoor je er niet over. Daar gaat het over onderwerpen als de Oostvaardersplassen of de wolf, maar dit is even iets heel serieus.”
Waarom Amerikaanse techgiganten Europa buitensluiten
Ook het feit dat de techniek van Anthropic in Amerikaanse handen is, is volgens Van Sparrentak zorgelijk. „Je wilt niet dat dat door Amerikanen als een wapen gebruikt kan worden.”
Waarom Europa niet bij Anthropic mag aanschuiven, blijft onduidelijk. Volgens Groothuis is het niet per se onwil. Het zou eerder te maken hebben met het feit dat Europa de immense rekenkracht mist die nodig is om met zo’n krachtig model om te gaan.
Loopt Europa hopeloos achter op AI-gebied?
Wat zich hier wreekt, is dat Europa op AI-gebied de slag voorlopig heeft gemist. De grootste bedrijven in de sector zijn allemaal in Chinese en Amerikaanse handen. Europa heeft op papier wel grote plannen op dat vlak, maar die hebben voorlopig niet geleid tot serieuze spelers.
Ondertussen is de band tussen de EU en met name de Amerikaanse techbedrijven tot het vriespunt gedaald. Ze botsen op ons continent op regels die ze in de rest van de wereld niet hoeven na te leven. Dit zorgt voor steeds meer wrijving tussen de EU en de regering-Trump.
Lees ook: ‘Zonder ingrijpen leidt dit tot chaos’: waarom AI-model Mythos alarmfase één is voor CSO’s
Biedt Europese AI-wetgeving wel genoeg bescherming?
Ook in de zaak-Mythos wees de Europese Commissie tijdens een hoorzitting woensdagmiddag op de kracht van de Europese regelgeving. Als die goed wordt ingevoerd, zijn bedrijven en instellingen volgens de commissie beschermd tegen Mythos-achtige aanvallen.
Parlementariërs vinden dat veel te makkelijk. „Het hele punt is dat de mensen die deze systemen ontwikkelen zich niets aantrekken van wetten of instellingen”, zei Dirk Gotink (NSC) tijdens de hoorzitting. „Ze wanen zich almachtig. Hoe langer we over wetten praten, hoe meer tijd we verliezen voor echte oplossingen.”
Dit artikel is eerder gepubliceerd op AD (R).
