Na het eerste gemelde incident van geautomatiseerd hacken in Australië waarschuwen experts dat gebruikers, en mogelijk ook ontwikkelaars, van AI-agenten aansprakelijk zijn te stellen voor de acties van hun bots, meldt de Britse krant The Guardian.
De wet is duidelijk, zegt Jeannie Paterson, directeur van het Centre for AI and Digital Ethics van de Universiteit van Melbourne. „Als ik een AI-agent inzet en deze brengt schade toe aan een ander, ben ik verantwoordelijk voor die schade. Zelfs als het niet mijn bedoeling was, was het te voorzien en hoor ik mijn verantwoordelijkheid te nemen.”
Toch erkent ze dat er ook veel juridische en ethische onduidelijkheid bestaat rond handelingen van geautomatiseerde agenten, na het eerste bekende incident met een agentische AI in Australië.
Een agent is een autonoom softwaresysteem dat, zodra het een doel krijgt toegewezen, dit bij elke stap van het proces zonder menselijk toezicht kan nastreven.
De sport-bot van Andrew
Deze week berichtte nieuwszender ABC over de zaak van Andrew, een AI-expert die alleen bij voornaam wilde worden genoemd. Hij vroeg zijn agentische programma om een aantal sportlessen voor hem te boeken.
Nadat hij te horen had gekregen dat hij vierde op de wachtlijst stond voor een les, vroeg Andrew de agent of het mogelijk was hem hoger op de lijst te krijgen. Tot zijn grote schrik hackte de agent het softwaresysteem van zijn sportschool en gooide een ander lid van de wachtlijst af, zodat Andrew eerder aan de beurt kwam.
„Het programma kon lessen boeken die maanden buiten het officiële boekingsvenster vielen, nog voordat ze eigenlijk beschikbaar zouden moeten zijn,” schreef Andrew in april in een blogpost. „Erger nog, het kon reserveringen van andere leden annuleren en hen van de wachtlijst duwen.”
De agent probeerde behulpzaam te zijn, zo schreef hij, maar zijn ervaring toonde aan dat een AI die toestemming krijgt om iets te doen vaak routes ontdekt waar niet expliciet om is gevraagd.
Andrew vroeg de agent om de annulering van de reservering van de andere persoon ongedaan te maken, maar dat lukte niet. „Sorry daarvoor, ik had voorzichtiger moeten zijn met de test,” antwoordde de AI-agent. Vervolgens gaf hij de AI de opdracht om een e-mail te schrijven naar de softwareleverancier van de sportschool over de kwetsbaarheid in de software die het had uitgebuit.
Een woordvoerder van de politie in Victoria laat weten dat er in de zaak van Andrew ‘geen wet is overtreden’. Experts verwachten echter dat dit nog maar het neusje van de zalm is en dat het wachten is op écht schadelijke gevallen.
Juridische valkuilen en de risico’s op reputatieschade
De Australische wet is alleen van toepassing op mensen, niet op virtuele wezens. Experts zeggen dat de persoon – of het bedrijf – die de AI-agent inzet, juridisch verantwoordelijk is. Daarbij waarschuwen ze dat deze ‘gebruikers’ vaak maar weinig besef hebben van hun wettelijke aansprakelijkheid.
„We gaan veel van dit soort zaken zien,” denkt dr. Rebecca Johnson, expert op het gebied van AI governance aan de Universiteit van Sydney. Volgens Paterson heeft Andrew in zijn geval verantwoordelijk gehandeld door naar buiten te treden en te proberen het probleem op te lossen, maar is er elders vaak sprake van ‘een soort roekeloze mentaliteit.’
„Zodra je mensen de mogelijkheid geeft om agenten te creëren die dingen voor hen doen, is de kans groot dat er dit soort incidenten gebeuren,” zegt ze. Paterson geeft het voorbeeld van iemand die een slechte ervaring heeft met een AirBNB-woning en vraagt aan zijn AI-agent een recensie te schrijven.
„En de agent schrijft er niet zomaar één, hij schrijft er tien. Hij pompt recensies eruit. Daardoor keldert de waardering van de advertentie. Je kunt gemakkelijk iemand of een organisatie ruïneren. Je loopt dan kans verantwoordelijk te zijn voor online fraude en laster.”
En het kan nog erger. „Wat als de agent zich racistisch, seksistisch of misogyn gaat uiten?”, vraagt Paterson zich af. „Als ontwikkelaar ben je verantwoordelijk voor de ingebouwde beveiliging, want je hoort een product op de markt te brengen dat redelijk veilig is.”
In zo’n geval is een ontwikkelaar ook aansprakelijk te houden voor het ontbreken van deze basale vangrails, en kan het juridisch onduidelijk zijn. Paterson legt uit dat het recht iets anders is dan ethiek, maar er wel door wordt gevoed. „Ethiek laat zien waar we naar moeten streven, en het recht sluit vaak de ergste vormen van gedrag uit.”
Het nieuwe AI-bureau van de federale overheid in Australië noemt een hele lijst aan wetten die van toepassing zijn op AI, waaronder wetten over privacy-inbreuk, consumentenbescherming, online veiligheid, smaad en strafrecht.
Lees ook: Na OpenAI nu ook Anthropic: AI-model Claude hackte onbedoeld drie bedrijven tijdens test
Geen 'op hol geslagen' AI
Zowel Paterson als Johnson hebben een hekel aan het woord ‘rogue’ (op hol geslagen), het idee dat een AI-agent volledig op eigen houtje opereert, omdat er wel degelijk parameters en veiligheidsmaatregelen kunnen worden ingebouwd.
„Zodra we AI-agenten toestaan namens ons te handelen, werken ze naar het doel toe dat we ze geven. Als we ze niet een hele reeks parameters meegeven, zal de agent gewoon proberen dat doel hoe dan ook te bereiken”, zegt Johnson.
„Ik hoor veel mensen zeggen: ‘Oh, ik heb een agent gemaakt’, en dan zijn ze aan het experimenteren. Dat is prima, maar ze krijgen deze tools zonder veel begeleiding, en de begeleiding die er wel is, varieert sterk in kwaliteit.”
Uiteindelijk, zegt Paterson, gaan er zaken voor de rechter komen en ontstaat er jurisprudentie. Dat leidt ertoe dat ontwikkelaars incidenten moeten monitoren en hun veiligheidsprotocollen moeten aanpassen.
Voor Andrew was de conclusie na zijn incident helder. Hij schreef dat zijn situatie ‘minder voelde als een eenmalige bug, en meer als een voorproefje van wat nog komen gaat.’
Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in:
