PodcastsAI at Work Live

AI-agentzwermen hacken 11 organisaties in 26 seconden: ondertussen metselen robots ’s nachts door

Agent-zwermen die in 26 seconden inbreken, en een metselrobot die om 3 uur ’s nachts doorwerkt, het zijn topics die langskomen in de nieuwe AI at Work Live.
Agent-zwermen die in 26 seconden inbreken, en een metselrobot die om 3 uur ’s nachts doorwerkt, het zijn topics die langskomen in de nieuwe AI at Work Live.Redactie BusinessWise / ChatGPT
Leestijd 9 minuten

1. Het duurste systeem in je organisatie is misschien wel het systeem dat níét aanstaat

Job van den Berg opent de uitzending met een uitstapje naar het Woudagemaal bij Lemmer: het grootste nog werkende stoomgemaal ter wereld. Volledig analoog, draaiend op stoom en, geen grap, op frituurvet. „Dit is eigenlijk het enige gemaal dat niet afhankelijk is van elektriciteit, niet afhankelijk is van systemen.”

Inefficiënt? Volstrekt. Het moet drie keer per jaar onderhouden en getest worden en het staat 99,9 procent van de tijd stil. Maar precies dat maakt het waardevol: het is de enige capaciteit die overblijft als alles anders wegvalt.

Waarom is dit relevant? De discussie over digitale soevereiniteit gaat meestal over waar je data staat. Maar de praktische vraag is kleiner en ongemakkelijker: welk deel van je primaire proces kun je nog uitvoeren als je AI-laag, je SaaS-stack of je internetverbinding er een week uit ligt?

In steeds meer sectoren (zorg, energie, logistiek, overheid) wordt die vraag inmiddels ook door toezichthouders gesteld. Een backup die je nooit gebruikt, is geen verspilling. Het is de prijs van blijven draaien.

2. De Nederlandse AI-adviesmarkt is groot, maar dun

Van den Berg dook in de data van Proxies, waarin alle Nederlandse bedrijven op basis van websites, openbare bronnen en LinkedIn-pagina’s zijn geclassificeerd, juist omdat de officiële SBI-codes van de KvK niets zeggen („ai.nl staat geregistreerd als consultancybedrijf”).

De cijfers:

  • 1.917 Nederlandse bedrijven doen iets met AI-advies.

  • Slechts 240 daarvan zijn echt gespecialiseerd in AI en data. De rest deed al iets met data of advies en heeft AI aan het portfolio toegevoegd.

  • Maar 31 procent is gespecialiseerd in AI-development: het daadwerkelijk bouwen van oplossingen.

  • En slechts 16 procent richt zich op governance, veilige inzet, betrouwbare infrastructuur en controle.

  • Per miljoen inwoners is provincie Utrecht de AI-provincie van Nederland, niet Noord-Holland.

„Uiteindelijk gaan wij de wedstrijd in Nederland en Europa niet winnen door er de hele dag over te praten en advies te geven, maar door oplossingen te bouwen”, stelt Van den Berg. En over dat magere governance-cijfer: „Dat is een kans, maar ook wel een wake-upcall.”

Lees ook: Autonome AI-agent van OpenAI slaat op hol, valt Hugging Face én interne systemen aan: ‘Ongekend incident’

3. Aanvallers gebruiken agent-zwermen, en ze mikken op je saaiste software

Na het Hugging Face-incident van deze zomer, waarbij een zwerm van zo’n 1.200 agents een prikbord opzette om onderling aanvalsstrategieën uit te wisselen en uit hun zandbak te breken, is er nieuwe informatie over hoe deze aanvallen werken.

Eind augustus deden Russische hackers volgens de uitzending hetzelfde: een paar honderd AI-agents die een lek in PaperCut misbruikten. PaperCut is printbeheersoftware, in gebruik bij scholen, gemeenten en ziekenhuizen. Precies het type software dat overal draait en waar niemand naar kijkt. „Niemand gaat zich maandagochtend druk maken over de printerdrivers van dat ene apparaat in de hoek op de vierde verdieping”, zegt Remy Gieling.

De uitkomst: elf organisaties gehackt binnen 26 seconden. Op een Amerikaanse school stond de aanvaller binnen zeven minuten als beheerder over het hele netwerk ingesteld.

Interessant is de rolverdeling. De modellen van OpenAI werden gebruikt als ‘superbrein’, de mastermind die het plan uitdacht, maar weigerden door hun guardrails de uitvoering.

Daarvoor werden open-weightsmodellen uit China ingezet, specifiek DeepSeek. Bij Hugging Face gebeurde eerder het spiegelbeeld: toen dat bedrijf hulp vroeg aan OpenAI’s modellen om een aanval áf te slaan, weigerden die (‘misschien ben je wel een kwaadwillende die mij dit vraagt’) en moest Hugging Face Chinese modellen inzetten om zich te verdedigen.

4. Mensen herkennen AI-tekst niet. Ook jij niet. Ook je taalexperts niet

Onderzoek van de week is Bot or not: Can people tell the difference between stories written by a human or by an AI system? van Sydney Sears en Deena Skolnick Weisberg, in augustus 2026 gepubliceerd in Judgment and Decision Making (Cambridge). Van den Berg kiest het bewust een gedragsexperiment in een lab, want dat is een van de sterkste methoden om oorzaak en gevolg te isoleren.

De uitkomsten:

  • Deelnemers presteerden slechter bij het onderscheiden van menselijke en AI-verhalen. Wat ze voor AI aanzagen, was vaak door een mens geschreven, en omgekeerd.

  • Er werd gecontroleerd op zelfvertrouwen, literaire expertise, leestijd en AI-ervaring. Zelfs veel taalkundige ervaring leverde geen significant beter resultaat op. Alleen ervaring met AI-software hielp iets.

  • In een eerste studie (bijna 1.500 deelnemers) werd het AI-verhaal juist hoger beoordeeld op kwaliteit en meeslependheid, maar beide verhalen scoorden beter zodra deelnemers te horen kregen dat een mens ze had geschreven.

Dat laatste is de kern: het probleem is niet de kwaliteit, maar het label. Van den Berg legt uit waar dat vandaan komt: „Mensen voelen het heel vaak als een soort valsspelen. Door de mand vallen.”

Op de werkvloer zit daar volgens hem de echte blokkade, het sociale vraagstuk. „Mensen moeten het vertrouwen krijgen dat ze mogen vertellen dat ze iets met AI hebben gemaakt.” Veel medewerkers zijn juist bang dat hun leidinggevende dan concludeert: dan kunnen we jou vervangen.

De casus op de achtergrond is natuurlijk premier Rob Jetten, van wie de Volkskrant vaststelde dat honderden berichten van hem en D66 met AI zijn geschreven, ook over Kamp Westerbork, Oekraïne en de MH17-herdenking. Het oordeel in de studio is genuanceerd: dát hij AI gebruikt is logisch en zelfs een goed teken.

De weeffout zit in de keuze om het juist bij de meest persoonlijke boodschappen te doen. Zoals Van den Berg het formuleert: wat is het middel, en wat was de intentie? En zijn observatie: staar je niet blind op één tweet, maar kijk of er over alle berichten heen nog een consistente signatuur zit, één tone of voice, één opinie, één logica.

5. Tool van de week: Pangram en de opkomst van herkomstbewijs

De Volkskrant gebruikte Pangram voor de Jetten-analyse en dat is volgens Remy ‘de Rolls-Royce onder de AI-detectiemodellen’. Waarom die beter is dan bijvoorbeeld GPTZero:

  • Voor elk menselijk document genereert Pangram een AI-versie die qua stijl, toon en inhoud zo dicht mogelijk bij het origineel ligt.

  • Het model leert dus het verschil tussen een mens en diens dichtstbijzijnde AI-tweeling, en dat per modelfamilie, want Claude schrijft anders dan OpenAI, en Mistral weer anders.

  • Hard negative mining: het model zoekt actief naar zijn eigen fouten, met name false positives, en traint daarop door. Lange teksten worden opgeknipt, zodat per passage zichtbaar wordt wat waarschijnlijk gegenereerd is.

In de uitzending valt het cijfer van ongeveer één misser per 24.000 beoordeelde documenten; Pangram publiceert zelf een false-positiveratio in de orde van 1 op 10.000. Klinkt goed, tot je het op universiteitsschaal loslaat op alle documenten van alle docenten en studenten. Dan houd je een serieus aantal valse beschuldigingen over. „Het is nog steeds statistiek”, zegt Remy.

Daarom is de interessantere beweging niet detectie, maar herkomst. In de uitzending passeren tools die niet je tekst analyseren, maar je typeproces observeren en daar een cryptografisch certificaat aan hangen: Grammarly Authorship, de Pangram-browserextensie, Proudly Human en een open, gratis protocol dat hetzelfde doet. Anthropic voegde daarnaast een digitaal watermerk toe aan zijn output, iets wat de EU AI Act sinds 2 augustus 2026 ook expliciet vraagt van aanbieders van generatieve AI.

Lees ook: AI die niet alleen antwoord geeft, maar zelfstandig werk uitvoert: die toekomst is bij NN Group al begonnen

Te gast: Jelmer Borst van Monumental

De gast van deze week is Jelmer Borst, die na jaren bij Picnic overstapte naar het Amsterdamse Monumental, een bedrijf dat metselrobots bouwt, maar geen robots verkoopt. Het verkoopt muren, tegen ongeveer een euro per steen, als onderaannemer op echte bouwplaatsen in Appingedam, Hengelo en Almere.

De cijfers die hij noemt, vertellen het hele verhaal: de gemiddelde metselaar is 48 jaar, Nederland moet 100.000 huizen per jaar bouwen en haalt er ongeveer 60.000 (het CBS telde in 2025 zo’n 69.000 nieuwbouwwoningen, het derde jaar op rij een daling). Monumental heeft inmiddels zo’n honderd zelfgebouwde robots en 140 medewerkers, met engineers van DeepMind en Meta, en bewust geen metselaars in dienst.

En tot slot: de Leopold-update

Leopold maakt zelf boekjes, met de hand getekend en geschreven. Foto’s daarvan gaan naar een AI-tool, die de tone of voice en tekenstijl overneemt en er een gedigitaliseerde versie van maakt, via Lovable uiteindelijk een digitale uitgave die je weer kunt printen.

Een aardige cirkel met waar de uitzending mee begon: Remy’s gesprek over handschrift. Hij haalt een onderzoek aan dat via Azeem Azhars nieuwsbrief Exponential View voorbijkwam: hoe meer je met de hand schrijft, hoe beter je informatie opslaat, verwerkt en erover nadenkt. Het toetsenbord is een hopeloos inefficiënte manier om een computer aan te sturen, gebruik daarvoor je stem. Maar wil je iets echt onthouden en internaliseren, pak dan een blocnote.

Links een schrijfblok, rechts een knop voor voice mode. Dat is de aktetas van 2026.

Dit neem je mee

Welke lessen neem je mee uit deze aflevering?

  • Inventariseer welk deel van je primaire proces nog draait zonder AI en zonder cloud en test het.

  • Beoordeel AI-leveranciers op wat ze hebben gebouwd, niet op wat ze adviseren. Slechts 31 procent bouwt echt.

  • Laat een agentgedreven kwetsbaarhedenscan los op je randapparatuur, niet alleen op je kernsystemen.

  • Stop met het willen herkennen van AI-tekst. Spreek in plaats daarvan af waar menselijke authenticiteit niet onderhandelbaar is.

  • Maak openheid over AI-gebruik veilig. Zolang het voelt als bekennen, stuur je op niets.

Luister naar de nieuwste aflevering van ‘AI at Work Live’ van BusinessWise:

‘AI at Work Live’ is wekelijks op vrijdag van 17.00 tot 18.00 uur live te beluisteren op New Business Radio.nl. Maandag tussen 12 en 13 uur wordt de uitzending herhaald.

De presentatie van ‘AI at Work Live’ is in handen van Tom Jessen. Hij wordt geflankeerd door Job van den Berg en Remy Gieling. Als bestsellerauteurs van het ‘Handboek AI Strategie’ en oprichters van The AI Group adviseren zij jaarlijks ruim 300 topbedrijven, waaronder ASML, KLM en Wolters Kluwer.

Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in:

Delen: