Strategie

John Roese, CTO en Chief AI Officer Dell Technologies, legt uitwaarom 95 procent van alle AI-projecten faalt

John Roese. Foto: Dell Technologies John Roese. Foto: Dell Technologies
John Roese. Foto: Dell Technologies
Leestijd 8 minuten

De naam Dell roept in Nederland soms nog het beeld op van goedkope pc's in standaardconfiguraties. Wereldwijd profileert Dell zich echter steeds nadrukkelijker als een vooraanstaande ontwikkelaar van enterprise end-to-end AI-infrastructuur. Dankzij nauwe partnerships met onder andere NVIDIA en Intel levert de Amerikaanse IT-reus tegenwoordig zelfs complete AI Factories.

Een AI factory is kortgezegd een gespecialiseerd datacenter dat specifiek is ingericht om AI-toepassingen te ontwikkelen en te draaien. In vergelijking met een 'traditioneel' datacenter heeft deze datafabriek krachtige GPU's in plaats van gewone processors, en gespecialiseerde databases die data anders organiseren, zodat AI-systemen er makkelijker mee kunnen werken.

Met andere woorden: een gestandaardiseerde, herhaalbare setup om snel resultaten met AI te genereren. Als Chief Technology Officer en Chief AI Officer fungeert John Roese bij Dell als dé drijvende kracht achter dit concept, en de man die daarvoor de vereiste partnerships smeedde met chipmakers NVIDIA en Intel. Mede daarom is Roese ook goed geplaatst om te kunnen voorspellen hoe de AI-infrastructuur zich gaat ontwikkelen, en wat de belangrijkste uitdagingen zullen zijn.

Lees ook: Stefan Leijnen over de nieuwe fase van de AI-evolutie: ‘Nederland moet inzetten op de AI van de toekomst’

Dell heeft ruim 3.000 klanten die AI factories bouwen. Wat is hun belangrijkste uitdaging?

„Governance. Ik snap dat dat saai klinkt, maar het is de harde waarheid. We begrijpen de technologie om effectieve AI-systemen neer te zetten inmiddels heel goed. De infrastructuur is dus niet het probleem. De wijze waarop bedrijven ermee omgaan echter des te meer. Daarom hebben we in onze eigen organisatie een sterk top-down governance framework geïmplementeerd.”

„In gewone mensentaal betekent dat dat de directie centraal bepaalt welke AI-projecten we oppakken. Zo voorkomen we dat elke afdeling voor zichzelf gaat experimenteren. Er zijn strikte regels: elk project moet strategisch zijn, en ROI aantonen, voordat het groen licht krijgt. Echte AI-experts zijn immers schaars, en als je die te veel werk geeft raakt hun tijd en inzet veel te gefragmenteerd. Focus op slechts enkele strategische projecten is dé manier om succes te boeken.”

„Helaas weten veel bedrijven niet hoe ze moeten prioriteren of ROI kunnen koppelen aan een use case. Zonder goede afspraken doen ze niet drie projecten, maar driehonderd, die geen van allen iets opleveren. Recente studies van MIT en McKinsey bevestigen dat: 95 procent van alle AI-projecten faalt. Het kleine aantal succescases komt van bedrijven die scherpe keuzes maakten en daar tot het einde op gefocust blijven.”

Lees ook: Kunnen we strijd winnen met een AI-Deltaplan? 'Als je niet mag bouwen, blijven plannen ook plannen'

Je maakt onderscheid tussen externe en interne governance. Hoe zit dat precies?

„Externe governance gaat over regelgeving door overheden. Wereldwijd zijn er inmiddels meer dan duizend verschillende overheidsinstanties die elk hun eigen AI-regelgeving hebben ontwikkeld, zonder met elkaar te overleggen. Als je AI wilt inzetten in gereguleerde sectoren, is het onmogelijk te doorgronden welke regels waar gelden.”

„Gevolg is dat bedrijven veel waardevolle potentiële mogelijkheden simpelweg vermijden.”

„Dit is daarom vooral een oproep aan overheden: probeer tot meer geharmoniseerde regelgeving te komen. We gaan dit in 2026 niet oplossen, maar we moeten er wel voor zorgen dat het niet erger wordt. Anders wordt de regeldruk een enorme rem op productieve AI-toepassingen.”

Wat is komende jaar de belangrijkste nieuwe technologische ontwikkeling voor AI Factories?

„Tot nu toe bestaan AI-oplossingen hoofdzakelijk uit twee lagen. De onderste laag bestaat uit bestaande systemen zoals CRM en ERP: de systemen waar sinds jaar en dag de belangrijke bedrijfsdata huist. Daar bovenop ligt de AI-rekenlaag die met behulp van GPU’s de onderliggende datalaag doorploegt. We zien echter dat de communicatie tussen deze twee lagen vaak te wensen overlaat.”

„Daarom ontstaat er nu een nieuwe laag tussen traditionele databases en AI-systemen. Die is cruciaal voor het effectief functioneren van AI factories, maar ook veel andere AI-toepassingen. We noemen dat de knowledge layer. Deze laag bevat gespecialiseerde databases zoals vector databases, graph databases en knowledge graphs. Deze organiseren data op een manier die AI-systemen veel beter kunnen gebruiken dan traditionele relationele databases.”

„De grote vraag is nu: waar kun je deze laag het beste plaatsen? Veel bedrijven doen dat nu nog redelijk ad hoc. Wij zien echter dat het veel effectiever is om deze knowledge layer nauw te verbinden met de AI-gedreven bovenlaag in plaats van de traditionele datasystemen. Dat maakt het functioneren van complexe Agentic AI-systemen aanzienlijk efficiënter.

Lees ook: Leen Zevenbergen, voormalig topman PinkRoccade en Origin: 'AI is een hype'

Welke rol spelen AI Agents in de toekomstige inrichting van AI factories?

„Laten we daarvoor eerst even stilstaan bij de definitie van een AI Agent. Een chatbot is geen agent. Een complexe prompt is geen agent. Een echte autonome agent is een complex softwaresysteem met vier componenten: een LLM voor taalvaardigheid, gespecialiseerde kennis in knowledge graphs, het vermogen om tools te gebruiken via protocollen zoals Model Context Protocol, en de mogelijkheid om samen te werken met andere agents.”

„Na ruim een jaar werken met dit soort agents, zien wij nu hoe ze het functioneren van AI factories fundamenteel veranderen. Ze zijn niet alleen rekenkracht, maar digitale teamleden die werk coördineren, kennis schalen en taken uitvoeren die met mensen te duur zouden zijn. We gebruiken bijvoorbeeld agents om onze CRM-data real-time op orde te houden. Met mensen zou dat een enorm team vergen, maar een autonome agent doet dat permanent in de achtergrond.”

Stel je voor dat je klanten zo enthousiast zijn over de snelle beantwoording dat het aantal vragen van 10 duizend naar 100 duizend groeit.”

John Roese CTO en Chief AI Officer Dell Technologies

We zien mede daarom een sterke opkomst van ‘Agents as a Service’. Hoe zie jij die mogelijkheid?

„Op zich interessant. Vaak zijn dit echter nog geen volwassen oplossingen, die bovendien erg duur kunnen uitpakken. Stel bijvoorbeeld dat je een agent inzet om klantvragen te beantwoorden, à twee dollar per afgehandelde vraag. Dat klinkt misschien redelijk. Maar stel je voor dat je klanten zo enthousiast zijn over de snelle beantwoording dat het aantal vragen van 10 duizend naar 100 duizend groeit.”

„Veel bedrijven hebben al problemen met cloud economics: naar de cloud gaan om je kosten beheersbaar te maken, en er dan achter komen dat je cloudgebruik lastig te managen is en je rekeningen volledig uit de hand lopen. Ik vrees dat agentic economics voor veel bedrijven nog veel uitdagender wordt. Dat probleem zit hem mede in de immaturity van de markt.”

„Leveranciers weten zelf nog niet goed hoe ze dit moeten prijzen. Sommigen rekenen per transactie, anderen per minuut gebruik, weer anderen per agent. Niemand heeft dit echt uitgedacht. En als je het verkeerde pricing model accepteert voordat je begrijpt hoe intensief je agents gebruikt gaan worden, kun je jezelf in grote financiële problemen werken.”

„Daarom draaien we veel van onze agents bij Dell op eigen infrastructuur binnen onze AI factory. Dat geeft ons kostcontrole. We betalen voor de hardware en de rekenkracht, maar we hebben geen variabele kosten per transactie. Als het gebruik verdubbelt, verdubbelen onze kosten niet. Dat maakt het economisch voorspelbaar en schaalbaar.”

„We gebruiken wel externe agents voor specifieke taken, maar dan besteden we enorm veel tijd aan het onderhandelen over een pricing model dat logisch is. Niet per transactie, maar bijvoorbeeld een vast bedrag per maand voor onbeperkt gebruik, of outcome-based pricing waarbij je betaalt voor resultaten in plaats van voor gebruik.”

Als je één advies mag geven aan bedrijven die nu een AI factory bouwen, wat is dat dan?

„Start met governance voordat je ook maar een cent in hardware investeert. Bepaal centraal welke drie projecten echt strategisch zijn. Uit mijn eigen ervaring sprekend zijn de volgende drie goede kanshebbers: verbeter je salesefficiëntie met AI, maak je klantenservice beter, en versnel je productontwikkeling. Als je die drie goed doet, transformeer je je business economisch.”

„De technologie begrijpen we. De use cases kennen we. Maar zonder governance, zonder het vermogen om nee te zeggen tegen honderden afdelingen die allemaal hun eigen AI-experimenten willen doen, kom je nergens. Focus je schaarse AI-experts op wat écht belangrijk is. Dat is het verschil tussen de vijf procent die succesvol is en de 95 procent die faalt.”

Lees ook: Plannen voor AI-Gigafactory in Rotterdam: ‘Kunnen niet afhankelijk worden van niet-Europese platforms’

Wie is John Roese?

John Roese is Global Chief Technology Officer en Chief AI Officer bij Dell Technologies. In deze functie stuurt hij de wereldwijde technologiestrategie, R&D-agenda en de CTO-community van Dell. Hij is verantwoordelijk voor de langetermijnvisie op AI, multi-cloud, edge computing, 5G en data-management. Roese werkt al sinds 2012 bij Dell en was eerder CTO bij Cabletron Systems, Enterasys, Broadcom en Nortel. Hij heeft honderden toegekende en aangevraagde patenten op zijn naam staan, en geldt als een van de invloedrijkste stemmen op het snijvlak van AI-infrastructuur, telecom en enterprise-IT.

Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in: