Expertblogs

‘Pas op voor de vriendelijke onzin van ChatGPT’

Niet blind op AI-tools als ChatGPT vertrouwen, schrijft Leen Zevenbergen in zijn expertblog. Niet blind op AI-tools als ChatGPT vertrouwen, schrijft Leen Zevenbergen in zijn expertblog. Afbeelding: Gemini/AI.
Niet blind op AI-tools als ChatGPT vertrouwen, schrijft Leen Zevenbergen in zijn expertblog. Afbeelding: Gemini/AI.
Leestijd 7 minuten
Over de Expert:
leen zevenbergen
Leen Zevenbergen
Voormalig CEO, ondernemer, AI-pionier en o.a. duurzaamheidsspreker

Deze expertblog is de derde van de trilogie over AI, geschreven door Leen Zevenbergen, onder meer voormalig topman van PinkRoccade en Origin.

Deel 1 - ‘AI is een hype’

Deel 2 - ‘Investeerders, deze AI-bubbel gaat tussen nu en twee jaar barsten’

Van lege serverruimtes naar dataslurpende AI-fabrieken

In 1995 was ik directeur van het eerste en oudste computercentrum van Nederland: het Rijks Computer Centrum (RCC) in Apeldoorn. Het centrum was net geprivatiseerd onder de naam PinkRoccade en werd streng beveiligd door de AIVD, omdat daar maandelijks de salarissen van honderdduizenden ambtenaren werden uitbetaald.

Een van de eerste dagen werd ik rondgeleid en kwam ik via beveiligde sluizen in de controlroom van het computercentrum, waar we uitzicht hadden op een immense zaal. Ver weg, rechts in de hoek, stond een kleine computer en verder was de zaal leeg. ‘Tja, zo gaat dat’, zei de chief operator, ‘computers worden alsmaar kleiner en steeds krachtiger, dus binnenkort hebben we deze zaal helemaal niet meer nodig, denk ik.’

De Wet van Moore was in full force. Elke twee jaar werd de computer, of beter gezegd de processor, tweemaal zo klein, tweemaal zo krachtig en tweemaal zo goedkoop. Dat was 1995, nu ruim 30 jaar geleden.

Lees ook - ‘Het is heel simpel: als je alle datacenters zou uitzetten, dan is de hele economie weg’

Als je tegenwoordig weer naar dat computercentrum gaat, staat het stampvol met supersnelle computers die als gekken teksten, films, geluid, mails en WhatsApp-berichten verwerken. Want in 1995 hadden we nog geen enkel idee dat computers veel meer zouden worden dan rekenmachines.

Nu we alles digitaliseren en dus massaal data opslaan en tot onze beschikking hebben, is er permanent een tekort aan computer- en verwerkingscapaciteit. We verwerken wereldwijd zo’n 17 miljoen terabyte aan data per uur. Aangezien een groot rekencentrum gemiddeld zo’n 5.000 terabyte per uur kan verwerken, kun je nagaan dat er een enorme behoefte is aan hyperscale datacenters, faciliteiten die letterlijk energie en water slurpen.

Wat dat met AI te maken heeft? Alles. Het is de backbone van wat we tegenwoordig AI noemen.

Was AI in de tweede zomer voornamelijk gericht op het vastleggen van menselijke kennis, wat ook toen al moeizaam ging, tegenwoordig draait het om het supersnel en massaal verwerken van data. Zo snel zelfs dat het sterk lijkt op de werking van de menselijke hersenen, met veelbelovende toepassingen tot gevolg.

Een van de grote AI-wetenschappers beschreef het verschil tussen de tweede en derde zomer van AI onlangs als volgt: ‘The biggest difference between AI now and then is the massive and exponentially growing amount of data and the superfast computers to work with that data.’

Lees ook - Over 15 jaar verbiedt zorgverzekering menselijke chirurgen’, voorspelt Aragorn Meulendijks want: AI-robots

Waar AI nu al schittert: van gezondheidszorg tot infrastructuur

Neem bijvoorbeeld de duizenden scans van menselijke lichamen en onderdelen daarvan, zoals longen en hersenen. Daarin zijn diverse soorten kankercellen en -gezwellen te zien. Met het menselijk oog is het zeer moeilijk om daarop analyses te maken of beelden op grote schaal te vergelijken. Met computervision en pattern recognition kunnen we echter haarscherpe, grootschalige analyses uitvoeren van kankersoorten en de daarbij behorende behandelwijzen. De medische wetenschap en dus ook de gezondheidszorg zijn enorm geholpen met massale dataverwerking en patroonherkenning.

Overigens helpt toegang tot medische kennis via ChatGPT in de VS al vele miljoenen mensen die anders geen toegang tot artsen meer zouden hebben. Ook al is het advies niet altijd correct, iets is beter dan niets. Het lijkt er dus op dat de medische wereld daadwerkelijk veel opschiet met AI zoals we die nu kennen.

Of neem het onderhoud van (snel)wegen en de voorspelling daarvan. Dagelijks worden miljoenen foto’s gemaakt van wegdekken en andere infrastructuur. Tot op pixelniveau is te zien waar steentjes uit het asfalt verdwenen zijn en waar de eerste beschadigingen optreden. Nu beoordelen menselijke experts deze beelden nog vaak om vast te stellen waar onderhoud nodig is. Zij kunnen per dag tientallen kilometers snelweg analyseren via foto’s, terwijl computers probleemloos tienduizenden kilometers aankunnen.

Lees ook - AI gaat banen creëren, niet vervangen’: vals optimisme bij juist Nvidia-CEO Jensen Huang?

Mensen worden moe, zijn af en toe slordig of hebben er even geen zin in. Computers kennen die beperkingen niet en kunnen 24/7 met dezelfde zorgvuldigheid werken. Koppel je de wegdekbeelden massaal aan de kennis van een wegdekexpert, dan is die expert in principe niet meer nodig. Maar ja, het was eigenlijk ook saai en monotoon werk.

Dit zijn twee duidelijke voorbeelden waarin AI leidt tot betere prestaties en lagere kosten, met als cruciale ingrediënten massale data en menselijke expertise. We noemen dit weleens ‘menselijke taken van een onmenselijke omvang’.

De valkuil van taalmodellen: combineer AI altijd met menselijke expertise

Cruciaal is dat we menselijke expertise modelleren en die laten beoordelen wat we met de data en de uitkomsten van LLM’s kunnen doen. Een voorbeeld is het gebruik van ChatGPT, Copilot of een andere LLM bij juridische kwesties, zoals arbeidsrecht. Stel dat je een arbeidsrechtelijk probleem hebt met een medewerker en dat voorlegt aan ChatGPT. Je krijgt dan een vriendelijk antwoord, maar zelden is dat volledig correct. Volg je dat advies zonder controle op, dan kun je in serieuze problemen terechtkomen. Het is daarom aan te raden het advies van de LLM te laten beoordelen door een echte jurist. Daarvoor kun je een expertsysteem gebruiken, zoals die in eerdere AI-zomers werden ontwikkeld.

Het is opvallend om te zien dat de AI-technologie uit de jaren tachtig en negentig, met modellen van expertkennis, nu kan worden gecombineerd met massale data die razendsnel wordt verwerkt. Dat is echt een stap verder dan rechttoe rechtaan LLM’s zoals ChatGPT, met potentieel superieure resultaten. Zover zijn we overigens nog niet.

Een derde terrein waar LLM’s, zoals Claude, goed voor ingezet kunnen worden, is het programmeren van software. Er zijn al veel voorbeelden waarbij de inzet van AI leidt tot een enorme versnelling van het programmeerproces.

Negeer zelfbenoemde AI-experts en waak voor datalekken

Wat moeten we dan aan met de honderden zelfbenoemde AI-experts? Niets, zou ik zeggen. Bedrijven die hen inhuren, komen er snel genoeg achter dat ze dit net zo goed zelf kunnen doen. Experimenteren met de vele tientallen chatbots is gratis en ik ken maar weinig mensen die nog geen gebruik maken van ChatGPT of een vergelijkbare LLM. Het is dus niet nodig om geld uit te geven aan ‘prompt-adviseurs’.

Een andere manier om je te weren tegen zogenoemde experts is zorgvuldig te meten wat het rendement is van de ingezette AI-tool. Wat de besparing is in tijd en kwaliteit, is overigens niet altijd eenduidig te meten. Soms lijkt het sneller te werken als teksten of analyses door ChatGPT worden samengevoegd tot een rapportage, maar de controle daarop kan veel tijd en deskundigheid vergen. Dan verdwijnt de vermeende tijdwinst weer door kwaliteitsverlies of de benodigde controle-expertise.

Lees ook - Niet elk AI-project verdient een ja: dit zijn 4 signalen dat je terug moet naar de tekentafel

Let dus goed op: LLM’s bieden geen enkele ingebouwde controle op kwaliteit, waarheid of correctheid. Je kunt daardoor makkelijk en snel in een moeras van vriendelijke onzin terechtkomen. Het verraderlijke van deze AI-tools is dat ze een schijnbare ‘collega’ bieden, terwijl het in feite een collega is die je eerlijk gezegd niet had willen hebben.

Mijn advies: ga er vooral mee aan de slag. Experimenteer, net zoals je dat destijds deed met internet. Stimuleer medewerkers of collega’s om te onderzoeken wat ze ermee kunnen. Blijf weg van ‘prompt-adviseurs’ en wees uiterst voorzichtig met het creëren van datalekken, die grote securityrisico’s met zich mee kunnen brengen. Meet tot slot zo objectief mogelijk de tijd- en kwaliteitswinst die je boekt door AI toe te laten in je organisatie.

Ontvang elke week - op maandag - het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in en maak kans op een Apple Watch!