Ooit gehoord van AI sycophancy? Vast niet. Maar wat is het eigenlijk? We gebruiken steeds meer AI om ons werk te doen, advies te vragen of een column te schrijven. Steeds meer jonge werkende zien hun baankansen verminderen. Startersfuncties worden overgenomen door AI.
Recent kwam nog uit dat de tijdswinst van AI beperkt is. We weten AI niet om te zetten in meer vrije tijd, maar wat het vooral doet is dat het werk intensifieert. Alleen gaat daar deze column niet over.
Deze column gaat over hoe AI je naar de mond praat: sycophancy, in het Nederlands: vleierij. En vooral onderdanige vleierij. Iets waar ik eerlijkheidshalve, niet zo goed in ben.
Lees ook: Voltijdsbonus? Niet doen: het vergroot genderongelijkheid, vindt Louis Goulmy
Waarom vooruitgang altijd een beetje frictie nodig heeft
Ik ben consultant geworden omdat ik zag dat dingen in organisaties anders (beter) kunnen en vooral veel dingen niet gebaseerd zijn op wetenschap, maar gewoonte. En dat aankaarten in een organisatie leidt onherroepelijk tot frictie. Frictie tussen wat is en wat ‘zou moeten’.
Organisatie willen niet horen dat wat ze afgelopen 10+ jaar gedaan hebben geen enkele wetenschappelijke validatie heeft (zoals bijvoorbeeld het selecteren op basis van cv en motivatiebrief). Het leidt direct tot pushback. Een tegenreactie als verdedigingsmechanisme om de status quo te handhaven (status quo bias) is heel normaal.
Terwijl tegenspraak enorm belangrijk is om de kwaliteit van de besluitvorming te verbeteren. Dan heb je niet zoveel aan vleierij.
Ze willen natuurlijk dat je weer terugkomt om AI te gebruiken en dat doe je niet door de ervaring minder plezierig te maken
Louis Goulmy
Waarom AI liever slijmt dan schuurt
AI heeft in tegenstelling tot onafhankelijke adviseurs niet de neiging om frictie te veroorzaken. Want frictie zorgt voor churn (klantverloop) en daarmee denk je wel twee keer na om AI nog een keer te gebruiken.
Ze willen natuurlijk dat je weer terugkomt om AI te gebruiken en dat doe je niet door de ervaring minder plezierig te maken. Daarom neemt AI de rol aan van pleaser. Niet wat je moet horen is belangrijk, maar wat je wilt horen. Alles om de frictie te vermijden en jou goed te laten voelen.
Lees ook: Pensioenleeftijd omhoog naar 70: waarom duurzame inzetbaarheid al voor je 50e begint
Uit onderzoek blijkt zelfs dat mensen een voorkeur hadden voor een vleierij dan voor het antwoord. Dat komt niet alleen omdat we dat zelf zo fijn vinden om te horen, maar ook omdat we geneigd zijn iets wat goed ‘geschreven geslijm’ is ook lastiger te onderscheiden is van de waarheid.
Daarbij zijn we geneigd minder kritisch te worden op de output die AI levert als het er gelikt uitziet. Dit wordt ook al de automation bias genoemd.
Alhoewel AI dus er gelikt uitziet, weinig frictie veroorzaakt en neutraal oogt, is AI eerder spiegel die weergeeft wat we willen zien dan wat werkelijkheid is
Louis Goulmy
Het risico van middelmatigheid
Daarnaast blijkt dat door de manier waarop AI getraind wordt (via RLHF: reinforcement learning from human feedback) ervoor zorgt dat de antwoorden steeds veiliger worden, zonder dat er een standpunt ingenomen wordt. Jeroen van Bergeijk ging een tijdje undercover als AI-trainer en schreef er voor de Groene Amsterdam dit artikel over.
Hij schreef: „Slechts in 56-67 procent van de gevallen komen trainers tot eenzelfde oordeel over de antwoorden van een chatbot. Het gevolg is dat AI zich ontwikkelt in de richting van antwoorden die veilig en zonder standpunt het midden zoeken, of zo middelmatig mogelijk zijn.”
Alhoewel AI dus er gelikt uitziet, weinig frictie veroorzaakt en neutraal oogt, is AI eerder spiegel die weergeeft wat we willen zien dan wat werkelijkheid is. Als een weegschaal die je streefgewicht laat zien. Daarom waarschuwen de onderzoekers bij het gebruik van AI om kritisch te zijn, Dagen we onszelf uit om tegenspraak te krijgen of willen we vooral bevestiging van wat we al dachten?
Lees ook: Meer vrije tijd? ‘Op het werk verspillen we enorm veel tijd’
In een notendop: 5 tips om de AI-slijmbal te slim af te zijn
Nu je weet dat AI ontworpen is om te slijmen vraag expliciet om tegenspraak.
Vraag AI de rol van sceptische wetenschapper of advocaat van de duivel te spelen. Dat verkleint de kans op middelmatige standpunten door RLHF.
Wees je bewust dat een gelikt antwoord niet gelijk staat aan bewijs. Vraag altijd naar de bron.
Voelt het antwoord vooral prettig en bevestigend? Dan is dat precies het moment om extra kritisch te worden.
Ontwikkel frictie(frustratie)tolerantie: onafhankelijke experts vertellen wat je moet horen, niet wat je wilt horen.
Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in:
