De toverspreuk werkt. En nu?
Goethe schreef er een gedicht over. Disney verfilmde het met Mickey Mouse. Het verhaal van de tovenaarsleerling: een leerling tovert een bezem tot leven om water te sjouwen. Het werkt. Wonderlijk goed zelfs. Tot hij wil stoppen en niet weet hoe. De bezem blijft sjouwen. Het water stijgt. Wanhopig breekt de leerling de bezem doormidden: nu zijn er twee bezems die sjouwen. De chaos neemt toe.
Je kent dit verhaal. Maar herken je jezelf erin?
Want als manager, teamleider of beslisser in een organisatie ben jij die leerling. Je hebt de toverspreuk uitgesproken. Je hebt een AI-tool geïmplementeerd, een proces geautomatiseerd, een systeem ingekocht dat beslissingen neemt die jij vroeger nam. Het werkt. Snel, efficiënt, schaalbaar. En nu?
“Elke beslissing over AI is een morele beslissing”
Minke Tromp
Je bent geen neutrale speler
Elke beslissing over AI is een morele beslissing. Ook als je hem ervaart als technisch, zakelijk of gewoon praktisch. Want achter elke implementatie liggen vragen die we zelden hardop stellen. Wie profiteert hiervan? Wie niet? Wat verdwijnt er als dit geautomatiseerd wordt? En wie is er verantwoordelijk als het misgaat?
Je hoeft geen filosoof te zijn om te zien dat dit vragen zijn die ertoe doen. Je bouwt de systemen, bepaalt wat geïmplementeerd wordt, besluit hoe het gebruikt wordt. Met die keuzes vorm je de wereld om je heen, bewust of niet.
Dat klinkt groot. Maar het begint klein. Bij twee vragen die elke manager zichzelf zou moeten stellen.
Lees ook: Handel je vanuit urgentie of FOMO? Het verschil bepaalt het succes van AI-adoptie
Wat wil je altijd kunnen controleren?
AI-systemen nemen beslissingen. Over klanten, over medewerkers, over processen. Snel en vaak beter dan mensen, althans, zo lijkt het. Maar wat gebeurt er als het systeem een fout maakt? Als de output onbegrijpelijk is, of oneerlijk? Kun jij dan ingrijpen? Begrijp je wat er is gebeurd? Kun jij het uitleggen aan degene die erdoor geraakt wordt?
Controle is niet hetzelfde als wantrouwen. Het is de voorwaarde voor verantwoordelijkheid. En verantwoordelijkheid is wat mensen van je mogen verwachten als leidinggevende.
Welke interactie moet menselijk blijven?
Niet alles wat geautomatiseerd kan worden, moet geautomatiseerd worden. Dat weet je eigenlijk al. Maar de druk om te schalen, te besparen en te versnellen maakt het verleidelijk om die grens steeds een stukje op te schuiven.
Toch zijn er interacties waarvan de waarde zit in het feit dat ze menselijk zijn. Een slechtnieuwsgesprek. Een beoordeling. Een moment waarop iemand zich gehoord moet voelen. Wat er verdwijnt als je die overdraagt aan een systeem is niet alleen efficiëntie. Het is vertrouwen. Verbinding. Soms waardigheid.
De vraag is niet of AI dit kan. De vraag is of jij wilt dat AI dit doet.
“Dit zijn geen vragen voor een ethiekcommissie of een compliance-afdeling, dit zijn vragen voor jou”
Minke Tromp
Stilstaan is geen vertraging
Dit zijn geen vragen voor een ethiekcommissie of een compliance-afdeling. Dit zijn vragen voor jou, in de vergadering van volgende week, bij de beslissing die je over twee weken neemt.
Organisaties die deze vragen vroeg stellen zijn beter voorbereid op de regelgeving die eraan komt. Op de reputatieschade die anderen treft. Op het vertrouwen dat moeilijk te verdienen en makkelijk te verliezen is. Ethical design is geen luxe. Het is een investering in de houdbaarheid van wat je bouwt.
Jullie bouwen de toekomst. Die moet leefbaar zijn. Niet alleen omdat het goed is, maar omdat het ook slim is.
Minke Tromp helpt leiders en organisaties richting te geven aan de menselijke kant van AI. Als filosoof, organisatie-antropoloog, auteur en tech-ethica brengt zij technologie, waarden en leiderschap samen. In haar boek Hoe AI ons menselijker maakt introduceert zij elf vragen die organisaties helpen bewuste keuzes te maken in tijden van technologische verandering.
Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in:
