'AI is een tool, geen doel': Noelle Cicilia over ethiek en realisme in de AI-hype

Noelle Cicilia was nog student Data Science aan de TU Eindhoven toen ze haar bedrijf Brush AI startte. Ze zag hoe AI-onderzoek en -toepassingen vooral draaiden om technische prestaties. „We waren bezig met de tofste algoritmes en taalmodellen, maar niet met de bredere impact. Ik dacht: dit moet anders. Ethiek moet vanaf het begin in de softwareontwikkeling worden meegenomen." Die visie leverde haar uiteindelijk de titel AI Person of the Year op. „Er zijn zoveel mensen die geweldige dingen doen met AI. Ik denk dat ik vooral ben opgevallen omdat ik het ethische gesprek steeds weer op tafel leg en de hype relativeer."

Ethiek begint bij developers

Volgens Cicilia wordt ethiek in AI vaak weggezet als een juridische of compliance-kwestie. „Veel mensen vinden dat gezeur. Maar ik geloof dat het bij developers moet beginnen. Zij bouwen de systemen. En ethische principes, hoe vaag ook, kun je vertalen naar concrete software requirements." En: „AI is een tool, geen doel. Ik hoorde deze quote ooit van Aaron Mirck en ben hem nooit meer vergeten".

Lees en bekijk ook deze Data Days-aflevering - Ger Janssen (Philips): 'Responsible AI is voor ons een no brainer'

'AI-first' is bangmakerij

In media en boardrooms klinkt vaak dat bedrijven 'AI-first' moeten worden om te overleven. Cicilia vindt dat gevaarlijke retoriek. "Een klusjesman die zegt dat hij een hamer-first klusjesman is, neem je ook niet serieus. Je kijkt eerst naar het probleem en kiest dan je gereedschap. Zo is het ook met AI. Het kan fantastisch zijn, maar het is niet dé oplossing voor alles." Die kritische houding neemt ze ook mee in klantgesprekken. "Iedereen wil ineens een HR-chatbot. Maar vaak blijkt dat er maar één HR-vraag per medewerker per jaar is. Dan klopt de kosten-batenanalyse gewoon niet. AI inzetten omdat het kan, is geen strategie."

Adoptie AI als grootste uitdaging

Toch ziet Cicilia dat organisaties worstelen met iets anders: adoptie. „We bouwen geweldige oplossingen, maar vaak gebruikt niemand ze. Dat komt doordat AI-projecten vanuit IT worden bedacht, zonder eindgebruikers te betrekken. Dan voelt het als een opgelegd systeem." Daarom betrekt haar bedrijf vanaf het begin alle stakeholders. „We maken altijd een stakeholderanalyse: wie wordt geraakt door de oplossing en hoe zorgen we dat zorgen worden weggenomen? Dat geeft vertrouwen en voorkomt weerstand."

Kleine stappen, grote impact

Cicilia benadrukt dat bedrijven onderscheid moeten maken tussen persoonlijke en bedrijfsefficiëntie. „Leuk dat iemand met ChatGPT sneller een mail kan schrijven, maar dat gaat de organisatie niet fundamenteel veranderen. Interessanter zijn de businesskritische processen die je met AI kunt verbeteren. Dáár zit de echte waarde, ook al is het risico groter." Ze waarschuwt voor overschatting. „AI-systemen maken altijd voorspellingen, en voorspellingen zijn per definitie niet 100 procent betrouwbaar. Je moet je afvragen: hoe erg is het als dit proces een fout bevat? In recruitment bijvoorbeeld kan bias in AI leiden tot serieuze problemen. Soms is de beste keuze om AI daar helemaal niet in te zetten. AI kan ongelofelijk waardevol zijn, maar alleen als je het koppelt aan echte problemen en de mens centraal zet. Bedrijven die dat begrijpen, maken het verschil."

De toekomst: meer focus op mensen

Over de toekomst van AI wil Cicilia geen harde voorspellingen doen. „De technologie gaat zo snel, dat voelt als koffiedik kijken." Wel ziet ze een duidelijke trend: meer aandacht voor mensen en organisaties. „We vergeten vaak dat changemanagement essentieel is. Hoe landen AI-oplossingen in een organisatie? Hoe zorgen we dat medewerkers ze vertrouwen en gebruiken? Technologie op zich is nooit genoeg. Uiteindelijk gaat het om mensen."

Lees ook - De Europese Data Act: wat bedrijven moeten weten over de nieuwe spelregels voor data

Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in: