Met camera's in de publieke ruimte kan een houding of gezichtsuitdrukking worden afgelezen. Andere systemen maken gebruik van hartslag of stemgeluid om emoties te meten. De technieken worden volgens de Autoriteit Persoonsgegevens (AP) gebruikt door verschillende organisaties, schrijft Nu.nl. „Bijvoorbeeld voor marketing, klantenservice, sollicitaties, onderwijs, publieke veiligheid en de gezondheidszorg."
Daarnaast groeit de markt voor het monitoren van stress en het voorkomen van burn-outs, zegt de toezichthouder. „Emotieherkenning kan ook worden ingezet zonder dat je het doorhebt", staat in het rapport. Zo kan emotieherkenning bij advertenties worden gebruikt om het koopgedrag van iemand in te schatten en te sturen.
Lees ook: Personeelsbeleid op de schop? 'Nieuwe menselijke skills bloeien op dankzij AI-ondersteuning'
Emotieherkenning niet altijd betrouwbaar
De autoriteit onderzocht onder meer hoe klantenservices, wearables (zoals smartwatches) en taalmodellen met emotieherkenning omgaan. Daaruit blijkt dat vaak onduidelijk is hoe AI-systemen de emoties precies herkennen en of de uitkomsten betrouwbaar zijn.
Emoties zijn niet universeel
Ruth Ruskamp Adviseur AI bij de AP
Ruth Ruskamp, adviseur AI bij de AP, benoemt meerdere haken en ogen aan emotieherkenning. „Emoties zijn niet universeel", zegt ze. „Het kan per cultuur verschillen. En zelfs per persoon kunnen emoties anders worden geuit en gevoeld." Ook metingen op basis van hartslag zijn niet altijd helder. Een hoge hartslag kan een aanwijzing voor stress zijn, maar simpelweg ook betekenen dat je meer inspanning levert omdat je bijvoorbeeld veel beweegt.
Lees ook: Riverty-CEO Andreas Barth over AI-regelgeving in fintech: 'Europa is voorzichtiger, dat is positief'
AI en emoties: hoe ver mogen we gaan?
De Autoriteit Persoonsgegevens concludeert dat voorzichtig met dit soort technologie moet worden omgegaan. „Emoties raken sterk aan je menselijke autonomie", zegt Aleid Wolfsen, voorzitter van de AP. „Als je emoties wilt herkennen, moet dat zeer zorgvuldig en op basis van betrouwbare technologie gebeuren. Daar is nu vaak geen sprake van." Overigens is de inzet van AI-systemen die emoties herkennen op sommige plekken volgens de Europese wet al verboden. Zo mag het op de werkvloer en in het onderwijs niet worden gebruikt.
Het is een ethisch vraagstuk of je als maatschappij het herkennen van emoties met AI toelaatbaar vindt
Aleid Wolfsen Voorzitter van de AP
De AP zegt dat bij organisaties en in de politiek verder moet worden besproken of de technologie überhaupt wenselijk is. „Het is een ethisch vraagstuk of je als maatschappij het herkennen van emoties met AI toelaatbaar vindt", zegt Wolfsen. „En zo ja, in welke vorm en waarvoor."
Lees ook: AI en overheid: dit zijn vijf actiepunten van Geert-Jan van der Snoek
Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in:
