Nu bedrijven steeds meer datagedreven worden, blijven de manieren waarop we data genereren en verwerken groeien. Data is overal en heeft een steeds grotere invloed op ons leven, vooral met de opkomst van algoritmen voor geautomatiseerde besluitvorming. Het is daarom van groot belang dat organisaties die onze gegevens verzamelen en verwerken, ervoor zorgen dat dit op een passende en verantwoorde manier gebeurt, schrijft ITPro.
Een data-ethicus: wat doet zo iemand?
Een data-ethicus is verantwoordelijk voor het waarborgen van ethisch beheer van data, zodat gegevens op een correcte en verantwoorde manier worden verzameld, opgeslagen, verwerkt en gedeeld. Deze relatief nieuwe functie is ontstaan door de enorme hoeveelheid data waarover organisaties tegenwoordig beschikken en heeft snel aan belang gewonnen, vooral voor grote organisaties die persoonlijk identificeerbare informatie beheren.
,,In de loop der jaren is dit een van de thema's die steeds belangrijker werd met de vooruitgang van technologie, datamanagement en datagovernance," zegt Nicholas Shearer. Hij is deskundige op het gebied van data en ethiek. ,,Bedrijven proberen grip te krijgen op de totaliteit van hun data en de kwaliteit ervan te waarborgen."
Hoewel zowel een data-engineer als een data-ethicus met informatie werken, zijn hun rollen wezenlijk verschillend
Beoordelen van het data-beleid binnen een bedrijf
Een data-ethicus is uiteindelijk verantwoordelijk voor de garantie dat dataverzameling, opslag en verwerking van een organisatie redelijk zijn en geen onnodige schade toebrengen aan gebruikers en de maatschappij. Ze beoordelen het beleid rond data, zien toe op naleving van dataverwerkingsmethodologieën en communiceren deze richtlijnen op C-level en het management wanneer nodig.
Lees ook: AI en overheid: dit zijn vijf actiepunten van Geert-Jan van der Snoek
Het verschil tussen data-engineer en data-ethicus
Hoewel zowel een data-engineer als een data-ethicus met informatie werken, zijn hun rollen wezenlijk verschillend. Een data-engineer richt zich op het maximaliseren van winst uit data, terwijl een data-ethicus ervoor zorgt dat data op een verantwoorde manier wordt beheerd. Deze rollen kunnen soms met elkaar in conflict komen, waardoor het cruciaal is om vooraf duidelijke prioriteiten te stellen en strategieën te hebben voor conflictbemiddeling.
,,Waar data-engineers zich richten op het bouwen en onderhouden van data-infrastructuur, en AI-ethici de bredere implicaties van AI-systemen onderzoeken, concentreren data-ethici zich specifiek op ethische vragen rond datapraktijken," zegt Giada Pistilli, hoofddeskundige ethiek bij Hugging Face. ,,Dit omvat kwesties als privacy, toestemming, eerlijkheid, transparantie en de maatschappelijke impact van datagedreven beslissingen."
De rol van een data-ethicus binnen een organisatie draait om communicatie
Winst genereren uit data
De rol van een data-ethicus binnen een organisatie draait om communicatie. Het doel om data goed te beheren kan hen soms in conflict brengen met afdelingen die proberen het meeste uit data te halen om winst te genereren. Een data-ethicus werkt doorgaans samen met alle lagen binnen een organisatie, van data-verzamelaars tot het management. Om effectief te zijn, moet een data-ethicus echter minstens een stem hebben in de bestuurskamer. Hun werk draait niet om verandering tegenhouden, legt Shearer uit, maar om ervoor te zorgen dat organisaties de implicaties van digitale transformatie goed begrijpen.
,,Het is onlogisch om te zeggen dat ethiek innovatie zal beperken, omdat je altijd een ethisch begrip zou willen hebben in de kern van wat je doet met de systemen die je creëert, of met de data die je koopt en gebruikt," zegt Shearer. ,,Veel datasets die worden gebruikt, zijn volledig ondoorzichtig, inclusief de structuur en herkomst ervan."
Lees ook: Europese bedrijven hebben sinds 2018 meer dan 4,5 miljard euro aan AVG-boetes betaald
Noodzaak data-ethici in tijden van AVG
Hoewel wetgevende maatregelen zoals de AVG (GDPR) al zijn ingevoerd om de privacy van gebruikers te beschermen, worden die vaak beschouwd als het absolute minimum. Regelgeving loopt bovendien meestal achter op technologische ontwikkelingen, waardoor sommige aspecten van de wet verouderd kunnen zijn of nieuwe richtlijnen niet bevatten.
Zelfs als een specifieke methode van dataverwerking wettelijk in orde lijkt, betekent dat niet altijd dat deze ethisch verantwoord is. Organisaties liggen ook steeds vaker onder een vergrootglas van publieke instanties die controleren of hun databeleid en bedrijfspraktijken niet uitbuitend zijn.
Data-ethici hebben vaak een achtergrond in sociologie, economie of politieke wetenschappen
Gevaar voor oplopen van reputatieschade
Bedrijven die persoonlijke gegevens gebruiken of gebruikersdata exploiteren, kunnen reputatieschade oplopen. Klanten – zowel bestaande als potentiële – kunnen ervoor kiezen om elders zaken te doen als ze niet het vertrouwen hebben dat hun gegevens verantwoord worden beheerd. Vertrouwen opbouwen is daarom een waardevol goed in de moderne zakenwereld: niet alleen moeten gegevens correct en ethisch worden verwerkt, maar ze verwerking moet ook transparant worden uitgevoerd. ,,Door op een ethische manier met data om te gaan, ontstaat er innovatie die mensen niet irriteert en hen niet wegjaagt van je product," zegt Shearer.
De verantwoordelijkheden van een data-ethicus mogen niet worden gecombineerd met andere functies die te maken hebben met dataverwerking, zoals een data-wetenschapper, omdat dit tot belangenconflicten kan leiden. Ideaal gezien moet het een exclusieve rol zijn, zodat er duidelijke lijnen van verantwoordelijkheid bestaan.
Data-ethicus is een multidisciplinaire functie
Een data-ethicus is – per definitie – een multidisciplinaire functie. Het is essentieel dat data-ethici uitstekende communicatieve vaardigheden hebben, omdat ze projecten moeten beheren, tegenstrijdige belangen moeten onderhandelen en kortetermijnvoordelen moeten afwegen tegen langetermijnwinsten. Daarnaast moeten ze in staat zijn om grote datasets te evalueren en de sociale implicaties van dataverwerking te begrijpen.
Data-ethici hebben vaak een achtergrond in sociologie, economie of politieke wetenschappen, maar dit is niet exclusief. Ze moeten ook kennis hebben van informatica, inclusief opkomende technologieën zoals generatieve AI, de data die wordt gebruikt om AI te trainen, en een sterke kennis van statistiek. Het vermogen om machine learning te gebruiken voor data-analyse is eveneens een kernvereiste.
De vraag naar data-ethici zal blijven groeien, vooral nu meer AI-systemen worden ingezet
Na de data-ethicus ook de AI-ethicus
De vraag naar data-ethici zal blijven groeien, vooral nu meer AI-systemen worden ingezet. Data die verantwoord wordt verzameld en aantoonbaar vrij is van bias, zal een waardevol goed worden. AI-ethici zijn al een groeiende rol voor ontwikkelaars. Voor kleinere organisaties is het wellicht mogelijk om de verantwoordelijkheden van een data-ethicus en een AI-ethicus te combineren, maar grotere organisaties zullen de rollen waarschijnlijk gescheiden houden, om de hierboven genoemde redenen.
,,Data-ethici zullen steeds belangrijker worden," zegt Pistilli. ,,De toenemende privacywetgeving en de groeiende publieke bewustwording van kwesties rond data-ethiek zullen de vraag naar deze expertise stimuleren."
Lees ook: Amazon-CTO Werner Vogels: 'Lokale, open data transformeert crisisbeheer'
Bron: Peter Ray Allison (ITPro)
In onze wekelijkse nieuwsbrief vind je het beste van BusinessWise die week. Abonneer je gratis en blijf altijd op de hoogte!
