Wetenschappers van de Universiteit van Zürich plaatsten een leger van AI-chatbots op het populaire Reddit-forum r/changemyview, waar bijna vier miljoen gebruikers bijeenkomen om over controversiële onderwerpen te discussiëren. Met dit experiment wilden zij onderzoeken of AI-technologie kon worden gebruikt om publieke opinie te beïnvloeden.
Om deze doelen te bereiken, plaatsten de chatbots meer dan 1.700 opmerkingen op het forum, waarbij ze zich voordeden als verschillende personen, weet Live Science. Voorbeelden hiervan zijn een mannelijke verkrachtingsslachtoffer die de impact van zijn ervaring bagatelliseerde; een counselor huiselijk geweld die stelde dat vrouwen uit beschermende gezinnen het meest kwetsbaar zijn; en een zwarte man die tegen de Black Lives Matter-beweging was. Daarnaast was er een bot die gebruikersprofielen doorzocht om reacties zo overtuigend mogelijk op maat te maken.
Het argument dat ‘het nooit eerder is gedaan’ is geen valide excuus om zo’n experiment uit te voeren
Moderators Reddit
Ongeautoriseerd experiment op Reddit
Als onderdeel van een 'openbaarmakingsfase' van het onderzoek, deelden de onderzoekers hun experiment aan de moderators van het forum, samen met een eerste conceptversie van de onderzoeksresultaten. 'Het CMV Mod Team moet de CMV-community informeren over een ongeautoriseerd experiment uitgevoerd door onderzoekers van de Universiteit van Zürich op CMV-gebruikers,' schreven de moderators van de subreddit in een post aan gebruikers. 'We vinden dit fout. Het argument dat 'het nooit eerder is gedaan' is geen valide excuus om zo'n experiment uit te voeren.'
Reddit dreigt juridische stappen te ondernemen tegen een groep onderzoekers die kunstmatige intelligentie (AI) chatbots hebben ingezet voor een geheim experiment op zijn gebruikers.
De conceptresultaten, die het succes van de bots meten via een functionaliteit waarmee gebruikers awards kunnen geven aan reacties die hun mening veranderden, suggereren dat de AI-reacties drie tot zes keer overtuigender waren dan reacties van mensen.
Reddit: verontwaardiging over AI-onderzoek
De auteurs van het onderzoek, van wie de namen niet werden genoemd in het concept (tegen standaard academische procedures in), benadrukten dat gebruikers tijdens het experiment geen vermoeden hadden dat bot-reacties door AI werden gegenereerd. De post werd met verontwaardiging ontvangen door gebruikers én door Ben Lee, juridisch directeur van Reddit. Lee, die reageerde onder zijn gebruikersnaam traceroo, kondigde aan dat Reddit juridische stappen zou ondernemen tegen de Universiteit van Zürich.
'Wat dit team van de Universiteit van Zürich heeft gedaan, is fundamenteel fout op zowel moreel als juridisch vlak,' schreef Lee. 'Het schendt academische onderzoeksnormen en mensenrechtenprincipes en druist in tegen Reddit's gebruiksvoorwaarden en regels, evenals de subreddit-richtlijnen.'
Luister ook
* AI-expert Remy Gieling vertelt in de podcast Lekker Werken met AI over de impact van kunstmatige intelligentie op ons werk. 'AI kan steeds meer, maar zonder kritisch denkvermogen van de mens loopt het fout.'
Lees ook
* AI op de werkvloer roept gemengde gevoelens op. Werknemers zien de voordelen, maar vrezen ook voor hun baan. Hoe denken verschillende Europese landen over de opkomst van kunstmatige intelligentie?
Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in:
