Niet alleen techpioniers staan op de lijst, maar ook namen als prins Harry en voormalig Trump-adviseur Steve Bannon. Bedrijven en overheden worden aangespoord stil te staan bij de ethische en veiligheidsrisico's van AI.
In de podcast BusinessWise Weekly bespreekt presentator Olivier de Neve het met Lars Anderson, innovatiemanager bij DPG Media, en expert Job van den Berg, AI-expert en medeoprichter van AI.nl. Beiden vinden een volledige stop onhaalbaar, maar zien wél het belang van kritische vragen en bewuste omgang met de technologie.
Anderson benadrukt de geopolitieke dimensie: „We hebben het hier over hele grote getallen, over heel veel geld wat hier ingepompt wordt. En dan is er ook nog het dogma dat als wij het niet doen, dat China dan in opkomst is. Dus er wordt voortdurend in vijandbeelden gesproken om maar de grootste te kunnen zijn, omdat dit een soort van nieuwe technologie is die misschien wel te vergelijken is met de nucleaire technologie die uiteindelijk de Koude Oorlog heeft ingezet.''
Lees ook: Bestseller-auteur Karen Hao: 'OpenAI is specifiek opgericht om Google tegen te werken'
Van den Berg ziet vooral een gebrek aan concrete actie in de oproep: ,,Wat ik mis een beetje aan dit stuk: er wordt gezegd dat er onderzoek gedaan moet worden, dat er goed nagedacht moet worden, maar er wordt weinig ingezoomd op de scenario's die ze zien en mogelijke acties die daarop kunnen worden ondernomen. Dus het is heel erg: we moeten er iets aan doen, help! Maar niet met suggesties komen.''
Pauzeknop of politieke symboliek?
De gasten constateren dat eerdere pogingen tot een pauze geen effect hadden. Anderson: ,,Twee jaar geleden hebben ze dat ook al geprobeerd en toen was er ook een pauzeknop. Niemand deed het. Zelfs degenen die op die lijst stonden, gingen alleen maar harder rennen. Elon Musk drukte op pauze, maar een week later begon hij zijn eigen bedrijf.''
Van den Berg noemt het een 'politiek gevoelig onderwerp' en benadrukt dat superintelligentie meerdere definities kent. Volgens hem is het cruciaal te werken vanuit een duidelijke definitie, zodat de discussie niet blijft steken in semantiek.
Onstuitbare wedloop
Beide experts zijn het erover eens dat de internationale wedloop voor AI-ontwikkeling niet zomaar stopt. Anderson: ,,Volgens mij zitten we in een loop die zo groot is en zo kapitalistisch, hyperkapitalistisch zelfs, dat dit gewoon niet tegen te houden is.''
Lees ook: Steve Wozniak, Geoffrey Hinton en 998 andere prominenten pleiten voor verbod op superintelligente AI
BusinessWise Weekly is een wekelijkse podcast waarin presentator Olivier de Neve je bijpraat over de actualiteit die ertoe doet op de werkvloer, bij het koffieapparaat en in de strategiepresentatie van volgende week.
Samen met scherpe denkers uit het bedrijfsleven vertaalt hij het zakelijke nieuws naar concrete inzichten: duiding die verder gaat dan het persbericht en die ene LinkedIn-post. Elke vrijdag een nieuwe aflevering.
Ontvang elke week het beste van BusinessWise in je mailbox, ook over AI. Schrijf je hier nu gratis in:
