In een verklaring pleiten de meer dan duizend prominenten ervoor een dergelijke super-AI pas te ontwikkelen als er 'brede wetenschappelijke consensus is dat dit veilig en controleerbaar kan worden gedaan' én als er 'stevige publieke steun' voor is.
Onder de ondertekenaars zijn Nobelprijswinnaar en AI-pionier Geoffrey Hinton, Apple-oprichter Steve Wozniak en Virgin-topman Richard Branson. Ook acteur/schrijver Stephen Fry, prins Harry en voormalig Trump-adviseur Steve Bannon hebben getekend.
Lees ook - Dit zijn de 100 meest invloedrijke mensen in AI
Een aantal van hen waarschuwt in een persoonlijke noot voor een onbeheersbare vorm van kunstmatige superintelligentie. „Dit is geen moratorium in de gebruikelijke zin van het woord. Het is een voorstel om adequate maatregelen in te stellen voor een technologie die, volgens haar ontwikkelaars, een grote kans heeft het uitsterven van de mensheid te veroorzaken", zegt Berkeley-professor Stuart Russell.
De motivatie van de Nederlandse ondertekenaar Bob Duin
Bob Duin, oud-universitair hoofddocent bij TU Delft is een van de 1000 ondertekenaars van de petitie. 'Het is goed dat techniek mensen inspireert, schrijft hij in een reactie aan BusinessWise.
'Enthousiasme is wat de samenleving nodig heeft. AI heeft echter in de laatste vijf jaar een gevaarlijke vlucht genomen. Mogelijkheden en consequenties zijn nog niet te overzien. Bezinning is hard nodig.'
'De eerste brief van bezorgde onderzoekers werd mede ondertekend door Musk, en oorspronkelijk ook door Altman. Beide zijn bezweken voor het grote geld en zijn nu aanjagers. Een van de founding fathers, Hinton, Nobel-prijswinnaar voor juist het doorslaggevende onderzoek, is nog steeds zeer huiverig voor de consequenties.'
'Superintelligentie is een fata morgana. Het bestaat als illusie en voert ons weg van waar het eigenlijk om gaat: de ontwikkeling van het begrip van het menselijk bewustzijn en de verdere ontwikkeling daarvan, zie bijvoorbeeld het recente boek van Faggin, de uitvinder van de microchip: Irreducible: Consciousness, life, computers, and human nature (2023). Hij is ook iemand als Hinton, die schrikt van de consequenties van waaraan hij heeft gewerkt. Dat geldt ook voor mij, hoewel ik mij als onderzoeker op geen enkele wijze wil vergelijken met Hinton en Faggin.'
Even bellen met Silicon Valley
'De belofte van superintelligence gaat voorlopig nog niet waargemaakt worden', stelde Wibe Wagemans eerder deze week in Even bellen met Silicon Valley. Wagemans is CEO/boardmember en investeerder in de Valley, sprak er met Gerben van Driel over in de podcast, hieronder te beluisteren:
Ontvang elke week het beste van BusinessWise in je mailbox, ook over technologie, ook over AI. Schrijf je hier nu gratis in:
