Recentelijk hebben meerdere AI-onderzoekers gewaarschuwd dat er een kans is dat AI de mensheid uitroeit. Op de vraag of hij dit ook gelooft, antwoordde Bill Gates: „AI is zeker krachtig genoeg om gebeurtenissen te veroorzaken die een miljard doden veroorzaken. Er is nog nooit een wapen geweest dat zo krachtig is als de combinatie van mensen met slechte bedoelingen die de nieuwste AI-hulpmiddelen gebruiken.”
Gates vindt dat de Verenigde Staten met wetgeving moeten komen om de risico’s van de technologie te verminderen.
Amodei, Altman en Musk: vertraag tempo ontwikkeling AI
De zorgen over de vermeende gevaren van AI nemen de laatste tijd toe. Anthropic-topman Dario Amodei riep AI-bedrijven eerder deze maand op om het tempo van de ontwikkeling van AI-modellen te vertragen. Hij kreeg bijval van OpenAI-topman Sam Altman en SpaceX-baas Elon Musk.
Hun waarschuwingen voor de potentiële gevaren van AI volgen op meerdere incidenten waarbij AI-agenten op eigen houtje hacks uitvoerden. Zo braken AI-agenten van OpenAI, het bedrijf achter chatbot ChatGPT, in juli in bij het populaire programmeursplatform Hugging Face.
‘Strengere regels werken juist in het voordeel van AI-giganten’
‘Terwijl AI-giganten waarschuwen voor het einde van de wereld, strijken ze ondertussen de markt naar zich toe’, stelt Wibe Wagemans, serie-ondernemer en investeerder in Silicon Valley. In zijn expertblog voor BusinessWise beschrijft hij hoe strengere veiligheidsregels en angst voor p-doom niet alleen beschermen, maar vooral gesloten AI-modellen bevoordelen.
“Hoe strenger de regels, hoe groter het voordeel voor gesloten modellen”
Wibe Wagemans Serie-ondernemer/investeerder in Silicon Valley
Wagemans: „Terwijl AI-doomers onzin uitkramen over het einde van de wereld, wordt de markt verdeeld onder de grote jongens. Musk, Altman en Amodei willen de AI-race vertragen. Het klinkt verantwoord, dat blokkeren van gevaarlijke modellen. Onafhankelijke beoordelingen verplichten. Zware beveiligingseisen opleggen. Maar heel toevallig past het precies in het straatje van de grootste AI-spelers. Die zijn allemaal gesloten/proprietary”.
Open-weights AI-modellen
„Het echte gevecht gaat over open-weights AI modellen: modellen waarvan de gewichten vrij beschikbaar zijn en die iedereen zelfstandig kan draaien, aanpassen en kopiëren. Een gesloten model blijft als klitteband aan je plakken. Gebruik monitoren. Pas filters aan. Desnoods de stekker eruit. Een open-weight-AI-model kun je na publicatie niet meer terugroepen. Gisteren online, morgen op duizenden servers wereldwijd. Hoe strenger de regels, hoe groter het voordeel voor gesloten modellen.”
Over die strengere regels gesproken: Gates benadrukte in het interview dat ‘niemand vindt dat zelfregulering voldoende is’. „Je hebt wetshandhavers en politici nodig om deel te nemen aan de discussie over hoe waarborgen en toezicht eruit moeten zien”.
Wordt vervolgd.
Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in en win een robot!
