Ik heb maar één vraag: wie verdient eraan als we allemaal op de rem trappen?
Terwijl AI-doomers onzin uitkramen over het einde van de wereld, wordt de markt verdeeld onder de grote jongens. Musk, Altman en Amodei willen de AI-race vertragen. Prima. BusinessWise legde eerder al uit waarom.
Het klinkt verantwoord, dat blokkeren van gevaarlijke modellen. Onafhankelijke beoordelingen verplichten. Zware beveiligingseisen opleggen. Maar heel toevallig past het precies in het straatje van de grootste AI-spelers. Die zijn allemaal gesloten/proprietary.
Want het echte gevecht gaat over open-weights AI modellen: modellen waarvan de gewichten vrij beschikbaar zijn en die iedereen zelfstandig kan draaien, aanpassen en kopiëren. De beste komen uit China en lopen nog een paar jaar achter - volgens henzelf.
Wat is p-doom?
Dit staat voor probability of doom en verwijst naar het risico dat AI leidt tot de vernietiging van de mensheid.
De term komt uit de AI-veiligheidscommunity en wordt gebruikt om over existentiële risico’s te spreken: scenario’s waarin AI zó krachtig of autonoom wordt dat het de menselijke controle overstijgt.
Een gesloten model blijft als klitteband aan je plakken. Gebruik monitoren. Filters aanpassen. Desnoods de stekker eruit. Een open-weight-AI-model kun je na publicatie niet meer terugroepen. Gisteren online, morgen op duizenden servers wereldwijd.
Hoe strenger de regels, hoe groter het voordeel voor gesloten modellen. Anthropic zegt open-weights niet te willen verbieden. Veilige open modellen: een publiek goed.
Prima. Maar zodra een model ‘voldoende krachtig’ wordt, begint het feest. Dan komen er audits en regels waarin de grote spelers al miljarden investeren. Voor Anthropic is dat een schijntje, maar voor een open-weight-speler kan dit het businessmodel onmogelijk maken.
David Sacks heeft het over regulatory capture door angst. Jason Calacanis vraagt of de grote spelers hun eigen slotgracht graven. Waarschijnlijk allebei en dat maakt het juist zo effectief.
Als een brandblusserfabrikant voorspelt dat je huis misschien ooit afbrandt, is dat prima. Maar als diezelfde partij bepaalt welke brandblussers wettelijk verplicht worden, zijn we in de aap gelogeerd. Je hoeft een gevaar niet te verzinnen om eraan te verdienen. Je hoeft alleen veiligheidsregels te steunen die jouw model kan naleven en het model van je uitdager niet.
Het grootste alignmentprobleem van AI zit niet in de machine. Het zit tussen angst en eigenbelang. Had ik al vermeld dat er beursgangen van biljoenen aan zitten te komen?
P-doom is geen waarschuwing, maar een mooi businessmodel.
Wibe Wagemans is pionier, serial entrepreneur en ceo in Silicon Valley. Als eerste ter wereld bouwde hij een AI-bot en een online videogame op mobiel. Samen met journalist Eva Schram schreef hij het boek Het geheim van Silicon Valley, vol lessen voor Nederlandse ondernemers.
Voor BusinessWise schrijft hij expertblogs en maakte met Gerben van Driel de podcastserie Even bellen met Silicon Valley.
Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in en maak kans op een mini-robot, Microduck!
