Een jaar lang werkte Karen Hao in Silicon Valley, om er daarna gedesillusioneerd de brui aan te geven. Het leek zo'n goed idee. Na een studie als ingenieur aan het befaamde Massachusetts Institute of Technology (MIT) wilde ze haar technische kennis inzetten in de strijd tegen klimaatverandering. De Valley leek daarvoor in 2015 de ideale plek.
„Ik leerde al snel dat Silicon Valley geen technologieën maakt in het publiek belang, maar dat het er om winst draait", zegt Hao in het AD. Ze besloot als journalist over AI te gaan schrijven en volgde ChatGPT-maker OpenAI jarenlang. In 2019 mocht ze als eerste journalist zelfs drie dagen op bezoek bij de toen nog prille startup.
Lees ook: OpenAI-medeoprichter Andrej Karpathy: 'Het duurt nog wel 10 jaar voordat AI-agents echt werken'
Commerciële groeimachine
Haar werk leidde tot het dit jaar verschenen boek Empire of AI. Hierin schetst ze een beeld van een idealistische non-profitorganisatie die uitgroeit tot een commerciële groeimachine. Het boek werd een New York Times-bestseller. Hao reist al maandenlang de wereld over voor interviews en lezingen. We spreken haar in Amsterdam, als ze er net een vliegreis vanuit haar huidige thuisstad Hongkong op heeft zitten. „De jetlag voel ik pas vanavond", lacht ze.
OpenAI ontstond in 2018. Het idee erachter, zo omschrijft Hao, was om op ethische wijze een uiterst slimme AI-vorm te ontwikkelen, die de mens voorbij streeft. Zo wilden de makers voorkomen dat kwaadwillenden deze techniek als eerste zouden ontwikkelen.
Klinkt sympathiek, maar zo waarschuwt Hao: „Al vanaf het begin was het niet zuiver idealistisch, want OpenAI is specifiek opgericht om Google tegen te werken." Het grote Google werkte al in de jaren 10 aan AI-projecten. „Ze vonden het niet leuk dat Google deze zeer invloedrijke techniek domineerde. Ze wilden zelf de controle hebben, waarmee OpenAI dus in feite een egoïstisch project was."
Wanneer merkte je dat er meer speelde dan goede intenties?
„Meteen al toen ik ze bezocht. Ze beweerden transparant te zijn, maar waren juist ongelofelijk geheimzinnig. Ze zeiden dat ze geen commerciële plannen hadden, maar door mijn verslaggeving leerde ik al snel dat ze die wel hadden.
„Ze zeiden dat ze met iedereen wilden samenwerken in het algemeen belang, maar bleken hypercompetitief. Hun hele strategie was erop gericht om geavanceerde AI-systemen als eerste te verkrijgen. Dat klonk niet idealistisch, maar gewoon weer zoals Silicon Valley."
Lees ook: OpenAI kondigt eigen browser Atlas aan
Zouden ze het wel gered hebben zonder die commerciële tak?
„Zo'n tak is nodig als je een groot bedrijf met winstoogmerk wil worden, maar niet per se als je invloed wil hebben op de ontwikkeling van AI. Er zijn andere non-profitorganisaties die zeer invloedrijk zijn geweest voor AI, zoals het Allen Institute for AI uit Seattle. Hun onderzoeken hebben het vakgebied gevormd, terwijl ze altijd zonder winstoogmerk zijn gebleven. Zoiets had OpenAI ook kunnen doen, maar ze wilden macht."
OpenAI haalde door de jaren heen miljarden op voor de prille techniek. Jij stelt dan ook: zonder OpenAI had het nooit zo'n vaart gelopen met AI. Maar Google was er toch ook mee bezig?
„Als beursgenoteerd bedrijf had Google er waarschijnlijk nooit de miljarden in geïnvesteerd die OpenAI uit de markt wist te halen. Grote AI-taalmodellen zijn zakelijk gezien nog altijd niet rendabel, dus voor Google zou het onzeker zijn of zo'n investering ooit winst oplevert.
„Google werkte vooral met AI om zijn zoekmachine te verbeteren. Ze hadden weleens geëxperimenteerd met een eigen chatbot, maar besloten die niet uit te brengen. Die voldeed niet aan hun veiligheids- en ethische standaarden. Dat alles ging overboord toen OpenAI zijn modellen uitbracht."
Is het onvermijdelijk dat AI ons ver voorbijstreeft, zoals OpenAI zegt?
„Ik geloof nooit dat iets onvermijdelijk is, want uiteindelijk draait het om menselijk handelen. Er zijn zoveel koninkrijken in de geschiedenis geweest die eeuwig leken te duren, maar toch instortten. Ik vergelijk AI daarmee, want de techniek is zo uitbuitend."
Kijk alleen maar naar hoeveel stroom en land het kost om deze ontwikkeling draaiende te houden, zegt Hao. „Er zijn zelfs plannen voor een supercomputer die zo groot is als Manhattan." Kunstenaars zijn ook de dupe, volgens Hao. „Hun intellectueel eigendom wordt afgenomen door deze bedrijven."
Kenianen waren 'menselijk schild'
Of neem de laagbetaalde werknemers uit Kenia, die OpenAI aannam om zijn modellen te trainen op gewelddadige en haatzaaiende inhoud. De chatbot leerde erdoor welke inhoud niet door de beugel kon, terwijl Kenianen soms met psychische klachten achterbleven. Hao: „Ze waren een menselijk schild."
„De meerderheid van de mensen profiteert niet voldoende om deze uitbuiting te rechtvaardigen", vindt Hao. „Deze bedrijven maken zoveel delen van de samenleving boos, waardoor ze in feite de basis leggen voor hun eigen ondergang. Er is maar zoveel dat mensen kunnen verdragen voordat ze in opstand komen. Je ziet nu al veel protest tegen bijvoorbeeld datacenters of AI in het onderwijs. "
Lees ook: 'Als OpenAI geld gaat vragen, wordt het geen Netflix-abonnementje van 10 of 20 euro per maand'
Je verwacht zelfs dat de AI-bubbel gaat barsten, begrijp ik?
„Zeker. Er zijn al honderden miljarden dollars in deze technologieën gestoken, terwijl de inkomsten ver achterblijven. Bedrijven schroeven hun AI-plannen terug, omdat de modellen erachter catastrofale fouten kunnen maken. In de zorg levert het soms verkeerde medische informatie op en voor nieuwsbedrijven leidde het tot rampzalige artikelen."
In Silicon Valley zijn er twee kampen AI-denkers, leerde Hao: de zogenoemde boomers en doomers. Boomers denken dat een superslimme AI uiteindelijk ziektes zal oplossen, het klimaatprobleem verhelpt en welvaart brengt. Doomers denken juist dat AI de mensheid uit zal roeien.
Moeten we bang zijn dat AI zich op een dag tegen ons keert?
„Nee. Die boomers en doomers zijn quasireligieuze bewegingen, want er is geen wetenschappelijk bewijs voor. In een enquête onder (475, red.) AI-onderzoekers, stelde driekwart dat we niet over de technieken beschikken om zo'n superslimme AI te ontwikkelen.
„We hoeven dus niet bang te zijn dat AI op hol slaat. We zouden ons eerder zorgen moeten maken over de macht van AI-bedrijven. Het zijn imperiums, die machtiger zijn geworden dan vrijwel ieder land."
Bron: AD
Lees ook: Steve Wozniak, Geoffrey Hinton en 998 andere prominenten pleiten voor verbod op superintelligente AI
Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in:
