‘We moeten het tempo waarin we de capaciteiten verbeteren vertragen. De vooruitgang zal nog steeds snel lijken, en we moeten verstandig omgaan met de tijd die we daarmee winnen,’ schrijft Dario Amodei in een essay (We Must Pace the Frontier).
Twee onderzoekers van Anthropic waarschuwden recent voor de gevaren van AI, na meerdere incidenten waarbij AI-agenten op eigen houtje externe systemen hackten. Verschillende AI-veiligheidsonderzoekers verlieten hun bedrijf uit zorg over de risico's van de technologie.
‘Vertragen betekent niet: stopzetten’
„Voor de duidelijkheid: vertragen betekent niet dat de training van modellen of de technische vooruitgang moet worden stopgezet, maar dat bedrijven voldoende tijd moeten nemen om hun modellen af te stemmen en te beveiligen, en dat externe beoordelaars dit kunnen bevestigen”, benadrukt Amodei.
Volgens Amodei is vertraging vooral belangrijk om de risico’s te beheersen, onder meer omdat AI steeds beter in staat is zichzelf te verbeteren. „Als dit ongecontroleerd zijn gang kan gaan, zou de ontwikkeling ervan ons vermogen om deze systemen te begrijpen en te beheersen kunnen overstijgen”.
Elon Musk: ‘Dario heeft gelijk’
Topman Sam Altman van ChatGPT-maker OpenAI reageert instemmend op de oproep van Amodei. ‘Ik ben het met Dario eens,’ schrijft Altman op X. Volgens de topman zal zijn bedrijf het voorbeeld van Amodei volgen door externe veiligheidsbeoordelaars toe te laten.
Ook Elon Musk, eigenaar van xAI, laat via X weten het met de oproep eens te zijn. ‘Dario heeft gelijk’, schrijft hij.
Daniela Amodei deelde de oproep op LinkedIn, waar die binnen enkele uren meer dan 350 uiteenlopende reacties kreeg.
Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in en maak kans op een mini-robot, Microduck!
