AI vertragen werkt alleen als iedereen meedoet

Meer dan 1.100 medewerkers van onder meer Anthropic, OpenAI, Google DeepMind en Meta hebben de verklaring Pacing the Frontier ondertekend. Hun zorg verdient serieuze aandacht. AI kan wetenschap, zorg, onderwijs en productiviteit enorm vooruithelpen. Dezelfde kracht kan ook cyberaanvallen versnellen, machtsconcentratie vergroten en systemen bouwen die we onvoldoende begrijpen of beheersen.

Geen simpele oproep tot een pauze

De verklaring wordt vaak samengevat als een oproep om AI te stoppen. Dat is niet helemaal juist. De ondertekenaars vragen de Amerikaanse overheid om een internationale inspanning te steunen die technische en bestuurlijke middelen ontwikkelt waarmee de vooruitgang van frontier-AI bewust kan worden vertraagd wanneer dat nodig blijkt.

Dat is verstandiger dan blind doorgaan. Toch zit het moeilijkste probleem precies in het woord internationaal.

Eenzijdig vertragen vergroot het risico

Een rem werkt alleen als alle belangrijke spelers controleerbaar meedoen. Wanneer Amerikaanse en Europese bedrijven vertragen, terwijl labs in China of andere landen doorgaan, verdwijnt de ontwikkeling niet. De voorsprong verschuift dan naar partijen waarop minder toezicht, openheid en democratische controle bestaat. De krachtigste en minst gereguleerde modellen kunnen daardoor juist belangrijker en breder gebruikt worden.

Dat zou het tegenovergestelde bereiken van wat de verklaring beoogt. Alleen de relatief beter controleerbare partijen afremmen maakt de wereld niet automatisch veiliger.

Ook het Westen verdient geen blind vertrouwen

Dit is geen simpel verhaal van een goed Westen tegenover een slecht China. China is een autocratische staat, maar ook in de Verenigde Staten concentreren overheden en technologiebedrijven enorme macht. Politieke druk op onafhankelijke instituties en de nauwe relatie tussen overheid, defensie en AI-bedrijven zijn redenen om ook daar kritisch te blijven.

Veiligheid mag daarom niet afhankelijk zijn van vertrouwen in één land, regering of bedrijf. Afspraken moeten toetsbaar zijn, onafhankelijk worden gecontroleerd en gelden voor iedereen die modellen boven afgesproken risicodrempels ontwikkelt.

Weerbaarheid naast regulering

AI verdwijnt niet. Daarom hebben we naast internationale afspraken ook infrastructuur nodig die bestand is tegen veel krachtigere AI. Denk aan betere digitale authenticatie, herkomstcontrole van informatie, onafhankelijke modelevaluaties, verplichte incidentmelding, sterke cyberbeveiliging, menselijke noodprocedures en systemen die blijven functioneren wanneer AI wordt misbruikt of uitvalt.

De bedrijven die deze technologie bouwen hebben kennis die hiervoor onmisbaar is. Zij zouden niet alleen om een rem moeten vragen, maar ook actief moeten helpen onze publieke en digitale infrastructuur structureel AI-bestendig te maken.

Ons standpunt

Wij begrijpen de wens om tijd te kopen. Misschien wordt vertragen noodzakelijk. Maar zonder een controleerbaar wereldwijd mechanisme is een regionale pauze geen oplossing. Dan geven we terrein prijs aan de minst transparante spelers en wordt de AI-wedloop mogelijk gevaarlijker, niet veiliger.

Een eenvoudig antwoord hebben wij niet. Niemand heeft dat. Juist daarom moeten veiligheid, internationale samenwerking en maatschappelijke weerbaarheid nu even serieus worden ontwikkeld als de modellen zelf.

Bronnen: Trending Topics, Pacing the Frontier, Anthropic Frontier Safety Roadmap en Bank of England over frontier-AI en weerbaarheid.