De ontwikkeling van artificiële intelligentie gaat zo snel dat zelfs de mensen die de technologie bouwen inmiddels op de rem willen gaan staan. Alleen is er één klein probleem: niemand wil als eerste remmen. AI-bedrijf Anthropic waarschuwt al langer voor de risico’s van almaar krachtigere modellen, maar overweegt ondertussen zelf een nieuw model versneld uit te brengen. De concurrentie rijdt namelijk gewoon door.
Stel je een Formule 1-race voor waarin alle coureurs het erover eens zijn dat 300 kilometer per uur eigenlijk onverantwoord snel is. Ze bespreken uitvoerig de gevaren, stellen voor om gezamenlijk wat gas terug te nemen en wijzen erop dat een ongeluk bijzonder vervelende gevolgen kan hebben.
Vervolgens kijkt iemand in zijn achteruitkijkspiegel, ziet een concurrent dichterbij komen en trapt het gaspedaal opnieuw volledig in. Welkom in de AI-industrie van 2026.
Anthropic, het Amerikaanse bedrijf achter Claude, overweegt volgens Reuters om sneller dan voorzien een nieuw en krachtiger AI-model uit te brengen. De reden is niet dat de wereld plots dringend behoefte heeft aan nóg meer kunstmatige intelligentie, maar vooral dat concurrent OpenAI onlangs GPT-6 Astra lanceerde en daarmee snel terrein wint bij zakelijke gebruikers. Anthropic heeft nog geen definitieve beslissing over de release genomen en het nieuwe model wordt momenteel ook op veiligheid getest.
Op zichzelf is daar weinig vreemds aan. Technologiebedrijven proberen elkaar al decennia te overtreffen. Apple wacht ook niet met een nieuwe iPhone omdat Samsung misschien een drukke maand achter de rug heeft.
Alleen heeft Anthropic een bijzonder interessant probleem: topman Dario Amodei behoort tegelijkertijd tot de mensen die het hardst waarschuwen dat de AI-race misschien wat minder hard moet gaan.
Misschien toch even op de rem
Amodei waarschuwt al jaren voor de mogelijke gevaren van zeer krachtige AI. Anthropic verwacht bovendien dat systemen die op veel gebieden even goed of beter presteren dan menselijke topexperts al eind 2026 of in 2027 kunnen verschijnen. Het bedrijf spreekt daarbij zelfs over iets wat uiteindelijk zou kunnen lijken op een heel ‘land van genieën in een datacenter’.
Dat klinkt geweldig wanneer je een moeilijke Excel-tabel moet oplossen. Iets minder geweldig wanneer dat land van genieën besluit dingen te doen die de menselijke toezichthouder niet helemaal had voorzien.
Anthropic onderzoekt daarom onder meer hoeveel van het ontwikkelen van nieuwe AI inmiddels door AI zélf wordt uitgevoerd, hoe goed menselijke onderzoekers de acties van autonome AI-agenten nog kunnen controleren en hoeveel rekenkracht naar steeds krachtigere systemen gaat. Het bedrijf zegt expliciet dat zulke cijfers belangrijk worden wanneer de samenleving zou besluiten de ontwikkeling van de krachtigste modellen te vertragen.
Amodei heeft daarbij gepleit voor een gecoördineerde vertraging van de ontwikkeling van de krachtigste AI. Dat laatste woord is cruciaal: gecoördineerd.
Want Anthropic zegt zelf dat het bereid zou zijn te vertragen of tijdelijk te pauzeren wanneer andere ontwikkelaars aan de AI-frontlinie hetzelfde doen én controleerbaar is dat iedereen zich aan de afspraak houdt. En precies daar begint het probleem.
Jij eerst
Stel dat Anthropic morgen zegt: “Prima jongens, veiligheid voor alles. Wij bouwen zes maanden geen krachtiger model.” OpenAI zegt vervolgens: “Wat verantwoordelijk van jullie.” Google zegt: “Chapeau.” Meta stuurt misschien zelfs een hartje. En vervolgens bouwen ze allemaal zes maanden verder.
Dat scenario is natuurlijk gechargeerd, maar het probleem erachter is precies wat Anthropic zelf beschrijft. AI-modellen ontwikkelen is veel moeilijker te controleren dan bijvoorbeeld het bouwen van kernwapens. Een raketsilo kun je vanuit een satelliet bekijken; een geheime trainingsrun in een datacenter is een stuk lastiger te ontdekken. Bovendien is de verleiding enorm: wie als enige doorwerkt terwijl de rest pauzeert, kan plots een gigantische technologische voorsprong krijgen.
Het resultaat is een merkwaardige situatie waarin verschillende AI-bazen waarschuwen dat de technologie misschien te snel vooruitgaat, terwijl hun bedrijven tegelijkertijd miljarden uitgeven om vooral niet achterop te raken.
Reuters meldde deze week zelfs dat zowel Amodei als OpenAI-topman Sam Altman hebben gepleit voor een vertraging. Niemand wil kennelijk tegen de muur rijden. Maar niemand wil als eerste zijn voet van het gaspedaal halen.
En dan kwam GPT-6 Astra
Dat dilemma wordt nu bijzonder zichtbaar bij Anthropic. Het bedrijf heeft de voorbije jaren een sterke positie opgebouwd bij zakelijke gebruikers, maar volgens Reuters zorgt de snelle opmars van OpenAI's GPT-6 Astra voor nervositeit bij investeerders. Anthropic blijft financieel bijzonder groot, maar de strijd om bedrijven die honderden miljoenen aan AI uitgeven is hevig. En dus ligt er opnieuw een krachtiger Anthropic-model op tafel.
Daarbij moet wel een belangrijke nuance worden gemaakt: er is voorlopig geen aanwijzing dat Anthropic zijn veiligheidscontroles zomaar overboord gooit. Volgens Reuters wordt het model juist getest op veiligheidsrisico's en staat nog niet vast wanneer of zelfs óf het versneld wordt uitgebracht.
Het verhaal is dus niet: “AI-bedrijf waarschuwt voor gevaar en lanceert morgen roekeloos een monster.” Het interessante verhaal is veel menselijker.
Anthropic kan werkelijk geloven dat vertragen verstandig is en tegelijkertijd concluderen dat het bedrijf dat onmogelijk in zijn eentje kan doen. Want zolang OpenAI, Google, Meta en andere spelers verdergaan, betekent een eenzijdige pauze vooral dat je concurrenten meer tijd krijgen om je voorbij te steken.
Veiligheid ontmoet kapitalisme. En kapitalisme heeft doorgaans een vrij stevig gaspedaal.
AI helpt ondertussen ook AI bouwen
Wat de discussie extra interessant maakt, is dat AI niet langer uitsluitend het eindproduct is. De technologie wordt ook steeds meer gebruikt bij het maken van de volgende generatie AI.
Anthropic onderzoekt daarom expliciet welk deel van zijn eigen onderzoeks- en ontwikkelingswerk inmiddels door AI wordt uitgevoerd. Hoe beter modellen worden in programmeren, onderzoek en het oplossen van technische problemen, hoe sneller ze onderzoekers kunnen helpen om nóg betere modellen te bouwen.
Je krijgt dan een bijzondere technologische lus: mensen bouwen AI, AI helpt mensen betere AI te bouwen en die betere AI kan vervolgens nog beter helpen bij het bouwen van de volgende AI.
Vroeger noemden we dat vooruitgang. Tegenwoordig voegen we er voor de zekerheid ook een veiligheidscommissie aan toe.
Iedereen wil dezelfde rem, maar niemand wil hem alleen intrappen
En misschien is dát uiteindelijk het interessantste aan deze hele discussie. Het probleem is niet noodzakelijk dat AI-bedrijven liegen wanneer ze zeggen dat ze bezorgd zijn over veiligheid. De economische prikkels duwen simpelweg in de tegenovergestelde richting.
Een bedrijf dat vrijwillig een jaar stopt met ontwikkelen terwijl zijn concurrenten doorgaan, wordt misschien geprezen op conferenties over verantwoorde technologie. Zijn aandeelhouders zullen vermoedelijk iets minder enthousiast applaudisseren.
Daarom wil Anthropic afspraken waarbij meerdere grote ontwikkelaars tegelijkertijd vertragen en waarbij gecontroleerd kan worden of iedereen dat ook daadwerkelijk doet. Het bedrijf erkent zelf dat zo'n systeem bijzonder moeilijk op te zetten is.
Tot die tijd blijft de AI-race dus een merkwaardig spektakel. De mensen achter het stuur waarschuwen dat de auto's steeds sneller worden. Ze vertellen ons dat de remmen belangrijk zijn. Ze organiseren vergaderingen over verkeersveiligheid en denken na over een gezamenlijke maximumsnelheid.
En zodra de vergadering voorbij is, kijkt iedereen even naar de wagen naast zich. Groen licht.
