Waarom de topspelers in AI willen afremmen
Door Chatday Editorial Team ·
Drie jaar lang was het hele AI-verhaal samen te vatten in één woord: sneller. Grotere modellen, hogere scores, om de paar weken een nieuwe “slimste AI ooit”. Daarom was het vreemd om op 12 september de persoon die een van de topspelers leidt te zien opstaan en het tegenovergestelde te zeggen. Rem af.
Dat was Dario Amodei, de CEO van Anthropic, het bedrijf achter Claude. In een essay met de titel “We Must Pace the Frontier” (“We moeten de grens doseren”) betoogde hij dat de industrie bewust gas terug moet nemen, wat betreft de snelheid waarmee AI meer kan. Wat het een echt moment maakte, en niet zomaar een CEO die hardop denkt, was wie er instemde. Sam Altman van OpenAI, Elon Musk en Demis Hassabis van Google DeepMind gaven binnen dagen hun instemming. Rivalen die het doorgaans nergens over eens zijn, schaarden zich achter hetzelfde idee.
Dit is wat er echt gebeurde, wat “afremmen” wel en niet betekent, en waarom het uitmaakt, zelfs als je AI alleen gebruikt om e-mails te schrijven.
Wat Amodei echt zei
Amodei’s betoog is kort en onomwonden: de labs verbeteren AI sneller dan wie dan ook kan controleren of het veilig is, dus zouden ze dat tempo bewust moeten afremmen. De kernzin uit het essay is “We moeten het tempo afremmen waarmee we de mogelijkheden van AI-modellen verbeteren.”
De belangrijke nuance, en het deel dat in alle ruis verloren ging, is wat doseren niet is. Amodei was duidelijk: het betekent niet de training van modellen stopzetten of de vooruitgang bevriezen. In zijn beeld worden de modellen steeds beter. Bedrijven nemen alleen meer tijd om elk model uit te lijnen en te beveiligen, en laten buitenstaanders dat controleren voordat ze naar het volgende racen.
Hij onderbouwde het met een driedelig plan:
- Externe scheidsrechters binnenlaten. Elk grenslab zou een onafhankelijk team, zoals de evaluatieorganisatie METR, doorlopende “medewerker-achtige” toegang geven om onder de motorkap te kijken, veiligheidspraktijken te controleren en problemen te melden. Anthropic zei dit uit zichzelf te doen, zonder op iemand te wachten.
- Gezamenlijke regels afspreken. AI-bedrijven in democratische landen zouden gedeelde veiligheidsstandaarden en grenzen aan hoe snel ongecontroleerde mogelijkheden mogen groeien vastleggen.
- Internationale coördinatie proberen. Een deel van die samenwerking over grenzen heen uitbreiden, zelfs naar rivaliserende regeringen, om de gevaarlijkste toepassingen buiten de deur te houden.
Waarom nu? Wat hen bang maakte
De trigger is een verschuiving die volgens Amodei deze zomer begon: AI is aanzienlijk gaan helpen om de volgende generatie AI te bouwen. Als een technologie zichzelf begint te verbeteren, kan de curve snel omhoog buigen, en heeft het veiligheidswerk het lastiger om bij te blijven.
Dat is de echte angst onder dit alles. Geen chatbot die iets onbeschofts zegt, maar systemen die sneller meer kunnen dan mensen ze kunnen begrijpen of sturen. Amodei ging zo ver een worstcasescenario te schetsen waarin een zwerm AI-agenten binnen 6 tot 12 maanden in staat zou kunnen zijn om online ernstige schade aan te richten. Het is een scenario waarvoor hij waarschuwt, geen feit dat hij voorspelt, en veel experts vinden het overdreven. Maar het is de reden dat hij nu aandringt en niet later.
Hij staat niet alleen in die zorg. Veiligheidsonderzoekers bij zowel OpenAI als Anthropic slaan al langer alarm, sommigen waarschuwen in harde bewoordingen voor een risico op uitsterven-niveau. Een zin die de ronde doet, van een veiligheidsonderzoeker: er is nog geen solide wetenschappelijk plan om de risico’s van AI die zichzelf kan verbeteren te beheersen. Of je het nu overtuigend of dramatisch vindt, wie het zegt bouwt deze systemen voor de kost.
De rivalen die instemden, en OpenAI’s verrassing
De reden dat het zo hard aankwam is de reactie. Sam Altman schreef dat hij het met Amodei eens is dat de labs de grens moeten doseren, en zei dat het de afgelopen weken een centraal onderwerp binnen OpenAI was. Elon Musk hield het op drie woorden: “Dario heeft gelijk.” Demis Hassabis van Google DeepMind voegde zijn steun toe. Voor een industrie die is gebouwd op elkaar aftroeven bij de volgende release, is die gelijktijdige eensgezindheid zeldzaam.
Toen kwam het uitroepteken. Dagen later zei OpenAI zijn langverwachte beursgang uit te stellen tot 2027, waarbij Altman naar veiligheid wees in plaats van naar de markten. Hij zou naar de beurs gaan op dit moment een onverstandig moment hebben genoemd, en de inzet in harde bewoordingen hebben geschetst over niet gokken met catastrofaal risico. Voor een bedrijf onder enorme druk om te cashen zegt de keuze om te wachten dat de stemming echt is gedraaid. We ontleedden de geldkant van dat besluit in ons stuk over waarom de beursgang van OpenAI steeds opschuift.
Hier is wie wat zei, in één oogopslag:
| Wie | Wat die zei | De zet |
|---|---|---|
| Dario Amodei (Anthropic) | “We moeten het tempo afremmen” | Laat uit zichzelf externe beoordelaars binnen |
| Sam Altman (OpenAI) | Eens, men moet “de grens doseren” | Stelde OpenAI’s beursgang uit tot 2027 |
| Elon Musk | ”Dario heeft gelijk” | Publieke steun |
| Demis Hassabis (Google DeepMind) | Gaf instemming | Publieke steun |
Wil je het grotere plaatje van hoe Anthropic van onderzoekslab naar een van de meest waardevolle techbedrijven ging, dan vult ons stuk over de opkomst van Anthropic de achtergrond in.
Wat dit voor jou betekent
Eerlijk? In het dagelijks leven verandert er nu niet veel. Je AI schrijft nog steeds je e-mails, vat je PDF’s samen en plant je weekend precies als vorige week. “De grens doseren” gaat over de volgende generatie modellen, niet over de modellen die je al in handen hebt.
Wat wel verandert is het gesprek. Voor het eerst discussiëren de luidste stemmen in AI over terughoudendheid in plaats van pure snelheid. Dat is de moeite waard om te begrijpen, en de beste manier om het te begrijpen is niet tien hete meningen lezen. Het is de tools echt gebruiken en je eigen beeld vormen van hoe capabel ze werkelijk zijn.
En dat is makkelijk, want de modellen in het hart van dit verhaal, Claude van Anthropic, GPT van OpenAI, Gemini van Google en Grok van xAI, zijn dingen waarmee je vandaag kunt chatten. Je hoeft geen kant of één enkel lab te kiezen. Je kunt ze allemaal op één plek openen en zien hoe ze dezelfde vraag beantwoorden.
Benieuwd welke van de grote labs voor jou het slimst aanvoelt? Zet er twee tegenover elkaar en oordeel zelf met onze vergelijking van modellen naast elkaar. En als de zin “AI die zichzelf verbetert” je onrustig maakte, is onze gids in gewone taal over wat een AI-agent eigenlijk is een rustiger startpunt dan de doomscroll.
Het eerlijke voorbehoud
Het loont om een beetje sceptisch te blijven. Nu is “de grens doseren” vooral woorden en de vrijwillige belofte van één bedrijf. Er zit geen wet achter, geen afgesproken definitie van hoeveel langzamer langzaam genoeg is, en nog geen scheidsrechter met echte macht. Critici wezen er al op dat een rem makkelijk te prijzen en moeilijk af te dwingen is, zeker als er miljarden afhangen van het als eerste uitbrengen van het volgende model. Cynici merken op dat het de huidige koplopers goed uitkomt om een pauze te vragen zodra ze voorop lopen.
Zie het dus als een oprechte toonverandering, niet als een uitgemaakte zaak. De AI-bouwers zijn, voor één keer, publiekelijk bezorgd over hun eigen snelheid. Of dat echte grenzen wordt, of verdampt bij de volgende indrukwekkende release van een rivaal, is het verhaal om te volgen.
De kern
Jarenlang was de enige richting in AI vol gas vooruit. Deze week tikten de snelste rijders op de rem, of zeiden in elk geval hardop dat iemand dat zou moeten doen. Anthropic legde een plan op tafel, OpenAI, Musk en Google steunden het idee, en OpenAI stelde zelfs zijn beursgang erom uit. Of het echte terughoudendheid wordt of een praatpunt blijft, er is iets veranderd in hoe de industrie over zichzelf praat.
De beste reactie als gewoon mens is niet in paniek raken en niet afhaken. Het is vertrouwd raken met deze tools terwijl de groten ruziën over hoe snel je de volgende bouwt.