Anthropic-CEO Dario Amodei pleit voor langzamere AI-ontwikkeling en externe veiligheidsaudits

Anthropic-CEO Dario Amodei heeft publiekelijk gepleit voor het vertragen van de ontwikkeling van frontier-AI en stelt voor om onafhankelijke evaluatoren zoals METR directe toegang te geven tot Anthropic's modellen om de veiligheidsbeloften van het bedrijf te verifiëren — een significante structurele concessie van het lab dat Claude bouwde.\n\n## Belangrijkste punten\n\n- Anthropic-CEO Dario Amodei publiceerde een formeel voorstel om „de frontier bij te houden" — de snelheid van AI-capaciteitsontwikkeling bij toonaangevende labs te verminderen.\n- Het plan omvat het verlenen van toegang aan derden-organisaties, met name METR, tot Anthropic's modellen om naleving van veiligheidspraktijken te auditen.\n- Amodei's driestappe-raamwerk is het meest gedetailleerde publieke voorstel van een top-AI-CEO om externe verantwoording op modelreleases op te leggen.\n- De stap komt op een moment dat zowel de regelgevingsdruk als de publieke scepsis over AI-veiligheidsclaims toenemen.\n- Voor AI-kunstmakers kunnen externe veiligheidsaudits rechtstreeks van invloed zijn op welke mogelijkheden worden beperkt of vertraagd in de modellen waarop zij vertrouwen.\n\n\n\nAmodei's essay, deze week gepubliceerd, schetst een driestappe-plan dat zijn bedrijf „pacing the frontier" noemt. De bewoordingen zijn bewust gekozen: het is geen oproep om AI-ontwikkeling te stoppen, maar om de snelheid te synchroniseren met de volwassenheid van de veiligheidsinfrastructuur. Het onderscheid is belangrijk omdat Anthropic tegelijkertijd een van de meest veiligheidsgericht labs én een van de meest commercieel agressieve is — Claude is een directe concurrent van OpenAI's GPT-4o en Google's Gemini op de zakelijke markt.\n\n## Wat externe toegang tot Anthropic's modellen werkelijk betekent\n\nDe specifieke toezegging aan METR — een non-profitorganisatie die AI-modellen evalueert op gevaarlijke autonome mogelijkheden — is het meest concrete element van Amodei's voorstel. METR-toegang betekent dat onafhankelijke onderzoekers, niet Anthropic's eigen red teams, beoordelen of Claude-modellen aan de gestelde veiligheidsdrempels voldoen vóór of tijdens de uitrol. Dat is een andere standaard dan de interne evaluaties die de meeste labs momenteel publiceren.\n\nVoor makers die workflows bouwen op Claude's API, of tools gebruiken die Claude onder de motorkap draaien, heeft dit een reëel downstream-effect: als METR een mogelijkheid als onvoldoende veilig aanmerkt, zou Anthropic vermoedelijk verplicht zijn deze te beperken of te vertragen. Dat kan betekenen: langzamere uitrol van nieuwe multimodale functies, strengere outputfilters, of capaciteitslimieten die niet gelden voor concurrenten die dezelfde toezegging niet hebben gedaan.\n\n> „De tijd is gekomen om de rem op AI te zetten."\n>\n> — Dario Amodei, Anthropic CEO\n\nDe historische parallel is het vermelden waard. Toen Stability AI in 2023 toenemende druk ondervond vanwege ongecontroleerde beeldgeneratie en het gebrek aan formele veiligheidsprocessen, maakte de afwezigheid van enig extern verantwoordingsmechanisme het voor het bedrijf vrijwel onmogelijk om geloofwaardig zelfregulering toe te passen — wat bijdroeg aan de vertrekken van leidinggevenden en de reputatieschade die volgde. Amodei probeert in feite de verantwoording te institutionaliseren die Stability nooit had, voordat een vergelijkbare crisis dit afdwingt.\n\n## De handhavingsvraag: wie handhaaft dit eigenlijk?\n\nHet voorstel is vrijwillig. Amodei kondigt geen regelgevingsovereenkomst of bindende industriestandaard aan — hij publiceert een essay en noemt een voorkeurauditor. Het handhavingsmechanisme is reputationeel: als Anthropic zich niet houdt aan zijn eigen gestelde raamwerk, kunnen METR of externe waarnemers dit publiekelijk zeggen. Dat is betekenisvolle druk, maar het is niet hetzelfde als een wettelijke verplichting.\n\nDit is relevant voor iedereen die bijhoudt welke AI-beeld- en videogeneratiemodellen onbeperkt blijven versus welke te maken krijgen met capaciteitsverminderingen. Labs die geen vergelijkbare raamwerken adopteren — en meerdere grote labs hebben geen indicatie gegeven dat ze dat zullen doen — staan voor geen equivalente beperking. De competitieve asymmetrie kan Anthropic ertoe aanzetten voorzichtiger te werk te gaan bij nieuwe generatieve functies, terwijl concurrenten sneller leveren.\n\nHet Hugging Face safety subset-onderzoek dat eerder dit jaar werd gepubliceerd, toonde aan dat gerichte veiligheidsfilters precies genoeg kunnen zijn om specifieke schadelijke uitvoer te blokkeren zonder hele onderwerpgebieden te weigeren — wat suggereert dat de technische hulpmiddelen voor dit soort geauditeerde terughoudendheid verbeteren. De vraag is of de commerciële prikkels van de industrie labs zullen toestaan deze te gebruiken in het tempo dat Amodei voorstelt.\n\nVoor makers die evalueren op welke modellen ze willen bouwen, volgt de Charmloop-modelcatalogus capaciteits- en toegangswijzigingen zodra ze plaatsvinden. De volgende concrete indicator of Amodei's voorstel daadwerkelijk tanden heeft, zal zijn of METR bevindingen publiceert — en of Anthropic's releaseschema zichtbaar verandert als gevolg daarvan.