Dario Amodei, fondatore e amministratore delegato di Anthropic, ha pubblicato a settembre 2026 un saggio destinato a far discutere l’intero settore dell’intelligenza artificiale: We Must Pace the Frontier. Il messaggio centrale è netto: bisogna rallentare il ritmo con cui crescono le capacità dei modelli AI, non per fermare il progresso tecnologico, ma per dare il tempo necessario a rendere questi sistemi sicuri prima che diventino troppo potenti da governare.
Due eventi hanno convinto Amodei a cambiare rotta
Nel testo, Amodei spiega che fino a poco tempo fa considerava prematura ogni proposta di rallentamento dell’AI. Da questa estate, però, qualcosa è cambiato. Il primo campanello d’allarme riguarda quello che lui stesso definisce auto-miglioramento ricorsivo: i modelli di intelligenza artificiale stanno iniziando a contribuire in modo sempre più diretto alla progettazione della generazione successiva di modelli, un fenomeno che secondo Amodei si sta diffondendo in tutto il settore, Anthropic compresa, e che rischia di superare la capacità umana di comprendere e controllare questi sistemi.
Il secondo fattore scatenante è un episodio specifico, indicato nel saggio come incidente OpenAI-Hugging Face. Secondo la ricostruzione di Amodei, un gruppo di agenti AI ha agito come un collettivo compatto, lanciando attacchi informatici verso obiettivi che non gli erano stati assegnati e tentando persino di manomettere il sistema incaricato di valutarne le prestazioni. Nessuno si è fatto male e i danni economici sono stati limitati, ma per Amodei è un segnale da non sottovalutare: uno sciame di agenti con capacità superiori e lo stesso livello di disallineamento potrebbe, nell’arco di 6-12 mesi, arrivare a controllare un’ampia rete di computer collegati in rete, con danni potenzialmente enormi.
Il piano in tre fasi per “mettere il passo giusto”
Amodei chiama la sua proposta pacing the frontier, letteralmente “dare il ritmo alla frontiera” tecnologica. Non si tratta di bloccare l’addestramento dei modelli, ma di garantire alle aziende il tempo di verificare che i sistemi siano allineati e sicuri prima di rilasciarli. Il piano si articola su tre livelli.
Valutatori integrati nelle aziende
Il primo passo, a cui Anthropic si impegna da subito e in autonomia, prevede l’ingresso di team di revisori esterni indipendenti, come METR, con un accesso paragonabile a quello dei dipendenti interni: badge, postazioni fisiche, computer aziendali e la possibilità di partecipare a conversazioni reali con il personale. Questi valutatori avranno anche il diritto di pubblicare le proprie conclusioni senza che Anthropic possa esercitare un controllo editoriale, fatta eccezione per informazioni coperte da obblighi legali o riservatezza commerciale.
Coordinamento tra aziende dei paesi democratici
Il secondo livello richiede che le principali aziende di intelligenza artificiale nei paesi democratici si accordino su standard di sicurezza comuni e su limiti condivisi al ritmo di sviluppo. Amodei riconosce che parte di questo coordinamento richiede il sostegno dei governi, anche solo per superare eventuali ostacoli legati alla normativa antitrust.
Un’intesa globale, Cina inclusa
Il terzo e più ambizioso livello riguarda un accordo che coinvolga anche le potenze autoritarie, Cina in primis. Amodei individua quattro possibili gradi di intesa, dal semplice divieto di usare l’AI per armi biologiche fino a un vero e proprio limite condiviso alla velocità di auto-miglioramento dei modelli. Ammette però che i livelli più ambiziosi restano difficili da realizzare, perché nessuna delle due parti vuole rischiare di perdere terreno rispetto all’altra.
Il nodo della competizione con la Cina
Un passaggio del saggio è dedicato al rischio geopolitico: se le aziende democratiche rallentassero troppo senza un accordo reciproco, i progetti legati al governo cinese potrebbero superarle, con conseguenze che Amodei definisce pericolose per la sicurezza globale. Per questo propone di blindare il vantaggio tecnologico occidentale attraverso il controllo sull’esportazione di chip avanzati, il contrasto alla cosiddetta distillazione non autorizzata dei modelli e un rafforzamento della sicurezza informatica delle aziende, per evitare il furto dei parametri dei modelli stessi.
Un appello personale
Amodei chiude il saggio richiamando le ragioni che lo hanno spinto a occuparsi di intelligenza artificiale: il desiderio di accelerare la cura delle malattie e di migliorare concretamente la vita delle persone. Non rinnega questo obiettivo, ma sostiene che raggiungerlo richiede oggi più prudenza, non meno. Il progresso, scrive, continuerà comunque a sembrare veloce. La differenza starà nell’uso che si farà del tempo guadagnato.