articolo | 13 settembre 2026

Chi può permettersi di frenare

Chi può permettersi di frenare

Condividi su:

 

Luca G. Castellin

 

«Un gioco strano», conclude il calcolatore militare che per tutto WarGames aveva simulato guerre nucleari, «la sola mossa vincente è non giocare». Nella pellicola diretta nel 1983 da John Badham, infatti, il problema non era che la macchina fosse malvagia. Essa aveva semplicemente capito che esistono partite in cui ogni mossa razionale peggiora la posizione di tutti. Quarant'anni dopo, una parte dell'industria americana dell'intelligenza artificiale arriva allo stesso risultato, con una differenza fondamentale. Nessuno può alzarsi dal tavolo.

Il 12 settembre Dario Amodei, amministratore delegato di Anthropic, ha pubblicato We Must Pace the Frontier, dove sostiene che bisogna rallentare il ritmo con cui crescono le capacità dei modelli. Poche ore dopo Sam Altman si è detto d'accordo, impegnando OpenAI ad adottare la prima delle sue proposte. Poi è arrivato il turno di Elon Musk, che ha semplicemente affermato: «Dario is right». Sembra una conversione, in realtà è il risultato di un movimento cominciato mesi prima (con la diffusione della dichiarazione collettiva, Pacing the Frontier; con l'attacco, durante test interni di sicurezza, da parte di uno sciame di agenti di OpenAI a Hugging Face; e, infine, con il thread su X di Jacob Coxon, in cui OpenAI e Anthropic sono state accusate di mettere in pericolo la sopravvivenza del genere umano).

Che l'intelligenza artificiale contribuisca al proprio sviluppo è un fatto, e nel maggio 2026 oltre l'80% del codice di Anthropic era scritto da Claude, sotto direzione umana. Ma l'auto-miglioramento ricorsivo in senso pieno, ossia una macchina che progetta e addestra il proprio successore senza decisioni umane rilevanti, oggi non sembra essere ancora una realtà. Si tratta di una traiettoria, non di un fatto compiuto. Il piano di Amodei - che si accompagna a una buona dose di retorica apocalittica - si sviluppa su tre livelli principali: reclutamento di valutatori indipendenti con accesso libero ai laboratori; definizione di standard comuni fra le imprese all'interno dei regimi democratici; e, infine, creazione di accordi internazionali.

Qui però comincia il vero problema. Ed è un problema politico prima che tecnologico. Nulla infatti obbliga a dubitare della sincerità di Amodei o di Altman. Anthropic ha costruito la propria identità sui rischi catastrofici molto prima che fosse conveniente farlo (e sarebbe, forse, intellettualmente pigro liquidare come una recita una preoccupazione documentata da anni). Ma la sincerità individuale è quasi sempre la variabile meno interessante quando si osserva un sistema competitivo. Un imprenditore convinto del pericolo e uno indifferente, collocati davanti agli stessi incentivi, tendono a comportarsi in modo sorprendentemente simile, perché chi rallenta da solo non riduce il pericolo complessivo, cede soltanto posizione a chi non rallenta.

Ne discende inoltre una conseguenza che il dibattito pubblico tende a non prendere in considerazione. L'appello alla responsabilità morale non è soltanto insufficiente, è lo strumento sbagliato. Un problema politico non si risolve persuadendo i singoli a comportarsi meglio, perché la defezione resta razionale anche per chi è stato persuaso. Si risolve cambiando i costi relativi dell'accelerare e del rallentare, cioè costruendo istituzioni che rendano la prudenza sostenibile per chi la pratica.

Chiedere a un'autorità esterna di legarsi le mani non è mai soltanto un atto di virtù. È anche una richiesta di vincolo reciproco, un modo per ottenere che gli altri siano costretti a fermarsi nel momento in cui ci si ferma. Non c'è nulla di illegittimo in questo. C'è però una ragione per non fermarsi alle intenzioni dichiarate e per chiedersi che cosa, esattamente, renda desiderabile un rallentamento adesso e non due anni fa.

Una prima chiave sta nei bilanci, e conviene guardarla senza reticenze. I costi della frontiera hanno smesso di crescere insieme alle capacità che producono. Il costo ammortizzato di addestramento dei modelli di punta aumenta da un decennio di circa due volte e mezzo l'anno, mentre i guadagni misurati sui test standard per ogni ordine di grandezza di calcolo aggiuntivo si contano ormai in pochi punti percentuali. Nello stesso periodo, Anthropic ha depositato in via riservata alla SEC la bozza di prospetto per la quotazione in borsa, attesa fra la fine di settembre e ottobre (anche OpenAI l'ha fatto, benché il suo approdo al mercato appaia più lontano).

Non esiste alcuna prova che la quotazione abbia motivato il saggio di Amodei. Ma la coincidenza rende legittima una domanda diversa e più interessante, che non riguarda i moventi di una persona ma la funzione di una proposta. Per un'impresa che si presenta ai mercati finanziari, un settore dotato di soglie, verifiche e standard condivisi è un settore dal profilo di rischio più prevedibile e dalla spesa competitiva meno illimitata. E qui vale la pena leggere Amodei alla lettera, perché il coordinamento, scrive, darebbe ai laboratori il tempo di fare il lavoro necessario sulla sicurezza «senza sacrificare il vantaggio commerciale». Un rallentamento che preserva le posizioni relative non è un sacrificio. È una strategia economica. Nessuna di queste osservazioni implica malafede. Implica qualcosa di più scomodo. La stessa misura può essere contemporaneamente uno strumento di sicurezza e uno strumento di contenimento della spesa competitiva.

C'è poi un secondo incentivo, più politico del primo e meno discusso. Ogni regolazione onerosa, dagli audit ai requisiti di sicurezza informatica, dalle valutazioni indipendenti alla responsabilità legale, riduce i rischi e nello stesso movimento alza il prezzo dell'ingresso. Chi ha già investito decine di miliardi assorbe quei costi come una voce di bilancio; chi invece deve ancora entrare li subisce come una barriera.

In questa prospettiva, il banco di prova è il destino dei modelli open-weight, quelli i cui parametri chiunque può scaricare, modificare e far girare per conto proprio. La frattura, quindi, non passa fra chi ha a cuore la sicurezza e chi è spericolato. Passa fra chi possiede la frontiera e chi possiede tutto il resto, cioè chi vende i processori a chiunque, chi insegue sui modelli di punta e chi costruisce prodotti sopra sistemi altrui. E il problema politico che ne deriva non è che qualcuno voglia abolire l'open source, perché nessuno lo propone. È che una soglia di capacità funziona diversamente sui due modelli di business. Un sistema proprietario può essere filtrato, sorvegliato e spento a distanza; un sistema open-weight, una volta pubblicato, non si richiama indietro. Per il primo la soglia è un adempimento, per il secondo è un tetto. La stessa regola che per un'impresa è un costo di conformità, per un'altra è la fine della possibilità di pubblicare.

Il che ci porta al nodo che Amodei stesso riconosce come decisivo, e che rende fragile tutto il resto. Il rallentamento funziona soltanto se non regala un vantaggio risolutivo alla Cina. Amodei lo scrive senza giri di parole. Se si rallenta più di quanto si è avanti, i progetti legati a Pechino passano in testa. Quanto siamo avanti, allora? Molto meno di quanto si ripeteva fino a poco fa (secondo quanto rileva l'AI Index di Stanford). Dire che la Cina abbia colmato il divario resta però impreciso, perché la frontiera assoluta, i modelli più costosi e più capaci, è ancora americana, e il vantaggio statunitense nella capacità di calcolo disponibile rimane consistente.

Se sui semiconduttori le restrizioni americane funzionano davvero, e il collo di bottiglia della memoria ad alta banda continua a limitare la produzione cinese, sull'energia l'asimmetria si rovescia, e in modo brutale, perché la Cina dispone di una capacità elettrica in crescita rapidissima e di prezzi industriali largamente inferiori a quelli americani. Sui modelli open-weight Pechino ha scelto deliberatamente la diffusione, a prezzi bassi, che è una strategia di penetrazione globale prima ancora che di ricerca. E sulla regolazione il governo cinese chiede sicurezza e controllo umano, mentre ordina simultaneamente accelerazione.

Qui emerge, nella sua forma più netta, la divisione occidentale fra apocalittici e accelerazionisti, fra chi considera irresponsabile correre e chi considera ancora più pericoloso lasciare che corrano gli altri. La discussione si sta spostando da quella che gli addetti chiamano AI safety, la sicurezza del singolo modello, a quello che andrebbe chiamato controllo degli armamenti applicato al software. Non si tratta più soltanto di rendere affidabile un sistema, ma di governare la velocità di una competizione strategica fra attori che non hanno ragione di fidarsi gli uni degli altri. È un passaggio concettuale notevole, e vale più di qualsiasi profezia sull'estinzione della specie umana.

Le democrazie possono e devono condurre questa discussione in forma pubblica. Ma tale deliberazione possiede un costo strategico, perché rende visibili i propri vincoli a un avversario che non espone i suoi. Un regime di controllo costruito unilateralmente in Occidente rischia l'esito peggiore fra tutti, una frontiera occidentale più lenta e nessun freno altrove. Sarebbe però ingenuo immaginare Pechino come un acceleratore puro, perché un sistema politico ossessionato dal controllo ha ottime ragioni proprie per temere sistemi che non sa controllare, e i primi segnali di un apparato cinese di norme sulla sicurezza dei modelli esistono. Il punto non è che la Cina non voglia frenare. È che nessuno dei due può permettersi di frenare per primo senza sapere che cosa fa l'altro, e che oggi nessuno dei due dispone degli strumenti per saperlo.

Il calcolatore di WarGames poteva smettere di giocare perché era solo, e perché la sua unica posta era la vittoria. La partita aperta in questi giorni ha molti giocatori, ciascuno capace di rallentare e nessuno capace di farlo da solo, e ha una posta che nessuno dei giocatori può ignorare, perché è insieme la sopravvivenza e il profitto. La mossa vincente, qui, non è semplicemente difficile. È indisponibile. Resta allora la domanda a cui nessuno dei protagonisti ha finora risposto, e che non riguarda le macchine. Chi può permettersi di frenare, quando non si può essere certi che gli altri lo faranno?

 

Luca G. Castellin è professore associato di Storia del pensiero politico presso la Facoltà di Scienze politiche e sociali dell'Università Cattolica del Sacro Cuore. 

Data

13 settembre 2026

Condividi su:

Newsletter

Iscriviti alla newsletter