Luca G. Castellin
Nel 1984, firmando la regia di Terminator, James Cameron mette in scena un futuro che non si presenta come promessa, bensì come condanna. Arriva sotto forma di un corpo metallico rivestito di carne, inviato nel presente per assicurarsi che la catastrofe accada comunque. La macchina non vuole convincere, negoziare, governare. Si limita semplicemente a eseguire. La sua forza inquietante sta proprio in questa cecità. Il futuro è già scritto e torna indietro soltanto per proteggere la propria necessità. Skynet, più che un personaggio, è il nome di un ordine tecnico-militare diventato autonomo, una razionalità bellica che non ha più bisogno della politica perché ha trasformato la sopravvivenza in calcolo automatico.
Sette anni dopo, con Terminator 2 il regista modifica radicalmente questa immagine. Il futuro resta minaccioso, ma non è più del tutto inevitabile. La catastrofe può essere interrotta, purché si intervenga non soltanto sulla macchina che viene dal futuro, ma sulle condizioni presenti che rendono quel futuro possibile: i laboratori, le tecnologie, le decisioni militari, le infrastrutture scientifiche e industriali. Il secondo film sposta così il problema dalla rivolta delle macchine alla responsabilità degli esseri umani che le costruiscono. Non basta temere Skynet. Occorre chiedersi da quale mondo politico, economico e strategico essa possa nascere.
È questa, più che la fantasia dell’intelligenza artificiale come mostro autonomo, la lezione politica utile per leggere il presente. Il problema non è attendere il giorno in cui le macchine si ribelleranno, ma capire come software, dati e sistemi digitali stiano già trasformando il modo in cui gli Stati vedono, decidono, combattono e governano. La catastrofe tecnologica, insomma, non comincia quando l’intelligenza artificiale prende il potere. Comincia quando le architetture tecniche dentro cui viviamo diventano il luogo effettivo della decisione politica.
È da qui che conviene leggere La repubblica tecnologica. Come l’alleanza con la Silicon Valley plasmerà il futuro dell’Occidente (Silvio Berlusconi Editore), firmato da Alexander Karp, cofondatore e amministratore delegato di Palantir Technologies, e da Nicholas Zamiska, che nella stessa azienda dirige gli affari istituzionali. Non è un dettaglio biografico. Questo non è un libro sulla tecnologia scritto da osservatori esterni, ma un intervento politico che viene dal cuore di una delle imprese più influenti e controverse dell’Occidente. Un’azienda che vende software di intelligence e di difesa agli Stati e ai loro eserciti. La tesi, insomma, arriva già interessata alla propria conclusione. Ed è per questo, non malgrado questo, che vale la pena prenderla sul serio.
La diagnosi è tagliente fin dall’inizio. «La Silicon Valley», osservano infatti, «si è persa per strada» (p. 13). Per Karp e Zamiska, l’Occidente ha smarrito la capacità di orientare la propria potenza tecnologica verso fini pubblici. Lo Stato ha rinunciato a guidare i grandi progetti – quelli che hanno prodotto la bomba atomica e Internet – delegando al mercato la decisione su che cosa valga la pena costruire. Ma, come si legge nell’introduzione, «il mercato è un formidabile motore di rottura» (p. 6), non una fonte automatica di orientamento collettivo. Lasciata a se stessa, la Silicon Valley ha trasformato l’ambizione di “cambiare il mondo” in un’economia dell’effimero: pubblicità, shopping, social, ottimizzazione di desideri privati. Di qui l’appello, quasi un imperativo morale, a poter fare meglio, anzi a dover fare meglio.
Il ragionamento poggia su una genealogia polemica. L’immagine pubblica della Valley è quella di un capitalismo creativo nato contro la burocrazia, lontano dallo Stato. Gli autori ricordano il contrario. I semiconduttori, i primi calcolatori, la rete, i precursori dell’intelligenza artificiale nascono dentro un intreccio di finanziamenti federali, ricerca militare e università. La Fairchild, che a Mountain View costruì i primi circuiti, lavorava anche per le forze armate. La Valley non è nata fuori dallo Stato, bensì dentro un ecosistema in cui potenza pubblica e invenzione privata si alimentavano a vicenda. Per questo, sostengono Karp e Zamiska, l’industria del software deve «tornare a sposare l’interesse pubblico» (p. 24). Averlo dimenticato, suggeriscono, è la vera sconfitta.
Il passaggio più netto riguarda la guerra. Per gli autori l’era atomica sta cedendo il posto a una deterrenza fondata su software, dati e algoritmi. «I conflitti di domani», osservano, «si vinceranno o perderanno con i software» (p. 47). Non è un’astrazione accademica. Il libro muove infatti da episodi concreti – un plotone colpito da un ordigno improvvisato in Afghanistan, la lentezza con cui le informazioni raggiungono chi deve decidere sul campo – per sostenere che la differenza tra vincere e perdere passa ormai dal codice. In questo quadro, l’idea che un’azienda tecnologica possa restare moralmente pura tenendosi lontana dalla difesa appare non solo ingenua, ma pericolosa, proprio perché, se le democrazie liberali rinunciano a costruire certe tecnologie, le costruirà qualcun altro, con meno scrupoli.
È qui che La repubblica tecnologica diventa più interessante e al tempo stesso più insidioso. La tecnologia non è trattata come strumento neutro, ma come forma di potere organizzativo. Il software non si limita a eseguire decisioni già prese, bensì disegna il campo entro cui le decisioni diventano pensabili. Stabilisce quali problemi contano, quali alternative sono visibili, quali azioni sono autorizzate. Per questo la posta in gioco, avvertono gli autori, non è tecnica ma repubblicana. Essa riguarda la sovranità, la cittadinanza, la capacità dello Stato di agire senza dissolversi dall’interno.
Il merito del volume sta proprio nel costringere il lettore a uscire dall’innocenza. Non basta denunciare il potere delle piattaforme, né invocare genericamente un’etica dell’intelligenza artificiale. Bisogna chiedersi quali istituzioni, quali imprese, quali culture professionali rendano possibile un uso politico della tecnica che non sia pura amministrazione dell’esistente. Non a caso, gli autori rivendicano che chi costruisce le tecnologie destinate a rendere possibile «pressoché ogni aspetto della nostra quotidianità» abbia la «responsabilità di esporre e difendere i propri punti di vista» (p. 8-9). In questo senso, il libro è utile anche a chi ne rifiuta l’impianto. Forse, soprattutto a chi ne diffida.
Il limite, però, è altrettanto evidente. Karp e Zamiska vedono con lucidità il vuoto lasciato dalla politica, ma lo colmano affidandosi alla cultura ingegneristica e alla leadership dei fondatori. Quella «mentalità ingegneristica» che il libro evoca anche attraverso lo sciame di api studiato dallo zoologo Martin Lindauer, modello di coordinamento spontaneo e distribuito. Ed è qui che il ragionamento si morde la coda. Se il software definisce il campo della decisione, chi definisce il software? Se l’architettura tecnica stabilisce quali problemi contano e quali risposte sono ammesse, la responsabilità non si chiude con l’efficienza, la tracciabilità o il patriottismo. Gli autori chiedono di riportare la politica dentro la tecnica, ma affidano quel ritorno agli stessi ingegneri che la tecnica dovrebbe tornare a controllare. Sul piano democratico, il cerchio resta aperto.
Per un lettore italiano ed europeo il libro parla in modo diretto. La guerra in Ucraina, la dipendenza digitale e industriale del continente, la difesa comune che non arriva, l’autonomia strategica che resta una formula vuota più che una capacità. Tutto ciò rende la diagnosi difficile da liquidare. L’Europa ama pensarsi come potenza normativa, ma una norma senza infrastruttura rischia di essere solo una forma elegante di impotenza. Quando Karp e Zamiska scrivono che la ricostruzione di una repubblica tecnologica richiede la «riaffermazione di un senso di identità nazionale e collettiva» (p. 262), parlano anche al continente europeo, pur dentro una cornice meno nazionale e più fragile. La domanda che il volume lascia sul tavolo è scomoda: può esistere sovranità democratica senza sovranità tecnologica?
Si può leggere La repubblica tecnologica come un appello alla responsabilità, ossia quello di strappare la tecnologia alla banalità del consumo e riconsegnarla al governo della cosa pubblica. Gli autori lo dicono con una formula semplice, quasi programmatica, quando in conclusione invitano a «costruire qualcosa tutti insieme» (p. 300). Ma si può leggere anche come un avvertimento involontario, forse più acuto di quello che gli autori intendevano lanciare. Quando la politica (ri)entra nella tecnica, non torna mai da sola. Essa finisce per portare con sé potenza, gerarchie, esclusioni, decisioni tragiche. La questione, allora, non è se avremo una repubblica tecnologica. In larga misura, volenti o nolenti, la abitiamo già. È se sarà davvero una repubblica, cioè un luogo in cui qualcuno risponde delle scelte, oppure una macchina molto efficiente per decidere al posto nostro.
Il futuro non si cambia denunciando genericamente la catastrofe, né confidando che l’efficienza tecnica produca da sé una forma di saggezza politica. Si cambia, se ancora si può, entrando nei luoghi in cui il futuro viene progettato (aziende, apparati militari, infrastrutture digitali, architetture del software, procedure di decisione). Ma chi avrà la forza democratica di interrompere, correggere o governare i processi che abbiamo già messo in moto? Di certo, non possiamo aspettarci che Arnold Schwarzenegger venga a salvarci in giacca di pelle e occhiali scuri in sella a una motocicletta.
Luca G. Castellin è professore associato di Storia del pensiero politico presso la Facoltà di Scienze politiche e sociali dell'Università Cattolica del Sacro Cuore.
