Luca G. Castellin
Nel 1941, mentre l’Europa bruciava e il capitalismo liberale sembrava avviarsi verso un’eclissi definitiva, James Burnham pubblicò The Managerial Revolution. La sua tesi era semplice. La vera rivoluzione del Novecento non sarebbe stata né capitalista né proletaria, bensì manageriale. Secondo l’autore, infatti, il potere stava transitando silenziosamente dai proprietari del capitale a una nuova classe di tecnici e dirigenti che possedevano qualcosa di più difficile da espropriare della ricchezza, ossia la conoscenza di come le organizzazioni funzionano davvero. Il manager non governava in virtù di un titolo legale o di un mandato democratico, ma perché nessun altro sapeva come far girare la macchina. Benché non fosse esatta in ogni sua componente, la diagnosi di Burnham assomiglia molto a ciò che sta accadendo oggi con l’intelligenza artificiale.
Palantir Technologies ha pubblicato di recente un documento che, a dispetto della sua rilevanza, non ha saputo richiamare l’attenzione mediatica suscitata da una semplice silloge di La repubblica tecnologica, un volume che in pochi sembrano aver letto, ma di cui tutti si sentono in dovere di parlare. Eppure, il documento di Palantir è, per molti versi, assai più interessante. E più inquietante.
In quel testo, la società fondata nel 2003 da Peter Thiel e Alexander Karp – attiva in settori che vanno dalla difesa alla sanità, dall’immigrazione alla gestione delle emergenze – descrive il cuore del proprio sistema con un termine insolito: vale a dire, Ontology. Non «piattaforma», non «motore decisionale». Ontologia. Il termine non viene usato in senso filosofico, ma tecnico. Ontology non descrive un’organizzazione. La costruisce. Stabilisce quali entità contano (fornitori, ordini, clienti, pratiche, persone), quali relazioni siano rilevanti, quali azioni siano ammissibili, e cosa resti, silenziosamente, fuori campo. Ogni ontologia, d’altronde, è anche un’esclusione.
La promessa operativa è ambiziosa e, su un piano strettamente funzionale, persuasiva. I sistemi informativi tradizionali descrivono la realtà senza trasformarla in azione. Database, dashboard e strumenti di business intelligence forniscono informazioni, ma non decidono. Un chatbot collegato a documenti aziendali non governa processi complessi. Ciò di cui le organizzazioni hanno bisogno, secondo Palantir, è un’architettura decision-centric, ossia un ambiente in cui dati, modelli, procedure e sistemi operativi siano integrati in un ciclo continuo che va dalla percezione del problema all’esecuzione dell’azione. E, almeno fin qui, va tutto bene.
La domanda politicamente rilevante non riguarda però l’efficacia del ciclo. Riguarda le sue premesse. Chi ha definito le categorie dentro cui il ciclo opera? In un’impresa privata che gestisce forniture, è una questione di governance aziendale. Quando la stessa architettura viene applicata a un’agenzia pubblica – e Palantir ha contratti in entrambi gli ambiti – diventa qualcosa di più radicale. Il sistema garantisce che ogni azione sia autorizzata. Ma chi ha autorizzato le categorie è una domanda a cui la sicurezza tecnica non risponde. La presuppone.
È qui che Burnham cessa di essere un semplice riferimento storico. Il documento Palantir usa l’espressione tribal knowledge per indicare il sapere pratico e tacito accumulato dagli operatori nel tempo, ossia competenze informali, giudizi, routine non scritte. Ontology promette di renderlo esplicito, condivisibile, integrabile nei sistemi. Era precisamente questo sapere che, per Burnham, costituiva il fondamento del potere manageriale. I manager non erano sostituibili perché custodivano la conoscenza di come l’organizzazione funzionasse davvero. E, quest’ultima, era una conoscenza che i proprietari del capitale non possedevano e non potevano facilmente acquisire.
Palantir dimostra che Burnham aveva ragione sul meccanismo, ma forse torto sulla stabilità del suo esito. Nel momento in cui il know-how manageriale viene codificato in una piattaforma, il centro di gravità del potere si sposta ancora. Non scompare, semplicemente migra. Dal manager che decide all’architetto del sistema che ha fissato il perimetro dentro cui la decisione è pensabile. Quindi, chi costruisce Ontology non governa eseguendo ordini, né esercitando un potere visibile. Governa a monte, stabilendo le categorie entro cui manager, analisti e agenti AI si muovono senza necessariamente accorgersene. La rivoluzione manageriale non viene rovesciata. Viene portata a un livello ulteriore di astrazione e soprattutto di invisibilità.
Questa invisibilità ha conseguenze concrete. Il documento di Palantir distingue con cura tra raccomandazione e azione autonoma. Inizialmente gli agenti AI propongono, e solo successivamente, per processi considerati affidabili, possono chiudere da soli il ciclo decisionale. È una risposta – almeno, all’apparenza – quasi rassicurante. Ma la responsabilità democratica non riguarda soltanto il momento della decisione, essa riguarda anche la struttura dentro cui quella decisione viene resa possibile o impossibile. L’autorizzazione tecnica, infatti, non coincide con la legittimità politica, né tantomeno con la legittimità democratica. Un sistema perfettamente tracciato può produrre decisioni ingiuste se le categorie da cui parte sono sbagliate, parziali, costruite a vantaggio esclusivo di chi le ha definite.
C’è poi una questione che guarda al futuro più che al presente. L’architettura Palantir introduce la nozione di decision data. Ogni decisione presa attraverso la piattaforma genera dati – in merito al contesto, alle opzioni considerate, alla scelta effettuata, agli effetti nel tempo – che alimentano gli agenti AI successivi. In sostanza, il sistema apprende da sé stesso. Ma l’apprendimento automatico da decisioni passate può consolidare non solo buone pratiche, ma anche pregiudizi, gerarchie, forme di esclusione sedimentate. Il passato diventa carburante per l’ottimizzazione del futuro. Occorre allora chiedersi quale passato venga registrato, da quale punto di vista, e con quale possibilità reale di revisione. Le conoscenze specialistiche che Burnham descriveva erano almeno incarnate in persone interrogabili, contestabili, e infine sostituibili. Il sapere incorporato in un’ontologia algoritmica non ha un volto.
Questo non è un argomento contro l’AI nelle organizzazioni complesse. Strumenti capaci di integrare dati, simulazioni e azioni coordinate possono migliorare la tempestività, ridurre errori grossolani, rendere visibili interdipendenze che sfuggirebbero all’attenzione umana. Ma l’efficienza operativa non è un criterio di legittimità. Lo era, almeno in parte, anche per Burnham. E fu proprio questo il limite più profondo della sua analisi. Aveva visto con lucidità che il potere moderno non risiede nella proprietà formale, ma nella competenza organizzativa. Non aveva visto – o non aveva voluto vedere – che quella competenza richiedeva, per non diventare dominio, qualcosa che nessuna piattaforma può incorporare, ossia la possibilità di essere contestata da chi ne subisce le conseguenze.
La domanda che Ontology di Palantir pone non è nuova. È la stessa del 1941, in un mondo che cercava di capire dove fosse andato a finire il potere dopo che era scivolato via dalle mani dei proprietari del capitale. Oggi si ripropone in un linguaggio tecnico, dentro architetture software, in contratti spesso classificati. Nell’opera di Burnham, il potere aveva almeno il merito di essere riconoscibile. Esso si incarnava in persone, istituzioni, titoli. Oggi si è fatto architettura. E le architetture non si votano, non si processano, non si rovesciano. Si abitano, almeno finché qualcuno non decide di cambiarle. La domanda è chi.
Luca G. Castellin è professore associato di Storia del pensiero politico presso l'Università Cattolica del Sacro Cuore.
