Questo testo è stato scritto in occasione dell’evento Libri di donne: presentazione di opere di filosofe a cura di SWIP Italia, 15 maggio 2023, discussants: Brunella Casalini (Università di Firenze) e Fiorenza Toccafondi (Università di Firenze), moderatrice: Vera Tripodi (Politecnico di Torino), nella forma di una presentazione online del volume di Carlotta Cossutta (Scuola Normale Superiore, Pisa), Avere potere su se stesse. Politica e femminilità in Mary Wollstonecraft, Pisa, ETS, 2021.

La prima lezione che possiamo apprendere da questo bel lavoro di Cossutta è che si può e si deve tornare a leggere Wollstonecraft non solo in una prospettiva di storia del pensiero e delle idee politiche, ma anche in una chiave filosofico-politica intesa come riflessione critica sul presente. Questa scelta interpretativa poggia su una mossa critica fondamentale che consiste nel mettere in discussione la ricostruzione del pensiero femminista come scandito dal succedersi di diverse ondate, ciascuna separata da una cesura dalle successive. Una lettura che condannerebbe il pensiero di Wollstonecraft a rimanere relegato alla fase del proto-femminismo.

Pur nella varietà delle imprese editoriali in cui si è imbarcata e nei mutamenti intervenuti tanto nella scelta del registro stilistico-comunicativo quanto del pubblico al quale rivolgersi, Wollstonecraft lavora con continuità intorno ad alcuni interrogativi che rinnova a se stessa nel tempo alla luce delle proprie variegate esperienze di vita e del confronto costante con autori e autrici contemporanei, un confronto che coltiva con passione anche attraverso intensi rapporti epistolari.

Centrali sono le domande su cos’è una donna, su quali sono le ragioni della sua oppressione, su come si diventa donna e su cosa potrebbe divenire una donna in mutate circostanze sociali, politiche ed economiche. Interrogativi ai quali risponde rifiutando una prospettiva essenzialista, che riconduca i difetti femminili, e la condizione di inferiorità sociale nella quale le donne del suo tempo si trovano, ad una presunta natura femminile. La femminilità è, per Wollstonecraft, una costruzione sociale: sia il corpo che la mente della donna sono plasmate socialmente. Cossutta propone in proposito un parallelo efficace tra la riflessione di Wollstonecraft e quella sviluppata da Iris Marion Young in Throwing like a girl. A Phenomenology of Feminine Body Comportment Motility and Spatiality, un articolo in cui l’analisi fenomenologica primo novecentesca viene corretta ricordando quale visione dello spazio emerga a partire dall’esperienza di uno specifico corpo, ovvero del corpo femminile, un corpo educato a sentirsi di troppo e fuori luogo, che deve quindi cercare di muoversi nel perimetro più stretto possibile, persino quando si tratta di lanciare una palla.

La realtà femminile viene scoperta, d’altra parte, molto presto da Wollstonecraft come plurale: non esiste la donna, ma le donne, nelle diverse condizioni economiche e sociali nelle quali la vita le ha gettate. Le donne dell’aristocrazia sono le figure femminili su cui maggiormente si appiglia la vena polemica di Wollstonecraft: il loro corpo e le loro menti rappresentano al massimo grado le distorsioni che sono capaci di produrre relazioni incentrate sul dominio quando si crea un rapporto di complicità tra le soggettività oppresse e l’oppressore. Costrette ad assumere un atteggiamento adulatorio verso i mariti da cui dipende la loro sorte, le donne dell’aristocrazia sfogano la loro frustrazione sulla servitù, sviluppando un atteggiamento di cinica freddezza.

Non solo la femminilità è trattata come un problema di costumi che condizionano le condotte, plasmando atteggiamenti e propensioni mentali, oltre che posture e corpi; altrettanto lo è la mascolinità – come mostra nella Vindication of the Rights of Woman l’attenzione dedicata all’esercito e agli effetti che le gerarchie producono anche nella soggettività maschile. Nell’articolare la propria visione della femminilità e della mascolinità intorno all’idea di un dominio che corrompe tanto chi lo esercita quanto chi vi è sottoposto, precludendo al primo l’accesso alla realtà e costringendo il secondo all’adozione di atteggiamenti adulatori e ipocriti, Wollstonecraft attinge ad una particolare tradizione politica: quella repubblicana. Una tradizione politica fondamentale anche per comprendere la sua interpretazione dei diritti, della libertà, della cittadinanza e della virtù; un’interpretazione contaminata dall’ispirazione repubblicana e, al tempo stesso, basata su una sua inevitabile riformulazione.

Un ulteriore elemento di continuità tra la prospettiva filosofico politica di Wollstonecraft e quella del femminismo contemporaneo – come osserva Cossutta – è dato proprio dal confronto con il canone maschile. Wollstonecraft, come altre autrici del suo tempo, non poteva evitare di misurarsi con gli strumenti concettuali offerti dal canone maschile egemonico; al tempo stesso, tuttavia, era costretta a usarli per altri fini o a reinventarli per creare una propria cassetta degli attrezzi e lo spazio teorico necessario a far emergere la prospettiva delle donne. Nella visione di Wollstonecraft è chiaro da subito che la questione femminile non può essere risolta semplicemente attraverso un’estensione dei diritti: farla entrare nell’ambito del dibattito teorico-politico ha implicazioni molto più ampie e radicali. Non basta appropriarsi del canone, bisogna trasformarlo creando le risorse per l’articolazione di una scrittura femminile. Non è sufficiente adottare la prospettiva teorico-politica repubblicana, è necessario ripensarla a cominciare dalla messa in discussione della distinzione pubblico/privato e da una ridefinizione della nozione stessa di virtù.

Nel corso del tempo, tuttavia, Wollstonecraft perde la fiducia che ancora aveva nelle sue prime opere, in particolare nelle due Vindication, di riuscire ad aprirsi un varco per partecipare al discorso maschile dei suoi affini repubblicani, di farsi in qualche modo accettare e accogliere. Negli ultimi lavori Wollstonecraft sembra voler ignorare la possibile reazione maschile per poter così lasciare veramente libera la propria immaginazione politica. Se l’autrice ha sempre strenuamente coltivato la libertà di pensare con la propria testa, questa libertà si dispiega completamente solo nel momento in cui decide di rivolgersi ad un pubblico prevalentemente femminile, anche scegliendo una scrittura che si allontana dal canone di un’argomentazione classicamente intesa come teoria. Il cambiamento in termini stilistici, la scelta della forma letteraria dell’epistola, in Letters Written during a short residence in Sweden, Norway and Denmark, e del romanzo, in Mary, a Fiction e in Maria, or the Wrongs of Woman, non segnano un ripiegamento verso una scrittura più intimista e meno polemica. In aperta critica al romanzo sentimentale borghese che anima la conversazione nella sfera pubblica letteraria settecentesca, i romanzi di Wollstonecraft intendono portare le donne e il discorso sulla questione femminile all’interno della sfera pubblica politica. La forma del romanzo configura, per la sua scrittura, la possibilità di dispiegare il suo pensiero su un terreno politico insieme polemico e costruttivo. Tutto ciò accade anche perché quel genere letterario le consente più facilmente di sentirsi “a casa”, tra donne, di rivolgersi a chi – ricorda Cossutta (p. 26) – è in grado non solo di comprendere ma anche di “sentire” quanto lei intende argomentare.

Non è difficile scorgere anche in questo aspetto del percorso di Wollstonecraft un elemento di continuità con la riflessione filosofico politica femminista contemporanea su cosa debba considerarsi legittimamente teoria politica e cosa non ne abbia dignità. Scrive Cossutta: “La messa in discussione della forma argomentativa, di che cosa possa essere ritenuta teoria politica e di come la si possa comunicare, è un’interrogazione che le teorie femministe continuano a porre e a porsi” (p. 27). Ed è un’interrogazione strettamente connessa ad un diverso modo di declinare la razionalità, che per Wollstonecraft, come per buona parte della filosofia femminista contemporanea, va di pari passo con la riconciliazione tra ragione, emozioni e passioni. Nelle Letters written during a short residence in Sweden, Norway and Denmark, Wollstonecraft osserva: “ragioniamo profondamente quando sentiamo con forza” (cit. a p. 29). La passione è una molla fondamentale per la riflessione; in particolare, nella prospettiva filosofico politica, lo è la passione per la giustizia sociale mossa dalla percezione delle ingiustizie – come suggerisce Iris Marion Young, che anche su questo sembra muoversi in perfetta sintonia con Wollstonecraft.

La prospettiva pedagogica che attraversa tutta l’opera di Wollstonecraft, che il suo discorso assuma o meno la forma del trattato pedagogico, come accade nei primissimi scritti, che si tratti di riflessioni sull’auto-formazione, sul ruolo e l’importanza della lettura, dell’ascolto e della possibilità di confrontarsi con persone che possono diventare interlocutori privilegiati, è senz’altro cruciale nella sua comprensione della necessità di riconoscere la natura politica dello spazio privato, delle relazioni familiari e più in generale delle relazioni sociali. Ciò è possibile anche perché non è in discussione tanto l’istruzione quanto l’educazione nel senso di una socializzazione che favorisca la formazione di un sé capace di pensare autonomamente. In altri termine, ciò cui dobbiamo prestare attenzione, per Wollstonecraft, è il modo in cui l’organizzazione e le forme delle relazioni sociali, a cominciare dalle relazioni primarie, si riflettono nello sviluppo delle capacità della persona – oggi, utilizzando il lessico di Sen e Nussbaum, diremmo delle capabilities.

Su tutti questi temi, l’autore con cui il confronto sarà più serrato è, senz’altro, Rousseau, di cui Wollstonecraft condivide sia l’idea che l’educazione ha il “compito di creare una società giusta” sia che essa debba “prestare attenzione anche alla felicità dei bambini educati” (cit. pp. 82-83). Con Rousseau, tuttavia, Wollstonecraft non può fare a meno di ingaggiare anche un’accesa battaglia polemica sul tema dell’educazione delle donne. Una polemica che, in ultima analisi, non è che il preludio a una critica complessiva dell’ideale di cittadino e di cittadinanza proposta da Rousseau, così come di quella tradizione delle sfere separate che egli più di ogni altro pensatore settecentesco ha contribuito a delineare. Il terreno della critica a Rousseau diventa così una sorta di palestra per denunciare l’errore di distinguere due tipi di educazione: quella maschile, volta alla creazione del cittadino e della virtù pubblica, e quella femminile, finalizzata alla creazione della madre e della virtù privata.

Educare alla cura di sé e dell’altro, al fine di evitarne la sofferenza, è l’essenza dell’educazione che dovrebbe emergere in una società giusta. Le donne dell’aristocrazia, educate a preoccuparsi dello sguardo maschile e del giudizio dell’opinione pubblica, sono incapaci di ascoltare i loro bisogni così come di prendersi cura dei loro figli. Gli uomini, d’altra parte, educati all’adulazione, cadono facilmente vittima dell’inganno femminile; la loro presunta autonomia poggia sull’incapacità di pensarsi in relazioni di reciprocità. Da questo punto di vista, la critica a Rousseau porta l’autrice a formulare sia una diversa nozione di autonomia, che si fonda sulla reciprocità relazionale, sul rispetto reciproco proprio delle relazioni amichevoli, sia su una diversa nozione di virtù valida sia per il privato che per il pubblico: la modestia.

Wollstonecraft, nella seconda Vindication, distingue modestia e umiltà: definisce la prima come una “sobrietà della mente che insegna all’uomo a non avere di se stesso una considerazione maggiore di quanto non dovrebbe” e l’umiltà come una sorta di “autodenigrazione”. La modestia, “l’abito più bello della virtù (the fairest garb of virtue)” e il “frutto sacro della sensibilità e della ragione (sacred offspring of sensibility and reason)”, è una virtù trascurata o relegata nella sfera privata femminile tanto nel modello repubblicano di Rousseau, incentrato sulla figura del cittadino in armi, la cui virtù è data dalla forza, quanto dal modello della repubblica commerciale che – come Wollstonecraft rimprovera a Imlay in una lettera – sembra mantenere “la mente” e le “passioni” “in un continuo stato di agitazione (p. 172).

La modestia è una virtù sfuggente, che sta tutta nel tentativo costante di raggiungere un equilibrio tra il non esaltarsi e il non denigrarsi. Sembra dotata del potere di far cadere in contraddizione chi dice di possederla: dire “Sono modesta” suona contraddittorio, se non ridicolo. È una virtù che sta agli altri semmai riconoscere, ma che in ogni caso non ha bisogno di andare in cerca di alcuna forma di riconoscimento. È una consapevolezza di sé che è giusta, per Wollstonecraft, nella misura in cui ci rende consapevoli delle nostre possibilità e dei nostri limiti. È fondata su un autogoverno che consiste nella capacità di mettersi in secondo piano, di decentrarsi, capacità indispensabile per raggiungere qualsiasi obiettivo, per essere utili agli altri. In fondo, sia la vanità che l’arroganza così come l’auto-denigrazione condividono il vizio di un’eccessiva concentrazione su di sé, di dare un’eccessiva importanza al proprio ego.

La modestia è quella virtù che consiste nel farsi né troppo grande né troppo piccolo rispetto agli altri, due vizi che – come suggerisce Vrinda Dalmiya in Caring to Know. Comparative Care Ethics, Feminist Epistemology, and the Mahābhārata (OUP 2016), una lettura che potrebbe essere utile per integrare la riflessione inaugurata qui da Cossutta a partire da Wollstonecraft – precludono l’accesso a quei beni epistemici che possono derivare dalla disposizione a correggere se stessi, ad aprirsi alle emozioni.

Come sottolinea Cossutta, Wollstonecraft sceglie di parlare di “modestia”, piuttosto che di “umiltà”, perché è il termine più spesso associato alle virtù femminili. L’associazione tra modestia e femminilità è ribadita a più riprese nel testo della seconda Vindication con il rimando alla nozione di pulizia: la pulizia della casa, dei comportamenti, della mente e del cuore. “Il riserbo personale e il sacro rispetto per la pulizia e la delicatezza nella vita domestica […] sono gli aggraziati pilastri della modestia” (The personal reserve, and sacred respect for cleanliness and delicacy in domestic life […] are the graceful pillars of modesty) – scrive Wollstonecraft. Il riserbo, la pulizia della casa sono attività di cura che presuppongono attenzione a sé, ma anche all’altro. Wollstonecraft associa la modestia anche all’utilità, all’altruismo e, non ultimo, al sentimento di umanità. Scrive:

“Fa che il cuore sia pulito, si espanda e senta tutto ciò che è umano, invece di essere ristretto da passioni egoistiche; e che la mente contempli spesso argomenti che esercitino la comprensione, senza riscaldare l’immaginazione, e la modestia darà il tocco finale al quadro” (Make the heart clean, let it expand and feel for all that is human, instead of being narrowed by selfish passions; and let the mind frequently contemplate subjects that exercise the understanding, without heating the imagination, and artless modesty will give the finishing touches to the picture).

La modestia diventa, nella seconda Vindication, la virtù centrale di “una repubblica ben ordinata anche nella sfera privata”. Una repubblica è “ben ordinata” grazie alla capacità di autogoverno dei suoi cittadini e delle sue cittadine. Una capacità di autolimitazione e controllo nella propria vita privata, che trasforma la relazione matrimoniale in una solida e duratura amicizia tra i coniugi, incentrata sulla stima reciproca. Wollstonecraft sicuramente non ritiene che la parzialità degli affetti familiari sia un impedimento all’allargamento dei sentimenti in una direzione patriottica e cosmopolitica. È piuttosto vero il contrario – osserva Cossutta: “L’idea di Wollstonecraft degli affetti familiari, al contrario, fa della famiglia il terreno fertile di una benevolenza repubblicana e universale” (p. 125). Leggi e istituzioni hanno, però, snaturato il senso delle relazioni familiari, trasformandole in relazioni di dominio e per le donne in una forma di schiavitù, attraverso un’estensione inappropriata del concetto di proprietà: la donna come lo schiavo è diventata una proprietà dell’uomo.

Il concetto di proprietà, così come è stato teorizzato dal diritto moderno, quindi deve essere oggetto di una disamina. Il tema – come mette in evidenza Cossutta – era già accennato nella prima Vindication, dove la schiavitù veniva considerata non una distorsione ma un male intrinseco della società mercantile. Ritorna con ancora più forza nel romanzo Maria, or the wrongs of woman, soprattutto attraverso la figura di Jemima, che consente a Wollstonecraft di ampliare la sua riflessione all’intreccio tra genere e classe. Jemima, infatti, è una donna di umilissime origini, costretta per un certo periodo della sua vita a prostituirsi per sopravvivere. Se nella seconda Vindication sul tema della prostituzione si può riscontrare una vena di moralismo, in Maria, or The Wrongs of Woman, Wollstonecraft sembra giunta ad una diversa e più profonda comprensione del peso delle condizioni materiali: Jemima è una donna che nel suo percorso ha incontrato ostacoli che avrebbero potuto annientarla, per superare i quali a nulla sarebbe servita la virtù della modestia. Jemima viene salvata dall’incontro con uomo abbiente e colto, inizialmente interessato solo al suo corpo, che nel tempo le offre la possibilità di costruirsi un’educazione sufficiente ad acquisire stima di sé, coraggio di essere se stessa e di sfidare la società. Solo mutate condizioni materiali danno a Jemima la possibilità di acquisire una voce, di far sentire la voce del margine. Attraverso Jemima, insomma, Wollstonecraft sembra correggere il tiro rispetto alla seconda Vindication e affermare che la ricchezza non ha solo la capacità di corrompere la virtù e distorcere le finalità dell’educazione. La ricchezza, quando diventa l’unico fondamento su cui poggia una società, può essere crudele e spietata nei suoi meccanismi e nella sua logica: senza una base materiale che fornisca sicurezza e un riparo, si è lasciati in balia della violenza, nelle sue molteplici forme; si rischia costantemente di venire annientati nella propria umanità.

La critica alla teoria della proprietà lockeana fondata sulla proprietà di sé incontra limiti evidenti se guardata con occhi femminili, con gli occhi di chi all’epoca, in quanto donna, sapeva di non poter essere proprietaria di sé, né del proprio corpo, soprattutto se non sposata e priva di ogni mezzo, come Jemima. Il cenno forse più esplicito a questa mancanza di proprietà sul proprio corpo da parte dei poveri si trova in una pagina di Maria, or The Wrongs of Woman, non citata da Cossutta, ma a cui le sue riflessioni hanno riportato la mia memoria. Si tratta della pagina in cui Jemima racconta che per un incidente alla gamba durante il lavoro pesante di lavandaia è costretta a recarsi in ospedale:

Non riesco a darvi un’idea adeguata della miseria di un ospedale; ogni cosa è lasciata alla cura di persone intente a guadagnare. Gli assistenti sembrano aver perso ogni sentimento di compassione nell’affannoso svolgimento delle loro mansioni; la morte è così familiare per loro che non si preoccupano di scongiurarla. Ogni cosa sembrava essere condotta per favorire i medici e i loro allievi, venuti a fare esperimenti sui poveri a beneficio dei ricchi. (I cannot give you an adequate idea of the wretchedness of an hospital; every thing is left to the care of people intent on gain. The attendants seem to have lost all feeling of compassion in the bustling discharge of their offices; death is so familiar to them, that they are not anxious to ward it off. Every thing appeared to be conducted for the accommodation of the medical men and their pupils, who came to make experiments on the poor, for the benefit of the rich).

Jemima si lascia qui andare a una riflessione su come l’ospedale fosse congegnato per sperimentare sul corpo dei poveri nuove cure nella speranza che un giorno possano curare i ricchi. Sappiamo bene, del resto, come soprattutto la ginecologia moderna sia nata dalla sperimentazione sui corpi delle malate che giungevano nei nosocomi in condizioni di indigenza. Una condizione che chiaramente mostra come, per la popolazione ridotta in povertà, neppure la proprietà di sé fosse realmente possibile. Da qui, la necessità, per Wollstonecraft, di riformare la società anche dal punto di vista economico, degli stili di vita, di consumo e di produzione, al fine di creare una maggiore uguaglianza materiale, per arrivare alla realizzazione di una società giusta. Continua a rimanere centrale la capacità di autogoverno, di essere padrone di sé, che implica la forza di stare fuori dalle leggi della società, se necessario, di essere “fuorilegge” – come Jemima e Maria si trovano ad essere per aver sfidato le norme sociali –, ma anche il sapere imporre dei limiti ai propri bisogni. Una virtù che si può esercitare, però, solo se la società garantisce una base materiale che consenta a tutti di soddisfare i bisogni essenziali.

Wollstonecraft cerca un’alternativa alla società mercantile. Come già aveva proposto nella Vindication of the Rights of Men, contro la visione economico-politica burkeana, in Mary, a Fiction torna all’immagine del cottage, della casa di campagna, dove è possibile condurre una vita frugale in armonia con sé stesse, con gli altri e con la natura. In Maria, or the Wrongs of Woman, questa piccola comunità eterotopica è una comunità di sole donne: di Maria, della figlia ritrovata di costei e di Jemima. “Nell’inaspettata famiglia di Maria e Jemima – commenta Cossutta – è […] possibile vedere un ideale politico, nutrito sia dalla teoria che dalle vite reali, in grado di sovvertire la disuguaglianza delle donne partendo non solo dall’istruzione, ma anche dalle condizioni materiali” (p. 150).

Senza voler, per forza, ritrovare in Wollstonecraft anticipazioni di tutto ciò che di interessante e importante offre la riflessione femminista contemporanea, senza farne “una sorta di talismano” (p. 210), non si può non concordare con Cossutta sulla possibilità di trovare stimoli tuttora validi per pensare il presente nel pensiero di quest’autrice settecentesca. Non ultimo anche per la sua critica agli effetti negativi prodotti sulla società e sulle soggettività da una fredda razionalità economica orientata ad una crescita fine a se stessa e cieca di fronte ai mali prodotti da crescenti disuguaglianze sociali.

Pinocchio, alla presenza del giudice, raccontò per filo e per segno l’iniqua frode, di cui era stato vittima […]. Allora il giudice, accennando Pinocchio ai giandarmi, disse loro: — Quel povero diavolo è stato derubato di quattro monete d’oro: pigliatelo dunque e mettetelo subito in prigione. ―

Carlo Collodi

1. Prodotti pericolosi e non funzionanti

I sistemi di intelligenza artificiale sono oggi in grado di svolgere alcuni specifici compiti, che erano stati, finora, prerogativa dei soli esseri umani: funzioni quali la traduzione di testi, il riconoscimento facciale, la ricerca per immagini o l’identificazione di contenuti musicali, non trattabili con l’intelligenza artificiale simbolica, sono affrontate con crescente successo dai sistemi di apprendimento automatico (machine learning).

Questi sistemi, di natura sostanzialmente statistica, consentono infatti di costruire modelli a partire da esempi, purché si abbiano a disposizione potenti infrastrutture di calcolo e enormi quantità di dati. Le grandi aziende tecnologiche che, intorno al 2010, in virtù di un modello di business fondato sulla sorveglianza, detenevano già l’accesso al mercato necessario per l’intercettazione di grandi flussi di dati e metadati individuali e le infrastrutture di calcolo per la raccolta e l’elaborazione di tali dati, hanno potuto perciò raggiungere, con l’applicazione di algoritmi in gran parte noti da decenni, traguardi sorprendenti¹.

Nella generale euforia per i genuini progressi, le imprese del settore hanno colto l’opportunità per un’espansione illimitata di prodotti e servizi «intelligenti», ben oltre l’effettivo stadio di sviluppo della tecnologia. Con la formula di marketing «intelligenza artificiale», hanno diffuso e messo in commercio sistemi di apprendimento automatico per lo svolgimento di attività che tali sistemi non sono in grado di svolgere o che semplicemente non sono possibili. Tra i prodotti di questo genere – costitutivamente pericolosi e non funzionanti – ci sono

1. le auto a guida autonoma,
2. i sistemi di ottimizzazione predittiva,
3. i generatori di linguaggio naturale.

1.1 Le auto a guida autonoma

Allo stato attuale della tecnologia, le auto «a guida autonoma» non sono a guida autonoma: non è oggi disponibile alcun veicolo in grado di circolare nelle medesime strade in cui circolano i veicoli tradizionali e nel quale l’occupante umano della vettura sia un mero passeggero. Malgrado i reiterati annunci, nell’ultimo decennio, di una loro imminente commercializzazione, tali veicoli non riescono oggi ad evitare di collidere contro un terzo dei ciclisti e contro tutte le altre auto che siano, pur lentamente, in arrivo. Quanto ai veicoli Tesla già in circolazione, di cui è stata millantata l’autonomia completa (con video rivelatisi poi mere costruzioni cinematografiche), gli sforzi dell’azienda si concentrano oggi nel sostenere, nelle sedi giudiziarie, che «il fallimento nella realizzazione di un ideale obiettivo a lungo termine» non equivalga a una frode, quasi che la vendita, a migliaia di dollari, di un optional denominato «Full self driving capability» potesse essere interpretata dai clienti quale espressione di un mero obiettivo a lungo termine.

1.2. I sistemi di ottimizzazione predittiva

I sistemi di «ottimizzazione predittiva» – ossia gli algoritmi di decisione fondati su previsioni circa il futuro di singoli individui – non sono affatto in grado di prevedere il futuro di singole persone, per la semplice ragione che ciò non è possibile (salvo per chi nutra la convinzione, caratteristica delle antiche attività divinatorie e, oggi, dell’astrologia, che il futuro sia già scritto e leggibile). Eppure, sono in commercio e in uso, ormai da anni, sistemi che consentono di assumere decisioni in modo automatico, grazie alla possibilità di prevedere – si dice – se un cittadino  commetterà un crimine, se un candidato per un impiego sarà efficiente e collaborativo, se uno studente abbandonerà gli studi o se un minore sarà maltrattato dai suoi familiari. A una verifica puntuale, tali sistemi risultano così poco affidabili, per la previsione di eventi e azioni individuali, che alcuni ricercatori suggeriscono piuttosto il ricorso a una lotteria tra le persone ammissibili, quando si debbano allocare risorse scarse e non sia possibile utilizzare – anziché sistemi di apprendimento automatico – semplici procedimenti di calcolo con variabili pertinenti ed esplicite. Quando il responso dei sistemi di apprendimento automatico sia utilizzato a fini decisionali, la decisione produce ciò che pretende di prevedere: se il genere predice una paga più bassa e il colore della pelle predice la probabilità di essere fermati dalla polizia, con il passaggio dalla previsione alla decisione tale profilazione sociale si autoavvera, legittimando così, in virtù della presunta oggettività algoritmica, i pregiudizi incorporati nella descrizione statistica iniziale. Simili sistemi producono perciò, infallibilmente, ingiustizia e sofferenze, danneggiando le persone che si trovino –  ancorché per ragioni del tutto irrilevanti, rispetto al trattamento inflitto – ai margini dei modelli algoritmici di normalità e dunque violandone infallibilmente i diritti.

1.3. I generatori di linguaggio naturale

I generatori di linguaggio, quali chatGPT e GPT-4, fondati su grandi modelli del linguaggio naturale, sono descritti da OpenAI come dotati della «capacità di comprendere e generare testo in linguaggio naturale», di «fattualità e capacità matematiche», di una conoscenza del mondo, di capacità di ragionamento e della caratteristica di fornire, «occasionalmente», risposte non corrette. In realtà, tali sistemi non conoscono né comprendono alcunché, sono architettonicamente incapaci di ragionamento abduttivo e non sono in grado di fornire alcuna informazione. I grandi modelli del linguaggio naturale sono sistemi che predicono stringhe di testo, in modo statisticamente coerente con il modo in cui le sequenze di forme linguistiche si combinano nei testi di partenza: sono programmi informatici che utilizzano le statistiche sulla distribuzione delle parole per produrre altre stringhe di parole. Sono ulteriormente calibrati, attraverso interazioni con esseri umani, per produrre output che somiglino a quelle che tali esseri umani qualificano come risposte plausibili, pertinenti e appropriate. Le versioni attualmente in distribuzione di tali chatbot, quali chatGPT o GPT-4, sono costruite su un’enorme quantità di dati e opere del lavoro umano – estorti o prelevati in blocco, alla stregua di res nullius, anche quando siano protetti dal diritto alla protezione dei dati personali o dal diritto d’autore – e riproducono con effetti normalizzanti, anziché generativi in senso proprio, la prospettiva egemonica e i suoi stereotipi. Simili sistemi sono modelli del linguaggio, non modelli della conoscenza: producono perciò testi plausibili e convincenti e, al tempo stesso, del tutto privi di valore informativo.

Il genuino progresso costituito dalla «macchina letteraria» – in grado, come scriveva Italo Calvino, di «far stare una parola dietro l’altra seguendo certe regole definite, o più spesso regole non definite né definibili ma estrapolabili da una serie di esempi o protocolli»² – è sfruttato dalle aziende, oltre che attraverso pratiche di espropriazione del lavoro e di esternalizzazione dei costi ambientali, attraverso una presentazione deliberatamente fuorviante e  la generalizzata distribuzione di tali sistemi al pubblico, malgrado la consapevolezza degli inevitabili effetti dannosi. Nella lunga lista dei previsti effetti nefasti di GPT-4, puntualmente elencati da OpenAI nella relativa System card, compaiono l’inquinamento dell’ecosistema dell’informazione («ha il potenziale di mettere in dubbio l’intero ambiente dell’informazione, minacciando la nostra capacità di distinguere i fatti dalla finzione»), la possibilità di truffe e manipolazioni politiche su larghissima scala (con uno strumento che può produrre una miriade di testi, orientati come si desidera e indistinguibili da quelli prodotti da esseri umani) e «la tendenza a inventare i fatti, a fornire informazioni errate e a svolgere compiti in modo scorretto», tanto più pericolosa quanto più sono stati resi plausibili, e dunque ingannevoli by design, i suoi output. A fronte di queste caratteristiche, il CEO di OpenAI twitta giulivo che chi non può permettersi le cure potrà farsi curare da un generatore di linguaggio, e le aziende che commercializzano applicazioni per l’assistenza mentale registrano milioni di abbonati, sfruttando, manipolando e mettendo in pericolo le persone più vulnerabili.

Commercializzare impunemente prodotti pericolosi e non funzionanti non è impresa da poco. Ma l’operazione di propaganda dei giganti della tecnologia ha ottenuto, finora, ben altro: un’impostazione del discorso pubblico che punisce le vittime, come in quel paese di Acchiappacitrulli in cui Collodi aveva fatto finire il suo povero burattino, e l’assimilazione dei colpevoli a lungimiranti paladini dell’umanità.

2. Le vittime colpevoli e altre storie

L’impiego di sistemi di apprendimento automatico per funzioni che essi, in virtù delle loro caratteristiche strutturali, non possono svolgere, genera danni e sofferenze agli esseri umani coinvolti. Se la responsabilità per gli effetti ordinari di tali prodotti ricadesse sui produttori, come i sistemi normativi – fin dal Codice di Hammurabi – usualmente prevedono, la loro commercializzazione non sarebbe vantaggiosa (quand’anche il diritto non la vietasse tout court).

Le grandi aziende tecnologiche che distribuiscono tali sistemi hanno adottato perciò una strategia analoga a quella utilizzata a suo tempo dalle industrie del tabacco: hanno finanziato la ricerca universitaria e la divulgazione scientifica e utilizzato i mezzi di comunicazione pubblica (che esse stesse detengono) per diffondere una famiglia di narrazioni, sulla natura e le prestazioni degli attuali sistemi di intelligenza artificiale, che tutela, legittimandolo, un modello di business fondato sulla sorveglianza e sulla possibilità di esternalizzare impunemente i costi del lavoro, degli effetti ambientali e dei danni sociali.

È ormai largamente condivisa, perciò, l’idea che ai danni prodotti dai sistemi di apprendimento automatico si debba reagire non come dinanzi a qualsiasi prodotto pericoloso e non funzionante, ossia vietandone la vendita e l’utilizzo (oltre che la pubblicità ingannevole), e imponendo ai responsabili il pagamento dei danni, bensì come dinanzi a un problema di allineamento dei valori, di etica dell’intelligenza artificiale o di equità algoritmica, quasi che gli algoritmi potessero essere destinatari di un’opera di moralizzazione, in grado di aggiungere a sistemi statistici automatizzati, quale procedura computazionale tra le altre, la facoltà del giudizio morale.

Su questi temi, propongo alla revisione paritaria aperta due articoli:

• What’s wrong with «AI ethics narratives» (DOI: 10.5281/zenodo.7156364)
• L’«etica» come specchietto per le allodole. Sistemi di intelligenza artificiale e violazioni dei diritti (DOI: 10.5281/zenodo.7799775).

2.1 La cattura culturale

Le narrazioni – idee trasmesse nella forma di storie – diffuse dalle grandi compagnie tecnologiche danno forma alla percezione pubblica del rapporto tra etica, politica, diritto e tecnologia.

Definendo gli assiomi del dibattito, le grandi imprese impongono quali priorità politiche le loro priorità aziendali. La tradizionale «cattura del regolatore», realizzata tramite gli opportuni incentivi o tramite il meccanismo delle revolving doors, è così accompagnata dalla cattura culturale: con un’operazione di propaganda, «colonizzando l’intero spazio dell’intermediazione scientifica», si ottiene che il regolatore – al pari dell’opinione pubblica – condivida in partenza l’impostazione desiderata e che chiunque esprima preoccupazioni sia etichettato come retrogrado o luddista.

Sono così entrate a far parte del senso comune una precisa impostazione di fondo e uno specifico set di problemi e soluzioni, brevemente illustrati di seguito.

2.1.a. Il principio di inevitabilità tecnologica

Il progresso tecnologico è considerato inarrestabile e di ogni singola tecnologia si dà per scontato che sia «qui per restare» o che «se non lo facciamo noi, lo farà qualcun altro». Qualsiasi dibattito ha luogo perciò entro la «logica del fatto compiuto», così che la possibilità di non costruire affatto alcuni sistemi o di non utilizzarli per alcune finalità non possa essere neppure contemplata.

2.1.b. Il principio di innovazione

Il principio di innovazione – fondato sul tacito assunto che qualsiasi innovazione tecnologica sia foriera di competitività e occupazione e debba perciò essere assecondata, anche a scapito del principio di precauzione – è in genere la maschera dietro la quale grandi aziende rivendicano la tutela dei loro concreti interessi economici. Gli studi più recenti mostrano, del resto, che i monopoli del capitalismo intellettuale ostacolano qualsiasi innovazione, per quanto dirompente e benefica, che non si adatti al loro modello di business, promuovendo principalmente un’innovazione tossica che estrae o distrugge valore, anziché produrlo.

2.1.c.  La prospettiva soluzionistica

Le questioni di giustizia sono presentate quali questioni di design tecnico e la soluzione dei problemi sociali è assimilata al loro trattamento con sistemi di apprendimento automatico. Agli stessi danni generati dall’uso di dispositivi tecnologici si ritiene di poter rimediare con l’applicazione di ulteriori soluzioni tecnologiche. In questo modo, si oscura la natura politica della decisione di assimilare le questioni sociali a problemi di disciplinamento e controllo, passibili di soluzioni tecniche.

2.1.d. L’antropomorfizzazione delle macchine e la deumanizzazione delle persone

La tendenza spontanea ad antropomorfizzare gli oggetti della tecnologia è sfruttata dalle aziende per indurre la convinzione che i loro prodotti siano in grado di comprendere, conoscere, consigliare o giudicare in senso proprio; correlativamente, il cervello è assimilato a un computer, gli esseri umani a macchine e i volti delle persone a codici a barre, così da giustificare il fatto che le persone siano effettivamente trattate come cose, nei processi in cui si decidono le loro sorti sulla base di statistiche automatizzate, a partire da etichette e collezioni di dati che – a qualsiasi titolo e pur senza alcun riferimento a contesti e significati – li riguardino.

2.1.e. I miti dell’eccezionalismo tecnologico e del vuoto giuridico

La tesi che le leggi vigenti non si applichino ai prodotti basati su sistemi di «intelligenza artificiale», in virtù della loro novità e straordinarietà, e che servano dunque nuove leggi, scritte ad hoc per ciascuna tecnologia, serve a dar luogo a una corsa che vedrà il legislatore perennemente in affanno, nel rincorrere le più recenti novità tecnologiche, le quali saranno dunque commercializzabili eslege. Tale affermazione dell’eccezionalismo tecnologico è in genere assunta tacitamente:

Negli ultimi decenni la Silicon Valley è riuscita a costruire intorno a sé una fortezza antiregolamentare promuovendo il mito – di rado dichiarato apertamente, ma ampiamente condiviso dagli operatori del settore – che il settore “tech” sia in qualche modo fondamentalmente diverso da ogni altra industria che l’ha preceduto. È diverso, secondo questo mito, perché è intrinsecamente animato da buone intenzioni e produrrà prodotti non solo nuovi, ma anche precedentemente impensabili. Qualsiasi danno a livello micro – sia esso a un individuo, a una comunità vulnerabile o a un intero paese – è considerato da questa logica un valido compromesso per un “bene” a livello macro, in grado di cambiare la società.

Il mito del vuoto giuridico ha consentito alle grandi aziende di fondare il loro modello di business su una «bolla giuridica», ossia su una generale violazione di diritti giuridicamente tutelati, impedendo, fin qui, di constatare che esse stanno violando leggi vigenti, applicabili anche ai nuovi prodotti.

In assenza di precedenti, come osserva Erevan Malroux, pur in presenza di una risposta del diritto, è possibile che vi siano dubbi sul significato di quella risposta (ossia una «vaghezza giuridica») o che la risposta non sia ritenuta soddisfacente («ad esempio, quando una pratica è consentita, mentre la società ritiene che dovrebbe essere regolamentata in modo più rigoroso») e che sia opportuno, perciò, adottare regolamenti specifici.

2.1.f. Gli allarmi su rischi e pericoli tratti dal futuro o dalla fantascienza

Con allarmi sul rischio che «menti digitali sempre più potenti» sfuggano al nostro controllo, le grandi aziende tecnologiche convogliano le paure collettive verso oggetti immaginari (distraendo tali fondate paure dai loro veri oggetti: una tecnologia che il capitalismo userà contro noi e la «nostra incapacità di regolare il capitalismo» medesimo). Sono così oscurate le violazioni di diritti, i costi esternalizzati e i danni reali causati dalla concentrazione di potere e dal modello di business dei monopoli del capitalismo intellettuale. Questo elemento della narrazione confluisce talora nel seguente.

2.1.g. I messianesimi eugenetici

Una congerie di utopie per multimiliardari bianchi (nelle quali confluiscono ideologie complessivamente denominate TESCREAL) invitano l’opinione pubblica a occuparsi del futuro dell’umanità (donde il termine longtermism), anziché del presente, e variamente vagheggiano scenari in cui il bene dell’umanità sarà il frutto delle tecnologie su cui questi stessi multimiliardari intendono, di volta in volta, lucrare. Filosoficamente inconsistenti e massicciamente finanziate, hanno in comune deliri eugenetici e un concetto di “umanità” che esclude gran parte degli esseri umani.

Ne è un esempio recente la proposta del Chief Economist di Microsoft al World Economic Forum:

Non dovremmo regolamentare l’IA finché non vediamo un danno significativo che si stia effettivamente verificando […] Deve esserci almeno un minimo di danno, in modo da capire quale sia il vero problema

la natura della cui distrazione somiglia a quella della zia Sally, in Le avventure di Huckleberry Finn:

«Ci è scoppiata una caldaia».
«Dio santo! Ci sono stati dei feriti?»
«No, signora. È morto un negro».
«Che fortuna! Poteva farsi male qualcuno […]»³

2.2 Il paese di Acchiappacitrulli

Le diverse narrazioni concorrono, congiuntamente, al perseguimento di singoli scopi aziendali: al fine di sfuggire alle responsabilità per gli effetti dannosi dei prodotti, ad esempio, sono utili l’eccezionalismo, l’antropomorfizzazione delle macchine e, insieme, il «principio di inevitabilità tecnologica», secondo un meccanismo che Joseph Weizenbaum aveva descritto quasi mezzo secolo fa:

Il mito dell’inevitabilità tecnologica, politica e sociale è un potente tranquillante per la coscienza. Il suo servizio è quello di togliere la responsabilità dalle spalle di tutti coloro che ci credono veramente. Ma, in realtà, ci sono degli attori! […] La reificazione di sistemi complessi che non hanno autori, di cui sappiamo solo che ci sono stati dati in qualche modo dalla scienza e che parlano con la sua autorità, non permette di porsi domande di verità o di giustizia.⁴

Poiché qualcuno deve pur pagare i danni, gli appelli all’eccezionalità delle nuove tecnologie sono accompagnati dalla proposta di una responsabilità distribuita anche tra gli utenti e le vittime o da quella di attribuire un ruolo decisivo agli esseri umani coinvolti nei processi automatizzati (human on the loop), affidando a una persona il compito di intervenire, con prontezza fulminea, nei casi di emergenza, o di rettificare il responso imperscrutabile di un sistema automatico. L’introduzione di un inverosimile controllo umano svolge la funzione di legittimare l’uso di sistemi pericolosi, attribuendo all’essere umano il ruolo di capro espiatorio. Quanto simili strategie aziendali siano analoghe alle truffe in senso stretto, è manifesto nei casi in cui le vittime siano colpevoli by design, come pare sia stato specificamente previsto nei veicoli Tesla attraverso un meccanismo di disattivazione dellla funzione Autopilot un secondo prima dell’impatto, così da far risultare che il veicolo, al momento dello schianto, fosse affidato al passeggero umano.

Un ulteriore dispositivo per diffondere impunemente prodotti insicuri e incolpare sistematicamente utenti e clienti è l’offuscamento della linea di confine tra la fase di ricerca e sperimentazione e quella della distribuzione e commercializzazione di prodotti: OpenAI, ad esempio, rende pubblicamente disponibili i propri generatori di linguaggio naturale, in fase sperimentale, ne distribuisce al tempo stesso versioni a pagamento e fissa termini d’uso in virtù dei quali ogni utente è responsabile, secondo una logica analoga a quella del paese di Acchiappacitrulli, tanto dei propri input quanto degli output prodotti dal sistema (sui quali, ovviamente, non ha alcuna facoltà di controllo o decisione e i cui fondamenti gli sono del tutto oscuri).

Alla tesi dell’eccezionalità delle nuove tecnologie, che renderebbe inapplicabili i sistemi normativi normativi vigenti e gli ordinari criteri di attribuzione della responsabilità, si oppone oggi una crescente consapevolezza del fatto che i sistemi informatici sono artefatti, ossia oggetti, e che non c’è alcuna ragione per sottrarne la distribuzione e la commercializzazione alla legislazione ordinaria.

3. Le leggi in vigore valgono anche per l’«intelligenza artificiale»

I sistemi informatici fondati sull’«intelligenza artificiale» devono essere considerati quali meri prodotti. Per chi non li consideri, antropomorficamente, quali agenti, resta infatti valida la tradizionale dicotomia tra soggetti giuridici e oggetti. L’eventuale impossibilità di risalire alla responsabilità dovrebbe perciò essere assimilata giuridicamente, anziché a un rebus filosofico, a una forma di negligenza del produttore. La responsabilità per gli effetti dannosi di tali prodotti, prevedibili o imprevedibili che siano, potrà essere agevolmente oggetto delle soluzioni giuridiche ordinariamente definite, nel rispetto del principio cuius commoda, eius et incommoda e tenendo conto della «radicale asimmetria di potere» e di profitto «tra coloro che sviluppano e distribuiscono i sistemi algoritmici e i singoli utenti che sono soggetti ad essi».

Di recente, la Federal Trade Commission statunitense ha pubblicamente smascherato la natura strumentale delle narrazioni sull’eccezionalismo tecnologico. In netto contrasto con la posizione delle grandi aziende, ha dichiarato che i prodotti della tecnologia sono soggetti alle norme in vigore e che l’impossibilità, per ragioni tecniche, di ottemperare a ciò che le leggi esigono non è una ragione per dichiararsi esentati da quelle stesse leggi e chiederne di nuove, bensì – come in qualsiasi altro settore a fronte di una constatazione di illegalità – una ragione per non commercializzare affatto simili prodotti:

C’è un mito potente in giro secondo il quale «l’IA non è regolamentata». […] Ha un forte fascino intuitivo: suona bene. Come potrebbero queste misteriose nuove tecnologie essere regolamentate dalle nostre vecchie leggi polverose?
Se l’avete sentita o l’avete detta, fate un passo indietro e chiedetevi: a chi giova questa idea? Non aiuta i consumatori, che si sentono sempre più indifesi e smarriti. Non aiuta la maggior parte delle aziende. […]
Credo che l’idea secondo cui «l’IA non è regolamentata» aiuti quel piccolo sottoinsieme di imprese che non sono interessate alla compliance. E abbiamo già sentito frasi simili. «Non siamo una compagnia di taxi, siamo una compagnia tecnologica». «Non siamo un’azienda alberghiera, siamo un’azienda tecnologica». Queste affermazioni erano di solito seguite da affermazioni secondo cui le norme statali o locali non potevano essere applicate a queste aziende.
La realtà è che l’IA è regolamentata. Solo alcuni esempi:
– Le leggi sulle pratiche commerciali sleali e ingannevoli si applicano all’IA. […]
– Le leggi sui diritti civili si applicano all’IA. […]
– Le leggi sulla responsabilità civile e da prodotto si applicano all’IA.

In una Dichiarazione congiunta, la Federal Trade Commission e altre tre agenzie federali hanno reso noto che, negli interventi di applicazione delle leggi vigenti, esse intendono utilizzare «con vigore» le loro prerogative «per proteggere i diritti degli individui, indipendentemente dal fatto che le violazioni del diritto avvengano attraverso mezzi tradizionali o tecnologie avanzate». La pretesa che i nuovi sistemi di intelligenza artificiale siano emersi in un «vuoto giuridico» è respinta come infondata, sulla base della elementare constatazione che i codici non prevedono che l’intelligenza artificiale sia esentata dalle leggi.

Quanto al generale non funzionamento di intere categorie di prodotti che le aziende presentano come fondati su sistemi di «intelligenza artificiale», la Commissione esprime la propria consapevolezza di tali pratiche e la decisione di assimilarle a pubblicità ingannevole o a frode:

il fatto è che alcuni prodotti con pretese di IA potrebbero anzitutto non funzionare come pubblicizzato. In alcuni casi, questa mancanza di efficacia può sussistere indipendentemente dagli altri danni che i prodotti potrebbero causare. Chi li commercia deve sapere che, ai fini dell’applicazione della FTC, le affermazioni false o non comprovate sull’efficacia di un prodotto sono il nostro pane quotidiano.

Nell’esempio di prodotti che, in virtù della natura fantascientifica delle prestazioni vantate, non possono funzionare, è evidente il riferimento della Commissione ai sistemi di ottimizzazione predittiva:

State esagerando quello che il vostro prodotto di IA può fare? O addirittura sostenete che può fare qualcosa che va oltre le attuali capacità di qualsiasi tecnologia di IA o automatizzata? Ad esempio, non viviamo ancora nel regno della fantascienza, dove i computer possano  fare previsioni affidabili del comportamento umano. Le vostre dichiarazioni riguardo alle prestazioni saranno considerate ingannevoli se non avranno un fondamento scientifico o se si applicheranno solo a certi tipi di utenti o in certe condizioni.

Spesso, alla constatazione dei danni e delle violazioni dei diritti che hanno luogo quando si utilizzino sistemi di apprendimento automatico per funzioni che essi non possono svolgere, le aziende oppongono argomenti basati sull’antropomorfizzazione delle macchine e la deumanizzazione delle persone. L’imperscrutabilità delle mente umana, ad esempio, renderebbe lecito il rilascio di prodotti inspiegabili e imprevedibili, ossia costitutivamente non sicuri. Così il CEO di Google, in una recente intervista:

Scott Pelley: Non capite bene come funziona. Eppure, l’avete scaricato sulla società?
Sundar Pichai: Sì, è così. Mettiamola così. Non credo che comprendiamo appieno neppure il funzionamento della mente umana.

A simili artifici retorici, la Federal Trade Commission risponde ricordando che la Commissione medesima «storicamente non ha reagito bene all’idea che un’azienda non sia responsabile del proprio prodotto perché questo è una «scatola nera» incomprensibile o difficile da testare» e che, nei casi in cui la legge esiga spiegazioni, «l’inspiegabilità o l’imprevedibilità di un prodotto è raramente una difesa giuridicamente ammissibile».

La trasparenza è richiesta anzitutto sui dati di partenza, rendendo note le fonti dei dati e l’eventuale consenso degli interessati. Su questo aspetto, i più recenti provvedimenti della Commissione mostrano una radicalità nuova: in alcuni casi di dati ottenuti impropriamente, essa ha ottenuto infatti non la mera cancellazione di tali dati, ma la distruzione di tutti i modelli e gli algoritmi costruiti utilizzando tali dati.

Quanto alla responsabilità per i prevedibili danni derivanti dalla distribuzione di alcuni prodotti, la Presidente della Federal Trade Commission, Lina Khan, avverte, con specifico riferimento alla possibilità di automatizzare le frodi online, tramite i generatori di linguaggio:

Nell’applicare il divieto di pratiche ingannevoli, non ci limiteremo a considerare i truffatori occasionali che impiegano questi strumenti, ma anche le aziende a monte che li mettono a disposizione.

Il ruolo delle «aziende a monte» e gli effetti antidemocratici della concentrazione di potere in tali aziende – le quali hanno ormai dimensioni e prerogative che le rendono assimilabili ai più potenti Stati nazionali – costituiscono in effetti uno dei nodi cruciali: come ricorda l’AI Now Institute nel suo Rapporto del 2023, «la politica della concorrenza dovrebbe diventare una parte fondamentale del pacchetto di strumenti per la responsabilità nel settore tecnologico». Del resto, è alla consapevolezza del nesso strettissimo tra interventi antrust e politiche per la tutela dei diritti che si deve l’impostazione di fondo della Federal Trade Commission in materia di intelligenza artificiale, poiché, come ha scritto Shoshana Zuboff, «è possibile avere il capitalismo della sorveglianza ed è possibile avere la democrazia», ma «non è possibile sostenere entrambi».

A tale impostazione, si oppone la richiesta delle grandi aziende di privilegiare invece un approccio basato sui rischi. La posta in gioco è lucidamente espressa dall’AI Now Institute: «l’esperienza europea ci insegna quanto sia pericoloso il passaggio da un quadro normativo «basato sui diritti», come nel GDPR, a uno «basato sui rischi», come nel prossimo AI Act, e su come l’impostazione fondata sul «rischio» (in contrapposizione ai diritti) possa spostare il terreno di gioco a favore di quadri volontari e standard tecnici guidati dall’industria». L’approccio basato sui rischi si concentra in effetti, come osserva Margot Kaminski, sui soli danni assunti come prevedibili e quantificabili, oscurando le violazioni dei diritti individuali e i danni alle società democratiche; poiché dà per scontato che i sistemi di «intelligenza artificiale» funzionino e  debbano essere adottati, si limita a smussarne gli spigoli, dimenticando completamente – come hanno rilevato il Comitato europeo per la protezione dei dati e il Garante europeo per la protezione dei dati a proposito della proposta di AI Act – gli individui che, a qualsiasi titolo, siano affetti dai sistemi di intelligenza artificiale. Riducendo a questioni tecniche valutazioni e decisioni intrinsecamente politiche, l’approccio basato sui rischi assume tacitamente il principio dell’inevitabilità tecnologica e una prospettiva soluzionista, a tutela del modello di business delle grandi aziende tecnologiche. Queste paiono costituire, al momento, «il fantasma lobbista nella macchina» della regolazione.

1. ‘Open Secrets’: An Interview with Meredith Whittaker, in Economies of Virtue: The Circulation of ‘Ethics’ in AI, a cura di T. Phan, J. Goldenfein, D. Kuch, M. Mann, Amsterdam, Institute of Network Cultures, 2022, https://networkcultures.org/blog/publication/economies-of-virtue-the-circulation-of-ethics-in-ai/, pp. 140-152: 145.↩︎
2. I. Calvino, Cibernerica e fantasmi (Appunti sulla narrativa come processo combinatorio), in Idem, Una pietra sopra, Milano, Mondadori 2023³, pp. 201-221.↩︎
3. H.L.A. Hart, The Concept of Law, Oxford 1961, trad. it. Il concetto di diritto, a cura di Mario A. Cattaneo, Torino 2009, p. 233.↩︎
4. J. Weizenbaum, Computer Power and Human Reason. From Judgement to Calculation, San Francisco, W.H. Freeman & Company, 1976, pp. 241, 252, https://archive.org/details/computerpowerhum0000weiz_v0i3.↩︎

Nota bibliografica

• M. Abdalla, M. Abdalla, The Grey Hoodie Project: Big Tobacco, Big Tech, and the threat on academic integrity, in Proceedings of the 2021 AAAI/ACM Conference on AI, Ethics, and Society (AIES ’21), May 19–21, 2021, Virtual Event, New York, ACM, 2021, pp. 287-297, https://arxiv.org/abs/2009.13676v4.
• A. Alkhatib, To Live in Their Utopia: Why Algorithmic Systems Create Absurd Outcomes, in Conference on Human Factors in Computing Systems (CHI ’21), May 8–13, 2021, Yokohama, Japan, New York, ACM, 2021, https://ali-alkhatib.com/papers/chi/utopia/utopia.pdf.
• M. Atleson, Keep your AI claims in check, Febraury 27, 2023, https://www.ftc.gov/business-guidance/blog/2023/02/keep-your-ai-claims-check.
• S. Barocas, M. Hardt, A. Narayanan, Fairness and Machine Learning: Limitations and Opportunities, 2019, http://www.fairmlbook.org.
• E.M. Bender, T. Gebru, A. Mc Millan-Major, S. Shmitchell, On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, in Conference on Fairness, Accountability, and Transparency (FAccT ’21), March 3–10, 2021, Virtual Event, Canada, New York, ACM, 2021, https://dl.acm.org/doi/10.1145/3442188.3445922.
• A. Birhane, E. Ruane, T. Laurent, M.S. Brown, J. Flowers, A. Ventresque, C.L., Dancy, The Forgotten Margins of AI Ethics, in Conference on Fairness, Accountability, and Transparency (FAccT ’22), cit., https://doi.org/10.1145/3531146.3533157.
• M. Broussard, More than a Glitch. Confronting Race, Gender, and Ability Bias in Tech, Cambridge, Massachusetts, MIT Press, 2023.
• A. Casilli, Schiavi del clic. Perché lavoriamo tutti per il nuovo capitalismo?, Milano, Feltrinelli, 2020.
• R. Caso, Open Data, ricerca scientifica e privatizzazione della conoscenza, 2022, https://www.robertocaso.it/2022/01/22/dati-aperti-della-ricerca-o-proprieta-intellettuale/.
• R. Claypool and C. Hunt, “Sorry in Advance!” Rapid Rush to Deploy Generative A.I. Risks a Wide Array of Automated Harms, April 18, 2023, https://www.citizen.org/article/sorry-in-advance-generative-ai-artificial-intellligence-chatgpt-report/.
• N. Couldry, U.A. Mejias, Data Colonialism: Rethinking Big Data’s Relation to the Contemporary Subject, «Television & New Media», XX, 4, 2018, pp. 336–49.
• A. Crary, The toxic ideology of longtermism, «Radical Philosophy», 214, 2023, pp. 49–57, https://www.radicalphilosophy.com/commentary/the-toxic-ideology-of-longtermism.
• K. Crawford, Né intelligente né artificiale. Il lato oscuro dell’IA, Bologna, Il Mulino, 2021.
• N. Cristianini, Shortcuts to Artificial Intelligence, in Machines We Trust. Perspectives on Dependable AI, ed. by M. Pelillo, T. Scantamburlo, Cambridge, Massachusetts, The MIT Press, 2021, pp. 11-25, https://philpapers.org/archive/CRISTA-3.pdf.
• N. Cristianini, La scorciatoia. Come le macchine sono diventate intelligenti senza pensare in modo umano, Bologna, Il Mulino, 2023.
• C. Doctorow, How to Destroy Surveillance Capitalism, «OneZero», August 26, 2020, https://onezero.medium.com/how-to-destroy-surveillance-capitalism-8135e6744d59.
• Early Thoughts on Generative AI. Prepared Remarks of Commissioner Alvaro M. Bedoya, Federal Trade Commission Before the International Association of Privacy Professionals, April 5, 2023, https://www.ftc.gov/news-events/news/speeches/prepared-remarks-commissioner-alvaro-m-bedoya-international-association-privacy-professionals
• Economies of Virtue: The Circulation of ‘Ethics’ in AI, a cura di T. Phan, J. Goldenfein, D. Kuch, M. Mann, Amsterdam, Institute of Network Cultures, 2022, https://networkcultures.org/blog/publication/economies-of-virtue-the-circulation-of-ethics-in-ai/.
• Y. Eisenstat, N. Gilman, The Myth of Tech Exceptionalism, «Noēma», February 10, 2022 https://www.noemamag.com/the-myth-of-tech-exceptionalism/
• E. Esposito, Comunicazione artificiale. Come gli algoritmi producono intelligenza sociale, Bocconi University Press, 2022.
• A. Ezrachi, M. E. Stucke, How Big-Tech Barons Smash Innovation – And How To Strike Back, HarperCollins, 2022.
• T. Gebru, E.M. Bender, A. McMillan-Major, M. Mitchell, Statement from the listed authors of Stochastic Parrots on the “AI pause” letter, March 31, 2023, https://www.dair-institute.org/blog/letter-statement-March2023.
• M. Giraudo, Legal Bubbles, in Encyclopedia of Law and Economics, a cura di A. Marciano, G.B. Ramello, New York, Springer, 2022, https://www.researchgate.net/publication/357702553.
• J.A. Goland, Algorithmic Disgorgement: Destruction of Artificial Intelligence Models as The FTC’s Newest Enforcement Tool for Bad Data, «Richmond Journal of Law & Technology» 29, 2, 2023, https://jolt.richmond.edu/files/2023/03/Goland-Final.pdf.
• B. Green, The flaws of policies requiring human oversight of government algorithms, «Computer Law & Security Review», XLV, 2022, https://www.sciencedirect.com/science/article/pii/S0267364922000292.
• S.-A. Hong, Predictions without futures, «History and Theory», 61, 3, 2022, pp. 371-390, https://onlinelibrary.wiley.com/doi/10.1111/hith.12269.
• A. Kak, S. Myers West, AI Now 2023 Landscape: Confronting Tech Power, AI Now Institute, April 11, 2023, https://ainowinstitute.org/2023-landscape.
• M.E. Kaminski, The Developing Law of AI: a Turn to Risk Regulation, April 2023, https://www.documentcloud.org/documents/23783773-the-developing-law-of-ai-kaminski.
• E. Klein, The Imminent Danger of A.I. Is One We’re Not Talking About, «New York Times», February 26, 2023, https://www.nytimes.com/2023/02/26/opinion/microsoft-bing-sydney-artificial-intelligence.html.
• E. Malroux, Quelles régulations pour la conception des IA génératives?, 26 avril 2023, https://linc.cnil.fr/fr/dossier-ia-generative-quelles-regulations-pour-la-conception-des-ia-generatives
• D. McQuillan, Resisting AI. An Anti-fascist Approach to Artificial Intelligence, Bristol, Bristol University Press, 2022.
• E. Morozov, To Save Everything, Click Here: The Folly of Technological Solutionism, New York, Public Affairs, 2013, https://archive.org/details/tosaveeverything0000moro.
• R. Ochigame, The Invention of “Ethical AI”. How Big Tech Manipulates Academia to Avoid Regulation, «The Intercept», December 20, 2019, https://theintercept.com/2019/12/20/mit-ethical-ai-artificial-intelligence/.
• OpenAI, GPT-4 Technical Report, 2023, https://arxiv.org/abs/2303.08774.
• U. Pagano, The Crisis of Intellectual Monopoly Capitalism, «Cambridge Journal of Economics», XXXVIII, 2014, pp. 1409-1429, https://ssrn.com/abstract=2537972.
• F. Pasquale e G. Malgieri, From Transparency to Justification: Toward Ex Ante Accountability for AI, «Brussels Privacy Hub Working Papers», VIII, 33, 2022, pp. 1-27, https://brusselsprivacyhub.com/wp-content/uploads/2022/05/BPH-Working-Paper-vol8-N33.pdf.
• V. Prabhakaran, M. Mitchell, T. Gebru, I. Gabriel, A Human Rights-Based Approach to Responsible AI, 2022, https://arxiv.org/abs/2210.02667.
• I.D. Raji, I.E. Kumar, A. Horowitz, A.D. Selbst, The Fallacy of AI Functionality, in Conference on Fairness, Accountability, and Transparency (FAccT ’22), June 21–24, 2022, Seoul, Republic of Korea, New York, ACM, 2022, https://doi.org/10.1145/3531146.3533158.
• E.M. Renieris, Beyond data: reclaiming human rights at the dawn of the metaverse, Cambridge, Massachusetts, The MIT Press, 2023.
• A. Saltelli, D.J. Dankel, M. Di Fiore, N. Holland, M. Pigeon, Science, the endless frontier of regulatory capture, «Futures», CXXXV, 2022, pp. 1-14, https://doi.org/10.1016/j.futures.2021.102860.
• L. Stark, J. Hutson, Physiognomic Artificial Intelligence, «Fordham Intellectual Property, Media and Entertainment Law Journal», XXXII, 4, 2022, pp. 922-978, https://ir.lawnet.fordham.edu/iplj/vol32/iss4/2.
• J. Stilgoe, Who’s Driving Innovation? New Technologies and the Collaborative State, Cham, Palgrave Macmillan, 2020, pp. 40-41.
• The lobbying ghost in the machine. Big Tech’s covert defanging of Europe’s AI Act, February 23, 2023, https://corporateeurope.org/en/2023/02/lobbying-ghost-machine.
• K. Yeung, A Study of the Implications of Advanced Digital Technologies (Including AI Systems) for the Concept of Responsibility Within a Human Rights Framework, Council of Europe, 2019, pp. 39-40, 64-65, https://rm.coe.int/a-study-of-the-implications-of-advanced-digital-technologies-including/168094ad40.
• I. Van Rooij, Stop feeding the hype and start resisting, 2022, https://irisvanrooijcogsci.com/2023/01/14/stop-feeding-the-hype-and-start-resisting/.
• B. Wagner, Ethics As An Escape From Regulation. From “Ethics-Washing” To Ethics-Shopping?, in Being Profiled: Cogitas Ergo Sum, ed. by E. Bayamlioglu, I. Baraliuc, L.A.W. Janssens, M. Hildebrandt, Amsterdam, Amsterdam University Press, 2018, pp. 84-89, https://www.degruyter.com/document/doi/10.1515/9789048550180-016/html.
• A. Wang, S. Kapoor, S. Barocas, A. Narayanan, Against Predictive Optimization: On the Legitimacy of Decision-Making Algorithms that Optimize Predictive Accuracy, October 4, 2022, pp. 1-29, https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4238015.
• K. Werbach, D. Zaring Systemically Important Technology, «Texas Law Review», 101, 4, pp. 811-875, https://texaslawreview.org/systemically-important-technology/.
• M. Whittaker, The steep cost of capture, «Interactions», 28, 6, 2021, pp. 51-55, https://interactions.acm.org/archive/view/november-december-2021/the-steep-cost-of-capture.
• O. Williams, How Big Tech funds the debate on AI ethics, «The New Statesman», June 6, 2019 (updated June 7, 2021), https://www.newstatesman.com/science-tech/2019/06/how-big-tech-funds-debate-ai-ethics.
• T. Wu, The Curse of Bigness. Antitrust in the New Gilded Age, New York, Columbia Global Reports, 2018.
• S. Zuboff, Surveillance Capitalism or Democracy? The Death Match of Institutional Orders and the Politics of Knowledge in Our Information Civilization, «Organization Theory», III, 3, 2022, https://doi.org/10.1177/26317877221129290.

“Non è segno di salute mentale essere ben adattati ad una società profondamente malata”.
Jiddu Krishnamurti

Il discorso dell’intervento della Presidente del Consiglio degli studenti Emma Ruzzon durante la cerimonia di inaugurazione dell’università di Padova sono sicura risuoni oggi nelle aule di tutti gli Atenei italiani. Con intelligenza la studentessa ha saputo raccogliere, e con coraggio pronunciare ad alta voce, di fronte alle autorità, parole che nelle università circolano da tempo, anche se spesso ai  suoi margini. La situazione creata dal COVID-19 negli ultimi tre anni ha fatto esplodere un malessere che era presente ormai da anni. Il malessere di tante/i non solo tra coloro che studiano, non solo tra i precari della ricerca, ma anche tra chi nell’università si trova nella posizione privilegiata di docente strutturata/o e persino tra chi lavora nell’amministrazione. Persino l’amministrazione universitaria, infatti, è stata spinta dal succedersi delle riforme a una costante corsa per il raggiungimento degli obiettivi necessari a raggiungere l’eccellenza entro un sistema competitivo, mentre il blocco del turnover – anche nel loro caso, come nel caso dei docenti e ricercatori – riduceva le risorse umane disponibili.

L’università contemporanea è espressione di una società che ha scelto, e continua a scegliere ogni giorno, una narrazione individualista che — come ha ricordato Ruzzon nel suo discorso — è fortemente incentrata sul merito e sulla responsabilizzazione individuale. Una società in cui persino per avere una vita dignitosa devi dimostrare di meritartelo, dove anche studiare è diventata una gara.

La combinazione del mito dell’individualismo, del mito del merito e di quello della misurazione della performance è stata potente nel rendere invisibili le condizioni strutturali che determinano vantaggi e svantaggi sociali. Ancor più potente è  stata nel mostrare come i vantaggi si cumulino e diventino privilegi e gli svantaggi si cumulino e diventino oppressione, laddove la struttura sociale sia congegnata per favorire la riproduzione di alcune vite, lasciandone prive di cura e attenzione altre. In altri termini, ha saputo non solo distogliere il nostro sguardo dalle disuguaglianze economiche e sociali crescenti che caratterizzano oggi il nostro paese, ma anche offrirne una legittimazione talmente efficace da divenire mentalità diffusa.

L’accesso all’università e ancor di più l’accesso ai dottorati e alla carriera accademica è tornato ad essere una questione di classe – come sottintendono le parole di Ruzzon. La nostra è tornata ad essere una società priva di mobilità sociale e rischia di avere un’università accessibile solo alla gioventù economicamente agiata; un’università, quindi, in cui la società nella sua diversità non sarà rappresentata e in cui il sapere non risponderà ai bisogni della società.

L’università ha sofferto e soffre di questo “incantesimo” dell’individualismo, del merito e della misurazione più di altre istituzioni. Sono molti gli esempi che potrebbero essere proposti per illustrare le distorsioni che il sistema attuale produce nella vita universitaria, distorsioni da molti altre/i da tempo denunciate senza ottenere ascolto. Voglio, però, rimanere qui a quella che dovrebbe essere la funzione prioritaria dell’università accanto a quella della ricerca, ovvero la funzione di una didattica che della ricerca si alimenta, che è volta a trasferirne i risultati e soprattutto dovrebbe trasmettere il valore dell’onestà intellettuale, la passione per lo studio, per l’approfondimento, la riflessione, il pensiero critico, il confronto e lo  scambio.

Questa trasmissione avviene solo nel momento in cui la/il docente riesce a creare in aula un clima accogliente, di ascolto e attenzione reciproca e a gettare le basi di una relazione di mutuo sostegno. Da questo punto di vista, la didattica – come ogni lavoro di cura – è un lavoro che consuma energie mentali non solo per l’impegno necessario a trasmettere contenuti, anche complessi, ma anche, e talvolta soprattutto, nel mantenere, curare e riparare la relazione con chi sta camminando sulla strada dell’apprendimento e della formazione. Un cammino che spesso procede oltre l’aula nel percorso per l’elaborazione della tesi, nel quale la relazione diventa più ricca e appagante, e l’attenzione, come la fiducia reciproca, deve essere ancora più grande. Tutto questo richiede tempo: ogni lavoro di cura richiede un tempo non misurabile e non quantificabile. Ogni lavoro di cura – e soprattutto l’insegnamento in ambito universitario – deve concedersi e deve concedere il tempo necessario ad ottenere l’obiettivo della fioritura di una vita individuale, fioritura che avviene solo nell’ascolto, nel camminare accanto, più che dinnanzi, a chi sta crescendo intellettualmente.

La/il docente oggi, però, oltre alla ricerca che nutre la sua didattica è chiamato a svolgere una molteplicità di altri ruoli: le missioni del docente universitario si moltiplicano entrando tra loro in tensione e creando talvolta conflitti che non possono essere risolti che attraverso decisioni individuali più o meno costose. L’impegno nella docenza entra così, per esempio, in conflitto con quello per la pubblicazione dei c.d. “prodotti della ricerca”, la loro collocazione in riviste o editori prestigiosi, o con il fundraising o ancora con la terza e ora anche la quarta missione. Non tutte queste attività premiano nello stesso modo nella carriera, e così talvolta la scelta viene fatta meramente sulla base dell’opportunità, anche in considerazione di ciò che offre maggiore visibilità.

La dimensione della relazione viene sacrificata, che si tratti del rapporto con chi studia con noi o delle/dei colleghi con cui lavoriamo. Rischia, però, di venir sacrificato anche lo studio. Ogni tanto capita di sentire qualche collega che stanco, a mo’ di battuta —ma di quelle battute che tutti sanno nascondono verità —, si lascia andare a dire che nell’università è ormai sempre più raro che un professore/una professoressa abbia tempo per studiare!

Lo studio richiede di dimenticarsi il tempo e di rallentare. Per tuffarsi nella lettura ci si deve concedere un tempo che si ribella ai ritmi di una vita di corsa, di una vita a ritmi sempre più accelerati. Leggere riflessivamente, con attenzione profonda – come ricorda Bernard Stiegler in Prendre soin: De la jeunesse et des générations (2008) –, è il modo attraverso il quale come esseri umani entriamo in contatto con l’altro oltre il tempo e lo spazio, manteniamo il filo del discorso ininterrotto tra le generazioni, costruiamo cultura. Nella lettura non siamo in gara con l’autore del libro che stiamo leggendo: il lettore collabora alla vita del libro e può, grazie al dono che l’altro gli ha fatto con la sua scrittura, far continuare oltre e altrove il viaggio delle idee. Le idee infatti non vivono nel mercato – come sostengono spesso coloro che vorrebbero trasformare ancora di più l’università in un’azienda. Le idee hanno bisogno di tempo per essere elaborate ed essere trasmesse. Avere tempo, d’altra parte, è possibile soltanto se si ha una stabilità sul piano economico, se non si vive in un precariato che costringe a correre e a sottostare al ricatto. Il precariato universitario è un modo per tentare di uccidere la libertà di ricerca, soprattutto di coloro che esprimono il punto di vista di saperi socialmente soggiogati e costretti ai margini. Le idee mainstream trovano, sì, sempre un mercato che è pronto ad accoglierle, perché più facili da vendere ai più.

La metafora della gara è una vecchia rappresentazione dell’individualismo. Parlando di ciò che distingue l’individualismo moderno dall’egoismo come passione umana universale, Tocqueville, nella De la démocratie en Amerique (1835-1840), utilizzava l’immagine della corsa: ogni individuo corre, voltando con ansia ogni tanto lo sguardo indietro per essere sicuro di non essere raggiunto e superato. Nel tentativo di arrivare primi, si perde di vista la dimensione della relazione, dei legami sociali: l’individuo moderno finisce così per avere relazioni stabili e intime solo con la cerchia sempre più ristretta dei familiari.

Andando oltre Tocqueville, e guardando all’oggi, potremmo dire che il costante sentirsi in gara costringe l’individuo ad un isolamento da cui diventa sempre più difficile uscire, che diventa difficile abbandonare anche quando affiora la consapevolezza che l’isolamento rende deboli, deprime le energie e fiacca la motivazione. (La gara stessa, in fondo, funziona solo finché riconosco gli avversari e il senso condiviso dell’impresa per cui insieme si compete e se ho la consapevolezza che si sta compiendo, anche nella competizione, un’impresa comune.) Come ricorda Arendt in The Origins of Totalitarianism (1951), proprio dell’isolamento tra gli individui si avvalgono i regimi autoritari per governare più facilmente la società civile, per tenerla meglio sotto controllo. Certo, l’isolamento non è ancora l’estraneazione, la perdita di sé e di mondo, su cui fanno leva i regimi totalitari, perché consente la solitudine e quindi il dialogo interiore. Quando, tuttavia, l’individuo isolato diventa dipendente da un mondo digitale che oggi promette attraverso i social un surrogato della vita reale, meno faticosamente raggiungibile e più generoso di like, il rischio dell’implosione del sé aumenta e con esso il rischio dell’implosione di ogni baluardo a difesa della libertà e delle istituzioni democratiche.

Queste considerazioni per dire grazie a Emma Ruzzon per averci restituito con parole lucide la fotografia del nostro paese, attraverso il ritratto delle nostre università. Grazie per averci ricordato che il malessere della gioventù è uno specchio del grado di gravità della malattia da cui è afflitta la nostra società. Non bastano punti di ascolto psicologico destinati a chi studia, né Comitati Unici di Garanzia per il benessere organizzativo, a risolvere il problema dell’università oggi. Dovremmo arrestare la corsa, fermarci a riflettere su cosa si è rotto socialmente e come lo si può riparare. Per l’università questo significa tornare a interrogarsi sul suo mandato, sul senso del suo stesso esistere.

Sottoponiamo alla revisione paritaria aperta due articoli dedicati a dei progetti di riforma politica della scienza istituzionale – una esterna e l’altra interna.
“Rationalized and Extended Democracy”: Inserting public scientists into the legislative/executive framework, reinforcing citizens’ participation di Giovanni Molteni Tagliabue suggerisce di inserire degli scienziati nei processi decisionali della democrazia, così da renderli meno esposti al rischio strutturale di produrre classi politiche autoreferenziali e corruttibili. Un simile inserimento, sostiene l’autore, non trasformerebbe la democrazia in tecnocrazia se avesse luogo tramite una seconda camera legislativa composta da scienziati provenienti da enti pubblici o pubblicamente riconosciuti ed eletti per non più di due mandati, e, per quanto concerne il potere esecutivo, tramite l’affiancamento dei ministri politici con esperti nominati dalla camera scientifica. In caso di conflitti fra le due camere un referendum popolare interverrebbe a risolverli.
Questo disegno dipende dalla convinzione che i difetti della democrazia siano intrinseci alla stessa competizione elettorale, la quale restringe e influenza gli orizzonti della classe politica, e che inserirvi degli scienziati – meno esposti ai vizi dei politici di mestiere grazie anche al limite dei mandati – possa renderla più capace di rispondere alle sfide che le si presentano.

1. Integrità e autonomia della ricerca

Uno dei revisori, Antonino Palumbo, ha osservato che la scienza istituzionale non è immune dai difetti della politica, né da essa indipendente. Molteni Tagliabue, da parte sua, individua nelle riviste predatorie (II.18. 6) il problema principale della pubblicazione scientifica contemporanea, lo connette all’uso del publish or perish come motore della carriera accademica, e lo pensa superabile tramite un mutamento del sistema degli “incentivi”.
Che i ricercatori abbiano bisogno di bastoni e carote per evitare di produrre opere senza qualità esclusivamente allo scopo di far numero è però solo una delle conseguenze di una valutazione della ricerca divenuta amministrativa, fondata non più sulla lettura dei testi bensì sul conteggio delle pubblicazioni e delle citazioni. In questo modo un aspetto decisivo, prima che per le carriere, per l’autodeterminazione della discussione scientifica è stato dato in outsourcing ad editori commerciali che continueranno ad accrescere i loro oligopoli e a drenare quantità astronomiche di denaro pubblico, finché ne sarà loro lasciato il controllo. Più che con “mele marce” e “riviste predatorie”, abbiamo a che fare con una generale editoria parassitaria, che vive e prospera soltanto in virtù della valutazione amministrativa.
La valutazione amministrativa della ricerca è a sua volta un esito dell’erosione dell’autonomia della scienza istituzionale che già Max Weber vedeva in atto all’inizio del secolo scorso. I danni che ha inflitto alla qualità della ricerca sono talmente noti che pochi, ormai, li liquidano, impropriamente, come “aneddotica”. La stessa Commissione europea, all’inizio del 2021, ha avviato un processo che si è concluso con un Agreement on Reforming Research Assessment. Di questo si occupa l’articolo di Francesca Di Donato, anch’esso proposto alla revisione paritaria aperta, Una questione di qualità o una formalità? L’Agreement on Reforming Research Assessment e il processo di riforma della valutazione della ricerca in Europa.
L’accordo si propone di concordare forme di valutazione che, facendo tesoro delle pratiche della scienza aperta, riconoscano la qualità e la molteplicità delle attività di ricerca senza esaurirle nelle pubblicazioni e senza pretendere di misurarle con metriche basate sulla sede di pubblicazione, quali il JIF e l’H-index, o con classifiche di università ed enti ricerca stilate da aziende secondo i propri criteri e per il proprio lucro. La riforma europea si è resa necessaria perché la valutazione amministrativa, avendo sottratto alle comunità scientifiche la capacità di valutarsi da sé tramite l’uso pubblico della ragione, deve ora por rimedio a ciò che essa stessa ha determinato. In Italia ne sarà protagonista l’ANVUR, a cui ha fatto capo la valutazione quantitativa che l’accordo prevede di superare. Quale sarà il suo esito? Proprio perché, in particolare in Italia, il rischio di cambiare tutto per non cambiare nulla è elevato, l’articolo di Francesca Di Donato – testimonianza di chi ha partecipato direttamente al processo – merita una lettura attenta.

2. Scienziati applicati

Una scienza istituzionale soggetta a valutazione amministrativa e inserita in un sistema di oligopoli editoriali e mediatici può difficilmente offrire al pubblico un punto di vista indipendente e non autoreferenziale. Una seconda camera scientifica, senza un cambiamento radicale nella valutazione della ricerca, sarebbe probabilmente composta da ricercatori con un accesso privilegiato ai finanziamenti pubblici e ai media, scienziati che hanno ricevuto visibilità grazie agli algoritmi commerciali di Facebook, academic star finanziate dai monopolisti del capitalismo della sorveglianza in conflitto d’interessi, o intellettuali che, invece di confutare un pensatore eterodosso con l’uso pubblico della ragione, firmano lettere contro di lui. Secondo Kant, trasformare il filosofo in funzionario, mettendogli in mano la spada del potere, lo espone alla tentazione di ricorrere a quella stessa spada per troncare le discussioni scientifiche: questo rischio vale a maggior ragione se la spada è già stata usata a monte, nella valutazione amministrativa della ricerca, per attribuire visibilità e promozioni.
Molteni Tagliabue, quando deve indicare quali scienziati prestare alla politica, produce una lista esemplificativa che comprende giuristi, sociologi e politologi e scienziati applicati come gli esperti di pianificazione territoriale e urbana, di organizzazione industriale e infrastrutturale, di agricoltura, istruzione e sanità, ambiente, cultura, università e ricerca, nonché filosofi morali studiosi di bioetica. L’elenco pare escludere chi si occupa ricerca di base: non ci sono storici, linguisti, teologi, matematici, informatici, fisici teorici e scienziati naturali. Fra le discipline filosofiche si salva solo la filosofia morale, che, come mostra il caso della cosiddetta AI ethics, più facilmente si presta al servizio di interessi commerciali, o a “risolvere problemi che non pone, ma che le sono posti”. Questa selezione è casuale, o presuppone una prospettiva da “fine della storia”, per la quale tutti i problemi da affrontare sono ormai soltanto amministrativi?
La costituzione della repubblica islamica d’Iran, approvata nel 1979 con un referendum popolare, riconosce la separazione dei poteri, il carattere elettivo del potere legislativo, le garanzie giudiziarie e i diritti civili. Ma lo stato iraniano non è una semplice democrazia: è una democrazia teocraticamente custodita. Un consiglio dei guardiani di dodici membri, in cui sei giuristi islamici (fuqaha) sono nominati dalla guida suprema e sei giuristi civili di fede islamica sono eletti dal parlamento, esamina la compatibilità delle norme approvate dal potere legislativo con l’Islam e vaglia le candidature alle cariche elettive. La guida suprema, a sua volta, è, finché il dodicesimo Iman non uscirà dall’occultamento, un giurista islamico giusto e virtuoso nominato da un consiglio degli esperti, a sua volta composto da giuristi islamici eletti dal popolo. Abbiamo così un regime a duplice – e precaria – legittimazione, nel quale la custodia della democrazia usa strumenti curiosamente consonanti col progetto di Molteni Tagliabue: il riconoscimento costituzionale di una categoria di esperti che si sono affermati come tali in istituzioni diverse dallo stato democratico e la limitazione dell’elettorato passivo. A differenza di quella islamica, tuttavia, la costituzione della repubblica scientista presuppone una gerarchia esplicita fra la fonte di legittimazione democratica e quella scientifica, prevedendo referendum per risolvere i conflitti fra la camera dei politici e quella degli esperti, ammesso e non concesso che quest’ultima abbia l’integrità e il coraggio di crearli.

3. Crisi nella democrazia o crisi della democrazia?

La corruzione e l’autoreferenzialità della classe politica sono un aspetto strutturale della procedura democratica, o sono l’esito della sua impotenza?
Dopo la crisi del 1929, la democrazia statunitense ebbe l’elasticità di reagire e di intraprendere cambiamenti radicali senza aver bisogno di trasformarsi in una repubblica scientista.

Con la presidenza Roosevelt si abbandona il capitalismo a briglia libera del laissez-faire e laissez-passer, il liberismo delle grandi diseguaglianze e delle grandi ingiustizie, stravolgendone i presupposti e inaugurando il più grande intervento dello Stato nell’economia mai concepito fino ad allora: il New Deal. Si rimette a lavoro una nazione, si costruiscono strutture di sostegno al reddito e di sicurezza sociale, si fa ripartire l’economia con una più equa ripartizione delle risorse, si pone un freno al dominio della speculazione finanziaria separando banche di investimento e di deposito. Si mette così in sicurezza il sistema americano tramite un cambiamento profondo dei suoi presupposti. La democrazia viene in sostegno al capitalismo, garantendo l’elasticità necessaria per uscire da un sistema morente con una nuova visione e una grande trasformazione. Anche a costo di attaccare i privilegi acquisiti della classe dominante.¹

Nel 2015, in una situazione paragonabile a quella del 1929, la Grecia, oppressa sia da una sua propria crisi del debito, sia dalle soluzioni imposte dall’esterno per risolverla, tentò di proporre una via d’uscita dallo status quo della politica economica dell’Unione Europea.

La richiesta non è quella di contribuire alla spesa pubblica di un paese in bancarotta. Si tratta di chiedere, più radicalmente, una diversa soluzione alla stagnazione economica, alla disoccupazione e al ricatto del debito per tutti gli europei. Si tratta di trovare soluzioni comuni al debito pubblico crescente (una conferenza sul debito), alla mancanza di investimenti e all’economia stagnante (un New Deal per l’Europa), alle banche zombie (una vera unione bancaria) e alla disoccupazione a due cifre (un piano straordinario di occupazione) come problemi che riguardano tutta l’Unione. È una battaglia, in una parola, condotta per ottenere una diversa politica economica europea.²

Sappiamo com’è andata a finire:

…le banche greche vengono strangolate, la popolazione ridotta allo stremo, i ricatti e l’intransigenza delle tecnocrazie europee raggiungono un apice mai visto fino ad allora e senz’altro mai applicato nei riguardi dei nazionalismi autoritari dell’Est Europa. La stessa BCE […] scende in campo con tutte le armi di cui dispone, anche se questo significa violare il proprio mandato e rinunciare a garantire la stabilità del sistema bancario europeo. La guerra viene vinta. Nonostante una schiacciante maggioranza respinga nel referendum del luglio 2015 l’accordo offerto dalla Troika, Syriza finisce per capitolare e accettare le condizioni imposte dall’Eurogruppo: austerità draconiana e la piena garanzia del proseguimento della Grande Depressione a fronte di un rifinanziamento del debito del paese e vaghe promesse di un possibile sconto di pena per buona condotta.³

Se la Grecia fosse stata una repubblica scientista, sarebbe cambiato qualcosa? L’economista Yanis Varoufakis non aveva avuto bisogno di un elettorato passivo privilegiato per proporre un New Deal. Ma i vertici politici e tecnocratici dell’Unione europea, rivelando quale fosse la loro effettiva gerarchia di valori, schiacciarono la democrazia greca con durezza estrema. In un quadro come questo, in cui le decisioni degli stati sono dettate dall’esterno perfino per quanto concerne la pace e la guerra, l’unica classe politica che può sopravvivere è quella che non si propone di cambiare il mondo, ma di perseguire il proprio “particulare”; e l’unico elettore a cui rimangono dei motivi per andare a votare è quello che spera di ottenere un favore o una vendetta per qualche suo piccolo risentimento, in un orizzonte altrettanto ristretto.
Wilhelm von Humboldt, in un momento di gravissima crisi, inventò un sistema che affidava la garanzia dell’autonomia delle istituzioni di ricerca a uno stato problematicamente assunto come capace di autolimitarsi. Era infatti convinto che, in una società aperta, una ricerca libera, sola e cooperativa avrebbe avuto ricadute politiche, sociali e culturali che si sarebbero realizzate come effetti collaterali e non nella forma burocratica di incarichi da assumere e di prodotti da consegnare. Si tratta, ora, di capire se, dalla gabbia d’acciaio che tiene oggi prigioniere sia la scienza sia quel che resta della democrazia, sia possibile immaginare vie d’uscita amministrative che non siano esenti dal rischio di renderne più fitte e complesse le sbarre.

1. Segreti e bugie

Il potere segreto di Stefania Maurizi ricostruisce sistematicamente “la storia di un giornalista” – Julian Assange – “imprigionato e trattato con insostenibile crudeltà per aver rivelato crimini di guerra; della determinazione dei politici inglesi e americani di distruggerlo; e della quieta connivenza dei media in questa mostruosa ingiustizia.”⁴

Mentre la polizia britannica lo stava arrestando, Assange teneva in mano un libro di Gore Vidal, History of the National Security State, che racconta come gli Stati Uniti, vinta la II guerra mondiale, abbiano continuato ad accrescere la loro spesa militare fino a creare il cosiddetto complesso militar-industriale. Gli interessi di un gigantesco apparato offensivo statale e dell’industria bellica privata si sono così raggrumati in un nesso che condiziona la politica a guerre preferibilmente interminabili, il cui scopo implicito non è più vincere, bensì risucchiare denaro pubblico. A denunciarne i rischi, nel 1961, fu lo stesso Dwight D. Eisenhower, in un memorabile discorso di commiato, che Gore Vidal commenta così:

The good thing was, upon— he kept back military spending. And then, when he left office, he made this great speech, and he explained why it was necessary to have such a huge military. Might have been better if he’d said we don’t need this much military for our task in the world to preserve freedom for ourselves. But he said no matter how necessary, and we think it is, that we have this great military–industrial complex, it is a dangerous thing because of the vast amounts of federal money that are going to private corporations for our defense — and he was trying have it both ways — which is necessary, which is necessary. And he said this is going to change everything in the way our country’s governed: It’s going to change us politically; it’ll change us spiritually. And then part of the speech which I’ve always loved, nobody ever quotes it. After all, he’d been president of Columbia University. He said the effect of all this money coming to our universities, even though it’s for the physics department, the nuclear departments, is going to affect all education. And if the universities are not the home of free investigation, suddenly our knowledge of the world is curtailed by this huge amount of money, which will control the responses of everybody, including the history department. He didn’t say that, but that was his meaning. ⁵

Dopo l’11 settembre 2001 il grumo si è espanso fino a diventare “uno Stato nello Stato con i suoi apparati dalla Cia alla Nsa al Pentagono che, di fatto, non rispondono a nessuno, perché blindati dalla segretezza”,⁶ il quale ambisce a catturare, sorvegliare e schedare la comunicazione del mondo e che si coordina con oligopoli privati⁷ e sempre più concentrati, a loro volta sottratti al controllo del pubblico.

Il suo potere pervasivo fa sì che l’illibertà di stampa del cosiddetto occidente si manifesti come coercizione solo occasionalmente, e con la parvenza dello stato di diritto. E però, se la libertà degli autori è un diritto a salvaguardia di tutti gli altri diritti, come ultimo rimedio civile contro norme e istituzioni ingiuste, allora la posta in gioco, nel destino giudiziario di Assange, di Edward Snowden o di Chelsea Manning, non è la loro salvezza personale, bensì la facoltà dei cittadini del mondo di conoscere e di decidere sulla pace e sulla guerra e in generale di determinare gli ordinamenti sotto i quali vivono, contro la pretesa di imporre il diritto positivo di un singolo stato come norma globale, o, più propriamente, imperiale.

2. Maledetti pacifisti: il controllo del discorso pubblico

Nel 2010 Umberto Eco affermava che la possibilità di pubblicare senza filtri ex ante avvantaggia i pochi colti e disorienta i molti incolti. Nel mondo della scienza aperta si sostiene invece che, essendo la pubblicazione in rete divenuta facile, il filtro può operare ex post, come selezione attraverso la discussione e l’uso. Anche un filtro di questo tipo, peraltro, può essere arbitrario e omologante quanto quelli applicati ex ante nel chiuso delle redazioni. Con la differenza, però, che il suo operare non è interamente nascosto e può essere oggetto d’indagine induttiva e di pubblica critica.

Il libro di Nico Piro, Maledetti pacifisti, denuncia uno di questi filtri: quello che protegge la guerra infinita, vale a dire il lato visibile del potere segreto,⁸ e che, implicitamente, pretende di legittimarlo.

L’informazione giornalistica italiana, per lo più in mano a un’editoria incapace di partecipare attivamente alla rivoluzione digitale, si è sempre più assimilata ai media sociali proprietari, enfatizzando opinioni e polarizzazioni così da mungere i dati dei lettori per l’uso della propaganda economica e politica e risparmiarsi il rischio, la fatica e i costi di ricostruire e mettere allo scoperto fatti.⁹ In queste condizioni, chi concentra nelle sue mani media e denaro non ha difficoltà a smerciare la guerra infinita come uno scontro fra amici e nemici, fra buoni e cattivi, per l’intrattenimento o l’oblio non più di cittadini elettori, ma di consumatori-tifosi.

L’obiettivo è quello di venderci la guerra come una partita di calcio dove se accade un infortunio si tira fuori il cartellino rosso. Insomma, la guerra è presentata come un male necessario, una cosa brutta ma che può diventare bella per l’ardimento di chi vi partecipa. Se poi si scade nell’orrore è colpa di qualche anomalia: un crimine, appunto.

Si mira a nascondere la verità, cioè che la guerra è di per sé un crimine, il peggiore che si possa commettere sulla faccia della Terra.

Quando una madre con i suoi bimbi esce di casa in una città assediata per procurarsi dell’acqua da bere e si ritrova presa nel fuoco incrociato di un’imboscata contro un convoglio nemico; quando dall’ultimo piano di un palazzo un cecchino spara e l’artiglieria nemica demolisce l’edificio al cui interno ci sono ancora famiglie; quando una IED piazzata lungo la strada per colpire truppe in avanzamento esplode sotto l’auto di un padre che porta le figlie a scuola; quando accadono questi fatti – ricorrenti in una guerra – perché non parliamo di crimini? Gli unici crimini sono gli stupri? I saccheggi? Le esecuzioni sommarie svolte da militari inferociti? ¹⁰

Nel primo articolo definitivo della Pace perpetua, Kant scriveva che la costituzione di ogni stato deve essere repubblicana perché a deliberare la guerra non fosse il potere esecutivo, bensì, tramite i loro rappresentanti, quanti, militari o civili, ne avrebbero subito i danni.

Il 18 settembre 2001, il congresso americano, sull’onda dell’emozione dell’attentato alle Torri gemelle, ha approvato una Authorization for Use of Military Force che permette al presidente di usare tutta la forza necessaria e appropriata “against those nations, organizations, or persons he determines planned, authorized, committed, or aided the terrorist attacks that occurred on September 11, 2001, or harbored such organizations or persons, in order to prevent any future acts of international terrorism against the United States by such nations, organizations or persons”. Soltanto una rappresentante, Barbara Lee, la riconobbe come una clausola in bianco che avrebbe sottratto al parlamento il potere di decidere della pace e della guerra per consegnarlo all’esecutivo, ed espresse un voto contrario. Come scrive Nico Piro,

quella decisione emotiva, sull’onda della tragedia dell’11 settembre, costerà agli Stati Uniti due decenni di “guerra al terrore” con il macabro bilancio di 929mila morti – di questi, 387mila civili, senza considerare i deceduti per gli effetti collaterali della guerra sulla sanità, l’accesso all’acqua e al cibo, la contaminazione ambientale – e di 38 milioni di persone costrette a lasciare le proprie case in veste di sfollati o rifugiati. I soli Stati Uniti hanno speso 8 trilioni di dollari per operazioni antiterrorismo (meglio chiamarle “attività belliche”) che coprono 85 Paesi stranieri e hanno comportato, anche nel loro stesso territorio nazionale, ai danni di cittadini statunitensi, sistematiche violazioni dei diritti umani e civili.¹¹

Quanto vive, nelle nostre post-democrazie, della repubblica di Kant? Chi decide della pace e della guerra? Che cosa giustifica l’inizio e la prosecuzione di una guerra – umanitaria, esportatrice di democrazia, per la difesa dei “nostri valori” o del nostro potere – quando il rischio della pace perpetua nel suo senso cimiteriale è sempre meno un’eventualità teorica? Anche per la guerra ultima e prossima, quella in Ucraina,

nella conversazione pubblica non c’è traccia di pensiero critico, nessuno prova a ricostruire da dove nasca questa guerra e quei pochissimi che tentano di farlo vengono messi a tacere con l’infamante accusa di essere dalla parte del carnefice. Di nuovo il conflitto passa come unica scelta moralmente accettabile in nome di una implicita superiorità morale dell’Occidente.
Eppure nessuno prova a interrogarsi su cosa significhi “Occidente”, sulla continua autoassoluzione rispetto a scelte come quelle dell’invasione dell’Iraq o dell’Afghanistan, del conflitto in Libia, del caotico intervento in Siria, dell’accordo di Doha. Nessuno che si chieda perché continuiamo a disegnare un mondo dove gli occidentali sono buoni e il resto del mondo è fatto di infidi e pericolosi nemici. Nessuno che si chieda perché l’Occidente non possa liberarsi dell’ipoteca che l’apparato militare rappresenta per la società americana e quindi per tutti gli alleati. Nessuno che provi ad aprire un dibattito su quel concetto variabile di giustizia che porta a giustificare ogni intervento armato piuttosto che pretendere che la sottintesa e perennemente evocata “civiltà superiore” occidentale debba basarsi sulla capacità di mantenere la pace, non sulla presunta forza di avviare guerre.
Nessuno lo fa, e chi ci prova viene messo a tacere con l’accusa di essere antiamericano.¹²

3. Apparati morali: la normalizzazione della guerra

In un’intervista del 1998, Zbigniew Brzeziński, consigliere per la sicurezza nazionale del presidente Carter, si vantò di aver orchestrato per l’URSS una “trappola afgana” promuovendo e sostenendo il fondamentalismo islamico. Per lui il fine della dissoluzione dell’impero sovietico giustificava un mezzo che, tre anni prima dell’attentato alle Torri gemelle e dell’inizio della guerra in Afghanistan, appariva già una minaccia per tutti. Dovremmo chiederci se gli Stati Uniti e i loro vassalli europei non stiano ora facendo un calcolo analogo, esponendo l’umanità a rischi ancora più gravi.

In un Paese armato fino ai denti come l’Ucraina, dove sulla scena pubblica da anni operano indisturbate formazioni neonaziste e ultranazionaliste, dove sono stati dati fucili d’assalto anche ai detenuti, dopo aver lanciato al mondo ultimatum su base quotidiana (dateci armi, dateci soldi per far funzionare la macchina dello Stato, dateci aerei, dateci la No fly zone) come potrà il Presidente Zelensky caricarsi la responsabilità di un compromesso? Come potrà arretrare dalla posizione di chi guida le truppe a quella di chi firma un accordo sapendo che dietro di lui c’è chi invece non vuole arretrare di un solo passo, perché quelli che l’hanno seguito con più convinzione sono fanatici che vogliono la vittoria a tutti i costi?¹³

Dovremmo interrogarci sulla prudenza di chi coltiva e arma estremisti e fondamentalisti e fa combattere guerre infinite, per lo scopo nominale di indebolire o distruggere il nemico di turno, almeno con lo stesso zelo con cui ci si sforza di escludere il pacifismo dal novero delle opzioni realistiche in quanto irresponsabile assolutismo morale. Ma perfino un articolo uscito su “Valigia Blu” lo scorso maggio¹⁴ ha paragonato i pacifisti a chi, pur potendo indirizzare un vagone fuori controllo, a un bivio, sul binario in cui c’è una sola persona per evitare che travolga le cinque sull’altro, si astiene perché “la vita umana è sacra e non si possono salvare le persone uccidendone altre”.

Per la verità Philippa Foot, quando concepì la prima versione di questo dilemma,¹⁵ non si proponeva di contrapporre un’etica della responsabilità a una presunta etica dell’intenzione, da associarsi a interpretazioni di Kant “un po’ letterali e sciocche” e a “molti dei pacifisti più visibili nel dibattito pubblico”: voleva, invece, circoscrivere la legittimità delle azioni compiute in stato di necessità. Se è moralmente accettabile deviare un tram in modo che investa una sola persona anziché cinque, perché allora dovrebbe essere inammissibile uccidere una persona sana per trapiantarne gli organi a cinque pazienti in pericolo di vita?

La dottrina del doppio effetto rispondeva che nel caso del tram la morte di una persona è un mero effetto collaterale, previsto ma non inteso direttamente, mentre in un omicidio a scopo di trapianto la morte dell’involontario donatore è direttamente deliberata come mezzo per conseguire il fine. Philippa Foot trovava però questa distinzione non del tutto convincente, proprio perché basata – a prescindere dai casi in cui l’effetto inteso e quello collaterale sono così contigui da essere indistinguibili – su una dissociazione artificiosa fra intenzione e previsione delle conseguenze di un atto. Se prendessimo sul serio questa dissociazione così da riconoscerci responsabili solo delle nostre intenzioni e non degli effetti prevedibili delle nostre azioni, uno spacciatore di vino addizionato al metanolo potrebbe discolparsi eticamente e giuridicamente coll’argomento che il suo scopo era trar profitto dalla vendita e la morte dei suoi clienti è stata solo un effetto prevedibile ma indesiderato della sua condotta.

La risposta alternativa di Philippa Foot è kantianamente ineccepibile. La differenza moralmente decisiva fra la deviazione del carrello e l’assassinio a scopo di prelievo degli organi non sta nelle intenzioni, bensì nella gerarchia di doveri che ciascuna delle due condotte presuppone: i doveri negativi di astenersi dal ledere i diritti altrui prevalgono o no sui doveri positivi di aiutare gli altri? Nel caso del carrello, il tranviere o l’addetto allo scambio, in un conflitto non evitabile fra doveri negativi verso una o verso cinque vittime potenziali, scelgono la lesione minore; nel caso del trapianto, uccidere il sano per prelevarne gli organi comporta invece una sua esplicita strumentalizzazione per prestare soccorso ad altri. Nel linguaggio di Kant, nella prima situazione abbiamo un caso di necessità con un conflitto fra doveri giuridici (perfetti), nella seconda invece un contrasto fra il dovere giuridico (perfetto) di non ridurre le persone a mezzi al servizio di scopi altrui e il dovere etico (imperfetto) della benevolenza nei confronti del prossimo. Una cosa è intervenire per limitare il danno quando la lesione del diritto altrui è inevitabile, un’altra pianificare omicidi per motivi umanitari.

È stato, d’altra parte, osservato che il dilemma del carrello, applicato alla guerra in Ucraina, può essere usato a favore della causa della pace: se su un binario sta l’appoggio incondizionato a tutte le rivendicazioni dell’Ucraina – o della Russia – fino alla guerra nucleare, e sull’altro un compromesso con qualche sacrificio dell’uno e dell’altro nazionalismo, è abbastanza chiaro che su quest’ultimo sarebbe meglio indirizzare la macchina della guerra. Il saggio sul diritto di mentire per amore degli esseri umani, nel quale Kant sostiene che è immorale dire il falso perfino a un assassino alla porta che ci chiede se un nostro amico si è nascosto da noi, avrebbe permesso di stigmatizzare il presunto assolutismo morale dei pacifisti in modo almeno apparentemente più facile. Perché preferire il dilemma del carrello?

Forse, anche qui, come nella cosiddetta etica dei veicoli a guida autonoma, il tram esercita un fascino mistificatorio. Philippa Foot, col suo esperimento mentale, non voleva avallare la progettazione e la costruzione di tranvie tragicamente insicure, bensì immaginare, come termine di confronto, una situazione artificiale in cui la condizione di partenza e il margine di scelta fossero limitati all’aut aut fra una e cinque vite e i cui esiti fossero interamente prevedibili. Si può applicare il suo dilemma alla guerra effettuale solo se la si rappresenta come uno strumento le cui opzioni e le cui conseguenze sono perfettamente controllabili – a dispetto di Helmuth von Moltke – e riducibili a morale. Lo si può fare, in altre parole, solo se, come scrive Nico Piro, la si normalizza, ossia, in termini tranviari, si fa passare come ordinario e lecito un sistema di trasporto su rotaia progettato così male che i conducenti o i sistemi automatici che li sostituiscono si trovano quotidianamente a determinare quali pedoni maciullare e quali no.

4. La guerra giusta

Nella Metafisica dei costumi Kant scrive che lo ius necessitatis comporta, in condizioni di emergenza, la facoltà di sopprimere, per salvarsi la vita, persone che non ci hanno fatto nulla di male. Per lui però questo presunto diritto è uno ius aequivocum, ambiguo. Uccidere innocenti non diventa giusto perché ci troviamo in una situazione di estremo pericolo: l’estremo pericolo si limita a rendere il diritto inefficace perché privo di sanzioni così spaventose da indurre a superare il terrore dovuto al rischio immediato di morire.

Perché Kant sceglie una via così obliqua per affermare che le azioni compiute in stato di necessità non sono giuridicamente punibili? Perché l’alternativa – trattare come legittima l’uccisione di innocenti in caso di emergenza – normalizzerebbe una condotta che deve rimanere ingiusta. Se lo ius necessitatis fosse diritto in senso stretto, la cura della sicurezza dei trasporti su rotaia – così come il ripudio della guerra come mezzo di soluzione delle controversie internazionali – potrebbe essere trattata come facoltativa.

Coerentemente, Kant criticava il diritto internazionale giusnaturalista perché normalizzava la guerra. Se si riconosce che ciascuno stato è giudice in causa propria e può far legittimamente valere le proprie ragioni con la forza, non si avalla la legge del diritto, bensì, come in un’ordalia, la legge del più forte. Proprio per questo, secondo Kant, per superare la barbarie della guerra è indispensabile ammettere prelimìnarmente che non possono esistere guerre “giuste”¹⁶ anche se, in mancanza di un giudice sovranazionale terzo e dotato di potere coercitivo, ci possono essere guerre che sono o sembrano tristemente necessarie.

Chi crede di combattere una guerra giusta si dà ragione da sé, come un giudice in causa propria e in conflitto di interessi, e la fa valere con la forza: sottoscriverà dunque trattati di pace con la riserva di disattenderli appena possibile, perché un nemico ingiusto non merita il rispetto della parola data; tenderà a interferire violentemente nella costituzione e nel governo di altri stati ritenendoli illegittimi ed ergendosene a giudice; e propenderà a combattere con mezzi tali da rendere impossibile ricostruire, fra le parti, la fiducia per trattare una pace futura, perché con un nemico ingiusto non si può scendere a patti.

Come por fine alla guerra infinita senza deporre l’armamentario della guerra giusta? I crimini di guerra statunitensi rivelati da Wikileaks negli Iraq War Logs, la giustificazione dell’aggressione a stati sovrani con la pretesa, fallimentare, di esportare la democrazia e, soprattutto, una pervasiva menzogna propagandistica mostrano che anche il cosiddetto occidente continua a farne un uso sistematico. Come scrive Stefania Maurizi,

la guerra in Iraq è un caso esemplare di manipolazione dell’intelligence al servizio di una causa politica: gli Stati Uniti avevano invaso il paese il 20 marzo 2003 sulla base di informazioni completamente false, secondo cui il regime di Saddam Hussein era in possesso di armi di distruzione di massa e aveva legami con al Qaeda. Si trattava di una totale invenzione dell’amministrazione di George W. Bush, in combutta con il governo inglese di Tony Blair, per giustificare l’invasione. Ma la manipolazione delle informazioni di intelligence avrebbe raggiunto il suo scopo molto più difficilmente se i media americani avessero fatto il loro dovere: trattare con scetticismo i servizi segreti e loro padroni politici.
[…]
La miscela tra la manipolazione dell’intelligence e la propaganda dei media produsse una guerra da cui il Medio Oriente non si è ancora ripreso, perché non solo ha creato milioni di morti e rifugiati, ma ha contribuito a generare la barbarie dell’Isis, emerso proprio nei territori iracheni sprofondati nel caos e nella violenza innescata dall’intervento americano, poi da lì i suoi fanatici sono arrivati a colpire fino in Afghanistan, in un crescendo di teste tagliate, attacchi suicidi, crocifissioni, stupri di massa, perfino più brutali – se possibile – di quelli di al Qaeda.¹⁷

Con questi precedenti, come credere, ora, che l’ultimo atto della guerra infinita sia così “giusto” o, almeno, così necessario da non meritare di finire?

5. Una propaganda quasi inevitabile

Il 5 novembre 2022 si è svolta in Italia una manifestazione per la pace, il cui scopo non era invitare l’Ucraina a una resa senza condizioni, bensì pretendere da stati che si dicono democratici l’impegno a lavorare per una soluzione politica, contro una guerra che fa male non solo ai popoli che la subiscono direttamente, ma all’intero pianeta: “tacciano le armi e si cerchino le condizioni per avviare negoziati capaci di condurre a soluzioni non imposte con la forza, ma concordate, giuste e stabili”. E anche secondo il realista Henry Kissinger solo la via, difficile, della diplomazia e dell’autodeterminazione dei popoli tramite referendum sotto supervisione internazionale può evitarci di ripetere l’errore che nel 1914 condusse l’Europa al suicidio culturale: sprofondare, come in trance, in una guerra che si pensava normale senza conoscere – e tanto meno riuscire a governare – la distruttività del potenziale tecnico che avrebbe scatenato.

Nel 1955 Raymond Aron illustrò così le radici di questo difetto di conoscenza sociale:

Trent’anni fa Julien Benda inventò la fortunata espressione trahison des clercs. L’opinione pubblica non aveva ancora dimenticato le mozioni firmate di qua e di là dal Reno dai più grandi nomi della letteratura e della filosofia. Gli intellettuali avevano ripetuto ai soldati che essi si battevano “gli uni per la cultura, gli altri per la civiltà; avevano denunziato la barbarie del nemico, senza sottoporre a critica le testimonianze addotte; avevano trasfigurato una contesa di forza, simile a tante altre che L’Europa aveva vissuto durante i secoli passati sotto forma di guerra santa. Avevano conferito agli interessi degli Stati e agli odi dei popoli una forma articolata e sedicente razionale. Avevano rinnegato la loro missione, che consiste nel servire i valori non temporali: la verità, la giustizia.¹⁸

Aron era consapevole che la defezione degli intellettuali è organizzata amministrativamente tramite la loro crescente dipendenza: “l’intellettuale al servizio d’uno Stato, d’un partito o d’un sindacato, dirigente delle ricerche per conto dell’aviazione americana o dell’agenzia per l’energia atomica, come può sottrarsi alle regole del suo ufficio?”¹⁹ Anche oggi, secondo Kissinger, conviviamo – e forse anche coltiviamo – con un difetto collettivo di conoscenza altrettanto pericoloso: “overcoming the disjunction between advanced technology and the concept of strategies for controlling it, or even understanding its full implications, is as important an issue today as climate change, and it requires leaders with a command of both technology and history.”

E però, poco dopo la manifestazione del 5 novembre, un altro articolo di Federico Zuolo su “Valigia Blu” rappresenta ancora il pacifismo come privo di senso della realtà e della responsabilità: “attualmente, nei posizionamenti pubblici la questione del pacifismo si esprime nell’urgenza di richiedere la fine delle ostilità qui e ora. È la natura incondizionata della richiesta che sembra demarcare i pacifisti da altre posizioni che, a loro volta, genuinamente vogliono la pace. Quindi la disputa è tra chi vuole la fine del conflitto (quasi) a qualsiasi condizione e chi dà valore alle condizioni. Infatti, anche se abbiamo sempre un dovere di limitare morte e sofferenza, le condizioni contano poiché determinano il modo in cui si continuerà a vivere dopo la fine delle ostilità.”

Questa interpretazione è semplicemente un espediente retorico per attribuire l’esclusiva dell’irresponsabilità a chi preferisce una guerra finita invece che infinita? Forse no, ma soltanto se si riesce a ricondurre il conflitto armato fra stati sotto controllo morale. Zuolo tenta di farlo con tre argomenti:

1. Uno stato aggredito ha il diritto di difendersi.
2. Una guerra deliberata da un governo legittimo è più giustificabile di una imposta da uno illegittimo: “da un lato abbiamo una popolazione che quasi unanimemente sostiene lo sforzo di autodifesa, dall’altro una popolazione che in piccola parte dissente, in larga parte teme la repressione e se ne ha i mezzi cerca di sfuggire alla chiamata alle armi. Contrapporre a quest’ultimi fenomeni la (quasi inevitabile) propaganda di Zelensky sembra veramente un sofisma in cattiva fede. Quindi, le recenti illazioni sullo scarso pedigree democratico dell’Ucraina e sulle presunte volontà di alcuni territori russofoni di adesione alla Russia, anche quando fossero vere, non giustificherebbero l’equiparazione dell’Ucraina alla Russia quanto a legittimità istituzionale.”
3. Le ostilità di un aggredito che rispetta generalmente lo ius in bello sono più giustificabili di quelle del suo aggressore che sistematicamente si macchia di crimini di guerra: “da un lato abbiamo il ricorso abbondante a bombardamenti a danno dei civili, lo stupro di donne e l’uccisione indiscriminata di civili gettati in fosse comuni; dall’altra parte, oltre alle ‘ordinarie’ operazioni dell’esercito, al massimo si possono menzionare azioni di sabotaggio e guerriglia dei civili che si difendono dall’invasore. Laddove ci sono state azioni contrarie a convenzioni o al diritto internazionale da parte dell’aggredito, esse non hanno avuto carattere sistematico o programmatico, né per modalità né per frequenza né per intensità.”

Queste tesi bastano a moralizzare la guerra, così da renderne il superamento soltanto opzionale?

I. Anche se si volesse attribuire all’aggressore esclusivamente la colpa di aver ampliato un conflitto già in corso, attenuato solo provvisoriamente da trattati sottoscritti con riserve mentali fin dall’inizio evidenti, non si può negare all’aggredito la facoltà di difendersi. Ma una cosa è fondare questa facoltà sullo ius aequivocum dello stato di necessità, un’altra trattarla come un diritto in senso stretto. Una cosa è riconoscere che una guerra può essere tristemente necessaria, un’altra rappresentarla anche come giusta. Non è solo una sottigliezza da kantisti: chi crede di combattere una guerra giusta può sentirsi autorizzato a prolungare il massacro oltre l’indispensabile, eventualmente fino a una pace accettabile anche dal generale descritto icasticamente da Emilio Lussu, e a esonerarsi dalla responsabilità per le conseguenze della sua scelta.

II-III. È possibile che l’Ucraina stia combattendo una guerra, se non giusta, inevitabile a causa del carattere incomparabilmente dispotico e criminale del suo nemico. Ma abbiamo gli strumenti per misurarlo? Per rappresentare l’opinione popolare di una parte, che obbliga anch’essa obiettori e renitenti alla leva, come generalmente favorevole alla continuazione della guerra e trattarne i crimini come trascurabili, dovremmo poter disporre di un’informazione libera e accurata e non di una “(quasi inevitabile) propaganda”.

6. La prima vittima

Nel saggio Su un presunto diritto di mentire per amore degli esseri umani, frainteso anche dai non pochi specialisti che ne ignorano il senso politico,²⁰ Kant sostiene che un patto costituzionale che comprendesse il diritto di mentire non potrebbe sussistere, perché includerebbe la facoltà di trasgredire per convenienza tutti gli impegni pubblici su cui la costituzione stessa si fonda e di governare invece con la forza e con l’inganno. E ciò non si applica solo all’interno dei singoli ordinamenti: lo stato di diritto di cui anche la democrazia liberale ha bisogno si realizza solo se la sua garanzia pubblica non vale soltanto occasionalmente e per alcuni, ma per sempre e per tutti – cosa, questa, irrealizzabile in un sistema di relazioni che, normalizzando la guerra, si regge sulla legge della forza e non su quella del diritto.

Una democrazia dovrebbe non solo consentire, ma anche garantire la pubblicità di tutte le informazioni necessarie ai cittadini per deliberare consapevolmente sulla pace e sulla guerra. Una costituzione materiale – orientale o occidentale che sia – sotto la quale i coraggiosi che rivelano violazioni e crimini sono perseguitati, incarcerati o costretti all’esilio e la propaganda bellica e il potere segreto sono dati per scontati si espone al sospetto che le guerre che fa combattere non siano affatto inevitabili. Nel detto secondo il quale la verità è la prima vittima della guerra si cela un luogo che sta diventando difficile rendere comune: la prima vittima della guerra è la democrazia, che avrebbe potuto essere la sua prima nemica.

I sistemi di intelligenza artificiale basati sull’apprendimento automatico (machine learning) sono utilizzati per ottenere classificazioni o produrre decisioni che hanno effetti rilevanti sulle vite delle persone, a una velocità e su una scala che non consentono un controllo umano significativo. Nei sistemi utilizzati per il riconoscimento facciale, ad esempio, o lo screening medico di immagini di tessuti umani o le decisioni di concedere o rifiutare un prestito, la quantità dei dati di partenza e la potenza di calcolo richiesta per la loro elaborazione fanno sì che la presenza di un essere umano nel processo (human in the loop) non sia in grado di fornire alcun controllo rilevante. Qualora un’attività sia automatizzata e si deleghi tuttavia a una persona il compito di intervenire, con prontezza fulminea, nei casi di emergenza, il ruolo dell’essere umano non può essere che quello di capro espiatorio, come pare sia stato previsto nei sistemi Tesla.

Data l’impossibilità di un controllo umano in itinere, garanzie alternative potrebbero essere fornite dalla trasparenza o dall’assoluta affidabilità. Intrinseche ai sistemi di apprendimento automatico sono tuttavia le caratteristiche contrarie: questi sistemi sono infatti sono costitutivamente opachi (black box), soggetti a errori madornali – in quanto fondati su correlazioni statistiche di ogni genere, senza accesso al significato o al contesto – e ad attacchi avversari non rilevabili.

Nei primi anni del loro impiego, l’evidenza dei danni prodotti da simili sistemi è stata affrontata dalle Big Tech come un problema di discriminazioni, da eliminare con interventi di design tecnico. Le narrazioni sull’”etica dell’IA” e il “seducente diversivo del ‘risolvere’ i bias” hanno costituito un’operazione di cattura culturale, ossia di costruzione di una narrazione pubblicamente condivisa, attraverso il finanziamento e la direzione della ricerca  e dei mezzi di intermediazione scientifica, fino a dettarne anche i toni. I giganti della tecnologia mirano a sottrarre i sistemi di IA alla regolazione giuridica, attraverso dichiarazioni di principi, linee guida, esperti, comitati e gruppi di lavoro sull’etica; a tale strategia di ethics washing si oppongono oggi la richiesta che le ricerche in questo ambito siano finanziate senza conflitti di interesse e la proposta di concettualizzare la questione nei termini della tutela dei diritti umani.

Paiono ormai superati, in virtù dello loro assurdità o malafede, anche i tentativi delle grandi aziende di sfuggire alle loro responsabilità appellandosi all’eccezionalità delle nuove tecnologie e proponendo, per gli effetti dannosi dei sistemi di apprendimento automatico, il riconoscimento di un vuoto di responsabilità, o una responsabilità distribuita anche tra gli utenti e le vittime (a differenza di quanto previsto per i profitti, secondo una consuetudine non eccezionale). Come osserva Andrea Bertolini, la dicotomia tra soggetti giuridici e oggetti non è superabile, tertium non datur, e

l’unica classificazione ammissibile di tutte le tecnologie avanzate esistenti e ragionevolmente prevedibili – senza indulgere in tentazioni fantascientifiche – è quella di cose, oggetti e artefatti, prodotti dell’intelletto umano. Così concepite, esse rientrano chiaramente nella nozione di prodotto

La fragilità della situazione è quella di una bolla giuridica, per usare un’espressione di Marco Giraudo: le grandi compagnie tecnologiche hanno fondato infatti il loro modello di business sull’appropriazione e la commercializzazione dei dati personali, in violazione di diritti giuridicamente tutelati, scommettendo su un successivo “salvataggio giuridico”, in nome dell’inarrestabilità dell’innovazione tecnologica.

L’evidenza delle violazioni dei diritti individuali che hanno luogo quando si utilizzino sistemi di apprendimento automatico per attività che hanno effetti rilevanti sulle vite delle persone sta a fondamento della posizione di Frank Pasquale e Gianclaudio Malgieri. La loro proposta è di disciplinare i modelli di IA ad alto rischio incorporati oggi in prodotti e servizi attraverso una presunzione di illegalità, ossia entro un sistema di “illegalità di default”: fino a prova contraria, tali sistemi dovrebbero essere considerati illegali, e l’onere della prova contraria dovrebbe incombere alle aziende.

Prima di immettere sul mercato un prodotto o un servizio che incorpori sistemi di IA ad alto rischio, le aziende – a partire da quelle che esercitano ormai, per dimensioni e prerogative, una sovranità funzionale – avrebbero l’obbligo di dimostrare che la loro tecnologia non è discriminatoria, non è manipolatoria, non è iniqua, non è inaccurata e non è illegittima nelle sue basi giuridiche e nei suoi scopi. Potrebbero così trovare applicazione anche nei sistemi di IA i principi fondamentali del trattamento di dati personali fissati all’articolo 5 del Regolamento generale sulla protezione dei dati.

La proposta di Pasquale e Malgieri di inquadrare i sistemi di IA entro un regime di “illegalità di default” si fonda sulla priorità dei diritti individuali specificamente protetti dalla legge su un generico principio di innovazione, che è spesso la maschera dietro la quale i grandi soggetti economici rivendicano la tutela dei loro concreti interessi. Non è detto che i diritti individuali avranno la meglio, ma la proposta ha il pregio di chiamare le cose col loro nome.