2023 < Bollettino telematico di filosofia politica

Enrica Salvatori, Il fegato del vescovo. Studi di confine sui confini della Lunigiana medievale

7 Novembre 2023 Maria Chiara Pievatolo Leave a comment

Mappa della Lunigiana Proponiamo alla revisione paritaria aperta, fuori disciplina, il libro di Enrica Salvatori Il fegato del vescovo. Studi di confine sui confini della Lunigiana medievale. Infatti, mentre l’idea di rendere i commenti dei revisori parte della discussione pubblica, in modo da riconoscerne il contributo e da arricchire il dibattito scientifico trova già attuazioni importanti in Europa, chi cerca di praticarla in Italia deve sfidare una valutazione di stato della ricerca ancora amministrativamente incatenata ai limiti tecnici ed economici dell’età della stampa. Così chi, come l’autrice, desidera tentare un esperimento che altrove ha avuto luogo con successo più di un decennio fa deve accontentarsi di questa sede, certamente poco frequentata dagli storici del medioevo.
La versione in corso di stampa del testo è sottoposta a una revisione chiusa e anonima. Questo esemplare, invece, verrà discusso pubblicamente da alcuni esperti invitati, se accetteranno di farlo, e aperto ai commenti di chiunque desideri partecipare, secondo le regole consultabili qui. Per il loro uso, offriamo qui sotto un breve invito alla lettura preparato dall’autrice.

Il fegato del vescovo mette in luce le caratteristiche salienti del processo di costruzione dello Lunigiana dal medioevo ai giorni nostri. La sua ricerca indagine individua il periodo tra la fine dell’Ottocento e l’inizio del secolo successivo come il momento di elaborazione dei miti e delle narrative attualmente più diffusi e condivisi relativi a questo spazio, dando particolare attenzione al mito della distruzione di Luni conseguente a ipotetici attacchi normanni e saraceni. Le ricerche guardano all’uso e al rilievo effettivo del titolo comitale sfoggiato dal vescovo di Luni a partire dal XII secolo, all’estensione della sua signoria in rapporto alle altre realtà signorili del territorio e al formarsi del concetto di Lunigiana tra il tardo medioevo e la prima età moderna.
L’idea di una Lunigiana politicamente irrilevante ed economicamente arretrata perché frammentata e priva di un centro urbano dominante viene sostanzialmente ribaltata dalla considerazione che proprio la frammentarietà e il dinamismo dei dominati tra medioevo ed età moderna costituiscono i fattori che hanno formato il concetto di Lunigiana e soprattutto hanno plasmato il paesaggio che oggi è percepito come caratteristico della regione. Nell’ultima parte del volume i confini della Lunigiana sono stati indagati nel presente, tramite un questionario teso a capire in che modo i residenti e i visitatori non occasionali percepiscano la storia di questo territorio, portandoli a riflettere sulle ragioni che hanno contribuito alla formazione dell’identità delle comunità locali in una regione dai confini politico-amministrativi inesistenti.

Articoli

Accessi: 289

Leggere Mary Wollstonecraft oggi. Note a partire da Carlotta Cossutta, “Avere potere su se stesse: politica e femminilità in Mary Wollstonecraft”

30 Luglio 2023 Brunella Casalini Leave a comment

Questo testo è stato scritto in occasione dell’evento Libri di donne: presentazione di opere di filosofe a cura di SWIP Italia, 15 maggio 2023, discussants: Brunella Casalini (Università di Firenze) e Fiorenza Toccafondi (Università di Firenze), moderatrice: Vera Tripodi (Politecnico di Torino), nella forma di una presentazione online del volume di Carlotta Cossutta (Scuola Normale Superiore, Pisa), Avere potere su se stesse. Politica e femminilità in Mary Wollstonecraft, Pisa, ETS, 2021.

La prima lezione che possiamo apprendere da questo bel lavoro di Cossutta è che si può e si deve tornare a leggere Wollstonecraft non solo in una prospettiva di storia del pensiero e delle idee politiche, ma anche in una chiave filosofico-politica intesa come riflessione critica sul presente. Questa scelta interpretativa poggia su una mossa critica fondamentale che consiste nel mettere in discussione la ricostruzione del pensiero femminista come scandito dal succedersi di diverse ondate, ciascuna separata da una cesura dalle successive. Una lettura che condannerebbe il pensiero di Wollstonecraft a rimanere relegato alla fase del proto-femminismo.

Pur nella varietà delle imprese editoriali in cui si è imbarcata e nei mutamenti intervenuti tanto nella scelta del registro stilistico-comunicativo quanto del pubblico al quale rivolgersi, Wollstonecraft lavora con continuità intorno ad alcuni interrogativi che rinnova a se stessa nel tempo alla luce delle proprie variegate esperienze di vita e del confronto costante con autori e autrici contemporanei, un confronto che coltiva con passione anche attraverso intensi rapporti epistolari.

Centrali sono le domande su cos’è una donna, su quali sono le ragioni della sua oppressione, su come si diventa donna e su cosa potrebbe divenire una donna in mutate circostanze sociali, politiche ed economiche. Interrogativi ai quali risponde rifiutando una prospettiva essenzialista, che riconduca i difetti femminili, e la condizione di inferiorità sociale nella quale le donne del suo tempo si trovano, ad una presunta natura femminile. La femminilità è, per Wollstonecraft, una costruzione sociale: sia il corpo che la mente della donna sono plasmate socialmente. Cossutta propone in proposito un parallelo efficace tra la riflessione di Wollstonecraft e quella sviluppata da Iris Marion Young in Throwing like a girl. A Phenomenology of Feminine Body Comportment Motility and Spatiality, un articolo in cui l’analisi fenomenologica primo novecentesca viene corretta ricordando quale visione dello spazio emerga a partire dall’esperienza di uno specifico corpo, ovvero del corpo femminile, un corpo educato a sentirsi di troppo e fuori luogo, che deve quindi cercare di muoversi nel perimetro più stretto possibile, persino quando si tratta di lanciare una palla.

La realtà femminile viene scoperta, d’altra parte, molto presto da Wollstonecraft come plurale: non esiste la donna, ma le donne, nelle diverse condizioni economiche e sociali nelle quali la vita le ha gettate. Le donne dell’aristocrazia sono le figure femminili su cui maggiormente si appiglia la vena polemica di Wollstonecraft: il loro corpo e le loro menti rappresentano al massimo grado le distorsioni che sono capaci di produrre relazioni incentrate sul dominio quando si crea un rapporto di complicità tra le soggettività oppresse e l’oppressore. Costrette ad assumere un atteggiamento adulatorio verso i mariti da cui dipende la loro sorte, le donne dell’aristocrazia sfogano la loro frustrazione sulla servitù, sviluppando un atteggiamento di cinica freddezza.

Non solo la femminilità è trattata come un problema di costumi che condizionano le condotte, plasmando atteggiamenti e propensioni mentali, oltre che posture e corpi; altrettanto lo è la mascolinità – come mostra nella Vindication of the Rights of Woman l’attenzione dedicata all’esercito e agli effetti che le gerarchie producono anche nella soggettività maschile. Nell’articolare la propria visione della femminilità e della mascolinità intorno all’idea di un dominio che corrompe tanto chi lo esercita quanto chi vi è sottoposto, precludendo al primo l’accesso alla realtà e costringendo il secondo all’adozione di atteggiamenti adulatori e ipocriti, Wollstonecraft attinge ad una particolare tradizione politica: quella repubblicana. Una tradizione politica fondamentale anche per comprendere la sua interpretazione dei diritti, della libertà, della cittadinanza e della virtù; un’interpretazione contaminata dall’ispirazione repubblicana e, al tempo stesso, basata su una sua inevitabile riformulazione.

Un ulteriore elemento di continuità tra la prospettiva filosofico politica di Wollstonecraft e quella del femminismo contemporaneo – come osserva Cossutta – è dato proprio dal confronto con il canone maschile. Wollstonecraft, come altre autrici del suo tempo, non poteva evitare di misurarsi con gli strumenti concettuali offerti dal canone maschile egemonico; al tempo stesso, tuttavia, era costretta a usarli per altri fini o a reinventarli per creare una propria cassetta degli attrezzi e lo spazio teorico necessario a far emergere la prospettiva delle donne. Nella visione di Wollstonecraft è chiaro da subito che la questione femminile non può essere risolta semplicemente attraverso un’estensione dei diritti: farla entrare nell’ambito del dibattito teorico-politico ha implicazioni molto più ampie e radicali. Non basta appropriarsi del canone, bisogna trasformarlo creando le risorse per l’articolazione di una scrittura femminile. Non è sufficiente adottare la prospettiva teorico-politica repubblicana, è necessario ripensarla a cominciare dalla messa in discussione della distinzione pubblico/privato e da una ridefinizione della nozione stessa di virtù.

Nel corso del tempo, tuttavia, Wollstonecraft perde la fiducia che ancora aveva nelle sue prime opere, in particolare nelle due Vindication, di riuscire ad aprirsi un varco per partecipare al discorso maschile dei suoi affini repubblicani, di farsi in qualche modo accettare e accogliere. Negli ultimi lavori Wollstonecraft sembra voler ignorare la possibile reazione maschile per poter così lasciare veramente libera la propria immaginazione politica. Se l’autrice ha sempre strenuamente coltivato la libertà di pensare con la propria testa, questa libertà si dispiega completamente solo nel momento in cui decide di rivolgersi ad un pubblico prevalentemente femminile, anche scegliendo una scrittura che si allontana dal canone di un’argomentazione classicamente intesa come teoria. Il cambiamento in termini stilistici, la scelta della forma letteraria dell’epistola, in Letters Written during a short residence in Sweden, Norway and Denmark, e del romanzo, in Mary, a Fiction e in Maria, or the Wrongs of Woman, non segnano un ripiegamento verso una scrittura più intimista e meno polemica. In aperta critica al romanzo sentimentale borghese che anima la conversazione nella sfera pubblica letteraria settecentesca, i romanzi di Wollstonecraft intendono portare le donne e il discorso sulla questione femminile all’interno della sfera pubblica politica. La forma del romanzo configura, per la sua scrittura, la possibilità di dispiegare il suo pensiero su un terreno politico insieme polemico e costruttivo. Tutto ciò accade anche perché quel genere letterario le consente più facilmente di sentirsi “a casa”, tra donne, di rivolgersi a chi – ricorda Cossutta (p. 26) – è in grado non solo di comprendere ma anche di “sentire” quanto lei intende argomentare.

Non è difficile scorgere anche in questo aspetto del percorso di Wollstonecraft un elemento di continuità con la riflessione filosofico politica femminista contemporanea su cosa debba considerarsi legittimamente teoria politica e cosa non ne abbia dignità. Scrive Cossutta: “La messa in discussione della forma argomentativa, di che cosa possa essere ritenuta teoria politica e di come la si possa comunicare, è un’interrogazione che le teorie femministe continuano a porre e a porsi” (p. 27). Ed è un’interrogazione strettamente connessa ad un diverso modo di declinare la razionalità, che per Wollstonecraft, come per buona parte della filosofia femminista contemporanea, va di pari passo con la riconciliazione tra ragione, emozioni e passioni. Nelle Letters written during a short residence in Sweden, Norway and Denmark, Wollstonecraft osserva: “ragioniamo profondamente quando sentiamo con forza” (cit. a p. 29). La passione è una molla fondamentale per la riflessione; in particolare, nella prospettiva filosofico politica, lo è la passione per la giustizia sociale mossa dalla percezione delle ingiustizie – come suggerisce Iris Marion Young, che anche su questo sembra muoversi in perfetta sintonia con Wollstonecraft.

La prospettiva pedagogica che attraversa tutta l’opera di Wollstonecraft, che il suo discorso assuma o meno la forma del trattato pedagogico, come accade nei primissimi scritti, che si tratti di riflessioni sull’auto-formazione, sul ruolo e l’importanza della lettura, dell’ascolto e della possibilità di confrontarsi con persone che possono diventare interlocutori privilegiati, è senz’altro cruciale nella sua comprensione della necessità di riconoscere la natura politica dello spazio privato, delle relazioni familiari e più in generale delle relazioni sociali. Ciò è possibile anche perché non è in discussione tanto l’istruzione quanto l’educazione nel senso di una socializzazione che favorisca la formazione di un sé capace di pensare autonomamente. In altri termine, ciò cui dobbiamo prestare attenzione, per Wollstonecraft, è il modo in cui l’organizzazione e le forme delle relazioni sociali, a cominciare dalle relazioni primarie, si riflettono nello sviluppo delle capacità della persona – oggi, utilizzando il lessico di Sen e Nussbaum, diremmo delle capabilities.

Su tutti questi temi, l’autore con cui il confronto sarà più serrato è, senz’altro, Rousseau, di cui Wollstonecraft condivide sia l’idea che l’educazione ha il “compito di creare una società giusta” sia che essa debba “prestare attenzione anche alla felicità dei bambini educati” (cit. pp. 82-83). Con Rousseau, tuttavia, Wollstonecraft non può fare a meno di ingaggiare anche un’accesa battaglia polemica sul tema dell’educazione delle donne. Una polemica che, in ultima analisi, non è che il preludio a una critica complessiva dell’ideale di cittadino e di cittadinanza proposta da Rousseau, così come di quella tradizione delle sfere separate che egli più di ogni altro pensatore settecentesco ha contribuito a delineare. Il terreno della critica a Rousseau diventa così una sorta di palestra per denunciare l’errore di distinguere due tipi di educazione: quella maschile, volta alla creazione del cittadino e della virtù pubblica, e quella femminile, finalizzata alla creazione della madre e della virtù privata.

Educare alla cura di sé e dell’altro, al fine di evitarne la sofferenza, è l’essenza dell’educazione che dovrebbe emergere in una società giusta. Le donne dell’aristocrazia, educate a preoccuparsi dello sguardo maschile e del giudizio dell’opinione pubblica, sono incapaci di ascoltare i loro bisogni così come di prendersi cura dei loro figli. Gli uomini, d’altra parte, educati all’adulazione, cadono facilmente vittima dell’inganno femminile; la loro presunta autonomia poggia sull’incapacità di pensarsi in relazioni di reciprocità. Da questo punto di vista, la critica a Rousseau porta l’autrice a formulare sia una diversa nozione di autonomia, che si fonda sulla reciprocità relazionale, sul rispetto reciproco proprio delle relazioni amichevoli, sia su una diversa nozione di virtù valida sia per il privato che per il pubblico: la modestia.

Wollstonecraft, nella seconda Vindication, distingue modestia e umiltà: definisce la prima come una “sobrietà della mente che insegna all’uomo a non avere di se stesso una considerazione maggiore di quanto non dovrebbe” e l’umiltà come una sorta di “autodenigrazione”. La modestia, “l’abito più bello della virtù (the fairest garb of virtue)” e il “frutto sacro della sensibilità e della ragione (sacred offspring of sensibility and reason)”, è una virtù trascurata o relegata nella sfera privata femminile tanto nel modello repubblicano di Rousseau, incentrato sulla figura del cittadino in armi, la cui virtù è data dalla forza, quanto dal modello della repubblica commerciale che – come Wollstonecraft rimprovera a Imlay in una lettera – sembra mantenere “la mente” e le “passioni” “in un continuo stato di agitazione (p. 172).

La modestia è una virtù sfuggente, che sta tutta nel tentativo costante di raggiungere un equilibrio tra il non esaltarsi e il non denigrarsi. Sembra dotata del potere di far cadere in contraddizione chi dice di possederla: dire “Sono modesta” suona contraddittorio, se non ridicolo. È una virtù che sta agli altri semmai riconoscere, ma che in ogni caso non ha bisogno di andare in cerca di alcuna forma di riconoscimento. È una consapevolezza di sé che è giusta, per Wollstonecraft, nella misura in cui ci rende consapevoli delle nostre possibilità e dei nostri limiti. È fondata su un autogoverno che consiste nella capacità di mettersi in secondo piano, di decentrarsi, capacità indispensabile per raggiungere qualsiasi obiettivo, per essere utili agli altri. In fondo, sia la vanità che l’arroganza così come l’auto-denigrazione condividono il vizio di un’eccessiva concentrazione su di sé, di dare un’eccessiva importanza al proprio ego.

La modestia è quella virtù che consiste nel farsi né troppo grande né troppo piccolo rispetto agli altri, due vizi che – come suggerisce Vrinda Dalmiya in Caring to Know. Comparative Care Ethics, Feminist Epistemology, and the Mahābhārata (OUP 2016), una lettura che potrebbe essere utile per integrare la riflessione inaugurata qui da Cossutta a partire da Wollstonecraft – precludono l’accesso a quei beni epistemici che possono derivare dalla disposizione a correggere se stessi, ad aprirsi alle emozioni.

Come sottolinea Cossutta, Wollstonecraft sceglie di parlare di “modestia”, piuttosto che di “umiltà”, perché è il termine più spesso associato alle virtù femminili. L’associazione tra modestia e femminilità è ribadita a più riprese nel testo della seconda Vindication con il rimando alla nozione di pulizia: la pulizia della casa, dei comportamenti, della mente e del cuore. “Il riserbo personale e il sacro rispetto per la pulizia e la delicatezza nella vita domestica […] sono gli aggraziati pilastri della modestia” (The personal reserve, and sacred respect for cleanliness and delicacy in domestic life […] are the graceful pillars of modesty) – scrive Wollstonecraft. Il riserbo, la pulizia della casa sono attività di cura che presuppongono attenzione a sé, ma anche all’altro. Wollstonecraft associa la modestia anche all’utilità, all’altruismo e, non ultimo, al sentimento di umanità. Scrive:

“Fa che il cuore sia pulito, si espanda e senta tutto ciò che è umano, invece di essere ristretto da passioni egoistiche; e che la mente contempli spesso argomenti che esercitino la comprensione, senza riscaldare l’immaginazione, e la modestia darà il tocco finale al quadro” (Make the heart clean, let it expand and feel for all that is human, instead of being narrowed by selfish passions; and let the mind frequently contemplate subjects that exercise the understanding, without heating the imagination, and artless modesty will give the finishing touches to the picture).

La modestia diventa, nella seconda Vindication, la virtù centrale di “una repubblica ben ordinata anche nella sfera privata”. Una repubblica è “ben ordinata” grazie alla capacità di autogoverno dei suoi cittadini e delle sue cittadine. Una capacità di autolimitazione e controllo nella propria vita privata, che trasforma la relazione matrimoniale in una solida e duratura amicizia tra i coniugi, incentrata sulla stima reciproca. Wollstonecraft sicuramente non ritiene che la parzialità degli affetti familiari sia un impedimento all’allargamento dei sentimenti in una direzione patriottica e cosmopolitica. È piuttosto vero il contrario – osserva Cossutta: “L’idea di Wollstonecraft degli affetti familiari, al contrario, fa della famiglia il terreno fertile di una benevolenza repubblicana e universale” (p. 125). Leggi e istituzioni hanno, però, snaturato il senso delle relazioni familiari, trasformandole in relazioni di dominio e per le donne in una forma di schiavitù, attraverso un’estensione inappropriata del concetto di proprietà: la donna come lo schiavo è diventata una proprietà dell’uomo.

Il concetto di proprietà, così come è stato teorizzato dal diritto moderno, quindi deve essere oggetto di una disamina. Il tema – come mette in evidenza Cossutta – era già accennato nella prima Vindication, dove la schiavitù veniva considerata non una distorsione ma un male intrinseco della società mercantile. Ritorna con ancora più forza nel romanzo Maria, or the wrongs of woman, soprattutto attraverso la figura di Jemima, che consente a Wollstonecraft di ampliare la sua riflessione all’intreccio tra genere e classe. Jemima, infatti, è una donna di umilissime origini, costretta per un certo periodo della sua vita a prostituirsi per sopravvivere. Se nella seconda Vindication sul tema della prostituzione si può riscontrare una vena di moralismo, in Maria, or The Wrongs of Woman, Wollstonecraft sembra giunta ad una diversa e più profonda comprensione del peso delle condizioni materiali: Jemima è una donna che nel suo percorso ha incontrato ostacoli che avrebbero potuto annientarla, per superare i quali a nulla sarebbe servita la virtù della modestia. Jemima viene salvata dall’incontro con uomo abbiente e colto, inizialmente interessato solo al suo corpo, che nel tempo le offre la possibilità di costruirsi un’educazione sufficiente ad acquisire stima di sé, coraggio di essere se stessa e di sfidare la società. Solo mutate condizioni materiali danno a Jemima la possibilità di acquisire una voce, di far sentire la voce del margine. Attraverso Jemima, insomma, Wollstonecraft sembra correggere il tiro rispetto alla seconda Vindication e affermare che la ricchezza non ha solo la capacità di corrompere la virtù e distorcere le finalità dell’educazione. La ricchezza, quando diventa l’unico fondamento su cui poggia una società, può essere crudele e spietata nei suoi meccanismi e nella sua logica: senza una base materiale che fornisca sicurezza e un riparo, si è lasciati in balia della violenza, nelle sue molteplici forme; si rischia costantemente di venire annientati nella propria umanità.

La critica alla teoria della proprietà lockeana fondata sulla proprietà di sé incontra limiti evidenti se guardata con occhi femminili, con gli occhi di chi all’epoca, in quanto donna, sapeva di non poter essere proprietaria di sé, né del proprio corpo, soprattutto se non sposata e priva di ogni mezzo, come Jemima. Il cenno forse più esplicito a questa mancanza di proprietà sul proprio corpo da parte dei poveri si trova in una pagina di Maria, or The Wrongs of Woman, non citata da Cossutta, ma a cui le sue riflessioni hanno riportato la mia memoria. Si tratta della pagina in cui Jemima racconta che per un incidente alla gamba durante il lavoro pesante di lavandaia è costretta a recarsi in ospedale:

Non riesco a darvi un’idea adeguata della miseria di un ospedale; ogni cosa è lasciata alla cura di persone intente a guadagnare. Gli assistenti sembrano aver perso ogni sentimento di compassione nell’affannoso svolgimento delle loro mansioni; la morte è così familiare per loro che non si preoccupano di scongiurarla. Ogni cosa sembrava essere condotta per favorire i medici e i loro allievi, venuti a fare esperimenti sui poveri a beneficio dei ricchi. (I cannot give you an adequate idea of the wretchedness of an hospital; every thing is left to the care of people intent on gain. The attendants seem to have lost all feeling of compassion in the bustling discharge of their offices; death is so familiar to them, that they are not anxious to ward it off. Every thing appeared to be conducted for the accommodation of the medical men and their pupils, who came to make experiments on the poor, for the benefit of the rich).

Jemima si lascia qui andare a una riflessione su come l’ospedale fosse congegnato per sperimentare sul corpo dei poveri nuove cure nella speranza che un giorno possano curare i ricchi. Sappiamo bene, del resto, come soprattutto la ginecologia moderna sia nata dalla sperimentazione sui corpi delle malate che giungevano nei nosocomi in condizioni di indigenza. Una condizione che chiaramente mostra come, per la popolazione ridotta in povertà, neppure la proprietà di sé fosse realmente possibile. Da qui, la necessità, per Wollstonecraft, di riformare la società anche dal punto di vista economico, degli stili di vita, di consumo e di produzione, al fine di creare una maggiore uguaglianza materiale, per arrivare alla realizzazione di una società giusta. Continua a rimanere centrale la capacità di autogoverno, di essere padrone di sé, che implica la forza di stare fuori dalle leggi della società, se necessario, di essere “fuorilegge” – come Jemima e Maria si trovano ad essere per aver sfidato le norme sociali –, ma anche il sapere imporre dei limiti ai propri bisogni. Una virtù che si può esercitare, però, solo se la società garantisce una base materiale che consenta a tutti di soddisfare i bisogni essenziali.

Wollstonecraft cerca un’alternativa alla società mercantile. Come già aveva proposto nella Vindication of the Rights of Men, contro la visione economico-politica burkeana, in Mary, a Fiction torna all’immagine del cottage, della casa di campagna, dove è possibile condurre una vita frugale in armonia con sé stesse, con gli altri e con la natura. In Maria, or the Wrongs of Woman, questa piccola comunità eterotopica è una comunità di sole donne: di Maria, della figlia ritrovata di costei e di Jemima. “Nell’inaspettata famiglia di Maria e Jemima – commenta Cossutta – è […] possibile vedere un ideale politico, nutrito sia dalla teoria che dalle vite reali, in grado di sovvertire la disuguaglianza delle donne partendo non solo dall’istruzione, ma anche dalle condizioni materiali” (p. 150).

Senza voler, per forza, ritrovare in Wollstonecraft anticipazioni di tutto ciò che di interessante e importante offre la riflessione femminista contemporanea, senza farne “una sorta di talismano” (p. 210), non si può non concordare con Cossutta sulla possibilità di trovare stimoli tuttora validi per pensare il presente nel pensiero di quest’autrice settecentesca. Non ultimo anche per la sua critica agli effetti negativi prodotti sulla società e sulle soggettività da una fredda razionalità economica orientata ad una crescita fine a se stessa e cieca di fronte ai mali prodotti da crescenti disuguaglianze sociali.

Tags: Mary Wollstonecraft pensiero femminista

Accessi: 336

Sistemi fuori controllo o prodotti fuorilegge? La cosiddetta «intelligenza artificiale» e il risveglio del diritto

5 Maggio 2023 Daniela Tafani 3 Comments

Pinocchio, alla presenza del giudice, raccontò per filo e per segno l’iniqua frode, di cui era stato vittima […]. Allora il giudice, accennando Pinocchio ai giandarmi, disse loro: — Quel povero diavolo è stato derubato di quattro monete d’oro: pigliatelo dunque e mettetelo subito in prigione. ―

Carlo Collodi

1. Prodotti pericolosi e non funzionanti

I sistemi di intelligenza artificiale sono oggi in grado di svolgere alcuni specifici compiti, che erano stati, finora, prerogativa dei soli esseri umani: funzioni quali la traduzione di testi, il riconoscimento facciale, la ricerca per immagini o l’identificazione di contenuti musicali, non trattabili con l’intelligenza artificiale simbolica, sono affrontate con crescente successo dai sistemi di apprendimento automatico (machine learning).

Questi sistemi, di natura sostanzialmente statistica, consentono infatti di costruire modelli a partire da esempi, purché si abbiano a disposizione potenti infrastrutture di calcolo e enormi quantità di dati. Le grandi aziende tecnologiche che, intorno al 2010, in virtù di un modello di business fondato sulla sorveglianza, detenevano già l’accesso al mercato necessario per l’intercettazione di grandi flussi di dati e metadati individuali e le infrastrutture di calcolo per la raccolta e l’elaborazione di tali dati, hanno potuto perciò raggiungere, con l’applicazione di algoritmi in gran parte noti da decenni, traguardi sorprendenti¹.

Nella generale euforia per i genuini progressi, le imprese del settore hanno colto l’opportunità per un’espansione illimitata di prodotti e servizi «intelligenti», ben oltre l’effettivo stadio di sviluppo della tecnologia. Con la formula di marketing «intelligenza artificiale», hanno diffuso e messo in commercio sistemi di apprendimento automatico per lo svolgimento di attività che tali sistemi non sono in grado di svolgere o che semplicemente non sono possibili. Tra i prodotti di questo genere – costitutivamente pericolosi e non funzionanti – ci sono

le auto a guida autonoma,
i sistemi di ottimizzazione predittiva,
i generatori di linguaggio naturale.

1.1 Le auto a guida autonoma

Allo stato attuale della tecnologia, le auto «a guida autonoma» non sono a guida autonoma: non è oggi disponibile alcun veicolo in grado di circolare nelle medesime strade in cui circolano i veicoli tradizionali e nel quale l’occupante umano della vettura sia un mero passeggero. Malgrado i reiterati annunci, nell’ultimo decennio, di una loro imminente commercializzazione, tali veicoli non riescono oggi ad evitare di collidere contro un terzo dei ciclisti e contro tutte le altre auto che siano, pur lentamente, in arrivo. Quanto ai veicoli Tesla già in circolazione, di cui è stata millantata l’autonomia completa (con video rivelatisi poi mere costruzioni cinematografiche), gli sforzi dell’azienda si concentrano oggi nel sostenere, nelle sedi giudiziarie, che «il fallimento nella realizzazione di un ideale obiettivo a lungo termine» non equivalga a una frode, quasi che la vendita, a migliaia di dollari, di un optional denominato «Full self driving capability» potesse essere interpretata dai clienti quale espressione di un mero obiettivo a lungo termine.

1.2. I sistemi di ottimizzazione predittiva

I sistemi di «ottimizzazione predittiva» – ossia gli algoritmi di decisione fondati su previsioni circa il futuro di singoli individui – non sono affatto in grado di prevedere il futuro di singole persone, per la semplice ragione che ciò non è possibile (salvo per chi nutra la convinzione, caratteristica delle antiche attività divinatorie e, oggi, dell’astrologia, che il futuro sia già scritto e leggibile). Eppure, sono in commercio e in uso, ormai da anni, sistemi che consentono di assumere decisioni in modo automatico, grazie alla possibilità di prevedere – si dice – se un cittadino commetterà un crimine, se un candidato per un impiego sarà efficiente e collaborativo, se uno studente abbandonerà gli studi o se un minore sarà maltrattato dai suoi familiari. A una verifica puntuale, tali sistemi risultano così poco affidabili, per la previsione di eventi e azioni individuali, che alcuni ricercatori suggeriscono piuttosto il ricorso a una lotteria tra le persone ammissibili, quando si debbano allocare risorse scarse e non sia possibile utilizzare – anziché sistemi di apprendimento automatico – semplici procedimenti di calcolo con variabili pertinenti ed esplicite. Quando il responso dei sistemi di apprendimento automatico sia utilizzato a fini decisionali, la decisione produce ciò che pretende di prevedere: se il genere predice una paga più bassa e il colore della pelle predice la probabilità di essere fermati dalla polizia, con il passaggio dalla previsione alla decisione tale profilazione sociale si autoavvera, legittimando così, in virtù della presunta oggettività algoritmica, i pregiudizi incorporati nella descrizione statistica iniziale. Simili sistemi producono perciò, infallibilmente, ingiustizia e sofferenze, danneggiando le persone che si trovino – ancorché per ragioni del tutto irrilevanti, rispetto al trattamento inflitto – ai margini dei modelli algoritmici di normalità e dunque violandone infallibilmente i diritti.

1.3. I generatori di linguaggio naturale

I generatori di linguaggio, quali chatGPT e GPT-4, fondati su grandi modelli del linguaggio naturale, sono descritti da OpenAI come dotati della «capacità di comprendere e generare testo in linguaggio naturale», di «fattualità e capacità matematiche», di una conoscenza del mondo, di capacità di ragionamento e della caratteristica di fornire, «occasionalmente», risposte non corrette. In realtà, tali sistemi non conoscono né comprendono alcunché, sono architettonicamente incapaci di ragionamento abduttivo e non sono in grado di fornire alcuna informazione. I grandi modelli del linguaggio naturale sono sistemi che predicono stringhe di testo, in modo statisticamente coerente con il modo in cui le sequenze di forme linguistiche si combinano nei testi di partenza: sono programmi informatici che utilizzano le statistiche sulla distribuzione delle parole per produrre altre stringhe di parole. Sono ulteriormente calibrati, attraverso interazioni con esseri umani, per produrre output che somiglino a quelle che tali esseri umani qualificano come risposte plausibili, pertinenti e appropriate. Le versioni attualmente in distribuzione di tali chatbot, quali chatGPT o GPT-4, sono costruite su un’enorme quantità di dati e opere del lavoro umano – estorti o prelevati in blocco, alla stregua di res nullius, anche quando siano protetti dal diritto alla protezione dei dati personali o dal diritto d’autore – e riproducono con effetti normalizzanti, anziché generativi in senso proprio, la prospettiva egemonica e i suoi stereotipi. Simili sistemi sono modelli del linguaggio, non modelli della conoscenza: producono perciò testi plausibili e convincenti e, al tempo stesso, del tutto privi di valore informativo.

Il genuino progresso costituito dalla «macchina letteraria» – in grado, come scriveva Italo Calvino, di «far stare una parola dietro l’altra seguendo certe regole definite, o più spesso regole non definite né definibili ma estrapolabili da una serie di esempi o protocolli»² – è sfruttato dalle aziende, oltre che attraverso pratiche di espropriazione del lavoro e di esternalizzazione dei costi ambientali, attraverso una presentazione deliberatamente fuorviante e la generalizzata distribuzione di tali sistemi al pubblico, malgrado la consapevolezza degli inevitabili effetti dannosi. Nella lunga lista dei previsti effetti nefasti di GPT-4, puntualmente elencati da OpenAI nella relativa System card, compaiono l’inquinamento dell’ecosistema dell’informazione («ha il potenziale di mettere in dubbio l’intero ambiente dell’informazione, minacciando la nostra capacità di distinguere i fatti dalla finzione»), la possibilità di truffe e manipolazioni politiche su larghissima scala (con uno strumento che può produrre una miriade di testi, orientati come si desidera e indistinguibili da quelli prodotti da esseri umani) e «la tendenza a inventare i fatti, a fornire informazioni errate e a svolgere compiti in modo scorretto», tanto più pericolosa quanto più sono stati resi plausibili, e dunque ingannevoli by design, i suoi output. A fronte di queste caratteristiche, il CEO di OpenAI twitta giulivo che chi non può permettersi le cure potrà farsi curare da un generatore di linguaggio, e le aziende che commercializzano applicazioni per l’assistenza mentale registrano milioni di abbonati, sfruttando, manipolando e mettendo in pericolo le persone più vulnerabili.

Commercializzare impunemente prodotti pericolosi e non funzionanti non è impresa da poco. Ma l’operazione di propaganda dei giganti della tecnologia ha ottenuto, finora, ben altro: un’impostazione del discorso pubblico che punisce le vittime, come in quel paese di Acchiappacitrulli in cui Collodi aveva fatto finire il suo povero burattino, e l’assimilazione dei colpevoli a lungimiranti paladini dell’umanità.

2. Le vittime colpevoli e altre storie

L’impiego di sistemi di apprendimento automatico per funzioni che essi, in virtù delle loro caratteristiche strutturali, non possono svolgere, genera danni e sofferenze agli esseri umani coinvolti. Se la responsabilità per gli effetti ordinari di tali prodotti ricadesse sui produttori, come i sistemi normativi – fin dal Codice di Hammurabi – usualmente prevedono, la loro commercializzazione non sarebbe vantaggiosa (quand’anche il diritto non la vietasse tout court).

Le grandi aziende tecnologiche che distribuiscono tali sistemi hanno adottato perciò una strategia analoga a quella utilizzata a suo tempo dalle industrie del tabacco: hanno finanziato la ricerca universitaria e la divulgazione scientifica e utilizzato i mezzi di comunicazione pubblica (che esse stesse detengono) per diffondere una famiglia di narrazioni, sulla natura e le prestazioni degli attuali sistemi di intelligenza artificiale, che tutela, legittimandolo, un modello di business fondato sulla sorveglianza e sulla possibilità di esternalizzare impunemente i costi del lavoro, degli effetti ambientali e dei danni sociali.

È ormai largamente condivisa, perciò, l’idea che ai danni prodotti dai sistemi di apprendimento automatico si debba reagire non come dinanzi a qualsiasi prodotto pericoloso e non funzionante, ossia vietandone la vendita e l’utilizzo (oltre che la pubblicità ingannevole), e imponendo ai responsabili il pagamento dei danni, bensì come dinanzi a un problema di allineamento dei valori, di etica dell’intelligenza artificiale o di equità algoritmica, quasi che gli algoritmi potessero essere destinatari di un’opera di moralizzazione, in grado di aggiungere a sistemi statistici automatizzati, quale procedura computazionale tra le altre, la facoltà del giudizio morale.

Su questi temi, propongo alla revisione paritaria aperta due articoli:

What’s wrong with «AI ethics narratives» (DOI: 10.5281/zenodo.7156364)
L’«etica» come specchietto per le allodole. Sistemi di intelligenza artificiale e violazioni dei diritti (DOI: 10.5281/zenodo.7799775).

2.1 La cattura culturale

Le narrazioni – idee trasmesse nella forma di storie – diffuse dalle grandi compagnie tecnologiche danno forma alla percezione pubblica del rapporto tra etica, politica, diritto e tecnologia.

Definendo gli assiomi del dibattito, le grandi imprese impongono quali priorità politiche le loro priorità aziendali. La tradizionale «cattura del regolatore», realizzata tramite gli opportuni incentivi o tramite il meccanismo delle revolving doors, è così accompagnata dalla cattura culturale: con un’operazione di propaganda, «colonizzando l’intero spazio dell’intermediazione scientifica», si ottiene che il regolatore – al pari dell’opinione pubblica – condivida in partenza l’impostazione desiderata e che chiunque esprima preoccupazioni sia etichettato come retrogrado o luddista.

Sono così entrate a far parte del senso comune una precisa impostazione di fondo e uno specifico set di problemi e soluzioni, brevemente illustrati di seguito.

2.1.a. Il principio di inevitabilità tecnologica

Il progresso tecnologico è considerato inarrestabile e di ogni singola tecnologia si dà per scontato che sia «qui per restare» o che «se non lo facciamo noi, lo farà qualcun altro». Qualsiasi dibattito ha luogo perciò entro la «logica del fatto compiuto», così che la possibilità di non costruire affatto alcuni sistemi o di non utilizzarli per alcune finalità non possa essere neppure contemplata.

2.1.b. Il principio di innovazione

Il principio di innovazione – fondato sul tacito assunto che qualsiasi innovazione tecnologica sia foriera di competitività e occupazione e debba perciò essere assecondata, anche a scapito del principio di precauzione – è in genere la maschera dietro la quale grandi aziende rivendicano la tutela dei loro concreti interessi economici. Gli studi più recenti mostrano, del resto, che i monopoli del capitalismo intellettuale ostacolano qualsiasi innovazione, per quanto dirompente e benefica, che non si adatti al loro modello di business, promuovendo principalmente un’innovazione tossica che estrae o distrugge valore, anziché produrlo.

2.1.c. La prospettiva soluzionistica

Le questioni di giustizia sono presentate quali questioni di design tecnico e la soluzione dei problemi sociali è assimilata al loro trattamento con sistemi di apprendimento automatico. Agli stessi danni generati dall’uso di dispositivi tecnologici si ritiene di poter rimediare con l’applicazione di ulteriori soluzioni tecnologiche. In questo modo, si oscura la natura politica della decisione di assimilare le questioni sociali a problemi di disciplinamento e controllo, passibili di soluzioni tecniche.

2.1.d. L’antropomorfizzazione delle macchine e la deumanizzazione delle persone

La tendenza spontanea ad antropomorfizzare gli oggetti della tecnologia è sfruttata dalle aziende per indurre la convinzione che i loro prodotti siano in grado di comprendere, conoscere, consigliare o giudicare in senso proprio; correlativamente, il cervello è assimilato a un computer, gli esseri umani a macchine e i volti delle persone a codici a barre, così da giustificare il fatto che le persone siano effettivamente trattate come cose, nei processi in cui si decidono le loro sorti sulla base di statistiche automatizzate, a partire da etichette e collezioni di dati che – a qualsiasi titolo e pur senza alcun riferimento a contesti e significati – li riguardino.

2.1.e. I miti dell’eccezionalismo tecnologico e del vuoto giuridico

La tesi che le leggi vigenti non si applichino ai prodotti basati su sistemi di «intelligenza artificiale», in virtù della loro novità e straordinarietà, e che servano dunque nuove leggi, scritte ad hoc per ciascuna tecnologia, serve a dar luogo a una corsa che vedrà il legislatore perennemente in affanno, nel rincorrere le più recenti novità tecnologiche, le quali saranno dunque commercializzabili eslege. Tale affermazione dell’eccezionalismo tecnologico è in genere assunta tacitamente:

Negli ultimi decenni la Silicon Valley è riuscita a costruire intorno a sé una fortezza antiregolamentare promuovendo il mito – di rado dichiarato apertamente, ma ampiamente condiviso dagli operatori del settore – che il settore “tech” sia in qualche modo fondamentalmente diverso da ogni altra industria che l’ha preceduto. È diverso, secondo questo mito, perché è intrinsecamente animato da buone intenzioni e produrrà prodotti non solo nuovi, ma anche precedentemente impensabili. Qualsiasi danno a livello micro – sia esso a un individuo, a una comunità vulnerabile o a un intero paese – è considerato da questa logica un valido compromesso per un “bene” a livello macro, in grado di cambiare la società.

Il mito del vuoto giuridico ha consentito alle grandi aziende di fondare il loro modello di business su una «bolla giuridica», ossia su una generale violazione di diritti giuridicamente tutelati, impedendo, fin qui, di constatare che esse stanno violando leggi vigenti, applicabili anche ai nuovi prodotti.

In assenza di precedenti, come osserva Erevan Malroux, pur in presenza di una risposta del diritto, è possibile che vi siano dubbi sul significato di quella risposta (ossia una «vaghezza giuridica») o che la risposta non sia ritenuta soddisfacente («ad esempio, quando una pratica è consentita, mentre la società ritiene che dovrebbe essere regolamentata in modo più rigoroso») e che sia opportuno, perciò, adottare regolamenti specifici.

2.1.f. Gli allarmi su rischi e pericoli tratti dal futuro o dalla fantascienza

Con allarmi sul rischio che «menti digitali sempre più potenti» sfuggano al nostro controllo, le grandi aziende tecnologiche convogliano le paure collettive verso oggetti immaginari (distraendo tali fondate paure dai loro veri oggetti: una tecnologia che il capitalismo userà contro noi e la «nostra incapacità di regolare il capitalismo» medesimo). Sono così oscurate le violazioni di diritti, i costi esternalizzati e i danni reali causati dalla concentrazione di potere e dal modello di business dei monopoli del capitalismo intellettuale. Questo elemento della narrazione confluisce talora nel seguente.

2.1.g. I messianesimi eugenetici

Una congerie di utopie per multimiliardari bianchi (nelle quali confluiscono ideologie complessivamente denominate TESCREAL) invitano l’opinione pubblica a occuparsi del futuro dell’umanità (donde il termine longtermism), anziché del presente, e variamente vagheggiano scenari in cui il bene dell’umanità sarà il frutto delle tecnologie su cui questi stessi multimiliardari intendono, di volta in volta, lucrare. Filosoficamente inconsistenti e massicciamente finanziate, hanno in comune deliri eugenetici e un concetto di “umanità” che esclude gran parte degli esseri umani.

Ne è un esempio recente la proposta del Chief Economist di Microsoft al World Economic Forum:

Non dovremmo regolamentare l’IA finché non vediamo un danno significativo che si stia effettivamente verificando […] Deve esserci almeno un minimo di danno, in modo da capire quale sia il vero problema

la natura della cui distrazione somiglia a quella della zia Sally, in Le avventure di Huckleberry Finn:

«Ci è scoppiata una caldaia».
«Dio santo! Ci sono stati dei feriti?»
«No, signora. È morto un negro».
«Che fortuna! Poteva farsi male qualcuno […]»³

2.2 Il paese di Acchiappacitrulli

Le diverse narrazioni concorrono, congiuntamente, al perseguimento di singoli scopi aziendali: al fine di sfuggire alle responsabilità per gli effetti dannosi dei prodotti, ad esempio, sono utili l’eccezionalismo, l’antropomorfizzazione delle macchine e, insieme, il «principio di inevitabilità tecnologica», secondo un meccanismo che Joseph Weizenbaum aveva descritto quasi mezzo secolo fa:

Il mito dell’inevitabilità tecnologica, politica e sociale è un potente tranquillante per la coscienza. Il suo servizio è quello di togliere la responsabilità dalle spalle di tutti coloro che ci credono veramente. Ma, in realtà, ci sono degli attori! […] La reificazione di sistemi complessi che non hanno autori, di cui sappiamo solo che ci sono stati dati in qualche modo dalla scienza e che parlano con la sua autorità, non permette di porsi domande di verità o di giustizia.⁴

Poiché qualcuno deve pur pagare i danni, gli appelli all’eccezionalità delle nuove tecnologie sono accompagnati dalla proposta di una responsabilità distribuita anche tra gli utenti e le vittime o da quella di attribuire un ruolo decisivo agli esseri umani coinvolti nei processi automatizzati (human on the loop), affidando a una persona il compito di intervenire, con prontezza fulminea, nei casi di emergenza, o di rettificare il responso imperscrutabile di un sistema automatico. L’introduzione di un inverosimile controllo umano svolge la funzione di legittimare l’uso di sistemi pericolosi, attribuendo all’essere umano il ruolo di capro espiatorio. Quanto simili strategie aziendali siano analoghe alle truffe in senso stretto, è manifesto nei casi in cui le vittime siano colpevoli by design, come pare sia stato specificamente previsto nei veicoli Tesla attraverso un meccanismo di disattivazione dellla funzione Autopilot un secondo prima dell’impatto, così da far risultare che il veicolo, al momento dello schianto, fosse affidato al passeggero umano.

Un ulteriore dispositivo per diffondere impunemente prodotti insicuri e incolpare sistematicamente utenti e clienti è l’offuscamento della linea di confine tra la fase di ricerca e sperimentazione e quella della distribuzione e commercializzazione di prodotti: OpenAI, ad esempio, rende pubblicamente disponibili i propri generatori di linguaggio naturale, in fase sperimentale, ne distribuisce al tempo stesso versioni a pagamento e fissa termini d’uso in virtù dei quali ogni utente è responsabile, secondo una logica analoga a quella del paese di Acchiappacitrulli, tanto dei propri input quanto degli output prodotti dal sistema (sui quali, ovviamente, non ha alcuna facoltà di controllo o decisione e i cui fondamenti gli sono del tutto oscuri).

Alla tesi dell’eccezionalità delle nuove tecnologie, che renderebbe inapplicabili i sistemi normativi normativi vigenti e gli ordinari criteri di attribuzione della responsabilità, si oppone oggi una crescente consapevolezza del fatto che i sistemi informatici sono artefatti, ossia oggetti, e che non c’è alcuna ragione per sottrarne la distribuzione e la commercializzazione alla legislazione ordinaria.

3. Le leggi in vigore valgono anche per l’«intelligenza artificiale»

I sistemi informatici fondati sull’«intelligenza artificiale» devono essere considerati quali meri prodotti. Per chi non li consideri, antropomorficamente, quali agenti, resta infatti valida la tradizionale dicotomia tra soggetti giuridici e oggetti. L’eventuale impossibilità di risalire alla responsabilità dovrebbe perciò essere assimilata giuridicamente, anziché a un rebus filosofico, a una forma di negligenza del produttore. La responsabilità per gli effetti dannosi di tali prodotti, prevedibili o imprevedibili che siano, potrà essere agevolmente oggetto delle soluzioni giuridiche ordinariamente definite, nel rispetto del principio cuius commoda, eius et incommoda e tenendo conto della «radicale asimmetria di potere» e di profitto «tra coloro che sviluppano e distribuiscono i sistemi algoritmici e i singoli utenti che sono soggetti ad essi».

Di recente, la Federal Trade Commission statunitense ha pubblicamente smascherato la natura strumentale delle narrazioni sull’eccezionalismo tecnologico. In netto contrasto con la posizione delle grandi aziende, ha dichiarato che i prodotti della tecnologia sono soggetti alle norme in vigore e che l’impossibilità, per ragioni tecniche, di ottemperare a ciò che le leggi esigono non è una ragione per dichiararsi esentati da quelle stesse leggi e chiederne di nuove, bensì – come in qualsiasi altro settore a fronte di una constatazione di illegalità – una ragione per non commercializzare affatto simili prodotti:

C’è un mito potente in giro secondo il quale «l’IA non è regolamentata». […] Ha un forte fascino intuitivo: suona bene. Come potrebbero queste misteriose nuove tecnologie essere regolamentate dalle nostre vecchie leggi polverose?
Se l’avete sentita o l’avete detta, fate un passo indietro e chiedetevi: a chi giova questa idea? Non aiuta i consumatori, che si sentono sempre più indifesi e smarriti. Non aiuta la maggior parte delle aziende. […]
Credo che l’idea secondo cui «l’IA non è regolamentata» aiuti quel piccolo sottoinsieme di imprese che non sono interessate alla compliance. E abbiamo già sentito frasi simili. «Non siamo una compagnia di taxi, siamo una compagnia tecnologica». «Non siamo un’azienda alberghiera, siamo un’azienda tecnologica». Queste affermazioni erano di solito seguite da affermazioni secondo cui le norme statali o locali non potevano essere applicate a queste aziende.
La realtà è che l’IA è regolamentata. Solo alcuni esempi:
– Le leggi sulle pratiche commerciali sleali e ingannevoli si applicano all’IA. […]
– Le leggi sui diritti civili si applicano all’IA. […]
– Le leggi sulla responsabilità civile e da prodotto si applicano all’IA.

In una Dichiarazione congiunta, la Federal Trade Commission e altre tre agenzie federali hanno reso noto che, negli interventi di applicazione delle leggi vigenti, esse intendono utilizzare «con vigore» le loro prerogative «per proteggere i diritti degli individui, indipendentemente dal fatto che le violazioni del diritto avvengano attraverso mezzi tradizionali o tecnologie avanzate». La pretesa che i nuovi sistemi di intelligenza artificiale siano emersi in un «vuoto giuridico» è respinta come infondata, sulla base della elementare constatazione che i codici non prevedono che l’intelligenza artificiale sia esentata dalle leggi.

Quanto al generale non funzionamento di intere categorie di prodotti che le aziende presentano come fondati su sistemi di «intelligenza artificiale», la Commissione esprime la propria consapevolezza di tali pratiche e la decisione di assimilarle a pubblicità ingannevole o a frode:

il fatto è che alcuni prodotti con pretese di IA potrebbero anzitutto non funzionare come pubblicizzato. In alcuni casi, questa mancanza di efficacia può sussistere indipendentemente dagli altri danni che i prodotti potrebbero causare. Chi li commercia deve sapere che, ai fini dell’applicazione della FTC, le affermazioni false o non comprovate sull’efficacia di un prodotto sono il nostro pane quotidiano.

Nell’esempio di prodotti che, in virtù della natura fantascientifica delle prestazioni vantate, non possono funzionare, è evidente il riferimento della Commissione ai sistemi di ottimizzazione predittiva:

State esagerando quello che il vostro prodotto di IA può fare? O addirittura sostenete che può fare qualcosa che va oltre le attuali capacità di qualsiasi tecnologia di IA o automatizzata? Ad esempio, non viviamo ancora nel regno della fantascienza, dove i computer possano fare previsioni affidabili del comportamento umano. Le vostre dichiarazioni riguardo alle prestazioni saranno considerate ingannevoli se non avranno un fondamento scientifico o se si applicheranno solo a certi tipi di utenti o in certe condizioni.

Spesso, alla constatazione dei danni e delle violazioni dei diritti che hanno luogo quando si utilizzino sistemi di apprendimento automatico per funzioni che essi non possono svolgere, le aziende oppongono argomenti basati sull’antropomorfizzazione delle macchine e la deumanizzazione delle persone. L’imperscrutabilità delle mente umana, ad esempio, renderebbe lecito il rilascio di prodotti inspiegabili e imprevedibili, ossia costitutivamente non sicuri. Così il CEO di Google, in una recente intervista:

Scott Pelley: Non capite bene come funziona. Eppure, l’avete scaricato sulla società?
Sundar Pichai: Sì, è così. Mettiamola così. Non credo che comprendiamo appieno neppure il funzionamento della mente umana.

A simili artifici retorici, la Federal Trade Commission risponde ricordando che la Commissione medesima «storicamente non ha reagito bene all’idea che un’azienda non sia responsabile del proprio prodotto perché questo è una «scatola nera» incomprensibile o difficile da testare» e che, nei casi in cui la legge esiga spiegazioni, «l’inspiegabilità o l’imprevedibilità di un prodotto è raramente una difesa giuridicamente ammissibile».

La trasparenza è richiesta anzitutto sui dati di partenza, rendendo note le fonti dei dati e l’eventuale consenso degli interessati. Su questo aspetto, i più recenti provvedimenti della Commissione mostrano una radicalità nuova: in alcuni casi di dati ottenuti impropriamente, essa ha ottenuto infatti non la mera cancellazione di tali dati, ma la distruzione di tutti i modelli e gli algoritmi costruiti utilizzando tali dati.

Quanto alla responsabilità per i prevedibili danni derivanti dalla distribuzione di alcuni prodotti, la Presidente della Federal Trade Commission, Lina Khan, avverte, con specifico riferimento alla possibilità di automatizzare le frodi online, tramite i generatori di linguaggio:

Nell’applicare il divieto di pratiche ingannevoli, non ci limiteremo a considerare i truffatori occasionali che impiegano questi strumenti, ma anche le aziende a monte che li mettono a disposizione.

Il ruolo delle «aziende a monte» e gli effetti antidemocratici della concentrazione di potere in tali aziende – le quali hanno ormai dimensioni e prerogative che le rendono assimilabili ai più potenti Stati nazionali – costituiscono in effetti uno dei nodi cruciali: come ricorda l’AI Now Institute nel suo Rapporto del 2023, «la politica della concorrenza dovrebbe diventare una parte fondamentale del pacchetto di strumenti per la responsabilità nel settore tecnologico». Del resto, è alla consapevolezza del nesso strettissimo tra interventi antrust e politiche per la tutela dei diritti che si deve l’impostazione di fondo della Federal Trade Commission in materia di intelligenza artificiale, poiché, come ha scritto Shoshana Zuboff, «è possibile avere il capitalismo della sorveglianza ed è possibile avere la democrazia», ma «non è possibile sostenere entrambi».

A tale impostazione, si oppone la richiesta delle grandi aziende di privilegiare invece un approccio basato sui rischi. La posta in gioco è lucidamente espressa dall’AI Now Institute: «l’esperienza europea ci insegna quanto sia pericoloso il passaggio da un quadro normativo «basato sui diritti», come nel GDPR, a uno «basato sui rischi», come nel prossimo AI Act, e su come l’impostazione fondata sul «rischio» (in contrapposizione ai diritti) possa spostare il terreno di gioco a favore di quadri volontari e standard tecnici guidati dall’industria». L’approccio basato sui rischi si concentra in effetti, come osserva Margot Kaminski, sui soli danni assunti come prevedibili e quantificabili, oscurando le violazioni dei diritti individuali e i danni alle società democratiche; poiché dà per scontato che i sistemi di «intelligenza artificiale» funzionino e debbano essere adottati, si limita a smussarne gli spigoli, dimenticando completamente – come hanno rilevato il Comitato europeo per la protezione dei dati e il Garante europeo per la protezione dei dati a proposito della proposta di AI Act – gli individui che, a qualsiasi titolo, siano affetti dai sistemi di intelligenza artificiale. Riducendo a questioni tecniche valutazioni e decisioni intrinsecamente politiche, l’approccio basato sui rischi assume tacitamente il principio dell’inevitabilità tecnologica e una prospettiva soluzionista, a tutela del modello di business delle grandi aziende tecnologiche. Queste paiono costituire, al momento, «il fantasma lobbista nella macchina» della regolazione.

‘Open Secrets’: An Interview with Meredith Whittaker, in Economies of Virtue: The Circulation of ‘Ethics’ in AI, a cura di T. Phan, J. Goldenfein, D. Kuch, M. Mann, Amsterdam, Institute of Network Cultures, 2022, https://networkcultures.org/blog/publication/economies-of-virtue-the-circulation-of-ethics-in-ai/, pp. 140-152: 145.↩︎
I. Calvino, Cibernerica e fantasmi (Appunti sulla narrativa come processo combinatorio), in Idem, Una pietra sopra, Milano, Mondadori 2023³, pp. 201-221.↩︎
H.L.A. Hart, The Concept of Law, Oxford 1961, trad. it. Il concetto di diritto, a cura di Mario A. Cattaneo, Torino 2009, p. 233.↩︎
J. Weizenbaum, Computer Power and Human Reason. From Judgement to Calculation, San Francisco, W.H. Freeman & Company, 1976, pp. 241, 252, https://archive.org/details/computerpowerhum0000weiz_v0i3.↩︎

Nota bibliografica

M. Abdalla, M. Abdalla, The Grey Hoodie Project: Big Tobacco, Big Tech, and the threat on academic integrity, in Proceedings of the 2021 AAAI/ACM Conference on AI, Ethics, and Society (AIES ’21), May 19–21, 2021, Virtual Event, New York, ACM, 2021, pp. 287-297, https://arxiv.org/abs/2009.13676v4.
A. Alkhatib, To Live in Their Utopia: Why Algorithmic Systems Create Absurd Outcomes, in Conference on Human Factors in Computing Systems (CHI ’21), May 8–13, 2021, Yokohama, Japan, New York, ACM, 2021, https://ali-alkhatib.com/papers/chi/utopia/utopia.pdf.
M. Atleson, Keep your AI claims in check, Febraury 27, 2023, https://www.ftc.gov/business-guidance/blog/2023/02/keep-your-ai-claims-check.
S. Barocas, M. Hardt, A. Narayanan, Fairness and Machine Learning: Limitations and Opportunities, 2019, http://www.fairmlbook.org.
E.M. Bender, T. Gebru, A. Mc Millan-Major, S. Shmitchell, On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, in Conference on Fairness, Accountability, and Transparency (FAccT ’21), March 3–10, 2021, Virtual Event, Canada, New York, ACM, 2021, https://dl.acm.org/doi/10.1145/3442188.3445922.
A. Birhane, E. Ruane, T. Laurent, M.S. Brown, J. Flowers, A. Ventresque, C.L., Dancy, The Forgotten Margins of AI Ethics, in Conference on Fairness, Accountability, and Transparency (FAccT ’22), cit., https://doi.org/10.1145/3531146.3533157.
M. Broussard, More than a Glitch. Confronting Race, Gender, and Ability Bias in Tech, Cambridge, Massachusetts, MIT Press, 2023.
A. Casilli, Schiavi del clic. Perché lavoriamo tutti per il nuovo capitalismo?, Milano, Feltrinelli, 2020.
R. Caso, Open Data, ricerca scientifica e privatizzazione della conoscenza, 2022, https://www.robertocaso.it/2022/01/22/dati-aperti-della-ricerca-o-proprieta-intellettuale/.
R. Claypool and C. Hunt, “Sorry in Advance!” Rapid Rush to Deploy Generative A.I. Risks a Wide Array of Automated Harms, April 18, 2023, https://www.citizen.org/article/sorry-in-advance-generative-ai-artificial-intellligence-chatgpt-report/.
N. Couldry, U.A. Mejias, Data Colonialism: Rethinking Big Data’s Relation to the Contemporary Subject, «Television & New Media», XX, 4, 2018, pp. 336–49.
A. Crary, The toxic ideology of longtermism, «Radical Philosophy», 214, 2023, pp. 49–57, https://www.radicalphilosophy.com/commentary/the-toxic-ideology-of-longtermism.
K. Crawford, Né intelligente né artificiale. Il lato oscuro dell’IA, Bologna, Il Mulino, 2021.
N. Cristianini, Shortcuts to Artificial Intelligence, in Machines We Trust. Perspectives on Dependable AI, ed. by M. Pelillo, T. Scantamburlo, Cambridge, Massachusetts, The MIT Press, 2021, pp. 11-25, https://philpapers.org/archive/CRISTA-3.pdf.
N. Cristianini, La scorciatoia. Come le macchine sono diventate intelligenti senza pensare in modo umano, Bologna, Il Mulino, 2023.
C. Doctorow, How to Destroy Surveillance Capitalism, «OneZero», August 26, 2020, https://onezero.medium.com/how-to-destroy-surveillance-capitalism-8135e6744d59.
Early Thoughts on Generative AI. Prepared Remarks of Commissioner Alvaro M. Bedoya, Federal Trade Commission Before the International Association of Privacy Professionals, April 5, 2023, https://www.ftc.gov/news-events/news/speeches/prepared-remarks-commissioner-alvaro-m-bedoya-international-association-privacy-professionals
Economies of Virtue: The Circulation of ‘Ethics’ in AI, a cura di T. Phan, J. Goldenfein, D. Kuch, M. Mann, Amsterdam, Institute of Network Cultures, 2022, https://networkcultures.org/blog/publication/economies-of-virtue-the-circulation-of-ethics-in-ai/.
Y. Eisenstat, N. Gilman, The Myth of Tech Exceptionalism, «Noēma», February 10, 2022 https://www.noemamag.com/the-myth-of-tech-exceptionalism/
E. Esposito, Comunicazione artificiale. Come gli algoritmi producono intelligenza sociale, Bocconi University Press, 2022.
A. Ezrachi, M. E. Stucke, How Big-Tech Barons Smash Innovation – And How To Strike Back, HarperCollins, 2022.
T. Gebru, E.M. Bender, A. McMillan-Major, M. Mitchell, Statement from the listed authors of Stochastic Parrots on the “AI pause” letter, March 31, 2023, https://www.dair-institute.org/blog/letter-statement-March2023.
M. Giraudo, Legal Bubbles, in Encyclopedia of Law and Economics, a cura di A. Marciano, G.B. Ramello, New York, Springer, 2022, https://www.researchgate.net/publication/357702553.
J.A. Goland, Algorithmic Disgorgement: Destruction of Artificial Intelligence Models as The FTC’s Newest Enforcement Tool for Bad Data, «Richmond Journal of Law & Technology» 29, 2, 2023, https://jolt.richmond.edu/files/2023/03/Goland-Final.pdf.
B. Green, The flaws of policies requiring human oversight of government algorithms, «Computer Law & Security Review», XLV, 2022, https://www.sciencedirect.com/science/article/pii/S0267364922000292.
S.-A. Hong, Predictions without futures, «History and Theory», 61, 3, 2022, pp. 371-390, https://onlinelibrary.wiley.com/doi/10.1111/hith.12269.
A. Kak, S. Myers West, AI Now 2023 Landscape: Confronting Tech Power, AI Now Institute, April 11, 2023, https://ainowinstitute.org/2023-landscape.
M.E. Kaminski, The Developing Law of AI: a Turn to Risk Regulation, April 2023, https://www.documentcloud.org/documents/23783773-the-developing-law-of-ai-kaminski.
E. Klein, The Imminent Danger of A.I. Is One We’re Not Talking About, «New York Times», February 26, 2023, https://www.nytimes.com/2023/02/26/opinion/microsoft-bing-sydney-artificial-intelligence.html.
E. Malroux, Quelles régulations pour la conception des IA génératives?, 26 avril 2023, https://linc.cnil.fr/fr/dossier-ia-generative-quelles-regulations-pour-la-conception-des-ia-generatives
D. McQuillan, Resisting AI. An Anti-fascist Approach to Artificial Intelligence, Bristol, Bristol University Press, 2022.
E. Morozov, To Save Everything, Click Here: The Folly of Technological Solutionism, New York, Public Affairs, 2013, https://archive.org/details/tosaveeverything0000moro.
R. Ochigame, The Invention of “Ethical AI”. How Big Tech Manipulates Academia to Avoid Regulation, «The Intercept», December 20, 2019, https://theintercept.com/2019/12/20/mit-ethical-ai-artificial-intelligence/.
OpenAI, GPT-4 Technical Report, 2023, https://arxiv.org/abs/2303.08774.
U. Pagano, The Crisis of Intellectual Monopoly Capitalism, «Cambridge Journal of Economics», XXXVIII, 2014, pp. 1409-1429, https://ssrn.com/abstract=2537972.
F. Pasquale e G. Malgieri, From Transparency to Justification: Toward Ex Ante Accountability for AI, «Brussels Privacy Hub Working Papers», VIII, 33, 2022, pp. 1-27, https://brusselsprivacyhub.com/wp-content/uploads/2022/05/BPH-Working-Paper-vol8-N33.pdf.
V. Prabhakaran, M. Mitchell, T. Gebru, I. Gabriel, A Human Rights-Based Approach to Responsible AI, 2022, https://arxiv.org/abs/2210.02667.
I.D. Raji, I.E. Kumar, A. Horowitz, A.D. Selbst, The Fallacy of AI Functionality, in Conference on Fairness, Accountability, and Transparency (FAccT ’22), June 21–24, 2022, Seoul, Republic of Korea, New York, ACM, 2022, https://doi.org/10.1145/3531146.3533158.
E.M. Renieris, Beyond data: reclaiming human rights at the dawn of the metaverse, Cambridge, Massachusetts, The MIT Press, 2023.
A. Saltelli, D.J. Dankel, M. Di Fiore, N. Holland, M. Pigeon, Science, the endless frontier of regulatory capture, «Futures», CXXXV, 2022, pp. 1-14, https://doi.org/10.1016/j.futures.2021.102860.
L. Stark, J. Hutson, Physiognomic Artificial Intelligence, «Fordham Intellectual Property, Media and Entertainment Law Journal», XXXII, 4, 2022, pp. 922-978, https://ir.lawnet.fordham.edu/iplj/vol32/iss4/2.
J. Stilgoe, Who’s Driving Innovation? New Technologies and the Collaborative State, Cham, Palgrave Macmillan, 2020, pp. 40-41.
The lobbying ghost in the machine. Big Tech’s covert defanging of Europe’s AI Act, February 23, 2023, https://corporateeurope.org/en/2023/02/lobbying-ghost-machine.
K. Yeung, A Study of the Implications of Advanced Digital Technologies (Including AI Systems) for the Concept of Responsibility Within a Human Rights Framework, Council of Europe, 2019, pp. 39-40, 64-65, https://rm.coe.int/a-study-of-the-implications-of-advanced-digital-technologies-including/168094ad40.
I. Van Rooij, Stop feeding the hype and start resisting, 2022, https://irisvanrooijcogsci.com/2023/01/14/stop-feeding-the-hype-and-start-resisting/.
B. Wagner, Ethics As An Escape From Regulation. From “Ethics-Washing” To Ethics-Shopping?, in Being Profiled: Cogitas Ergo Sum, ed. by E. Bayamlioglu, I. Baraliuc, L.A.W. Janssens, M. Hildebrandt, Amsterdam, Amsterdam University Press, 2018, pp. 84-89, https://www.degruyter.com/document/doi/10.1515/9789048550180-016/html.
A. Wang, S. Kapoor, S. Barocas, A. Narayanan, Against Predictive Optimization: On the Legitimacy of Decision-Making Algorithms that Optimize Predictive Accuracy, October 4, 2022, pp. 1-29, https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4238015.
K. Werbach, D. Zaring Systemically Important Technology, «Texas Law Review», 101, 4, pp. 811-875, https://texaslawreview.org/systemically-important-technology/.
M. Whittaker, The steep cost of capture, «Interactions», 28, 6, 2021, pp. 51-55, https://interactions.acm.org/archive/view/november-december-2021/the-steep-cost-of-capture.
O. Williams, How Big Tech funds the debate on AI ethics, «The New Statesman», June 6, 2019 (updated June 7, 2021), https://www.newstatesman.com/science-tech/2019/06/how-big-tech-funds-debate-ai-ethics.
T. Wu, The Curse of Bigness. Antitrust in the New Gilded Age, New York, Columbia Global Reports, 2018.
S. Zuboff, Surveillance Capitalism or Democracy? The Death Match of Institutional Orders and the Politics of Knowledge in Our Information Civilization, «Organization Theory», III, 3, 2022, https://doi.org/10.1177/26317877221129290.

Tags: Acchiappacitrulli AI ethics etica dell'intelligenza artificiale SALAMI

Accessi: 2555

Brunella Casalini, La cura della vita, dei giovani e delle generazioni

15 Febbraio 2023 Brunella Casalini Leave a comment

chiocciola

“Non è segno di salute mentale essere ben adattati ad una società profondamente malata”.
Jiddu Krishnamurti

Il discorso dell’intervento della Presidente del Consiglio degli studenti Emma Ruzzon durante la cerimonia di inaugurazione dell’università di Padova sono sicura risuoni oggi nelle aule di tutti gli Atenei italiani. Con intelligenza la studentessa ha saputo raccogliere, e con coraggio pronunciare ad alta voce, di fronte alle autorità, parole che nelle università circolano da tempo, anche se spesso ai suoi margini. La situazione creata dal COVID-19 negli ultimi tre anni ha fatto esplodere un malessere che era presente ormai da anni. Il malessere di tante/i non solo tra coloro che studiano, non solo tra i precari della ricerca, ma anche tra chi nell’università si trova nella posizione privilegiata di docente strutturata/o e persino tra chi lavora nell’amministrazione. Persino l’amministrazione universitaria, infatti, è stata spinta dal succedersi delle riforme a una costante corsa per il raggiungimento degli obiettivi necessari a raggiungere l’eccellenza entro un sistema competitivo, mentre il blocco del turnover – anche nel loro caso, come nel caso dei docenti e ricercatori – riduceva le risorse umane disponibili.

L’università contemporanea è espressione di una società che ha scelto, e continua a scegliere ogni giorno, una narrazione individualista che — come ha ricordato Ruzzon nel suo discorso — è fortemente incentrata sul merito e sulla responsabilizzazione individuale. Una società in cui persino per avere una vita dignitosa devi dimostrare di meritartelo, dove anche studiare è diventata una gara.

La combinazione del mito dell’individualismo, del mito del merito e di quello della misurazione della performance è stata potente nel rendere invisibili le condizioni strutturali che determinano vantaggi e svantaggi sociali. Ancor più potente è stata nel mostrare come i vantaggi si cumulino e diventino privilegi e gli svantaggi si cumulino e diventino oppressione, laddove la struttura sociale sia congegnata per favorire la riproduzione di alcune vite, lasciandone prive di cura e attenzione altre. In altri termini, ha saputo non solo distogliere il nostro sguardo dalle disuguaglianze economiche e sociali crescenti che caratterizzano oggi il nostro paese, ma anche offrirne una legittimazione talmente efficace da divenire mentalità diffusa.

L’accesso all’università e ancor di più l’accesso ai dottorati e alla carriera accademica è tornato ad essere una questione di classe – come sottintendono le parole di Ruzzon. La nostra è tornata ad essere una società priva di mobilità sociale e rischia di avere un’università accessibile solo alla gioventù economicamente agiata; un’università, quindi, in cui la società nella sua diversità non sarà rappresentata e in cui il sapere non risponderà ai bisogni della società.

L’università ha sofferto e soffre di questo “incantesimo” dell’individualismo, del merito e della misurazione più di altre istituzioni. Sono molti gli esempi che potrebbero essere proposti per illustrare le distorsioni che il sistema attuale produce nella vita universitaria, distorsioni da molti altre/i da tempo denunciate senza ottenere ascolto. Voglio, però, rimanere qui a quella che dovrebbe essere la funzione prioritaria dell’università accanto a quella della ricerca, ovvero la funzione di una didattica che della ricerca si alimenta, che è volta a trasferirne i risultati e soprattutto dovrebbe trasmettere il valore dell’onestà intellettuale, la passione per lo studio, per l’approfondimento, la riflessione, il pensiero critico, il confronto e lo scambio.

Questa trasmissione avviene solo nel momento in cui la/il docente riesce a creare in aula un clima accogliente, di ascolto e attenzione reciproca e a gettare le basi di una relazione di mutuo sostegno. Da questo punto di vista, la didattica – come ogni lavoro di cura – è un lavoro che consuma energie mentali non solo per l’impegno necessario a trasmettere contenuti, anche complessi, ma anche, e talvolta soprattutto, nel mantenere, curare e riparare la relazione con chi sta camminando sulla strada dell’apprendimento e della formazione. Un cammino che spesso procede oltre l’aula nel percorso per l’elaborazione della tesi, nel quale la relazione diventa più ricca e appagante, e l’attenzione, come la fiducia reciproca, deve essere ancora più grande. Tutto questo richiede tempo: ogni lavoro di cura richiede un tempo non misurabile e non quantificabile. Ogni lavoro di cura – e soprattutto l’insegnamento in ambito universitario – deve concedersi e deve concedere il tempo necessario ad ottenere l’obiettivo della fioritura di una vita individuale, fioritura che avviene solo nell’ascolto, nel camminare accanto, più che dinnanzi, a chi sta crescendo intellettualmente.

La/il docente oggi, però, oltre alla ricerca che nutre la sua didattica è chiamato a svolgere una molteplicità di altri ruoli: le missioni del docente universitario si moltiplicano entrando tra loro in tensione e creando talvolta conflitti che non possono essere risolti che attraverso decisioni individuali più o meno costose. L’impegno nella docenza entra così, per esempio, in conflitto con quello per la pubblicazione dei c.d. “prodotti della ricerca”, la loro collocazione in riviste o editori prestigiosi, o con il fundraising o ancora con la terza e ora anche la quarta missione. Non tutte queste attività premiano nello stesso modo nella carriera, e così talvolta la scelta viene fatta meramente sulla base dell’opportunità, anche in considerazione di ciò che offre maggiore visibilità.

La dimensione della relazione viene sacrificata, che si tratti del rapporto con chi studia con noi o delle/dei colleghi con cui lavoriamo. Rischia, però, di venir sacrificato anche lo studio. Ogni tanto capita di sentire qualche collega che stanco, a mo’ di battuta —ma di quelle battute che tutti sanno nascondono verità —, si lascia andare a dire che nell’università è ormai sempre più raro che un professore/una professoressa abbia tempo per studiare!

Lo studio richiede di dimenticarsi il tempo e di rallentare. Per tuffarsi nella lettura ci si deve concedere un tempo che si ribella ai ritmi di una vita di corsa, di una vita a ritmi sempre più accelerati. Leggere riflessivamente, con attenzione profonda – come ricorda Bernard Stiegler in Prendre soin: De la jeunesse et des générations (2008) –, è il modo attraverso il quale come esseri umani entriamo in contatto con l’altro oltre il tempo e lo spazio, manteniamo il filo del discorso ininterrotto tra le generazioni, costruiamo cultura. Nella lettura non siamo in gara con l’autore del libro che stiamo leggendo: il lettore collabora alla vita del libro e può, grazie al dono che l’altro gli ha fatto con la sua scrittura, far continuare oltre e altrove il viaggio delle idee. Le idee infatti non vivono nel mercato – come sostengono spesso coloro che vorrebbero trasformare ancora di più l’università in un’azienda. Le idee hanno bisogno di tempo per essere elaborate ed essere trasmesse. Avere tempo, d’altra parte, è possibile soltanto se si ha una stabilità sul piano economico, se non si vive in un precariato che costringe a correre e a sottostare al ricatto. Il precariato universitario è un modo per tentare di uccidere la libertà di ricerca, soprattutto di coloro che esprimono il punto di vista di saperi socialmente soggiogati e costretti ai margini. Le idee mainstream trovano, sì, sempre un mercato che è pronto ad accoglierle, perché più facili da vendere ai più.

La metafora della gara è una vecchia rappresentazione dell’individualismo. Parlando di ciò che distingue l’individualismo moderno dall’egoismo come passione umana universale, Tocqueville, nella De la démocratie en Amerique (1835-1840), utilizzava l’immagine della corsa: ogni individuo corre, voltando con ansia ogni tanto lo sguardo indietro per essere sicuro di non essere raggiunto e superato. Nel tentativo di arrivare primi, si perde di vista la dimensione della relazione, dei legami sociali: l’individuo moderno finisce così per avere relazioni stabili e intime solo con la cerchia sempre più ristretta dei familiari.

Andando oltre Tocqueville, e guardando all’oggi, potremmo dire che il costante sentirsi in gara costringe l’individuo ad un isolamento da cui diventa sempre più difficile uscire, che diventa difficile abbandonare anche quando affiora la consapevolezza che l’isolamento rende deboli, deprime le energie e fiacca la motivazione. (La gara stessa, in fondo, funziona solo finché riconosco gli avversari e il senso condiviso dell’impresa per cui insieme si compete e se ho la consapevolezza che si sta compiendo, anche nella competizione, un’impresa comune.) Come ricorda Arendt in The Origins of Totalitarianism (1951), proprio dell’isolamento tra gli individui si avvalgono i regimi autoritari per governare più facilmente la società civile, per tenerla meglio sotto controllo. Certo, l’isolamento non è ancora l’estraneazione, la perdita di sé e di mondo, su cui fanno leva i regimi totalitari, perché consente la solitudine e quindi il dialogo interiore. Quando, tuttavia, l’individuo isolato diventa dipendente da un mondo digitale che oggi promette attraverso i social un surrogato della vita reale, meno faticosamente raggiungibile e più generoso di like, il rischio dell’implosione del sé aumenta e con esso il rischio dell’implosione di ogni baluardo a difesa della libertà e delle istituzioni democratiche.

Queste considerazioni per dire grazie a Emma Ruzzon per averci restituito con parole lucide la fotografia del nostro paese, attraverso il ritratto delle nostre università. Grazie per averci ricordato che il malessere della gioventù è uno specchio del grado di gravità della malattia da cui è afflitta la nostra società. Non bastano punti di ascolto psicologico destinati a chi studia, né Comitati Unici di Garanzia per il benessere organizzativo, a risolvere il problema dell’università oggi. Dovremmo arrestare la corsa, fermarci a riflettere su cosa si è rotto socialmente e come lo si può riparare. Per l’università questo significa tornare a interrogarsi sul suo mandato, sul senso del suo stesso esistere.

Tags: competitività Emma Ruzzon merito slow science

Accessi: 427

Politiche della scienza: Francesca Di Donato, Giovanni Molteni Tagliabue

26 Gennaio 2023 Maria Chiara Pievatolo 1 Comment

scriba Sottoponiamo alla revisione paritaria aperta due articoli dedicati a dei progetti di riforma politica della scienza istituzionale – una esterna e l’altra interna.
“Rationalized and Extended Democracy”: Inserting public scientists into the legislative/executive framework, reinforcing citizens’ participation di Giovanni Molteni Tagliabue suggerisce di inserire degli scienziati nei processi decisionali della democrazia, così da renderli meno esposti al rischio strutturale di produrre classi politiche autoreferenziali e corruttibili. Un simile inserimento, sostiene l’autore, non trasformerebbe la democrazia in tecnocrazia se avesse luogo tramite una seconda camera legislativa composta da scienziati provenienti da enti pubblici o pubblicamente riconosciuti ed eletti per non più di due mandati, e, per quanto concerne il potere esecutivo, tramite l’affiancamento dei ministri politici con esperti nominati dalla camera scientifica. In caso di conflitti fra le due camere un referendum popolare interverrebbe a risolverli.
Questo disegno dipende dalla convinzione che i difetti della democrazia siano intrinseci alla stessa competizione elettorale, la quale restringe e influenza gli orizzonti della classe politica, e che inserirvi degli scienziati – meno esposti ai vizi dei politici di mestiere grazie anche al limite dei mandati – possa renderla più capace di rispondere alle sfide che le si presentano.

1. Integrità e autonomia della ricerca

Uno dei revisori, Antonino Palumbo, ha osservato che la scienza istituzionale non è immune dai difetti della politica, né da essa indipendente. Molteni Tagliabue, da parte sua, individua nelle riviste predatorie (II.18. 6) il problema principale della pubblicazione scientifica contemporanea, lo connette all’uso del publish or perish come motore della carriera accademica, e lo pensa superabile tramite un mutamento del sistema degli “incentivi”.
Che i ricercatori abbiano bisogno di bastoni e carote per evitare di produrre opere senza qualità esclusivamente allo scopo di far numero è però solo una delle conseguenze di una valutazione della ricerca divenuta amministrativa, fondata non più sulla lettura dei testi bensì sul conteggio delle pubblicazioni e delle citazioni. In questo modo un aspetto decisivo, prima che per le carriere, per l’autodeterminazione della discussione scientifica è stato dato in outsourcing ad editori commerciali che continueranno ad accrescere i loro oligopoli e a drenare quantità astronomiche di denaro pubblico, finché ne sarà loro lasciato il controllo. Più che con “mele marce” e “riviste predatorie”, abbiamo a che fare con una generale editoria parassitaria, che vive e prospera soltanto in virtù della valutazione amministrativa.
La valutazione amministrativa della ricerca è a sua volta un esito dell’erosione dell’autonomia della scienza istituzionale che già Max Weber vedeva in atto all’inizio del secolo scorso. I danni che ha inflitto alla qualità della ricerca sono talmente noti che pochi, ormai, li liquidano, impropriamente, come “aneddotica”. La stessa Commissione europea, all’inizio del 2021, ha avviato un processo che si è concluso con un Agreement on Reforming Research Assessment. Di questo si occupa l’articolo di Francesca Di Donato, anch’esso proposto alla revisione paritaria aperta, Una questione di qualità o una formalità? L’Agreement on Reforming Research Assessment e il processo di riforma della valutazione della ricerca in Europa.
L’accordo si propone di concordare forme di valutazione che, facendo tesoro delle pratiche della scienza aperta, riconoscano la qualità e la molteplicità delle attività di ricerca senza esaurirle nelle pubblicazioni e senza pretendere di misurarle con metriche basate sulla sede di pubblicazione, quali il JIF e l’H-index, o con classifiche di università ed enti ricerca stilate da aziende secondo i propri criteri e per il proprio lucro. La riforma europea si è resa necessaria perché la valutazione amministrativa, avendo sottratto alle comunità scientifiche la capacità di valutarsi da sé tramite l’uso pubblico della ragione, deve ora por rimedio a ciò che essa stessa ha determinato. In Italia ne sarà protagonista l’ANVUR, a cui ha fatto capo la valutazione quantitativa che l’accordo prevede di superare. Quale sarà il suo esito? Proprio perché, in particolare in Italia, il rischio di cambiare tutto per non cambiare nulla è elevato, l’articolo di Francesca Di Donato – testimonianza di chi ha partecipato direttamente al processo – merita una lettura attenta.

2. Scienziati applicati

Una scienza istituzionale soggetta a valutazione amministrativa e inserita in un sistema di oligopoli editoriali e mediatici può difficilmente offrire al pubblico un punto di vista indipendente e non autoreferenziale. Una seconda camera scientifica, senza un cambiamento radicale nella valutazione della ricerca, sarebbe probabilmente composta da ricercatori con un accesso privilegiato ai finanziamenti pubblici e ai media, scienziati che hanno ricevuto visibilità grazie agli algoritmi commerciali di Facebook, academic star finanziate dai monopolisti del capitalismo della sorveglianza in conflitto d’interessi, o intellettuali che, invece di confutare un pensatore eterodosso con l’uso pubblico della ragione, firmano lettere contro di lui. Secondo Kant, trasformare il filosofo in funzionario, mettendogli in mano la spada del potere, lo espone alla tentazione di ricorrere a quella stessa spada per troncare le discussioni scientifiche: questo rischio vale a maggior ragione se la spada è già stata usata a monte, nella valutazione amministrativa della ricerca, per attribuire visibilità e promozioni.
Molteni Tagliabue, quando deve indicare quali scienziati prestare alla politica, produce una lista esemplificativa che comprende giuristi, sociologi e politologi e scienziati applicati come gli esperti di pianificazione territoriale e urbana, di organizzazione industriale e infrastrutturale, di agricoltura, istruzione e sanità, ambiente, cultura, università e ricerca, nonché filosofi morali studiosi di bioetica. L’elenco pare escludere chi si occupa ricerca di base: non ci sono storici, linguisti, teologi, matematici, informatici, fisici teorici e scienziati naturali. Fra le discipline filosofiche si salva solo la filosofia morale, che, come mostra il caso della cosiddetta AI ethics, più facilmente si presta al servizio di interessi commerciali, o a “risolvere problemi che non pone, ma che le sono posti”. Questa selezione è casuale, o presuppone una prospettiva da “fine della storia”, per la quale tutti i problemi da affrontare sono ormai soltanto amministrativi?
La costituzione della repubblica islamica d’Iran, approvata nel 1979 con un referendum popolare, riconosce la separazione dei poteri, il carattere elettivo del potere legislativo, le garanzie giudiziarie e i diritti civili. Ma lo stato iraniano non è una semplice democrazia: è una democrazia teocraticamente custodita. Un consiglio dei guardiani di dodici membri, in cui sei giuristi islamici (fuqaha) sono nominati dalla guida suprema e sei giuristi civili di fede islamica sono eletti dal parlamento, esamina la compatibilità delle norme approvate dal potere legislativo con l’Islam e vaglia le candidature alle cariche elettive. La guida suprema, a sua volta, è, finché il dodicesimo Iman non uscirà dall’occultamento, un giurista islamico giusto e virtuoso nominato da un consiglio degli esperti, a sua volta composto da giuristi islamici eletti dal popolo. Abbiamo così un regime a duplice – e precaria – legittimazione, nel quale la custodia della democrazia usa strumenti curiosamente consonanti col progetto di Molteni Tagliabue: il riconoscimento costituzionale di una categoria di esperti che si sono affermati come tali in istituzioni diverse dallo stato democratico e la limitazione dell’elettorato passivo. A differenza di quella islamica, tuttavia, la costituzione della repubblica scientista presuppone una gerarchia esplicita fra la fonte di legittimazione democratica e quella scientifica, prevedendo referendum per risolvere i conflitti fra la camera dei politici e quella degli esperti, ammesso e non concesso che quest’ultima abbia l’integrità e il coraggio di crearli.

3. Crisi nella democrazia o crisi della democrazia?

La corruzione e l’autoreferenzialità della classe politica sono un aspetto strutturale della procedura democratica, o sono l’esito della sua impotenza?
Dopo la crisi del 1929, la democrazia statunitense ebbe l’elasticità di reagire e di intraprendere cambiamenti radicali senza aver bisogno di trasformarsi in una repubblica scientista.

Con la presidenza Roosevelt si abbandona il capitalismo a briglia libera del laissez-faire e laissez-passer, il liberismo delle grandi diseguaglianze e delle grandi ingiustizie, stravolgendone i presupposti e inaugurando il più grande intervento dello Stato nell’economia mai concepito fino ad allora: il New Deal. Si rimette a lavoro una nazione, si costruiscono strutture di sostegno al reddito e di sicurezza sociale, si fa ripartire l’economia con una più equa ripartizione delle risorse, si pone un freno al dominio della speculazione finanziaria separando banche di investimento e di deposito. Si mette così in sicurezza il sistema americano tramite un cambiamento profondo dei suoi presupposti. La democrazia viene in sostegno al capitalismo, garantendo l’elasticità necessaria per uscire da un sistema morente con una nuova visione e una grande trasformazione. Anche a costo di attaccare i privilegi acquisiti della classe dominante.¹

Nel 2015, in una situazione paragonabile a quella del 1929, la Grecia, oppressa sia da una sua propria crisi del debito, sia dalle soluzioni imposte dall’esterno per risolverla, tentò di proporre una via d’uscita dallo status quo della politica economica dell’Unione Europea.

La richiesta non è quella di contribuire alla spesa pubblica di un paese in bancarotta. Si tratta di chiedere, più radicalmente, una diversa soluzione alla stagnazione economica, alla disoccupazione e al ricatto del debito per tutti gli europei. Si tratta di trovare soluzioni comuni al debito pubblico crescente (una conferenza sul debito), alla mancanza di investimenti e all’economia stagnante (un New Deal per l’Europa), alle banche zombie (una vera unione bancaria) e alla disoccupazione a due cifre (un piano straordinario di occupazione) come problemi che riguardano tutta l’Unione. È una battaglia, in una parola, condotta per ottenere una diversa politica economica europea.²

Sappiamo com’è andata a finire:

…le banche greche vengono strangolate, la popolazione ridotta allo stremo, i ricatti e l’intransigenza delle tecnocrazie europee raggiungono un apice mai visto fino ad allora e senz’altro mai applicato nei riguardi dei nazionalismi autoritari dell’Est Europa. La stessa BCE […] scende in campo con tutte le armi di cui dispone, anche se questo significa violare il proprio mandato e rinunciare a garantire la stabilità del sistema bancario europeo. La guerra viene vinta. Nonostante una schiacciante maggioranza respinga nel referendum del luglio 2015 l’accordo offerto dalla Troika, Syriza finisce per capitolare e accettare le condizioni imposte dall’Eurogruppo: austerità draconiana e la piena garanzia del proseguimento della Grande Depressione a fronte di un rifinanziamento del debito del paese e vaghe promesse di un possibile sconto di pena per buona condotta.³

Se la Grecia fosse stata una repubblica scientista, sarebbe cambiato qualcosa? L’economista Yanis Varoufakis non aveva avuto bisogno di un elettorato passivo privilegiato per proporre un New Deal. Ma i vertici politici e tecnocratici dell’Unione europea, rivelando quale fosse la loro effettiva gerarchia di valori, schiacciarono la democrazia greca con durezza estrema. In un quadro come questo, in cui le decisioni degli stati sono dettate dall’esterno perfino per quanto concerne la pace e la guerra, l’unica classe politica che può sopravvivere è quella che non si propone di cambiare il mondo, ma di perseguire il proprio “particulare”; e l’unico elettore a cui rimangono dei motivi per andare a votare è quello che spera di ottenere un favore o una vendetta per qualche suo piccolo risentimento, in un orizzonte altrettanto ristretto.
Wilhelm von Humboldt, in un momento di gravissima crisi, inventò un sistema che affidava la garanzia dell’autonomia delle istituzioni di ricerca a uno stato problematicamente assunto come capace di autolimitarsi. Era infatti convinto che, in una società aperta, una ricerca libera, sola e cooperativa avrebbe avuto ricadute politiche, sociali e culturali che si sarebbero realizzate come effetti collaterali e non nella forma burocratica di incarichi da assumere e di prodotti da consegnare. Si tratta, ora, di capire se, dalla gabbia d’acciaio che tiene oggi prigioniere sia la scienza sia quel che resta della democrazia, sia possibile immaginare vie d’uscita amministrative che non siano esenti dal rischio di renderne più fitte e complesse le sbarre.

Tags: COARA democrazia open peer review ReDemo

Articoli

Accessi: 419

Bollettino telematico di filosofia politica

Overlay journal of political philosophy

Yearly Archives: 2023