Prima pagina
I sistemi di intelligenza artificiale sono oggi in grado di svolgere alcuni specifici compiti, che erano stati, finora, prerogativa dei soli esseri umani. Nell’entusiasmo per i sistemi di apprendimento automatico, che hanno consentito questi genuini progressi, le grandi aziende tecnologiche hanno colto l’opportunità per un’espansione illimitata di prodotti e servizi «intelligenti». Hanno diffuso e messo in commercio, con la formula di marketing «intelligenza artificiale», sistemi di apprendimento automatico, per lo svolgimento di attività che tali sistemi non sono in grado di svolgere o che semplicemente non sono possibili. Tra i prodotti di questo genere – costitutivamente pericolosi e non funzionanti – ci sono le auto a guida autonoma, i sistemi di ottimizzazione predittiva e i generatori di linguaggio naturale.
Se la responsabilità per gli effetti ordinari di tali prodotti ricadesse sui produttori, la loro commercializzazione non sarebbe vantaggiosa. Per sfuggire alle loro responsabilità senza rinunciare a una fonte di enorme profitto, i giganti della tecnologia hanno diffuso una famiglia di narrazioni che danno forma alla percezione pubblica del rapporto tra etica, politica, diritto e tecnologia e costituiscono gli assiomi indiscussi di qualsiasi discorso pubblico. Sono così entrati a far parte del senso comune, tra gli altri, il principio di inevitabilità tecnologica, il mito dell’eccezionalismo tecnologico, il principio di innovazione e il mito del vuoto giuridico.
Alla tesi dell’eccezionalità delle nuove tecnologie, che renderebbe inapplicabili i sistemi normativi vigenti e gli ordinari criteri di attribuzione della responsabilità, si oppone oggi una crescente consapevolezza del fatto che i sistemi informatici sono artefatti, ossia prodotti, e che non c’è alcuna ragione per sottrarne la distribuzione e la commercializzazione alla legislazione ordinaria.
Illegalità dei sistemi di intelligenza artificiale, fino a prova contraria: è la proposta di Frank Pasquale e Gianclaudio Malgieri, fondata sull’evidenza delle violazioni dei diritti individuali che hanno luogo quando i sistemi di intelligenza artificiale sono utilizzati per ottenere classificazioni o produrre decisioni che hanno effetti rilevanti sulle vite delle persone. I modelli di IA ad alto rischio incorporati oggi in prodotti e servizi dovrebbero essere disciplinati entro un sistema di “illegalità di default”: fino a prova contraria, tali sistemi dovrebbero essere considerati illegali. Prima di immettere sul mercato un prodotto o un servizio che incorpori sistemi di IA ad alto rischio, le aziende avrebbero l’obbligo di dimostrare che la loro tecnologia non è discriminatoria, non è manipolatoria, non è iniqua, non è inaccurata e non è illegittima nelle sue basi giuridiche e nei suoi scopi.
La proposta di Pasquale e Malgieri di inquadrare i sistemi di IA entro un regime di “illegalità di default” si fonda sulla priorità dei diritti individuali specificamente protetti dalla legge su un generico principio di innovazione, che è spesso la maschera dietro la quale i grandi soggetti economici rivendicano la tutela dei loro concreti interessi.
Sottoponiamo alla revisione paritaria aperta due articoli dedicati a dei progetti di riforma politica della scienza istituzionale – una esterna e l’altra interna.
“Rationalized and Extended Democracy”: Inserting public scientists into the legislative/executive framework, reinforcing citizens’ participation di Giovanni Molteni Tagliabue suggerisce di inserire degli scienziati nei processi decisionali della democrazia, così da renderli meno esposti al rischio strutturale di produrre classi politiche autoreferenziali e corruttibili. Un simile inserimento, sostiene l’autore, non trasformerebbe la democrazia in tecnocrazia se avesse luogo tramite una seconda camera legislativa composta da scienziati provenienti da enti pubblici o pubblicamente riconosciuti ed eletti per non più di due mandati, e, per quanto concerne il potere esecutivo, tramite l’affiancamento dei ministri politici con esperti nominati dalla camera scientifica. In caso di conflitti fra le due camere un referendum popolare interverrebbe a risolverli.
Questo disegno, a prescindere dai suoi fondamenti filosofici, potrebbe essere seriamente discusso solo se la scienza istituzionale fosse in grado di esprimere punti di vista indipendenti, ragionevolmente liberi dall’autoreferenzialità e corruttibilità della classe politica, invece che sotto il giogo di una valutazione amministrativa così controproducente che la stessa Commissione europea ne ha avviato un processo di riforma. Di ciò riferisce Una questione di qualità o una formalità? L’Agreement on Reforming Research Assessment e il processo di riforma della valutazione della ricerca in Europa, proposto alla revisione paritaria aperta da Francesca Di Donato. Quale sarà il suo esito? Proprio perché, in particolare in Italia, il rischio di cambiare tutto per non cambiare nulla è elevato, quest’ultimo testo – testimonianza di chi ha partecipato direttamente al processo – merita una lettura molto attenta.
Il potere segreto di Stefania Maurizi ricostruisce sistematicamente “la storia di un giornalista” – Julian Assange – “imprigionato e trattato con insostenibile crudeltà per aver rivelato crimini di guerra; della determinazione dei politici inglesi e americani di distruggerlo; e della quieta connivenza dei media in questa mostruosa ingiustizia.”
Maledetti pacifisti di Nico Piro denuncia il lato visibile di questo potere segreto, e cioè le strategie di comunicazione che proteggono una guerra che si desidera normalizzata e infinita.
Nel I articolo definitivo della Pace perpetua, Kant scriveva che la costituzione di ogni stato deve essere repubblicana perché a deliberare la guerra non fosse il potere esecutivo, bensì quanti, da militari o da civili, ne subiscono i danni, tramite i loro rappresentanti parlamentari.
Quanto vive, nelle nostre post-democrazie, della repubblica di Kant? Chi decide della pace e della guerra? Che cosa giustifica l’inizio e la prosecuzione di una guerra – umanitaria, esportatrice di democrazia, per la difesa dei “nostri valori” o del nostro potere – quando il rischio della pace perpetua nel suo senso cimiteriale è sempre meno un’eventualità teorica?
“Non è segno di salute mentale essere ben adattati ad una società profondamente malata”.
Jiddu Krishnamurti
L’intervento della presidente del Consiglio degli studenti Emma Ruzzon durante la cerimonia di inaugurazione dell’università di Padova sicuramente risuona nelle aule di molti atenei italiani.
Con intelligenza la studentessa ha saputo raccogliere, e con coraggio pronunciare ad alta voce, di fronte alle autorità, parole che nelle università circolano da tempo, anche se spesso ai suoi margini.
Quand’è che studiare è diventato una gara?