Algoritmi. Il lato oscuro della matematica. Un libro di Cathy O'Neil

Di Damiano Palano

Questa recensione al libro di Cathy O'Neil, Armi di distruzione matematica. Come i big data aumentano la disuguaglianza e minacciano la democrazia (Bompiani, pp. 366, euro 18.00), è uscita su "Avvenire" il 14 novembre 2017. 

Negli ultimi tempi abbiamo scoperto di essere costantemente spiati. A scrutare i nostri movimenti quotidiani non è l’occhio del Big Brother immaginato da Orwell, ma sono invece quei cookie che, quando navighiamo tra le pagine di internet, si infilano nel nostro browser. Queste piccole ‘cimici’ consentono ai siti che abbiamo visitato di riconoscerci tutte le volte che ritorniamo. Ma, come una sorta di cavallo di Troia, entrano nella nostra intimità, raccolgono informazioni sulle nostre navigazioni passate e costruiscono un ricco profilo, che comprende gusti, interessi, abitudini, con l’obiettivo di inserirci in una specifica categoria di consumatori potenziali. E, dunque, di confezionare un messaggio pubblicitario tagliato ‘su misura’ sulle nostre preferenze. Tutto sommato la comodità di avere suggerimenti ‘personalizzati’, quando cerchiamo in rete un film o qualche brano musicale, o quando pianifichiamo le nostre vacanze, ci sembra un vantaggio che giustifica il prezzo che paghiamo in termini di privacy. Ma non sempre – anzi, probabilmente quasi mai – siamo davvero consapevoli di cedere tante informazioni che ci riguardano. E siamo ancora meno consapevoli di quanto questi dati possano incidere sulla nostra vita.

Per comprendere quale sia la posta in gioco, una lettura davvero preziosa è rappresentata dal libro di Cathy O’Neil, Armi di distruzione matematica. Come i Big Data aumentano la disuguaglianza e minacciano la democrazia (Bompiani, pp. 366, euro 18.00). L’autrice è una matematica proveniente da esperienze di analista quantitativa nel settore finanziario e nell’e-commerce, delusa dagli utilizzi che degli strumenti matematici vengono fatti in questi ambiti. I modelli matematici, secondo O’Neil, si sono infatti trasformati in «Weapons of Math Destruction»: mezzi di distruzione matematica, forse meno cruenti dei mezzi di distruzione di massa usati in guerra, ma dalle conseguenze comunque nocive. E il libro è proprio il frutto della disillusione che nel 2011 condusse l’autrice a diventare un’attivista di Occupy Wall Street e a iniziare una campagna di sensibilizzazione contro i cattivi utilizzi della matematica.

Le «armi di distruzione matematica» sono in sostanza quegli algoritmi che hanno iniziato a essere utilizzati per razionalizzare le decisioni nei campi più diversi. Spesso infatti gli algoritmi sono costruiti per disporre di una base ‘oggettiva’ di valutazione, per esempio nel caso in cui si intenda misurare l’efficienza di un insegnante, individuare potenziali terroristi, stabilire quale sia il candidato più adatto a un posto di lavoro. Ma gli algoritmi non solo conducono talvolta a risultati che deformano la realtà. Il punto è che quella descritta dagli algoritmi tende spesso a diventare la «realtà». Perché le decisioni adottate in base a quella rappresentazione non fanno che creare un circolo vizioso le cui vittime sono però individui in carne ed ossa. Gli ingredienti comuni alle «armi di distruzione matematica» secondo O’Neil sono la scarsa chiarezza, l’enorme portata e il danno che producono. Nella categoria rientrano per esempio i programmi «predittivi» utilizzati in molti distretti di polizia statunitensi. Ma sono «armi di distruzione matematica» anche i modelli di recidiva, sempre più spesso adottati nei giudizi penali negli Usa, che fanno dipendere la sentenza da precedenti negativi (quasi sempre correlati all’appartenenza etnica). E ovviamente sono tali gli algoritmi che individuano i creditori poco affidabili, destinati a diventare il target privilegiato di finanziarie che promettono prestiti facili ma a tassi di interesse altissimi. O i sistemi con cui vengono esaminati i candidati per un posto di lavoro e i test di personalità utilizzati nella selezione del personale. Il punto, secondo O’Neil, è soprattutto che gli algoritmi tendono sempre a cristallizzare la situazione esistente. Dal momento che le loro previsioni si basano sull’esame del passato, ai loro occhi il futuro non può che essere uguale al passato. E ciò significa non solo che gli algoritmi fotografano le stratificazioni sociali, ma anche che contribuiscono a riprodurle, in un circuito di feedback da cui diventa impossibile uscire.

Ovviamente, e O’Neil ne è perfettamente consapevole, i Big Data saranno sempre più importanti nei prossimi anni. Probabilmente gli algoritmi penetreranno anzi in ogni ambito della nostra vita, molto più di quanto possiamo oggi immaginare. Ma è probabilmente proprio per questo che la sfida di un altro uso della matematica – insieme alla ricerca di algoritmi capaci di evitare effetti così disastrosi – diventa tanto importante.  

"Quale economia per la pace?" Una conferenza di Raul Caruso a Brescia (Università Cattolica, Via Trieste 17), con don Fabio Corazzina e Raul Caruso - Martedì 14 novembre alle ore 15.00

di Raul Caruso

Martedì 14 novembre, alle ore 15.00, nell'Aula Magna dell'Università Cattolica di Brescia (Via Trieste 17), Raul Caruso terrà una conferenza dal titolo "Quale economia per la pace?" nell'ambito del ciclo "Il mondo in disordine. Dieci incontri sulla politica globale". L'incontro sarà introdotto da Damiano Palano, Coordinatore del corso di Laurea in Scienze politiche e delle relazioni internazionali della Cattolica di Brescia, e vedrà anche la partecipazione, in vista di discussant, di don Fabio Corazzina.

Raul Caruso, autore di "Economia della pace" (Il Mulino), insegna nella Facoltà di Scienze politiche e sociali dell'Università Cattolica ed è Direttore del Network of European Peace Scientists e della rivista "Peace Economics, Peace Science and Public Policy". Il testo che segue anticipa alcuni dei temi al centro della conferenza.

L’economia della pace è una branca dell’economia che ci aiuta a capire le cause e le determinanti dei conflitti armati, oltre che di altre forme di violenza, ma anche a individuare le misure di politica economica finalizzate alla rimozione delle cause dei conflitti violenti. L’economia della pace ha una dimensione macro e una dimensione micro. Esiste, infatti, un uso della violenza tra Stati a livello macro, che influenza la loro politica estera e le loro politiche economiche. e un uso della violenza a livello micro, in seno alle società nei rapporti tra Stato, gruppi sociali e cittadini. In particolare, a livello macro l’economista della pace studia gli aspetti economici della rivalità tra Paesi, la corsa agli armamenti e il commercio di armi, laddove nell’analizzare i livelli micro gli economisti della pace studiano le cause della violenza politica, dei fenomeni criminali ma anche delle politiche che risultano vincenti nel limitare queste patologie delle nostre società. 

Obiettivo finale per l’economista della pace, infatti, è spiegare in maniera compiuta le politiche per garantire una prosperità economica che duri nel tempo. Secondo l’economia della pace, lo sviluppo economico nel lungo periodo, è legato all’espansione della pace. Le società e i sistemi fondati sulla violenza perpetrata in maniera continua dallo stato o dai cittadini sono destinati al declino. In particolare, a dispetto dell’opinione popolare e del senso comune, la guerra non contribuisce allo sviluppo e alla crescita economica, ma – al contrario costituisce un freno significativo allo sviluppo nel lungo periodo. L’Unione Sovietica è stato un esempio eccezionale di economia di guerra e di uso sistematico della violenza: era una società controllata in maniera capillare da diversi corpi di polizia; spendeva con regolarità una quota superiore al 15% del suo Pil nella corsa agli armamenti e disincentivava in maniera sistematica l’attività economica produttiva. Non è stata una sorpresa, infatti, che l’Unione Sovietica sia implosa, frammentandosi e mostrando poi a tutto il mondo i suoi livelli di povertà. Anche la Germania nazista aveva un’economia estremamente fragile e Adolf Hitler e i gerarchi nazisti avevano, infatti, la necessità di giustificare e coprire i fallimenti in ambito economico insistendo sulla retorica razzista e militarista che pervadeva la vita della società tedesca.

Tra gli esempi storici di successo della pace e del conseguente sviluppo vi è quello dell’integrazione europea successivo alla Seconda Guerra Mondiale. La creazione della Comunità europea del carbone e dell’acciaio nel 1951 e della Comunità economica europea nel 1957 rispondevano, in primo luogo, all’imperativo categorico della ricostruzione fisica e ideale di un continente devastato dal conflitto mondiale e poi alla costruzione di un’area di benessere economico in grado di eliminare gli incentivi al conflitto tra i paesi europei. In breve, le misure economiche adottate nel processo di integrazione avevano quale fine ultimo quello di pacificare il continente. Il processo di integrazione economica europea, pertanto, nasceva come una missione di pace. A dispetto delle difficoltà e delle fasi di stallo che hanno caratterizzato e che ancora caratterizzano il processo di integrazione europea, l’obiettivo della pacificazione tra paesi è stato raggiunto e l’Unione europea è attualmente una delle aree di maggiore benessere nel mondo.

           

L’economia della pace quindi impone per molti aspetti un cambio di paradigma nella politica economica. Se interrogati sulla questione, molti economisti tradizionali indicheranno la crescita economica come condizione necessaria (e alcuni forse anche come sufficiente) della pace. È chiaro invece che l’economia della pace capovolge tale impostazione. La pace è condizione necessaria e sufficiente per la crescita e lo sviluppo. In termini concreti, infatti, l’economista della pace invita i policy-maker a considerare la costruzione della pace oltre alle tradizionali variabili economiche di riferimento come il Pil. L’economia della pace è quindi la base da cui partire per favorire la prosperità e il benessere delle società.

Raul Caruso

"L'impero fragile. Le trasformazioni della geopolitica americana". Un incontro con Corrado Stefanachi, Andrea Locatelli e Damiano Palano. A Brescia - Università Cattolica (Via Trieste 17) - mercoledì 8 novembre, alle ore 15.00

Mercoledì 8 novembre 2017 - ore 15.00

Università Cattolica 

Via Trieste 17 - Brescia

L'impero fragile. Le trasformazioni della geopolitica americana

Introduce Damiano Palano

Partecipano:

Corrado Stefanachi (Università degli Studi di Milano)

Andrea Locatelli (Università Cattolica del Sacro Cuore) 

A partire dal volume di C. Stefanachi, America invulnerabile e insicura, Vita e Pensiero, Milano, 2017

Nel quarto appuntamento del ciclo Il mondo in discordine, mercoledì 8 novembre, Corrado Stefanachi, politologo dell’Università degli Studi di Milano, discuterà con Andrea Locatelli (Università Cattolica) delle trasformazioni della geopolitica americana e, adottando una prospettiva di lungo periodo, si soffermerà soprattutto sul paradosso di una potenza all’apparenza «invulnerabile» eppure «insicura».

"Sinistra e popolo. Il conflitto politico nell'era dei populismi". Un incontro con Luca Ricolfi, Giancarlo Rovati, Giancarlo Mazzone, Damiano Palano. Lunedì 6 novembre, ore 15.30

Lunedì 6 novembre, alle ore 15.30

all'Università Cattolica

Aula NI.111-112

Via Nirone 15 - Milano

si svolgerà un dibattito a partire dal volume di

Luca Ricolfi, "Sinistra e popolo. Il conflitto politico nell'era dei populismi" (Longanesi)

  

Introduce:

Giancarlo ROVATI

Direttore del Dipartimento di Sociologia, Università Cattolica del Sacro Cuore

Ne discutono:

Damiano PALANO

Docente di Scienza della politica, Università Cattolica del Sacro Cuore

Giancarlo MAZZONE

Past Chief Financial Officer Saipem

Dibattito

Replica dell’Autore

Lunedì 6 novembre 2017

Aula:  NI.111-12 -  Ore: 15.30

Via Nirone, 15, Milano

Referente Informazioni:

Dipartimento di Sociologia

E-mail:

dip.sociologia@unicatt.it

Sponsorizzato da:

Dipartimento di Sociologia