Al cuore dell?educazione civica digitale: capire gli algoritmi, anziché vederli come oracoli

postato da Petra Dal Santo - KEA s.r.l. [02/10/2019 14:58]
foto

Consigli per la lettura del fondamentale libro di Alessandro Vespignani, L'algoritmo e l'oracolo. Come la scienza predice il futuro e ci aiuta a cambiarlo, Il Saggiatore, Milano, 2019

Siamo ancora propensi a considerare le applicazioni software come strumenti nel senso classico del termine: oggetti "al nostro servizio", che usiamo per i nostri fini.
In effetti, alcune applicazioni sono meri strumenti, ma in moltissime dobbiamo abituarci a riconoscere autentiche controparti: sono gli agenti digitali mossi da algoritmi predittivi, che nutriamo con la gran mole di briciole che spargiamo durante le nostre quotidiane attività onlife, che alleniamo trascorrendo il tempo in loro compagnia, che certamente usiamo per svolgere attività dilettevoli e/o utili (verificare, per esempio, se portare con noi l'ombrello domattina), ma di cui possiamo anche subire giudizi, decisioni e azioni (per esempio al momento di chiedere un prestito in banca o quando cerchiamo di formarci un'opinione su un'idea).
Gli algoritmi non sono "affare dei programmatori", ma entità con cui dialoghiamo costantemente, come cittadini, lavoratori, consumatori... Il libro di Alessandro Vespignani acuisce la nostra consapevolezza di ciò: ecco perché è uno straordinario testo di educazione civica digitale, che ci fornisce strumenti per approfondire anche in modo autonomo le basi scientifiche e matematiche del funzionamento degli algoritmi, le opportunità e i rischi del loro uso, le questioni economiche, etiche e legali su cui è necessario rafforzare il dibattito pubblico.

Gli algoritmi predittivi non sono auto-magici: affondano le loro radici anzitutto nella scienza della complessità. Per comprendere il funzionamento di sistemi complessi non è sufficiente analizzare il comportamento dei singoli (che appare disordinato), né è necessario conoscere le qualità degli individui (per esempio per individuarne capacità cognitive, intenzioni, leadership). È invece necessario analizzare il sistema nella sua interezza, per scoprire che il comportamento collettivo ordinato - descrivibile in termini matematici e statistici - non è frutto dell'attuazione di un disegno finalistico centralizzato, ma della semplice interazione tra un gran numero di singoli individui che fanno parte del sistema. Sviluppata nell'ambito delle scienze naturali (per esempio per spiegare le dinamiche interne agli stormi di ucelli), la scienza della complessità è stata trasferita successivamente all'ambito delle scienze sociali: un tipo di trasferimento che ritorna più volte nel libro di Vespignani.
Oltre alla scienza della complessità, l'autore illustra anche altri pilastri su cui si basa il funzionamento degli algoritmi: la teoria delle reti, che fornisce la descrizione matematica delle connessioni e delle interazioni tra persone; la teoria del contagio che, trasferita anch'essa dall'ambito scientifico, epidemiologico, a quello sociale, spiega - sulla base di mobilità e integrazioni fra le persone - la diffusione di informazioni e conoscenza; e soprattutto la datificazione, la cui novità sta nel fatto di alimentare gli strumenti predittivi con dati socioeconomici reali, aggiornati e dettagliati fino a livello della singola persona.

La parte centrale del libro di Vespignani è dedicata all'interessantissima illustrazione delle caratteristiche distintive dei due approcci principali alla scienza delle predizioni: l'empirico e il meccanicistico.
Approccio empirico
Come in epoca pre-moderna, presupponendo che il passato, transitando per il presente, contenga già in nuce il futuro, si analizzano le "osservazioni" passate/presenti, si individuano regolarità, correlazioni e ripetizioni, e sulla base di esse - ma in assenza di una base teorica, fatta di modelli e regole - si deducono probabilità future.
Gli algoritmi basati sull'apprendimento automatico (machine learning) seguono questo approccio muscolare-oracolare: grazie a potenza di calcolo e adattamento in base ai feedback, gli algoritmi vedono all'interno di enormi masse di dati associazioni tra variabili troppo complesse per essere scorte da noi e lo fanno a una velocità per noi inarrivabile.
Gli algoritmi basati sul machine learning evidenziano le correlazioni, ma non spiegano né la causa, il perché, di tali correlazioni, né - proprio per il modo iterativo in cui apprendono autonomamente - sono in grado di dichiarare come sono giunti all'individuazione delle correlazioni stesse (si tratta del cosiddetto effetto "black box", che genera una conoscenza che rimane implicita nel sistema).
Infine, il fatto che gli algoritmi basati sul machine learning lavorino soprattutto con dati socio-economici non convenzionali, raccolti da sistemi che - come social network e motori di ricerca - subiscono frequenti modifiche, aumenta il rischio che essi lavorino con insiemi di dati non confrontabili fra loro nel tempo, minando il risultato alle fondamenta.
Approccio meccanicistico
Vi sono ambiti in cui l'approccio empirico assicura un livello di accuratezza e affidabilità è "satisficing", come per esempio nel caso degli algoritmi che ci suggeriscono i brani musicali che potrebbero piacerci.
In altri ambiti - come per esempio nel caso delle previsioni meteorologiche o di quelle sulla diffusione di un'epidemia -, in cui il futuro non è inscritto nel passato e in cui la bontà della previsione passa anche attraverso la comprensione delle dinamiche del sistema oggetto di previsione, è necessario abbandonare l'approccio empirico e integrare gli elementi innovativi (dati, algoritmi, potenza di calcolo) con il metodo scientifico "classico", cioè con la creazione, validata da esperimenti, di un modello teorico e delle equazioni che descrivono i meccanismi di funzionamento del sistema da prevedere.
Rispetto al meccanicismo moderno, oggi vi sono due elementi di novità: la disponibilità, anche in ambito socio-economico, di grandi masse di dati reali, aggiornati e dettagliati fino alla singola persona, e la velocità di risoluzione delle equazioni.
Modelli, equazioni, dati, algoritmi e potenza di calcolo permettono di realizzare sistemi di previsione probabilistica che non deducono il futuro dal passato/presente, ma che creano mondi e società artificiali (anche in scala 1:1), simulando e analizzando scenari futuri influenzati dalle nostre scelte e dalle conseguenti variazioni dei dati e delle condizioni di partenza su cui fondare la risoluzione delle equazioni.
Grazie all'approccio meccanicistico, le probabilità future non sono più destini inscritti nel passato, ma espressioni di potenzialità modellabili grazie alle nostre decisioni e azioni.

Ricchissimi i casi studio che Alessandro Vespignani racconta per farci apprezzare la capacità degli algoritmi di incidere sul mondo reale. Ma al tempo stesso l'autore ci rammenta che tutte le previsioni sono probabilistiche, ovvero che hanno un margine di incertezza e rischio, anche quelle che - nell'ambito delle scienze sociali - sono o saranno a breve applicabili alla singola persona.
Questo, però, è solo uno degli aspetti critici su cui Vespignani attira la nostra attenzione: l'ultima parte del libro è tutta dedicata a un'appassionata esposizione delle questioni etiche e, di riflesso, socio-politiche e giuridiche legate alla datificazione e alla diffusione capillare degli algoritmi.
L'autore ci invita a essere più consapevoli non solo del fatto che siamo noi a creare la mole di dati socio-economici che le multinazionali tecnologiche gestiscono e sfruttano, ma anche e soprattutto del fatto che le previsioni non sono alla portata di tutti, per mole di dati e infrastrutture che richiedono, e che oggi sono saldamente in mano privata.
Per queste criticità - e per molte altre ancora, come il problema della rappresentatività dei dati socio-economici su cui sono allenati gli algoritmi, che può causare la formazione di pregiudizi da parte loro oppure quello della non univocità della definizione matematica di imparzialità - l'autore non ha risposte pronte.
Si tratta di questioni che solo una maggiore pressione da parte dell'opinione pubblica e un approccio multidisciplinare potranno sciogliere: ecco perché porsi e porre domande è fondamentale.