Un mondo nuovo

Il codice Frankestein

…I software che hanno la capacità di apprendere e svilupparsi da soli hanno dato vita a un sistema che rischia di sfuggire al controllo degli esseri umani.

“In un certo senso, abbiamo perso il controllo. Quando scriviamo il codice di un programma e l’algoritmo comincia a creare nuovi algoritmi, la cosa sfugge sempre di più al controllo umano. Il software finale è un universo di codici che nessuno capisce fino in fondo ”. Se queste parole vi sembrano agghiaccianti, è perché lo sono, visto che le preannunciate Ellen Ullman che, oltre a essere una programmatrice nota fin dagli anni Settanta, è anche una delle poche persone che scrivono cose illuminanti sul processo di codifica. “Qualcuno dice: ‘E allora Facebook? Crea algoritmi, li usa e può cambiarli’. Ma non funziona così. Una volta partiti, gli algoritmi imparano, si modificano e si gestiscono da soli. Facebook interviene ogni tanto, ma non li controlla davvero. E certi programmi non solo si gestiscono da soli: attingono a librerie software, a sistemi operativi profondi”.

Cos’è un algoritmo?

Di poche cose in questo momento si discute così spesso e con tanta passione come degli algoritmi. Ma cos’è un algoritmo? Dalla nascita di Internet, negli anni Novanta, il concetto è cambiato molto. Di base, un algoritmo è una cosa semplice: una regola che rende automatico il trattamento di un certo tipo di dati. Se succede A, allora fai B, altrimenti fai C. È la logica dell’informatica classica. Se un utente dichiara di avere 18 anni, consentigli di accedere al sito, altrimenti scrivi: “Mi dispiace, devi avere 18 anni per entrare”. I programmi informatici sono essenzialmente composti da una serie di questi algoritmi. Se ci sembra che i computer facciano miracoli è perché sono veloci, non perché sono intelligenti.

Parallelamente, negli ultimi anni, è emerso un significato più ambiguo e misterioso della parola “algoritmo”, che ormai indica qualsiasi grande sistema in grado di prendere decisioni complesse, qualsiasi mezzo per raccogliere una serie di dati in ingresso e valutarli velocemente in base a una serie di criteri (o regole). Una cosa che ha rivoluzionato alcuni settori della medicina, della scienza, dei trasporti e delle comunicazioni. Gli algoritmi hanno migliorato la nostra vita in molti modi.

Così nel 2016 ha cominciato a prendere forma una visione più sfumata degli algoritmi. Se tendiamo a parlarne in termini quasi biblici, come entità indipendenti dotate di una vita propria, è perché siamo stati spinti a vederli in questo modo. Grandi aziende come Facebook e Google hanno venduto e difeso i loro algoritmi promettendo l’oggettività, la capacità di soppesare un insieme di condizioni con distacco matematico e senza nessun coinvolgimento emotivo. Non c’è da meravigliarsi, quindi, se questo uso degli algoritmi per prendere decisioni si è esteso alla concessione di mutui, cauzioni, indennità, posti nelle università.

Solo che ormai non accettiamo più così docilmente le strategie pubblicitarie per venderci questo tipo di algoritmi nel suo libro uscito nel 2016, Armi di distruzione matematica, Cathy O’Neil, un’ex ragazza prodigio della matematica, che ha lasciato Wall street per insegnare e oggi cura l’ottimo blog Mathbabe, ha dimostrato che gli algoritmi potrebbero ingigantire e rendere ancora più radicati i pregiudizi umani. D’altronde i software sono scritti in prevalenza da uomini ricchi bianchi e asiatici, e riflettono la loro mentalità. Perché un pregiudizio produca dei danni non è necessaria la malafede e, a differenza di quanto facciamo con le persone, non possiamo chiedere a un algoritmo di spiegarci perché ha preso una certa decisione. O’ Neil vorrebbe una “revisione degli algoritmi” di qualsiasi sistema influisce direttamente sul pubblico. Contro questa richiesta sensata, però, l’industria tecnologica lotterà con le unghie e con i denti, perché vende algoritmi.

La buona notizia è che la battaglia è cominciata…..

(Internazionale n. 1292 del 1 febbr. 2019).