Da qualche settimana su una delle piattaforme di streaming pi\u00f9 diffuse, tra i documentari pi\u00f9 visti c\u2019\u00e8 \u201cthe social dilemma\u201d, una interessante analisi sulla pervasivit\u00e0 dei social network. Un tema gi\u00e0 ampiamente noto al grande pubblico e su cui si \u00e8 sviluppato un dibattito molto profondo.<\/p>\n\n\n\n
Meno approfondito e, comunque, trattato ne \u201cthe social dilemma\u201d \u00e8 l\u2019impatto degli algoritmi matematici che regolano molte attivit\u00e0 della nostra vita quotidiana e la condizionano, come vedremo, anche profondamente.<\/p>\n\n\n\n
L\u2019algoritmo, molto semplicemente, \u00e8 una serie di operazioni di calcolo finalizzate a risolvere un problema, attraverso una serie di istruzioni elementari.<\/p>\n\n\n\n
Essi stanno entrando pesantemente nella nostra vita quotidiana da quando computer molto potenti riescono ad analizzare masse di dati molto grandi, i cosiddetti \u201cbig data\u201d.<\/p>\n\n\n\n
L\u2019interrogativo centrale \u00e8: se ho a disposizione computers molto potenti, in grado di estrarre informazioni rilevanti da grandi masse di dati, un algoritmo pu\u00f2 rendere pi\u00f9 efficienti determinati processi di scelta? Ad esempio, se devo selezionare dei candidati per alcune posizioni lavorative e ricevo migliaia di curricula, \u00e8 possibile delegare ad un algoritmo la scelta dei candidati finali?<\/p>\n\n\n\n
La risposta, allo stato attuale della tecnologia, \u00e8, evidentemente, s\u00ec. Possiamo chiedere ad un algoritmo di scegliere i candidati \u201cmigliori\u201d secondo dei criteri prefissati, magari scartando in automatico quelle candidature che non riteniamo compatibili con la posizione richiesta.<\/p>\n\n\n\n
In teoria, la quadratura del cerchio: un algoritmo fa il lavoro di prima selezione dei curricula e la componente umana del processo si limita ad una scelta finale tra un numero ristretto di candidature.<\/p>\n\n\n\n
Tutti contenti? Forse qualcuno dei candidati scartati potrebbe avere qualcosa da obiettare. Poniamo, ad esempio, che uno dei criteri di selezione dei curricula sia tipo geografico (escludere tutti coloro che provengono da una certa zona in quanto considerata \u201ca rischio\u201d) ovvero di tipo comportamentale (escludere tutti i candidati che hanno avuto un problema di solvibilit\u00e0 o hanno subito un verbale di contravvenzione di un certo tipo); in questo caso, la provenienza familiare (criterio geografico) o qualche piccolo \u201cincidente di percorso\u201d (criterio comportamentale) escludono automaticamente e per sempre dei candidati che potrebbero, invece, presentare un profilo adeguato.<\/p>\n\n\n\n
In termini generali, stiamo sacrificando l\u2019accuratezza della scelta all\u2019efficienza del processo.<\/p>\n\n\n\n
Non \u00e8 detto, per\u00f2, che tutte le aziende usino i medesimi algoritmi per la selezione. I candidati scartati da un\u2019azienda possono magari avere pi\u00f9 possibilit\u00e0 in un\u2019altra situazione.<\/p>\n\n\n\n
Cosa accadrebbe, per\u00f2, se fosse un algoritmo a decidere la probabilit\u00e0 di essere controllati dalla polizia e l\u2019entit\u00e0 della pena che un tribunale deve erogare?<\/p>\n\n\n\n
Nel libro \u201carmi di distruzione matematica\u201d Cathy O\u2019Neil descrive, tra gli altri, gli algoritmi che le polizie ed i tribunali di alcuni stati degli Stati Uniti utilizzano per la gestione della loro operativit\u00e0.<\/p>\n\n\n\n
Tutto nasce, come spesso accade, da una decisione di tagliare le spese di un dipartimento di polizia. Visto il numero minore di agenti in servizio, si \u00e8 deciso di pianificare l\u2019attivit\u00e0 delle pattuglie notturne verso i quartieri che presentavano una maggiore densit\u00e0 di reati. Qualche tempo dopo, la citt\u00e0 di New York ha messo in pratica la politica del cosiddetto \u201cstop, question and frisk\u201d (ferma, interroga e perquisisci). Anche in questo caso, l\u2019idea alla base \u00e8 piuttosto semplice: fermare, interrogare e perquisire individui sospetti sulla base del comportamento, dell\u2019atteggiamento o del modo di vestire, senza nessuna relazione con il fatto che stessero per commettere dei reati. Lo \u201cstop and frisk\u201d, come \u00e8 stato poi abbreviato, ha generato quasi 700.000 interventi, la maggior parte dei quali si \u00e8 risolta in un nulla di fatto ma ha fatto s\u00ec che molti giovani appartenenti a minoranze etniche siano stati sottoposti a perquisizioni piuttosto invasive e ripetute nel tempo. Dei 700.000 interventi, infatti, solo lo 0,1% \u00e8 stato associato ad un crimine violento e l\u201985% ha riguardato soggetti appartenenti a minoranze etniche. Inutile sottolineare che la reazione di un soggetto \u201cperquisito\u201d,magari pi\u00f9 volte durante una giornata, possa risultare in comportamenti violenti (si pensi alla resistenza a pubblico ufficiale), spingendo delle persone che non stavano commettendo alcun reato verso il sistema della giustizia penale.<\/p>\n\n\n\n
Una volta in tribunale, la situazione non cambia.<\/p>\n\n\n\n
Ventiquattro stati degli Stati Uniti hanno cominciato ad affidarsi ad algoritmi predittivi per valutare la probabilit\u00e0 che un accusato possa commettere nuovamente un reato. Il pi\u00f9 diffuso di questi (LSI-R, Level of Service Inventory-Revised) \u00e8 un lungo questionario il cui risultato, in alcuni casi, pu\u00f2 addirittura condizionare la lunghezza della pena anche a parit\u00e0 di reato commesso. Le domande di LSI-R scavano a fondo nella vita personale e tendono a ricostruire l\u2019ambiente sociale in cui si \u00e8 sviluppato il reato. Appare evidente (sempre a parit\u00e0 di reato commesso) che le risposte di una persona che proviene da un ambiente privilegiato siano \u201cmigliori\u201d per l\u2019algoritmo che le deve analizzare. \u201cI suoi genitori hanno precedenti penali?\u201d. Immaginiamo la risposta ed il punteggio ad essa associato.<\/p>\n\n\n\n
Quindi, un algoritmo decide dove indirizzare i controlli di polizia, la polizia pu\u00f2 fermare e perquisire chiunque, per il solo fatto che sia vestito nella maniera sbagliata o perch\u00e9 ha troppi tatuaggi, un algoritmo decide la lunghezza della pena a cui un soggetto deve essere sottoposto, basandosi su un\u2019analisi del contesto sociale e stimando la probabilit\u00e0 di recidiva.<\/p>\n\n\n\n
Pi\u00f9 si viene da un ambiente degradato, maggiore \u00e8 la probabilit\u00e0 di restare in carcere a lungo. Questo non \u00e8 una novit\u00e0; quello che sorprende \u00e8 che l\u2019uso di diversi algoritmi acceleri il fenomeno, spingendo chi ha maggiore difficolt\u00e0 verso un circolo vizioso. Un comportamento penalmente rilevante ti condanna ma il tuo certificato di residenza rende questa condanna pi\u00f9 dura e ti precipita in una situazione da cui \u00e8 molto difficile uscire.<\/p>\n\n\n\n
La tendenza ad utilizzare gli algoritmi in molti campi che hanno un impatto diretto sulle vite di ogni giorno aumenter\u00e0 sensibilmente nei prossimi anni anche con il progredire della potenza di calcolo dei computers. Nella vita delle aziende, questa tendenza si osserva da diversi decenni ed ha portato grandi benefici alla precisione dei dati di analisi ed all\u2019 efficienza e produttivit\u00e0 dei fattori di produzione. Nella vita di tutti i giorni la scelta sembra ancora essere tra avere sistemi efficienti (erogo rapidamente una condanna penale sulla base delle indicazioni di un algoritmo) o giusti (valuto attentamente il reato e la situazione che lo ha portato ad essere commesso).<\/p>\n\n\n\n
Negli anni a venire, sempre pi\u00f9, gli algoritmi devono diventare uno strumento a disposizione dei decisori e non essere essi stessi i decisori per evitare di trovarci a vivere in una societ\u00e0 distopica.<\/p>\n\n\n\n
<\/p>\n\n\n\n
Michele Russo<\/em><\/strong><\/p>\n","protected":false},"excerpt":{"rendered":" Da qualche settimana su una delle piattaforme di streaming pi\u00f9 diffuse, tra i documentari pi\u00f9 visti c\u2019\u00e8 \u201cthe social dilemma\u201d, una interessante analisi sulla pervasivit\u00e0 dei social network. Un tema gi\u00e0 ampiamente noto al grande pubblico e su cui si \u00e8 sviluppato un dibattito molto profondo. Meno approfondito e, comunque, trattato ne \u201cthe social dilemma\u201d […]<\/p>\n","protected":false},"author":1,"featured_media":4978,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[12,16],"tags":[],"class_list":["post-4977","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-diritto-civile","category-diritto-penale-e-diritto-penale-di-impresa"],"_links":{"self":[{"href":"https:\/\/www.ea-test.eu\/forence01\/wp-json\/wp\/v2\/posts\/4977","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ea-test.eu\/forence01\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ea-test.eu\/forence01\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ea-test.eu\/forence01\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ea-test.eu\/forence01\/wp-json\/wp\/v2\/comments?post=4977"}],"version-history":[{"count":0,"href":"https:\/\/www.ea-test.eu\/forence01\/wp-json\/wp\/v2\/posts\/4977\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ea-test.eu\/forence01\/wp-json\/wp\/v2\/media\/4978"}],"wp:attachment":[{"href":"https:\/\/www.ea-test.eu\/forence01\/wp-json\/wp\/v2\/media?parent=4977"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ea-test.eu\/forence01\/wp-json\/wp\/v2\/categories?post=4977"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ea-test.eu\/forence01\/wp-json\/wp\/v2\/tags?post=4977"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}