sabato, Luglio 20, 2024
Uncategorized

Il ruolo del diritto nell’algocrazia

È ormai assodato il valore non quantificabile della tecnologia dell’informazione nella società e nell’economia contemporanee, valore che ha un peso trainante quando si guarda prospetticamente al ruolo che i dati e il loro uso massivo assumeranno nello sviluppo della collettività.

Ambiente, istruzione, sanità, diritti sociali, giustizia sono soltanto alcuni dei macrosettori in cui l’algoritmo oggi interviene ed esprime la sua utilità. Proprio per tale ragione, non mancano opinioni fortemente dissenzienti sull’eccessiva fiducia che gli stati, le imprese, gli enti pubblici e le persone fisiche ripongono in esso[1].

In verità, le visioni distopiche e il “totalitarismo del calcolo”[2] possono destare preoccupazione solo se ci si pone nell’ottica che alla sopra citata “algocrazia”[3] si ceda il passo auto-annichilendosi, rinunciando alla capacità dell’uomo di inventare, bypassare gli schemi alla ricerca di una soluzione migliore o semplicemente pensare senza l’ausilio dell’intelligenza artificiale. Una vera e propria cessione di sovranità che poco convince, perché non è naturale e non è verosimile.

Il diritto ha sempre cercato – seppure con sforzi a volte vani – di tenere il passo rispetto allo sviluppo dell’informatica e al cambiamento di paradigma nell’utilizzo che si è fatto di Internet. A tal proposito e a titolo esemplificativo, dal punto di vista eurounitario, non esistono soltanto il GDPR, la Direttiva NIS, il Regolamento ePrivacy[4] o il Regolamento (UE) 2018/1807 sui dati non personali a costituire il framework normativo in materia. Infatti intervengono anche le legislazioni nazionali[5] e, soprattutto, le pronunce della giurisprudenza a colmare le necessarie lacune create dalla legge.

L’algoritmo ha una funzione intrinsecamente sociale. Essa deriva proprio dallo scopo per cui l’algoritmo stesso è creato: semplificazione dei processi, riduzione dei costi, velocizzazione dei tempi per ottenere l’erogazione un servizio o, all’opposto, per erogarlo. Funzione sociale, tuttavia, non significa giustizia sociale. Quest’ultima si ottiene solamente attraverso l’intermediazione dell’uomo, che agisce in conformità ai principi etici e giuridici della società nel tempo in cui esso si trova ad esistenza.

Il fenomeno dei Big Data[6] e il correlativo “canale di raccolta” dell’Internet of Things, che fiumi d’inchiostro virtuale hanno generato tanto per le potenzialità applicative quanto per i pericoli che comportano per la tutela della vita privata, consentono di monitorare fenomeni che in precedenza non era nemmeno pensabile controllare[7].

I dati, peraltro, possono essere considerati come un driver per l’innovazione e la soluzione dei problemi concreti solo se vengono usati in modo smart. La c.d. Data Driven Innovation[8], infatti, trasforma la mera raccolta sterile di dati in innovazione dal punto di vista sistematico e metodologico, restituendo inferenze altrimenti impossibili.
Più specificamente, il concetto di Data Driven Innovation fa riferimento alla capacità, segnatamente delle imprese e degli organismi pubblici, di utilizzare le informazioni derivanti dall’analisi al fine di prendere decisioni consapevoli o di sviluppare prodotti e servizi migliori, in grado di semplificare la vita quotidiana degli individui e delle organizzazioni. La chiave di lettura di un tale approccio consente di guardare alla raccolta dei dati e alla loro analisi sistemica sotto la luce corretta, l’unica possibile, ossia quella dello sviluppo della civiltà e della società[9]. Se osteggiato quasi alla stessa stregua di fenomeni criminogeni, rischia di diventare il feticcio di chi, paventando la difesa dei diritti sociali, civili e politici, in realtà nuota contro-corrente e impedisce il progresso per puro timore o sfiducia.

L’approccio smart allo sviluppo sociale, culturale e tecnologico, nonché la delega di alcuni compiti fondamentali agli algoritmi, comunque, non possono essere considerati, né devono costituire per il legislatore, strumenti per compiere valutazioni discrezionali o effettuare scelte di merito. Nel campo dei diritti dei lavoratori e dei diritti sociali, ricomprendendovi anche le politiche attive di inclusione sociale, non si può non citare l’emersione prorompente della Gig economy[10] come frutto dello sviluppo della tecnologia dell’informazione, settore che ha assorbito una fetta consistente del mercato lavorativo dando anche spazio a nuove chances per imprese e potenziali nuovi lavoratori. È pur vero che lo strumentario a disposizione delle imprese per controllare l’operato dei dipendenti o dei collaboratori (quale che sia la forma giuridica attribuita al rapporto negoziale fra datore e rider) presuppone l’ausilio di strumenti tecnologici e algoritmi per identificare l’esattezza della prestazione, il raggiungimento degli obiettivi prefissati, l’attribuibilità di speciali indennità o salario accessorio; è altrettanto vero, tuttavia, che i limiti entro cui l’operabilità della tecnologia informatica è utilizzabile dalle parti sono delineati con ampio respiro dai legislatori, fornendo ex ante margini di discrezionalità ai policymakers in prima battuta e di applicazione estensiva della legge alle Corti nazionali (e non) in seconda battuta, come strumenti ex post di controllo dell’operatività degli algoritmi e potenziali deterrenti utili a una crescita sostenibile dell’avanguardia informativa.

In tal senso, non è più importante per la collettività la consapevolezza del contenuto effettivo del “linguaggio” – in senso informatico e non – con cui il progresso è foraggiato, bensì, probabilmente, la certezza che sussistono e sussisteranno delle cornici entro le quali il progresso può incanalarsi, cornici dettate dal diritto[11]. La legge va intesa come il giusto accompagnamento all’evoluzione della società e baluardo costante dei diritti individuali.

Per fare un ulteriore esempio di quanto gli algoritmi siano suscettibili di creare equità (anche) giuridica per tutte le situazioni soggettive, non è utopistico pensare a meccanismi di machine learning (nella particolare declinazione del deep learning[12]) che consentano alle pubbliche amministrazioni di essere agevolate, garanti dell’uniformità di utilizzo attraverso un sistema di knowledge management[13] interno grazie a cui non si prescinda dalle risorse umane, nell’applicazione della discrezionalità amministrativa. Le macchine potrebbero analizzare migliaia – e nel corso degli anni milioni – di casi, restituendo agli operatori e ai dirigenti della P.A. un suggerimento di cui potrebbero (e dovrebbero) tenere conto nell’applicazione della legge, sempre applicando il margine di discrezionalità amministrativa nelle valutazioni degli interessi in gioco e senza possibilità di violare il dettato dell’art. 3 della Costituzione su casi analoghi in diverse zone del territorio.

Sul fronte del lavoro, la domanda di mercato attuale non richiede più maestranze, ma specifiche competenze per utilizzare al meglio le automazioni in grado di garantire, in minor tempo e con un minor costo, la medesima prestazione che sarebbe stata resa dalla quella stessa forza lavoro. L’esempio classico è l’operaio della fabbrica: se prima erano necessari cento operai per avvitare dei bulloni, oggi bastano dieci operai specializzati, perché dotati delle competenze necessarie a far funzionare le macchine che avvitano – in minor tempo e in modo più efficiente – gli stessi bulloni. Ma è vero anche che alcune macchine consentono agli stessi operai di operare in zone in cui prima l’uomo non aveva accesso, attraverso braccia meccaniche potentissime e resistenti ad elevatissime temperature, oppure, come di recente applicato nelle fabbriche di auto, gli operai sono aiutati da robot che sostengono e accompagnano i movimenti, alleviando la fatica degli operatori e consentendo loro di espletare le stesse mansioni in maniera meno usurante[14]. La fungibilità delle prestazioni professionali non è in pericolo, né lo è il mercato lavorativo. E neppure, per tornare alle critiche mosse al “feticcio” dell’algoritmo[15], la “smart-idiozia” come fenomeno di deriva dell’essere umano provocatoriamente enfatizzato comporta il lassismo intellettivo dei consociati, o quantomeno non esistono prove concrete a sostegno di questa tesi.

Allo stesso modo, oltre al lavoro e ai diritti sociali, attraverso tecnologie come quella della blockchain[16] e soluzioni negoziali come quelle degli smart contracts, con cui si garantisce efficacia negoziale (ma non solo), i regimi di pubblicità legale, di prova nei contenziosi giudiziari o, più in generale, di circolazione della ricchezza subirebbero un crollo dei costi e un innalzamento di certezza nell’autonomia privata, nei mercati obbligazionari e nei rapporti negoziali a tutti i livelli. Tutti settori, questi, nei quali l’intervento umano con il diritto classico è stato finora progettato solo per impedire, quasi proceduralmente, inadempimenti o frodi e senza alcuno scopo sostanziale.

D’altro canto, va sempre tenuto a mente che, per essere perfettamente funzionale ed “etico”, l’algoritmo deve costituire uno strumento di lavoro o un “assistente”, mai un sostituto. Ciò, soprattutto, nel campo della giustizia, nel quale le valutazioni non possono farsi affidandosi totalmente alla “predittività”, bensì con competenze trasversali e una sensibilità che soltanto l’uomo può avere.

[1] Una recentissima e preoccupata presa di posizione in merito al rapporto tra diritti sociali e tecnologia informatica è espressa da L. Demichelis, “Welfare, cosa rischiamo se deleghiamo i diritti sociali all’algoritmo”, in Agenda digitale, consultabile qui.

[2] Ibidem.

[3] Dominio dell’algoritmo. Il termine algocracy è apparso per la prima volta negli Stati Uniti nel 2006, in “Virtual Migration”, un libro di A. Aneesh che descrive sistemi di governance informatizzati dove è il codice binario a combinare le interazioni umane.

[4] Regolamento (UE) 2016/679, Direttiva (UE) 2016/1148, nonché l’attuale progetto di revisione dell’attuale Direttiva 2002/58/CE.

[5] Pare quasi superfluo il riferimento ai codici nazionali degli Stati membri, le leggi, gli atti aventi forza di legge e i regolamenti in attuazione delle direttive europee, nonché i contributi della dottrina e le valutazioni d’impatto degli stakeholders a tutti i livelli.

[6] Cfr. sul tema, ad esempio, S. Bronzini, “Il potenziale dei Big Data e l’importanza di un dominio sul nostro patrimonio informativo”, in Ius in itinere (https://www.iusinitinere.it/il-potenziale-dei-big-data-e-limportanza-di-un-dominio-sul-nostro-patrimonio-informativo-15802). Una delle potenziali applicazioni di questa tecnologia di combinazione dei dati, nel mondo del lavoro, è quella della Big Data Analytics. Sull’argomento v. E. Palazzolo, “Dicotomie informative: Big Data analytics e privacy del lavoratore”, in Ius in itinere (https://www.iusinitinere.it/dicotomie-informative-big-data-analytics-e-privacy-del-lavoratore-11499).

[7] V.M. Schönberger – K. Cukier, Big Data. Una rivoluzione che trasformerà il nostro modo di vivere e già minaccia la nostra libertà, cit., p. 110 e ss.

[8] Si vedano le relative definizioni date dall’OCSE, e.g. quella del 2014 contenuta in Data-driven Innovation for Growth and Well-being. Interim Synthesis Report, ottobre 2014 cit., p. 4.

[9] Sul punto cfr. A. Stazi, F. Corrado, Datificazione dei rapporti socio-economici e questioni giuridiche: profili evolutivi in prospettiva comparatistica, in Diritto dell’informazione e dell’informatica, 2019, 2, 447 ss.

[10] Lavoro “su piattaforma”, soprattutto in forma di lavoretti occasionali. Sono fenomeni variegati, che ricomprendono al loro interno quelli dei cc.dd. riders, lavoratori oggetto di un recente tentativo di accrescimento delle tutele minime sul rapporto instaurato con le società a capo delle piattaforme online che li impiegano. Molto esplicativa, a tale proposito, S. Ciucciovino, Analisi e proposte sul diritto del lavoro nel tempo di Industria 4.0 Le nuove questioni di regolazione del lavoro nell’industria 4.0 e nella gig economy: un problem framework per la riflessione, in Diritto delle Relazioni Industriali, 2018, 4, 1043 ss.

[11] Ci sono decine di esempi in campo giuridico che incoraggiano lo sviluppo delle tecnologie informatiche entro limiti ben precisi. Gli strumenti di enforcement per chi viola i diritti e le libertà dei cittadini dell’Unione europea, ad esempio, in campo di protezione dei dati personali, sono offerti dagli articoli 82 e ss. del GDPR, che prevede il diritto al risarcimento del danno e sanzioni pecuniarie ingenti per coloro che violano i dati personali o contravvengono ai diritti e alle libertà garantite dal Regolamento.

[12] Il Machine Learning è un metodo di analisi dei dati che consente ai computer di apprendere autonomamente dei dati. Il Deep Learning è quel sistema di apprendimento che, utilizzando le architetture di reti neurali, elabora grandi set di dati e conduce ad un risultato simile a quello cui potrebbe giungere l’uomo. Attraverso questo sistema la macchina impara con l’esempio.

[13] Si tratta di una pratica gestionale diffusa nella prassi aziendale, ma sempre più utilizzata anche nell’ambito pubblico, che ha come obiettivo la costruzione di un sapere diffuso all’interno dell’organizzazione e che richiede un approccio integrato con tre variabili: persone, processi e tecnologie.

[14] Sul punto, cfr. S. Crisci, Intelligenza Artificiale ed etica degli algoritmi, in Foro Amministrativo, 2018, 10, cit., 1787 ss.

[15] Cfr. ancora L. Demichelis, “Welfare, cosa rischiamo se deleghiamo i diritti sociali all’algoritmo”, cit.

[16] Fra i molti, un utilissimo contributo introduttivo è quello di S. Cedrola, “La tecnologia blockchain: caratteristiche e possibili applicazioni”, in Ius in itinere,  https://www.iusinitinere.it/blockchain-caratteristiche-e-possibili-applicazioni-8228.

Edoardo Palazzolo

Laureato a pieni voti presso l'Università di Pisa, è abilitato alla professione di Avvocato. Consegue nel gennaio 2018 il Master Universitario di 2° livello (CMU2) in Internet Ecosystem: Governance e Diritti presso l'Università di Pisa in collaborazione con il CNR-IIT, nell'ambito del quale svolge un tirocinio formativo presso il Servizio Affari Legali e Istituzionali della Scuola Normale Superiore, occupandosi di data protection e, in particolare, dell'applicazione del GDPR nel settore pubblico. Discute una tesi relativa all'applicazione del GDPR nelle Università statali e i conflitti con la trasparenza amministrativa dopo il decreto FOIA (d.lgs. 97/2016). Ha collaborato con diversi studi legali nel ramo del diritto civile e commerciale, da ultimo specializzandosi nel contenzioso bancario e nelle soluzioni innovative per la previsione della crisi aziendale. Ad oggi è funzionario presso l'Istituto Nazionale Previdenza Sociale, sede provinciale di Venezia, occupandosi di vigilanza documentale e integrazioni salariali. All'interno dell'Istituto collabora altresì con la Direzione Centrale Audit e Monitoraggio Contenzioso, svolgendo attività di internal auditing. e-mail di contatto: edoardo.palazzolo@iusinitinere.it

Lascia un commento