Premessa
Particolari preoccupazioni destano i progressi nel campo della Intelligenza Artificiale (AI) e delle sue applicazioni.
Le reali potenzialità di applicazione della AI alla vita economica e sociale sono ancora in larga parte ignote. Un campo di rapido sviluppo nei prossimi anni è costituito dalle interrelazioni tra AI e impiego delle enormi potenzialità di elaborazione delle informazioni provenienti dal Quantum Computing (QC).
Anche questi aspetti sono stati negli anni recenti oggetto di un impegno di ricerca che ha coinvolto i soggetti pubblici e privati. Tale impegno ha riguardato, tra gli altri, il campo dell’applicazione dell’AI al diritto e alla giustizia.
La velocità con la quale i progressi nella AI e nel QC si stanno realizzando è tale da richiedere che gli strumenti di regolamentazione e quelli di attuazione della regolazione, a livello anche della scoperta e della punizione dei reati, si adattino rapidamente alla realtà in mutazione.
Uno di questi adattamenti è costituito dalla capacità dei diversi attori di operare con un continuo scambio interdisciplinare di informazioni.
Ancora più in profondità, la trasformazione del paradigma tecno-economico costituito dalle applicazioni della AI richiede una corrispondente trasformazione culturale e della formazione; ciò è vero specificamente per il diritto e le sue molteplici manifestazioni, tra cui la giustizia penale.
È assolutamente necessario che coloro che sono destinati ad attuare quelle regolazioni, nel settore che oggi ci interessa soprattutto gli investigatori, i magistrati, gli avvocati e gli esperti forensi, siano informati dei problemi che l’AI pone e siano formati all’uso degli strumenti a disposizione per risolverli.
Un ruolo fondamentale in questa prospettiva è svolto dalle Università e dalle istituzioni di formazione, pubbliche e private.
Il progetto su AI e nuove forme di criminalità intende raccogliere le esperienze già maturate, elaborarle dal punto di vista delle metodologie di indagine e di formazione della prova ai fini del processo penale, e favorirne la diffusione tra gli operatori del diritto e gli studiosi.
Ciò che non siamo…..
Il progetto non intende quindi occuparsi delle applicazioni, in parte già in atto o in sperimentazione, della AI al processo.
Su questo tema, infatti, si è ormai molto avanti, sia nella ricerca e nell’applicazione, sia nella diffusione della consapevolezza della utilità e nello stesso tempo dei limiti delle diverse applicazioni possibili al momento.
Sono ben chiare le potenzialità della elaborazione attiva, attraverso il Machine Learning (ML), dei dati costituiti dalle banche dati esistenti e da altre accessibili in materia di decisioni giudiziarie ai fini dell’ausilio degli operatori (giudici e avvocati) o delle parti nelle loro decisioni; ne sono ben chiari anche i limiti.
Analoghe considerazioni valgono per i profili predittivi dei comportamenti, rilevanti ai fini dell’applicazione della legge (recidivismo, benefici penitenziari ecc.), per i quali ancora più significativi appaiono gli aspetti derivanti dai potenziali Bias, costituiti dalla alimentazione e strutturazione delle banche dati e dagli algoritmi impiegati.
Su questi aspetti, peraltro, è ampia la ricerca sulle effettive applicazioni, sperimentate da anni soprattutto negli Stati Uniti e in alcuni Paesi europei; le applicazioni hanno anche riguardato modalità e limiti della utilizzazione nel processo da parte del giudice e l’accesso alle informazioni ai fini della pienezza del contraddittorio.
A tale ultimo proposito, le cautele nell’acquisizione della prova scientifica sono anch’esse parte quotidiana dell’esperienza giudiziaria, già portata all’esame del giudice di legittimità. Sarà invece necessario testare quanto stipulato in materia rispetto alle applicazioni potenziali della AI, avendo però consapevolezza della specificità della questione, come appresso si vedrà.
Obiettivi del progetto
a. AI in robotica. Sono molte le applicazioni della AI per determinare automatiche reazioni dell’agente informatico agli stimoli esterni. La classica è quella degli automezzi a guida automatica.
Gli algoritmi di funzionamento devono prevedere le reazioni alle molteplici e sempre mutanti condizioni dell’ambiente. Ciò comporta che essi devono contenere una serie progressiva di interrelazioni tra ambiente e agente, a partire dai percettori e fino alla reazione automatica dell’agente/autovettura. Il reale funzionamento dell’interazione prevede poi il costante adeguamento ai mutamenti, attraverso il ML. Oltre a scelte tragiche sotto il profilo etico, ben poste in rilevo da Calabresi e Bobbit, vi sono riflessi penali e di responsabilità civile.
Questi riflessi riguardano certamente la strutturazione dei programmi di base, ma necessariamente involgono anche l’autonomia del ML che, in sviluppi sempre più prossimi, potrebbe elaborare autonomamente reazioni adeguate alle modifiche dell’ambiente di riferimento, imparate dall’esperienza.
Tutto ciò pone problemi regolatori e di attuazione, nonché di prova nel processo per i limiti derivanti sia dal Black Box, sia dalla difficoltà di ricostruire le dinamiche logiche dell’automa nella concreta evenienza.
Questi aspetti sono di rilievo anche per la distribuzione delle responsabilità nelle catene di produzione/impiego, fino all’utilizzatore.
Le questioni sopra indicate sono oggetto costante di studio e ricerca e hanno già trovato prime applicazioni.
b. AI nel condizionamento della vita politica
Si utilizza qui il concetto di interferenza o condizionamento della vita politica per definire in prima approssimazione le condotte che hanno influenza sul funzionamento degli organi (compreso il corpo elettorale) costituzionali o amministrativi che concorrono a formare le basi di uno stato democratico.
Queste condotte possono essere variamente qualificate (lecite, illecite, neutre); nei casi più gravi di illiceità esse sono punite penalmente e nel nostro sistema penale sono in genere comprese tra i delitti contro la personalità dello Stato.
La formazione della volontà popolare ai fini dell’esercizio dei poteri attribuiti al corpo elettorale può essere condizionata attraverso campagne di disinformazione. Queste campagne (anche se possono essere condotte con strumenti tradizionali del web) beneficiano della AI, in grado di utilizzare risposte automatiche e con tempi di latenza assai brevi alle reazioni percepite attraverso i sensori di Big Data (i social, le comunicazioni, le grandi compagnie che raccolgano i dati ecc.) elaborati da ML. Si parla in questi casi di Deep Fake News.
Nel campo del terrorismo, soprattutto quello basato territorialmente con risorse analoghe a quelle di Stati nazionali (es, ISIS e formazioni analoghe), questi strumenti possono essere utilizzati offensivamente. Quindi non solo attraverso l’hackeraggio, l’intrusione, la manipolazione di sistemi informatici (tutte condotte assai gravi ma riconducibili a condotte tipiche note) ma attraverso la manipolazione di settori dell’opinione pubblica o la determinazione con questi metodi di reazioni degli apparati di prevenzione.
In un’area più vasta, la AI può essere utilizzata per indurre comportamenti di odio (in sé punibili) attraverso meccanismi confermativi, derivanti dall’uso di algoritmi a ciò finalizzati, sia utilizzando motori di ricerca dedicati che quelli di pubblico uso. In questi casi il Bias discriminatorio è voluto. Vi sono esempi già oggetto di accertamento giudiziario, anche nel nostro Paese, legati al White Supremacism.
Il Progetto dovrà individuare specificamente queste (e altre potenziali) forme di condizionamento e valutare se esse tutte siano attualmente perseguibili, se vi siano aree che meritano la sanzione penale e quali possano essere gli strumenti sostanziali e processuali utili a tal fine.
Anche in questo caso occorrerà fare riferimento alla presenza/assenza di regolazione internazionale.
c. AI e mercati finanziari
È questo un settore ampliamente esplorato. Infatti, esso è di diretto interesse sia per le imprese che vi operano, sia per le autorità di regolazione dei mercati.
È questo, peraltro, il campo che rende manifesti tutti gli aspetti coinvolti in un esame
multidisciplinare e multilivello.
I mercati finanziari sono per loro natura ormai globali. Le interferenze nella vita pubblica possono avvenire con manipolazioni strettamente nazionali, per origini e fini e per modalità di azione. Le manipolazioni del mercato finanziario sono per loro natura transnazionali. Sono naturalmente pensabili manipolazioni di basso profilo, senza implicazioni sovranazionali. La sfida reale proviene però dalle operazioni di finanza globale, attraverso l’impiego di AI.
Ciò comporta che nessuna seria loro regolamentazione (ivi compresa la punizione delle condotte illecite) può avvenire in un contesto normativo che prescinda dalla regolazione sovranazionale.
Tra le fonti di regolazione dovrà considerarsi anche la Convenzione delle Nazioni Unite contro il Crimine Transnazionale Organizzato (UNTOC), detta Convenzione di Palermo, già sottoscritta da 190 Stati. La recente Conferenza degli Stati Membri, in occasione del ventennale della Convenzione, ha sottolineato l’importanza di affrontare con gli strumenti convenzionali i nuovi crimini e di migliorare l’impiego degli strumenti di prova elettronica.
La manipolazione dei mercati è il campo in cui emerge con maggiore chiarezza il ruolo delle grandi entità private che gestiscono i Big Data. Queste sono divenute le Nuove Compagnie delle Indie, che sfruttano le regolazioni nazionali non per ottenere diritti di privativa, come nel XVII secolo, ma libertà totale di azione. Sono assai recenti i tentativi di regolazione o, quanto meno, di regolazione dell’accesso al territorio nazionale.
I Big Data detenuti da queste compagnie costituiscono, unitamente a enormi quantitativi di dati grezzi provenienti dalle più diverse origini, l’alimentazione dei vari tipi di ML avanzati, utilizzati come base per l’analisi e le azioni automatiche sui mercati finanziari.
Le fattispecie note di reati attinenti alla finanza, come l’aggiotaggio (Stock Manipulation) e la manipolazione del mercato nelle sue varie forme (Market Abuse), vengono profondamente trasformati nelle modalità di condotta e negli effetti dall’impiego della AI.
Si pongono per questa tipologia di interferenza le medesime questioni che abbiamo esaminato con riferimento al punto b).
Gli sviluppi prossimi rendono ancora più rilevante un approccio comprensivo.
Basti pensare alle potenziali applicazioni della AI – QC nelle transazioni finanziarie globali. La riduzione dei tempi di latenza unita alla esponenziale moltiplicazione dei canali di comunicazione, alla impenetrabilità di questi canali, derivanti dall’impiego del QC, saranno decisivi per l’ordinaria gestione dei mercati e di conseguenza e ancor più per le condotte di manipolazione.
A tale ultimo proposito, va anche considerato che gli effetti della AI-QC non sono limitati a quelli sopra indicati ma includono anche le logiche di associazione probabilistica, indicando strumenti di manipolazione ben più sofisticati della diffusione di fake news.
Multidisciplinarietà e multilivello
Interlocutori necessari sono i regolatori dei diversi campi (innanzitutto autorità pubbliche ma necessariamente anche le organizzazioni private che nel settore accumulano esperienze dirette, anche attraverso ricerche e azioni concrete).
Interlocutori nel settore della sicurezza informatica e della sicurezza nazionale sono i regolatori di questo settore e le Agenzie di Informazione e Sicurezza.
Nell’area della prevenzione e repressione dei reati, si richiederà la collaborazione delle a.g. (tra cui la Procura generale della Cassazione, che ha già in corso un lavoro analogo) e con le Forze di polizia.
Centrale sarà il ruolo delle Università, sia perché in esse e attraverso esse potranno raccogliersi i più avanzati contributi scientifici e di ricerca applicata, anche interdisciplinare, sia perché obiettivo del progetto è anche la formazione del personale che opera nella prevenzione dei reati e nella giustizia.
La formazione sarà naturalmente progressiva, in quanto il coinvolgimento nei diversi aspetti del progetto di operatori (magistrati, funzionari, esperti forensi) nel contribuire alla formulazione delle ipotesi di lavoro, costituirà già momento di formazione. Sarà quindi possibile raccordare il progetto anche alle iniziative della Scuola Superiore della Magistratura e delle varie Istituzioni di formazione delle Forze di polizia.
Il progetto potrà prevedere il finanziamento di giovani studiosi, anche nella fase della preparazione di tesi laurea e di dottorato, perché contribuiscano alla formazione.
Infine, potrà ricercarsi la collaborazione di UNODC al fine di collaborare all’ampliamento delle previsioni della Convenzione di Palermo (UNTOC) in materia di reati transnazionali.
