Report K-crime: prevedere il crimine dal Key-Crime a Palantir

Sommario: 1. Introduzione – 2. K-crime – 3. Precobs e PredPol – 4. HunchLab e Palantir – 5. Critiche – 6. Conclusioni

1. Introduzione

La tematica della previsione del crimine sta ritornando fortemente in auge grazie alle nuove tecnologie. Pensiamo per esempio ai programmi come K-Crime ,Precobs , PredPol, HunchLab ed infine Palantir . L’articolo vuole indagare ed offrire spunti di riflessione e critici sull’applicazione di tali tecnologie . La tematica introdotta non è nuova se  pensiamo agli studi sviluppati sul finire del 1800 dal famoso giurista torinese Cesare Lombroso[1]  il quale  nelle sue pubblicazioni : l’uomo genio, l’uomo delinquente  e la donna delinquente tratteggiò le possibili fisionomie dei criminali . Famose sono le misurazioni circa il cranio e delle varie ossa oppure la catalogazione dei soggetti in base alle patologie , al colore della pelle ,la forma fisica oppure l’essere sposati o meno .Il metodo di lavoro ,fondato principalmente sul metodo statistico[2] e le teorie del vico nonché le varie conclusioni furono sviluppate dal giurista grazie a due principali elementi . Il primo fu l’adesione alla corrente del darwinismo sociale . Filone ipotizzato da Herbert Spencer , il quale consisteva nell’utilizzazione di strumenti ripresi per la composizione dell’origine della specie  da Darwin ed applicati alle scienze sociali come la selezione naturale e la lotta per la sopravvivenza . L’altro elemento fu  l’esperienza maturata nei vari manicomi . Esperienza che diede vita al testo  Sulle malattie proprie degli uomini dati ai lavori intellettuali  . Nel testo vennero teorizzate e spiegate le varie deficienze riscontrate . Dai due elementi nacque la  famosa tesi che i criminali fossero esseri sotto-sviluppati oppure menomati[ 3] . Inoltre secondo il giurista i caratteri della criminalità potevano essere in alcuni casi anche ereditari . Le tesi del giurista torinese trovarono una forte critica a causa sia del metodo derivante dall’utilizzo della statistica ,sia dalla debolezza delle prove offerte della veridicità delle proprie teorie . Ad esempio adeguò le proprie tesi durante lo scandalo della banca romana [4] in particolare nell’opera Sui recenti processi bancari di Roma e Parigi teorizzò il concetto di criminalità evolutiva  dove sostanzialmente alcuni reati era divenuti costumi sociali .In altre occasioni , il giurista si scaglio contro la letteratura foriera di incrementare il senso di criminalità  [5]. Malgrado l’apporto teorico debole del giurista torinese gli si riconosce generalmente la paternità della nascita dello studio della criminologia .Inoltre aderendo alla corrente dei positivisti gli  si riconosce l’intuizione di aver posto l’accento sul autore del reato e non solo sul fatto , di proseguo grazie agli indici di pericolosità si instillarono  i semi per le future misure di precauzione  , dunque volendo sistemare teoricamente il giurista è unanime che fosse espressione della tesi della prevenzione generale[6].

Con lo sviluppo del moderno diritto penale la velleità di anticipare l’azione criminale si è spostata verso altre tipologie di intellettuali .Il famoso scrittore Philipp Dick scrisse un interessante racconto chiamato Minority report .La trama consiste  in un ipotetico futuro l’umanità ha completamente eliminato gli omicidi e la maggior parte delle azioni criminali  grazie all’istituzione della polizia Precrimine, la quale  utilizza dei veggenti in grado di prevedere il futuro, i precog (abbreviazione di precognitivi), per sventare i crimini prima che questi possano essere commessi .Ancora più recente la tematica è stata affrontata anche negli anime ad esempio da Psyco-Pass . L’autore  Gen Urobuchi ha disegnato una storia dove un gruppo di persona formate da ex – galeotti capitanati da un ispettore  hanno il compito di arrestare potenziali criminali in base ad una valutazione della personalità ,delle inclinazioni e dello stato mentale  di un programma chiamato Psyco-Pass .

2. Key-crime

Uno dei primi progetti rilevanti nel campo della prevenzione del crimine è stato portato a termine da un italiano e si chiama Key-crime [7] . La società è nata dalla mente del signor Venturini ,il quale è stato fino al 2018 anche membro della polizia di stato . Proprio le difficoltà incontrate sul lavoro hanno incentivato nel CEO la volontà di creare un programma che permettesse di agevolare le forze dell’ordine . Dopo dieci anni di incubazione ed una fase di sperimentazione iniziata nel 2007 , nel 2014 è nata la Key-crime s.r.l. , quest’ultima ha sviluppato il software delia . Nella pratica il software ha una pluralità di funzione principalmente si occupa di  immagazzinare  i dati dei reati ,di analizzarli ,di proseguo evidenzia e suggerisce la miglior strategia alle forze dell’ordine . Dunque si potrebbe pensare che sia un metodo analitico di incidenza del crimine  tuttavia Venturini intervistato dal giornale cronaca-nera.it[8] ha specificato che Non è una mappatura del crimine, non è un calcolo di incidenza sul territorio. E’ un applicativo che mette insieme sociologia, matematica e statistica. L’esito ultimo è preventivo/repressivo, ma partiamo da due fatti: che la quasi totalità dei reati è su base seriale. E che c’è fortissima recidiva nei reati contro il patrimonio . Sempre sul giornale , il CEO spiega come grazie alla tecnica del crime-linking vi sia la possibilità di “ipotizzare” una possibile recidiva da parte di un criminale grazie allo studio del comportamento del criminale e al collegamento di una serie di reati grazie al machine-learning che valuta una serie di Hotspot  .Tuttavia il software presenta anche importanti limiti . Infatti può solo , paradossalmente , prevedere un criminale abituale . Malgrado l’importante limitazione di applicabilità , i risultati sono stati soddisfacenti . Infatti secondo Venturini , il grado di affidabilità di delia è migliorato moltissimo negli anni , raggiungendo circa l’80 % ,inoltre ha permesso un decremento del tasso di rapine di una forbice dal 24 al 57 % . Tuttavia riguardo l’utilizzo del machine-learning come metodo di previsione dei reati si sono levate alcune critiche , si anticipa che  una è stata fatta da Andrew Ferguson, professore di diritto presso l’Università del Distretto di Columbia . Il professore in uno studio pubblicato [9] nel 2016 analizzava la polizia previsionale evidenziando alcune criticità . Tuttavia la tematica verrà analizzata in seguito. In questo punto ci si sente di accordare una maggiore fiducia al progetto del Key-crime poiché si focalizza maggiormente sull’autore  che sul fatto a differenza di altri progetti  , emarginando una delle principali critiche circa la reale geolocalizzazione  del crimine commesso  .In conclusione il progetto sviluppato da Venturini sembra molto sostenibile specialmente in aree circoscritte mentre sorgono dubbi su contesti nazionali . Malgrado gli spunti critici il progetto è stato anche oggetto di riflessione da parte dell’FBI e del governo americano per la sua affidabilità . Nel futuro Venturini prevede di sviluppare un altro software che si chiamerà Cube , il quale , secondo il CEO ,dovrebbe avere un’applicabilità maggiore .

3. Precobs e Predpol

3.1. Precobs

Anche la Germania si è dotata di uno strumento simile al Key-crime e si chiama Precobs (Pre Crime Observation System) . Come nel precedente caso l’idea di progetto ,teorizzata da  Dr. Thomas Schweer nel 2000 verrà concretizzata solo  dopo un lungo periodo di incubazione da Christian Rams e Ralf Middendorf nel 2011 . Lo sviluppo è avvenuto in seno all’ Institut für musterbasierte Prognosetechnik(IFMPT) ,il quale attualmente detiene la proprietà del software . Quest’ultimo è stato scritto con l’obiettivo di prevedere i reati “quasi compiuti”(rapine e furti) .Nello specifico , secondo il modello  Crime Contagion Model , si teorizza di  prevedere che nell’arco di circa 72 ore dove è stato registrato un crimine ,vi sia la possibilità che si abbia un ulteriore crimine grazie alla MO (Moving Opportunity). Contrariamente a quanto affermato dal sito ufficiale , precobs ,incastrandosi in un ragionamento di crimine di contagio , esulerebbe quasi completamente la figura dell’autore valorizzando maggiormente il  concetto di Hotspot . In altre parole sarebbe più propenso a circoscrivere ghetti  che ad identificare gli autori .Dunque è maggiormente rivolte all’attuazione di strategie diversificate al fine di abbassare l’indice di contagiosità del crimine . Ad esempio migliorando le infrastrutture oppure l’ambiente . In effetti la tesi del contagio è una tesi simile alla teoria delle finestre rotte , sviluppata dal 1982, da due scienziati sociali, George L. Kelling della Rutgers University e James Q. Wilson dell’Università di Harvard . Quest’ultima teoria è stata molte volte oggetto di esperimenti per valutarne l’efficacia come nello studio di Keizer K, Lindenberg [11]. Esperimento sociale pubblicato nel 2008, il quale prevedeva la tendenza di un gruppo di giovani a disegnare graffiti in un quartiere . I risultati hanno confermato la teoria delle finestre rotte .Infatti si è registrato come il 69 % dei ragazzi avrebbe avuto maggior propensione a disegnare un graffito in un ambiente degradato, questo dovuto ad un valore basso delle regole percepite nell’area dunque di una forma di impunibilità . Ulteriori studi più aggiornati hanno invece posto l’accento sulla manutenzione dei quartieri per un senso di maggiore sicurezza e sviluppo e sulla forza dei legami come deterrente criminale [12] . Tuttavia la tesi delle finestre rotte non è ancora accolta in maniera unanime , si pensi al report  An Analysis of Quality-of-Life Summonses,Quality-of-Life Misdemeanor Arrests,and Felony Crime in New York City, 2010-2015 [13]. Il report stilato dal departimento della polizia di New York  conclude che non esiste una correlazione di crimini legati a specifiche aree. Un altro studio invece ha posto l’accento anche sui colori di un quartiere e l’indice di criminalità [14]. Infatti secondo lo studio la diversa percezione dei colori avrebbe un effetto negativo o positivo sull’indice di criminalità .In conclusione ,il pregio di Precobs è quello di valorizzare strategie alternative forse più rivolte all’amministrazione che non alla polizia , in effetti potrebbe avere maggior efficacia nel fermare l’aumento di criminalità in cluster identificati .In altre parole potrebbe essere utilizzato in un’ ottica di sterilizzazione della criminal spin. .Dal lato della fattibilità del software le prestazioni sono simili a Key-crime  , tuttavia sono messe in discussione il legame tra abbassamento del tasso di criminalità e l’efficacia del software . Le critiche direttamente collegate al software sono in relazione all’immissione di dati che avvengono da parte della centrale di polizia[15] , dunque l’area potrebbe essere soggetta a maggiori distorsioni od alterazioni .L’ambito di applicazione , come già detto in precedenza, è rivolto a determinate categorie di criminali ovvero quelli abituali ,dunque esulando la categoria dei criminali professionisti ,infine il modello del programma è molto più randommizzato se paragonato al Key-crime .Ultima critica potrebbe essere che la stessa polizia potrebbe fare un affidamento fin troppo atavico del programma [16]. Il programma è attualmente utilizzato in alcune grandi città tedesche e svizzere e sembra promettere abbastanza bene  tuttavia le critiche ivi esposte  ,sembrano ,non aver invogliato l’IFMPT a migliorare il proprio progetto.

3.2. Predpol

Nel 2012  , George Mohler ,Bill Bratton e Jeff Brantingham , un professore di antropologia presso l’UCLA , hanno deciso di utilizzare i dati COMPSTAT per scopi non solo storici ma indirizzandoli anche verso la sicurezza nazionale ,dando vita a Predpol (predictive police). La società ,nata a Las Vegas ,è famosa per la sua segretezza e la sua alta capacità innovativa ,queste qualità l’hanno portata ad da essere costantemente sotto la lente dei giornali statunitensi. Il metodo di lavoro di Predpol è molto simile alle precedenti ,ovvero si tenta di circostanziare un’area di un possibile crimine[17]. Secondo i documento in possesso di Vice si  la società ha affermato di poter prevedere un crimine in un’area di circa 500 metri quadrati . La previsione avviene attraverso un algoritmo[18]

Esso  raccoglie i dati per categorie di crimine . Inoltre i ragionamenti cardini dell’algoritmo verterebbero intorno alla ripetizione del crimine ,ovvero si presume che un furto andato a buon fine ,possa  incentivare il reo a ripetere il crimine ; unaltro punto importante è invece la Near-repeat victimization , ovvero secondo il criterio adottato dall’algoritmo ,una persona del vicinato con le stesse condizioni socio-economiche potrebbe avere una maggiore possibilità di subire un crimine . Questi punti ci fanno comprendere come tesi adottata è vicina alla teoria delle finestre rotte . Tuttavia abbiamo visto come la tesi è ancora oggi al centro di discussione anche se sembri essere abbastanza accettata .La società è stata al centro anche di numerose critiche derivanti proprio dall’utilizzo dell’algoritmo . In particolare da Boingboing che ha sollevato il problema sull’equità di trattamento [19] . Secondo il giornale , l’algoritmo sarebbe “razzista “ poiché sembra inusuale che i rei intercettati dal programma siano per quasi la totalità persone di colore. Ulteriore critica verte sull’ambito dell’applicabilità ,ovvero il giornale si muove dall’assioma che “trovi un crimine solo se lo cerchi” . In particolare nel libro  Weapons of Math Destruction .L’autrice Cathy O’Neil si è interrogata sui possibili errori di bias all’interno dei modelli di previsione . Conclude affermando che fin quando i modelli siano positivi ,il problema è marginale , tuttavia quando il modello è rivolto ad identificare dei crimini od essere afflittivo può portare conseguenze pesanti circa l’equità della giustizia . Ultima critica esposta è stata circa l’effetto dei programmi sugli agenti il quale si sarebbe abbassato del 75% [20] . La società si è difesa affermando che l’algoritmo è idoneo a perseguire il suo scopo,in effetti predpol predige su una base di crica 10 anni di reati una categoria di reato (secondo altri solo il possibile crimine) circostanziando un’area . A favore della società bisogna dire che l’algoritmo ed il modello sono modelli di previsione dunque rimane all’agente concludere con una valutazione sul campo circa l’ambito probatorio ,conseguentemente  la decisione di spiccare il mandato d’arresto o meno . Concludendo , oggi PredPol è relativamente usato negli states ,agendo in circa una trentina di città  di cui solo una quindicina sono pubbliche .

4. HunchLab e Palantir

4.1. HunchLab

La morale dietro la storia di HunchLab (in seguito HL) è la forza di una compagnia di reinventare la propria idea , adattarla e lasciarla andare . Altro punto interessante è l’ambito di applicazione molto più sociale e rivolto al cittadino  . La storia di HL è stata sinteticamente riportata in un comunicato del 23 Gennaio 2019[21] quando la società Azavea ha deciso di vendere la propria idea alla società ShotsPotter .Il comunicato a firma di Robert Cheetham ,CEO della società , ha uno spirito molto paternalistico . L’idea nacque nel 2004[22] ed ebbe un periodo di incubazione di circa 7 anni . Nel 2011  Jerry Ratcliffe and Ralph Taylor pubblicarono la prima versione di HL . Una versione molto semplice rivolta prevalentemente al mondo civile . Ovvero come scrive Cheetham , la prima idea era quella di offrire al mondo civile uno strumento preventivo di allarme . Ovvero prevedeva di dare la possibilità di consigliare l’aumento delle misure di sicurezza poiché ,secondo il programma , l’area era soggetta ad un aumento dell’indice di criminalità . Tuttavia l’idea non ebbe molto seguito . Grazie ad una serie di finanziamenti provenienti dalla National Science Foundation e l’ausilio del  professor Tony Smith,professore di statistica , l’azienda riusci’ a migliorare il  programma di HL . Tuttavia Ratcliffe incentivò di ampliare il programma  , cambiando l’obiettivo di prevedere picchi di criminalità alla polizia preventiva , ovvero sulla previsione di possibili reati . Tuttavia la società comprese ben presto di essere in ritardo confronto ai propri competitors . Inoltre l’etica aziendale adottata era in contrasto con lo strumento creato . In altre parole alcuni membri della dirigenza vedevano come un allontanamento dal proprio obiettivo sociale l’adozione di una tecnologia invasiva come HL. Dunque dopo varie consultazioni, la società orientò il prodotto verso una più completa trasparenza , l’invito a sostanziare un controllo effettivo poiché gli algoritmi sono fallibili ed infine a non voler intercettare persone ma semplicemente aree di crimine . Nel 2018 il progetto viene venduto ,tramite Falcon Capital , alla Shotspotter [23] . HL va ad integrare la tecnologia di Shotspotter . La società si occupa prevalentemente di intercettare il crimine , nello specifico attraverso una serie di sensori installati nelle città , la società intercetta i conflitti armati  o l’utilizzo di  armi di fuoco . La società è molto ben radicata essendo la sua tecnologia utilizzata ,oltre che dalla polizia di Chicago ,anche da altre 100 forze di polizia ed in generale di città . Con HL la società amplia il proprio ambito di azione integrando la polizia preventiva . Concludendo HL è forse la forma più semplicistica vista fin adesso con la semplice correlazione dei dati registrati e quelli storici .Tuttavia non si è andati avanti col progetto a causa di questioni morali estremamente importanti , infatti se Key-crime fa dell’intercettazione dell’autore una sua specialità  , di contro Azavea ha sollevato ,come anche negli altri casi , problematiche legate alla precisione dei modelli nonché alla pubblicità , all’ambito probatorio processuale ,nonché alle sentenze . Sulla via della conclusione è interessante riportare in sintesi i problemi riscontrati dagli agenti durante il loro pattugliamento . Sul the Verge [24] Chomman ed Hansen hanno riportato la giornata dell’agente Keener . L’agente è un veterano della zona di St.Louis  e conosce in maniera più o meno perfetta la zona , compreso le zone grigie e sub-urbane . Dal 2014 , il dipartimento di polizia decise di adottare il programma HL . Dopo un periodo di tempo , l’agente notò delle dicotomie di aree  segnalate come maggiormente soggette al crimine tra il programma e la sua esperienza. Dunque la conclusione offerta dall’agente Keener è che  il programma potrebbe favorire le leve ma meno gli esperti . In conclusione è interessante notare come Azavea sia stata l’unica ad evidenziare il problema morale in maniera esplicita , in particolar modo riguardo l’ambito processuale . La tematica esposta è estremamente importante soprattutto senza una legislazione di riferimento . Pensiamo ad uno degli effetti come quello descritto da un articolo di Marshal Project [25] ,il quale parla di un progetto iniziato in Pennsylvania nel 2015 dove si è ipotizzato che i giudici potessero emanare sentenze su dati statistici e non solo su crimini effettivamente commessi .Dall’articolo si evidenzia una forte contrapposizione tra chi sostiene come un 1/3 delle persone ritorni in carcere dopo un periodo di tempo mentre i contrari evidenziano come vi sarebbero 2/3 che maturerebbero una pena aggiunta ingiusta . Quest’ipotesi è stata pesantemente criticata da Attorney General Eric Holder [26] in un suo intervento presso la National Association of Criminal Defense Lawyers . In particolare afferma “ Le condanne penali devono essere basate sui fatti, la legge, i crimini effettivi commessi, le circostanze che circondano ogni singolo caso e la storia di condotta criminale dell’imputato. Essi non dovrebbero essere basate su fattori immutabili che una persona non può controllare, o sulla possibilità di un crimine futuro che non ha avuto luogo “ . A discrimen , la tesi trovava un ambito di applicazione solo per le recidive . Ulteriore conseguenza sarebbe l’altissima probabilità che in un  sistema sostanzialmente diseguale come quello statunitense si potrebbero acuire le disparità di trattamento . Pensiamo ad un soggetto che abbiamo ricevuto una pena , passato tempo , il software lo individua come possibile autore di un altro reato ,l’autore riceverebbe oltre ad una plausibile aggravante ,la recidiva,ma anche un aumento di pena dovuto all’altissima possibilità statistica di recidiva . Questo scenario ,aberrante di per se , presuppone che i due reati siano stati giudicati da un processo qualitativamente idoneo , in altre parole senza errori . Ovvero ci potrebbero essere una somma di ingiustizie . Fortunatamente l’ordinamento italiano non permetterebbe un cosi danno applicazione del diritto penale ,poiché palesemente osterebbe contro l’art 27 della cost. nonché al principio di divieto di irretroattività e certezza del fatto . Rimane il timore di una possibile applicazione di paesi che non abbiano avuto una matura conoscenza giuridica , potendo porre lo strumento penale in una visione retributiva ,dunque non general preventiva , e per finalità lontane dalla correzione del detenuto .

4.2 Palantir

L’analisi di Palantir ci porterà a riflettere sulla trasparenza e sulla commistione tra potere governativo e commerciale . La società denominata Palantir Technologies  è comunemente conosciuta solo col nome di Palantir ed è un chiaro omaggio al signore degli anelli [27]. La società è stata fondata nel 2003 da Peter Thiel , Nathan Gettings, Joe Lonsdale , Stephen Cohen e Alex Karp ed ha sede in Colorado . Palantir si occupa di analisi dei dati che sono distinti su tre grandi progetti :Gotham ,Metropolis e Foundry . Negli anni la società ha registrato una crescita di valore esponenziale raggiungendo nel 2019 l’importante cifra dei 20 miliardi . Tuttavia la valutazione è oggetto di contestazione poiché la società è privata, rifiutando ogni ingresso in borsa, dunque non è possibile effettuare una stima più affidabile . Come detto in precedenza la società si occupa di gestione dei dati , ovvero offre all’utente la possibilità di gestire i propri dati ,sia in forma strutturata ,dunque attraverso un modello , sia in forma destrutturata , dunque in assenza di modello . L’applicazione è estremamente strumentale e si pone di valutare una serie di dinamiche e dati ,tra cui i bias, al fine di migliorare la logistica e la previsione di eventi . La validità dei prodotti sviluppati sono stati molte volte punti cardini per la scoperta di reti di hacker come GostNet e ShadowNetwork . Questo ha garantito alla società importanti contratti con le più importanti agenzie americane come la CIA,l’FBI ,la NSA[28] ed infine la NHS .Contratti che hanno portato Palantir ad essere una società presente in molteplici contesti di guerra ,si veda l’applicazione nella guerra dell’Afghanistan;contro il terrorismo[29] ; negli scenari post tragedia ,si veda dopo l’urgano Catherina e  nella guerra dei proxy[30] . Infine è arrivata competere nel 2013 col Distributed Common Ground System (DCGS) ovvero il sistema di produzione e coordinamento logistico dell’ intelligence americana [31]. Insomma , Palantir sembra essere la società più all’avanguardia tra quelle esaminate. Tuttavia per una società abituata a viaggiare tra il fosco ed il chiaro non possono non mancare degli scandali che hanno messo in luce le modalità  di assunzione ,le quali sono risulatate altamente nazionaliste ; sia l’ambito di applicazione dei  vari programmi sviluppati dalla società.Nel primo caso la società  nel 2016 venne  coinvolta in un causa di discriminazione poiché eliminava i candidati in base alla provenienza , in particolare  gli asiatici rappresentavano la percentuale più alta[32] . Il secondo caso , maggiormente in relazione all’oggetto dell’articolo , è l’ambito di applicabilità dei suoi strumenti .La storia è stata riportata dal the Verge [33]. Nel 2013 la città di New Orleans stava affrontando un alto picco di criminalità . Per aiutarsi nella ricerca dei vari criminali ,nello specifico era una banda di spacciatori , le autorità locali si rivolsero alla società del solitario miliardario Peter Thiel . Palantir adottando un programma  che si chiamava  NOPD  riusci’ a sgominare la banda grazie ad un serie di triangolazioni di conversazioni sui social ,telefoniche  ed utilizzo di GPS per monitorare i percorsi  e le basi dei criminali. La società riusci’ nell’obiettivo guadagnandosi il rinnovo del contratto fino al 2018 . I problemi sono sorti quando si scropri’ che il contratto della società  era segregato ,solo dopo forti pressioni venne pubblicato , scoprendo come l’aggiudicazione non fosse avvenuta per incanto pubblico ma per una donazione .Di proseguo , anche al momento della scadenza la società ha continuato a monitorare praticamente tutta la città di New Orleans all’insaputa dei suoi cittadini e dei vari consiglieri. Per concludere la sequela di casi , Cade Metz, Erin Griffith e Kate Conger[34] hanno analizzato gli ultimi periodi e sviluppi della società sulle pagine del New York Times. Tra la cessione di Metropolis e l’inizio di un nuovo progetto conteso con la  Maven , gli autori spulciano tra le righe del bilancio di Palantir. Ovvero hanno scoperto come la principale società di analisi dei dati e creazione softwares in tema non abbia prodotto alcun utile dal 2003 , pur aggiudicandosi contratti federali miliardari .Infatti secondo il giornale , Palantir avrebbe chiuso solo lo scorso anno contratti per il valore di 3 miliardi . Avviandoci verso la conclusione , Palantir sembra essere una delle società più forti del settore cooperand[35]o assiduamente col governo statunitense , tuttavia come affermato sul New York Times  da Jack Poulson, direttore esecutivo di Tech Inquiry, Palantir coopererebbe insieme ad altre imprese storicamente legate al governo come Oracle, Microsoft e Amazon . Di contro ,al momento in cui si scrive , la società mantiene un assetto privato ed una posizione di monopolio grazie alla proprietà dei softwares[36] . Ponendo delle riflessioni sul punto , è intuibile comprendere come la società detenga un potere sia attuale che potenziale abbastanza elevato  , il quale non è controbilanciato da garanzie idonee come la forma societaria e la pubblicità dei documenti ,specialmente in capo ai bilanci e ai propri software . Anche l’etica della società è abbastanza criticabile poiché si è potuto osservare in precedenza Palantir . Dunque è necessario concludere come sia importante far esercitare tale attività solo in capo ad alcune forme societarie ,idonee a garantire un contraddittorio per quanto minimo possa essere .Inoltre anche la pubblicazione dei files dovrebbe essere più limpida e intuitiva. Ulteriore punto i contratti conclusi aventi ad effetto una forte possibilità di infiltrazione della privacay dovrebbero essere tipizzati , di conseguenza dovrebbero contenere  quantomeno la definizione di un termine e la possibilità di adire tempestivamente una giurisdizione o authorities .Dunque nel caso americano, servirebbe la riforma del FOIA[37] al fine di mitigare il diniego d’accesso . In campo italiano la visione sembra essere più rassicurante ,ma sarebbe idoneo tipizzare il contratto  ed assegnare il controllo all’agenzia dell’antitrust e della privacy.

5. Critiche

Nei punti precedenti abbiamo analizzato alcuni casi che hanno evidenziato punti critici nei confronti delle tecnologie che vorrebbero anticipare l’azione criminale . Il lettore si sarà accorto come l’azione criminale non è formalmente predetta ma semplicemente profetizzata, con tutta l’alea del termine . Dunque,salvo il caso di alcuni esperimenti già censurati in precedenza , la tecnologia posta in essere serve per delineare degli hotspot criminali ,dentro di essi si procede in due modalità . Nella prima ,maggiormente rivolta verso l’autore , si tenderà a punire la recidiva ,nella seconda invece si tenderà ad utilizzare categorie di reato e correlarle per identificare un possibile crimine. Uno degli articoli critici più importanti è stato scritto da Andrew Ferguson e si chiama Predictive Policing and Reasonable Suspicion [38] . Una prima critica di Ferguson è legata all’incertezza degli algoritmi . Più che altro , secondo Ferguson , l’algoritmo evidenzierebbe la vulnerabilità del luogo e non la certezza di un crimine . In altre parole , se in un parcheggio si rubano un statisticamente un certo numero di auto , il problema non risiederebbe nel catturare il criminale ,dunque l’alea di un crimine futuro ma tutt’altro si dovrebbe migliorare il sistema di sicurezza . Dunque sintetizzando , l’algoritmo evidenzierebbe una carenza di misure di sicurezza e non la probabilità di un crimine . Una seconda critica è  correlata alla tipologia del crimine  . Nei casi previsti si è potuto notare come i crimini perseguiti siano prevalentemente la categoria dei crimini predatori e alcune tipologie contro la persona come l’omicidio .Dunque sono emarginati dai casi molte categorie di reati come la prostituzione ,poiché raramente denunciati o i più articolati come frodi , corruzione , aggiotaggio ed altri crimini dei colletti bianchi . Una terza critica è rivolta alla bontà e fattibilità dei dati . Infatti nei casi previsti , si è potuto notare come una fase delicata del processo  statistico sia la registrazione del crimine . Innanzitutto , l’area geografica  ,ovvero la registrazione del crimine dovrebbe aversi nell’area più contigua al reato  ,tuttavia non sempre è cosi ,dunque i dati potrebbero essere distorti . Un ulteriore punto sarebbe l’analisi storica dei crimini , sorge il dubbio sulla bontà dei dati raccolti nel tempo , in particolare evidenziando la precisione di essi . L’errata registrazione e correlazione storica potrebbe portare il programma ad evidenziare pericolose zone, non solo imprecise , ma che un poliziotto con esperienza del posto  qualificherebbe diversamente .Di proseguo , vi sarebbe la legittima dei dati acquisiti ,di conseguenza delle previsioni nonché l’ambito di applicazione . Innanzitutto , vi sarebbe la legittimità delle previsioni sui dati acquisiti . Ovvero è possibile acquisire prove da una palese violazione della privacy o derivante da una base legale assente ,per esempio un contratto  oramai scaduto . Tuttavia pur ammettendo l’ammissione , le previsioni potrebbero essere utilizzate come indizi e non come prove poiché osterebbe col principio di causalità dell’evento , tuttavia saranno ammessi i dati scomposti ,per esempio le intercettazioni .. Inoltre ancora più marginale sarebbe l’ipotesi per categorie di reato ,alle quali l’articolo 27 cost. posterebbe un forte veto . Infine sembra ostare all’applicazione delle previsioni le norme in relazione alle prove ovvero dall’articolo 187 all’articolo 193 cpp.

In un altro  storico paper scritto da  Harcourt che si chiamava Against Prediction: Sentencing, Policing, and Punishing in an Actuarial Age[39] si poneva,oltre ad alcune critiche dette in precedenza  ,si concentrava sul problema di quale regime dare al sistema penale . Ovvero secondo il giurista l’adozione di una tecnologia tale sarebbe orientale il sistema penale verso un maggiore  visione retributiva anziché rivolta verso una rieducazione del reo . Peraltro ,tale visione è podromo anche della costituzione italiana all’articolo 27. Con quest’ultima riflessione possiamo avviarci verso la fine dell’articolo ,tirando le varie conclusioni .

6. Conclusioni

L’anno scorso Richardson e Rashida tirarono le somme dei vari predictive police programs nell’articolo  Dirty Data, Bad Predictions: How Civil Rights Violations Impact Police Data, Predictive Policing Systems, and justice  . I due evidenziarono come i più colpiti dai programmi di polizia previsionale fossero persone di ceto meno abbiente . In alcuni casi , i poliziotti vennero spediti più volte alla casa della stessa persona .  Gli autori hanno continuato evidenziando con i programmi vadano ad acuire le situazioni già instabili delle comunità sub-urbane nonché ad emarginare le varie minoranze  . Dalle critiche predette ,possiamo giungere alla conclusione che il sogno di Lombroso ,di Dick oppure del giudice dell’opera del Processo di Kafka rimane tale .Ovvero innanzitutto non può parlarsi di polizia previsionale nel senso letterale del termine  ,ma sarebbe più idoneo parlare di polizia probabilistica . Inoltre si è visto come le varie carenze riscontrate nel 5 punto non permettono un uso adeguato delle varie tecnologie nell’ambito legale tuttavia sono ottime per evidenziare  zone bisognose di strategia di miglioramento . In conclusione , non è possibile esprimere al meglio un considerazione soddisfacente circa l’utilizzo delle tecnologie preventive -Tuttavia ,allo stato attuale delle cose ,potrebbe essere un ottimo strumento di pianificazione e di addestramento per le forze dell’ordine nonché un ottimo strumento di pianificazione e riqualificazione amministrativa.

[1]-Lucia Rodler, « L’Uomo delinquente di Cesare Lombroso: tra scienza e letteratura », Criminocorpus [En ligne], Histoire de la criminologie, 4. L’anthropologie criminelle en Europe, mis en ligne le 24 mai 2012, consulté le 25 août 2020. URL : http://journals.openedition.org/criminocorpus/1905

[2] – In tema di statistica il Lombroso si accostò al metodo sviluppato dallo statistico belga Adolphe-Jacques-Lambert Quetelet . Il sistema introdotto nel testo fisica sociale consisteva nell’individuazione della figura dell’uomo medio . Quest’ultimo era inteso come media delle caratteristiche presenti in un sistema sociale.

[3]- Lombroso ricalcava pesantemente la correlazione tra epilessia e fenomeni di criminalità ,tantoché giunse alla conclusione che il criminale fosse un epilettico . In aggiunta espanse la sua tesi differenziandola in “epilessia larvata”, “epilessia psichica” o “epilettoidismo” . Quest’ultimi erano in relazione al danno rilevato

[4] lo scandalo della banca romana fu uno scandalo scoppiato nel 1892 che vide al centro la banca romana ,ovvero una delle sei banche che avevano il permesso da parte della banca centrale di stampare moneta . Le altre sei erano Banca Nazionale del Regno d’Italia, Banca Nazionale Toscana, Banca Toscana di Credito per le Industrie e il Commercio d’Italia, Banco di Napoli, Banco di Sicilia e Banca Romana . Nel 1892 il governatore Bernardo Tanlongo chiese alla banca centrale di poter ritirare dal mercato circa 25 milioni di lire poiché usurate ,nel frattempo diede ordine di stampare moneta con lo stesso numero di matrice e firma perpetuando un reato nei confronti dell’erario .Durante il processo si scopri che la finalità del ritiro delle banconote era per coprire un ammanco di 25 milioni di lire per operazioni di banca allegre .Per ulteriori informazioni rimando al sito : https://www.startingfinance.com/approfondimenti/lo-scandalo-della-banca-romana-la-nascita-banca-ditalia/

[5]  La tesi è portata nel testo l’uomo delinquente

[6] C.Fiore ,S.Fiore Diritto Penale ,parte generale UTET V ed ,43-44 .

[7]-Sito della società https://www.keycrime.com/

[8] http://www.cronaca-nera.it/4038/milano-key-crime-software-prevede-reati

[9] Ferguson, Andrew Guthrie, Policing Predictive Policing (April 15, 2016). Washington University Law Review, Vol. 94, No. 5, 2017, Available at SSRN: https://ssrn.com/abstract=2765525

[10] Sito Ufficiale Precobs https://www.ifmpt.de/nearrepeats.html

[11] Keizer K, Lindenberg S, Steg L. The spreading of disorder. Science. 2008;322(5908):1681-1685. doi:10.1126/science.1161405

[12] O’Brien DT, Wilson DS. Community perception: the ability to assess the safety of unfamiliar neighborhoods and respond adaptively. J Pers Soc Psychol. 2011;100(4):606-620. doi:10.1037/a0022803

[13]New York Police Department: An Analysis of Quality-of-Life Summonses, Quality-of-Life Misdemeanor Arrests, and Felony Crime in New York City,2010-2015

[14] Kotabe HP, Kardan O, Berman MG. The order of disorder: Deconstructing visual disorder and its effect on rule-breaking. J Exp Psychol Gen. 2016;145(12):1713-1727. doi:10.1037/xge0000240

[15] M. Monroy, LKA-Studie erklärt Für und Wider von “Predictive Policing” – Auch BKA liebäugelt jetzt mit Vorhersagesoftware, netzpolitik.org. 2016

[16] K. Biermann, Noch hat niemand bewiesen, dass Data Mining der Polizei hilft , zeit.de. Estratto 25 febbraio il 2016

[17] Koebler, Jason; Haskins, Caroline (6 February 2019). “Dozens of Cities Have Secretly Experimented With Predictive Policing Software”. Vice.

[18] Algoritmo di Predpol https://www.predpol.com/technology/

[19] BoingBoing https://boingboing.net/2016/10/09/though-crime-happens-everywher.html

[20] Ibidem

[21] Comunicato della società Azavea https://www.azavea.com/blog/2019/01/23/why-we-sold-hunchlab/

[22] HunchLab: Under the Wood https://cdn.azavea.com/pdfs/hunchlab/HunchLab-Under-the-Hood.pdf

[23] ShootsPotter annuncio vendita:  https://www.shotspotter.com/press-releases/shotspotter-announces-acquisition-of-hunchlab-to-springboard-into-ai-driven-analysis-and-predictive-policing/

[24] Chammah Maurice, Hansen Mark st.Luois police HunchLab ,the Verge,2016.

https://www.theverge.com/2016/2/3/10895804/st-louis-police-hunchlab-predictive-policing-marshall-project

[25] Goldstein , The New Science of Sentencing,MarshallProject 2015

https://www.themarshallproject.org/2015/08/04/the-new-science-of-sentencing#.GrC29Frln

[26] Attorney General Eric Holder Speaks at the National Association of Criminal Defense Lawyers 57th Annual Meeting and 13th State Criminal Justice Network Conference https://www.justice.gov/opa/speech/attorney-general-eric-holder-speaks-national-association-criminal-defense-lawyers-57th

[27] Palantir technologies ,sito ufficiale https://www.palantir.com/

[28] Burns, Matt (January 11, 2015). “Leaked Palantir Doc Reveals Uses, Specific Functions And Key Clients”. TechCrunch. Retrieved 2015-02-21.

[29] Vance, Ashlee; Stone, Brad (November 22, 2011). “Palantir, the War on Terror’s Secret Weapon: A Silicon Valley startup that collates threats has quietly become indispensable to the U.S. intelligence community”. Business Week Magazine. Retrieved September 28, 2013.

[30]Documento pubblicato dalla società in relazione a Gostnet e proxy

https://www.palantir.com/wp-assets/wp-content/uploads/2012/08/ImpactStudy_GhostNet.pdf

[31] No spy software scandal here, Army claims. Wired Aug. 2012″”. Archived from the original on 2013-11-16. Retrieved 2019-07-28.

[32] Kosof Maya , US Government sues Peter Thiel’s secretive big data start-up for discrimination ,Vanity Fair, 2016 https://www.vanityfair.com/news/2016/09/us-government-sues-palantir-discrimination

[33] Winston Ali , Palantir Has secretly been using new Orleans to test its predictive policing technology, The verge 2018 https://www.theverge.com/2018/2/27/17054740/palantir-predictive-policing-tool-new-orleans-nopd .

[34] Cade Metz, Erin Griffith e Kate Conger What’s a Palantir? The Tech Industry’s Next Big I.P.O., New York Times 26/08/2020

[35] Ibidem

[36] Ibidem

[37] Freedom of information act(FOIA) http://egov.formez.it/sites/all/files/foia.pdf

[38] Ferguson, Andrew Guthrie, Predictive Policing and Reasonable Suspicion (May 2, 2012). 62 Emory Law Journal 259 (2012), Available at SSRN: https://ssrn.com/abstract=2050001

[39]Harcourt, Bernard E., Against Prediction: Sentencing, Policing, and Punishing in an Actuarial Age (May 2005). Chicago Public Law and Legal Theory Working Paper No. 94, Available at SSRN: https://ssrn.com/abstract=756945 or http://dx.doi.org/10.2139/ssrn.756945

[40]Richardson, Rashida and Schultz, Jason and Crawford, Kate, Dirty Data, Bad Predictions: How Civil Rights Violations Impact Police Data, Predictive Policing Systems, and Justice (February 13, 2019). 94 N.Y.U. L. REV. ONLINE 192 (2019), Available at SSRN: https://ssrn.com/abstract=3333423

[41] Doshi-Velez, Finale and Kortz, Mason and Budish, Ryan and Bavitz, Christopher and Gershman, Samuel J. and O’Brien, David and Scott, Kate and Shieber, Stuart and Waldo, Jim and Weinberger, David and Weller, Adrian and Wood, Alexandra, Accountability of AI Under the Law: The Role of Explanation (November 3, 2017). Berkman Center Research Publication, Forthcoming, Available at SSRN: https://ssrn.com/abstract=3064761 or http://dx.doi.org/10.2139/ssrn.3064761

[42]Madden, Mary and Gilman, Michele E. and Levy, Karen and Marwick, Alice E., Privacy, Poverty and Big Data: A Matrix of Vulnerabilities for Poor Americans (March 9, 2017). 95 Washington University Law Review 53 (2017), Available at SSRN: https://ssrn.com/abstract=2930247

The following two tabs change content below.

• Bio
• Latest Posts

Vladimir Di Costanzo

Latest posts by Vladimir Di Costanzo (see all)

• Hawala: peculiarità di un sistema di trasferimento informale di denaro - 16 June 2024
• Il mistero delle Number Station: i messaggi indecifrabili - 2 August 2023
• Golden Power: storia e disciplina dal Golden Share al Golden Power rafforzato - 23 March 2023