“La tua faccia ci appartiene”: l’inquietante inchiesta di Kashmir Hill sull’app che fornisce software di riconoscimento facciale

La giornalista Kashmir Hill (che ha lavorato per il Washington Post e il New Yorker e che attualmente scrive per il New York Times, dove si occupa di tecnologia, e in particolare delle sue ripercussioni sulla privacy) firma un libro-inchiesta destinato a far discutere: La tua faccia ci appartiene. Al centro, l’app Clearview AI, che fornisce software di riconoscimento facciale.

Sì perché, di qui a qualche mese, può essere che uno sconosciuto vi rubi uno scatto col cellulare per strada, o al ristorante: e che da quello scatto, in pochi secondi, ricavi il vostro nome, il vostro indirizzo, e l’accesso a tutti i vostri social. Questo perché avrà scaricato la app in questione, di cui in questa indagine – che è anche, inevitabilmente, un thriller – l’autrice ricostruisce la storia.

Difficile dire cosa attragga e inquieti di più, in questo libro, se l’inafferrabile fondatore della start up, Ton-That, che si segnala per le giacche preferibilmente rosa e i capelli lunghissimi, eppure sfugge a Hill fin quasi all’ultima scena – o il mondo che, nei garage e negli open space della Valley, i Ton-That che vivono in mezzo a noi stanno costruendo senza che ce ne rendiamo conto.

Un mondo dove vecchie abitudini come l’identità si trasformano in un pulviscolo di dati che la polizia stessa usa per conto di non si sa chi, e dove i programmatori disegnano macchine sempre più sofisticate e potenti senza sapere cosa potranno o vorranno fare, una volta rilasciate. E senza che, a quanto apprendiamo con terrore una pagina dopo l’altra, neanche le macchine lo sappiano. Non fino in fondo, almeno.

Su ilLibraio.it, per gentile concessione della casa editrice, proponiamo un estratto:

(…) Essendo piuttosto evidente che Clearview non aveva la minima intenzione di parlarmi ho tentato un’altra strada, e cioè cercare di capire se lo strumento fosse efficace come dicevano. Ho rintracciato qualche agente che la stava usando, a cominciare da Nick Ferrara, un detective di Gainesville, in Florida. E per la prima volta ho trovato qualcuno disposto a parlare di Clearview ai con me. Cioè, più che disposto, entusiasta.

«La adoro. È pazzesca. Sarei pronto a farle da testimonial, se me lo chiedessero,» ha attaccato.

Il detective Ferrara aveva sentito parlare per la prima volta di Clearview scorrendo una pubblicità su CrimeDex, un sito per investigatori specializzati in reati finanziari. Presentandosi come «Google per le facce», Clearview offriva trenta giorni di prova gratuita. Bastava iscriversi con una mail, e Ferrara lo aveva fatto.

Appena entrato, si era fatto un selfie, e avviato la ricerca. Il primo risultato era stata la sua foto profilo su Venmo, comprensiva di link alla sua pagina del sito per pagamenti online. Impressionante.

In quel momento Ferrara aveva una decina di casi aperti, e come unico indizio le foto dei presunti truffatori davanti a un bancomat, o a una cassa della filiale. In precedenza aveva sottoposto le immagini a uno strumento di riconoscimento facciale fornito dallo stato, ma senza risultati. Poi ci aveva provato con Clearview, ottenendo una vera e propria raffica di riscontri. In un lampo aveva identificato trenta sospetti. Incredibile.

I sistemi di riconoscimento che Ferrara aveva provato fin lì funzionavano solo con ritratti frontali di soggetti che possibilmente guardassero in macchina, mentre Clearview sembrava cavarsela anche con occhiali, cappelli, e persino volti visibili solo in parte. E ancora, gli altri programmi lavoravano esclusivamente su facce di persone arrestate, o che avessero ottenuto la patente in Florida, mentre i risultati di Clearview arrivavano non solo da qualsiasi angolo del paese, ma anche dall’estero. Ferrara stentava a crederci.

Un sabato sera, mentre era di pattuglia nel centro di Gainesville, aveva incrociato davanti a un bar un gruppo di ragazzi, cui aveva chiesto prima com’era andata la serata, e poi se erano disponibili a fare un esperimento, e cioè a essere identificati.

Siccome lo erano, li aveva fotografati uno per uno alla luce fioca dei lampioni. Clearview li aveva immediatamente riconosciuti tutti e cinque, rinviando alle loro pagine Facebook e Instagram, e di quattro aveva anche trovato il nome. Pure gli studenti ci erano rimasti, pensando subito che quell’affare avrebbe funzionato da pazzi per le feste. «Ma lo possiamo usare anche noi?» avevano chiesto. «No,» gli aveva spiegato Ferrara, «è solo per la polizia».

«Fa molto Grande Fratello,» aveva detto uno dei ragazzi.

A questo punto volevo vederlo di persona, come funzionava questa app fantasmagorica. Ferrara si è offerto di farmi una demo, sostenendo che l’unica cosa che gli serviva era una mia immagine. Mandare una foto per mail a un poliziotto mai visto prima mi sembrava un po’ strano, ma per una storia sono quasi sempre pronta a sacrificare la mia privacy. Gliene ho mandate addirittura tre: una con cappello e occhiali da sole,

una con gli occhi chiusi, una sorridente.

E mi sono messa ad aspettare una risposta.

Che non è mai arrivata.

Ho quindi contattato un altro investigatore, il capitano Daniel Zientek, che lavorava in Texas, a The Woodlands. Zientek aveva appena usato Clearview per identificare un presunto stupratore basandosi su una foto scattata la sera stessa dalla vittima, ma, a quanto aveva visto, ogni volta che gli era servita l’app funzionava sempre. O quasi. Faceva cilecca solo quando qualcuno non era su internet: «Se non sei online, non ti trova» mi ha detto.

Prima che mi mettessi a discutere sulla legittimità di legare qualcuno a un crimine sulla sola base di una fotografia, Zientek ci ha tenuto molto a spiegarmi che un riscontro su Clearview non avrebbe mai e poi mai portato a un arresto, dal momento che «si passa comunque attraverso un’istruttoria».

Poi mi ha detto che se gli facevo avere una foto mi avrebbe mostrato come funzionava. Gliene ho spedita una per mail, e un attimo dopo mi ha risposto che non c’erano riscontri.

Piuttosto strano. Online ci sono milioni di foto mie.

Gliene ho mandata un’altra, stesso risultato.

Zientek era sorpreso. E anch’io. Pensavo di essermi imbattuta in un riconoscimento facciale di nuova generazione. Non aveva senso. Per Zientek poteva essere un problema tecnico, magari i server erano caduti.

Dopodiché anche lui ha smesso di rispondermi.

(continua in libreria…)

Fotografia header: Kashmir Hill © Earl Wilson