Cosa resta della presunzione di innocenza nel governo dell’algoritmo? “Il Dream Hotel” mostra un futuro già presente

L’idea di aprire Instagram e di trovare la sezione “per te” intasata di contenuti su argomenti di cui si ha conversato soltanto poche ore prima con gli amici è o no un po’ inquietante? Forse ultimamente lo si dà così per scontato, soltanto dieci anni fa sarebbe stato considerato impensabile.

“Algoritmo” era una parola che non si sentiva in giro o nelle conversioni da bar. Adesso la usano persino gli over 50. È naturale, allora, che la letteratura anticipi le derive di un processo – in questo caso tecnologico – ormai così fulmineo e inarrestabile da sembrare impercettibile.

È quello che fa Laila Lalami in Il Dream Hotel (edito da tre60 nella traduzione di Maddalena Togliani), il suo nuovo romanzo distopico che poi, appunto, così distopico non è.

Qui l’autrice immagina un mondo in cui non serve un reato per essere arrestati, né prove o moventi. Basta un calcolo statistico e ci si ritrova in detenzione preventiva per “rischio imminente” alla salvaguardia altrui.

Sara Hussein, la protagonista, cerca di restare a galla tra il lavoro, un marito e due gemellini di appena due anni che hanno trasformato le sue notti in un interminabile stato di veglia. Sfinita e alla disperata ricerca di riposo, decide di affidarsi al Dreamasaver, un dispositivo capace di migliorare il sonno. Ma il riposo ha un prezzo altissimo: chi sceglie il Dreamasaver accetta che i propri sogni vengano analizzati dal governo, in nome della sicurezza nazionale.

Al ritorno da uno dei tanti viaggi di lavoro, Sara viene fermata all’aeroporto. Nessun reato commesso, solo un verdetto algoritmico: “potenzialmente pericolosa”. Il sistema ha previsto che potrebbe compiere un atto violento e quindi viene trasferita a Madison, un centro di prevenzione del crimine dove sono recluse altre donne come lei, colpevoli soltanto di ciò che il loro subconscio ha lasciato intravedere.

Da questo momento Sara, trattenuta in una struttura claustrofobica in cui le regole sono ferree e i viveri razionati, sarà sorvegliata giorno e notte da telecamere, microfoni e guardie, in attesa che il suo “punteggio di rischio” si abbassi. Non ha importanza che non ci siano prove concrete che giustifichino quella prigionia.

Con uno stile che è al contempo incalzante e freddo come le pareti di Madison, Lalami costruisce una narrazione che carica lettori e lettrici di suspense, ma anche di angoscia. Chi legge vuole sapere che cosa succederà a Sara, ma ha anche la sensazione che in gioco non ci sia solo il suo destino.

Algocrazia, il governo algoritmico

Algocrazia, insomma, cioè il governo algoritmico: uno Stato che per far rispettare le leggi si affida alle intelligenze artificiali, senza passare per il processo decisionale umano.

Fa paura? Abbastanza, ed è proprio questo l’intento di Lalami: spaventare e spingere a riflettere sulla possibilità di un futuro molto prossimo. Se non fosse che, mentre scriveva queste pagine, il domani che immaginava a Madison sta diventando l’oggi.

È vero che nessun paese oggi può definirsi del tutto “algocratico”, ma alcuni non sembrano così lontani dall’esserlo. Non ci sono (forse) ancora aziende che entrano direttamente nei cellulari della gente, ma senza dubbio ne esistono che analizzano dati forniti dai clienti o raccolti dal governo stesso.

È normale che un governo – anche solo per motivi di ordine pubblico – possieda i dati dei suoi cittadini, siano essi di natura anagrafica, sanitaria, lavorativa, finanziaria o giudiziaria. Ma servirsi di società che li aggreghino in un unico database consente di avere a disposizione una panoramica unica su ogni singola persona che risiede in un determinato Paese. Milioni di profili generati da un algoritmo che, scandagliando i dati dei privati, li cataloga in base al livello di rischio che rappresentano per la società.

E finché si è tutti d’accordo su ciò che è considerabile “rischio” –  il possesso di armi da parte di privati cittadini senza regolare porto d’armi, per esempio – tutto bene. Ma se fosse un’opinione diversa da quella del governo? Queste aziende sarebbero in grado di intercettarla e decidere se tenere il mirino puntato su chi la possiede.

In sostanza significa che se l’algoritmo creato dagli esseri umani (ma solo alcuni esseri umani) stabilisce che si è pericolosi, diventa inefficiente capirne il perché. Lo si è e basta. Che è quello che succede a Sara, la protagonista di Il Dream Hotel.

A questo punto qualcuno potrebbe obiettare qualcosa come “beh, ma se non si ha niente da nascondere, se non si fa niente di male, qual è il problema di essere monitorati?” Nessuno, ma solo fino a quando si condivide ciò che si considera “niente di male”…

Fotografia header: Laila Lalami nella foto di Beowulf Sheehan