Le polemiche sui libri scritti (forse) con l’AI: dal “caso Goncourt” ai timori di Giordano

Essere artificiale o non essere artificiale? Sembra ormai essere questo uno dei temi (e dei dubbi) centrali nel dibattito letterario (ed editoriale) contemporaneo. Soprattutto in Francia, dove lo scrittore canadese-haitiano Thélyson Orélien è stato escluso dal premio Goncourt (il più prestigioso riconoscimento transalpino, che verrà assegnato il 3 novembre) in quanto avrebbe fatto largo uso dell’intelligenza artificiale per la stesura del suo C’était ça ou mourir (Grasset). Il condizionale, come vedremo, è d’obbligo.

L’accusa a Thélyson Orélien e le scoperte

Ma procediamo con ordine. Pubblicato a marzo in Canada e ad agosto in Francia, il romanzo dello scrittore 38enne è stato accusato di essere scritto “quasi interamente” con il supporto dell’IA da un account anonimo su X, che avrebbe sottoposto il testo all’analisi del software Pangram (strumento creato proprio per rilevare testi generati artificialmente). Se in un primo momento l’Académie Goncourt ha suggerito prudenza, in Canada la stampa ha riproposto alcuni racconti di Orélien accusati di plagio.

E così, dopo ricerche che non hanno offerto dati certi (non pochi sostengono che gli stessi strumenti di analisi siano poco efficaci, e altrettanti si chiedono se abbia senso che siano strumenti di AI a esprimere verdetti su testi scritti o meno con il supporto dell’AI…), l’Accademia ha deciso di escludere il romanzo con l’intento di “preservare l’integrità del Premio“: “Non approviamo né tolleriamo in alcun modo la creazione di testi generati con l’ausilio dell’intelligenza artificiale”.

Nel frattempo, Samuel Fitoussi, giornalista di Le Figaro, ha affermato di essere una delle persone che gestiscono l’account anonimo da cui è partita la denuncia. E qui è partita un’altra diramazione della polemica.

I numerosi commenti

Sebbene il tour di presentazione sia stato sospeso, Orélien continua a difendere il proprio operato: “Ho sempre amato la creatività e la scrittura, non vedo perché dovrei fare appello a una macchina”, ha dichiarato in un’intervista a Libération, e il suo editore ha parlato di “dichiarazioni malevole” nei suoi confronti. I commenti si sprecano, visto che la notizia, che sta dividendo gli addetti ai lavori, è stata ripresa dai media di tutto il mondo.

Quanto al libro di Thélyson Orélien, che oltralpe ha già venduto decine di migliaia di copie, in Italia è stato acquisito da Rizzoli: “L’abbiamo apprezzato per la sua voce”, ha spiegato a Repubblica Massimo Turchetta, direttore generale e publisher del marchio del Gruppo Mondadori, aggiungendo: “Le maggiori case editrici in tutto il mondo hanno partecipato all’asta internazionale per acquisirne i diritti. Boréal sta approfondendo l’analisi del testo per chiarire oltre ogni dubbio cosa sia successo, e Rizzoli rimane in attesa di avere un quadro più completo“.

In Francia, tra gli altri, è stato lo scrittore vincitore del prestigioso premio nel 2021 Mohamed Mbougar Sarr a esprimersi sulla vicenda. L’autore di La più recondita memoria degli uomini (e/o, traduzione di Alberto Bracci Testasecca) ha parlato della necessità di “non sottovalutare il fatto che questi attacchi, dubbi e interrogativi siano intrecciati a un razzismo che proviene da una sfera politica facilmente identificabile” e ha proseguito sottolineando come “account conservatori abbiano amplificato il post e gli abbiano dato un pubblico enorme”.

Allargando la riflessione, Sarr ha sostenuto che “nei prossimi anni le cause di questo tipo si moltiplicheranno contro tutti gli autori, forse con una crescente diffidenza verso coloro che non avevano pubblicato prima dell’esplosione dei LLM” (modelli linguistici di grandi dimensioni, ndr).

Se solo pochi mesi fa Il Post si era lanciato in articolo con “trucchi e siti che possono dare qualche indizio” sull’umanità di un testo, lo stesso Sarr riflette sulla “strada senza uscita” in cui ci troviamo oggi: “Sottoporre i testi al vaglio di un rilevatore di IA è un altro modo per alimentare l’IA, ingrassare la crudeltà del capitalismo nella sua versione tecno-assassina e rendere la macchina non solo un arbitro, ma un Dio che deciderà cosa è umano e cosa non è umano”.

“Nessun libro viene scritto ‘da un’intelligenza artificiale'”

Mentre il dibattito inevitabilmente si è allargato, emerge quanto ancora poco si sappia di questi modelli linguistici e dell’uso – creativo? – dei sistemi di intelligenza artificiale. Luca Sofri, fondatore del Post, sul suo blog, Wittgenstein, ha riflettuto sul processo che porta un libro a essere scritto, con o senza l’ausilio delle macchine: “[Orélien] non si è svegliato una mattina, è andato alla sua scrivania, ha aperto il computer e si è trovato un romanzo che era stato scritto nella notte da un software a sua insaputa“. Al massimo, ha proseguito Sofri, si può affermare che c’è stato un uso “conseguente e strumentale a un’idea e a un’indicazione articolata dell’autore del libro”. Certo, questo non toglie che un utilizzo non dichiarato di tale mezzo possa violare le regole di premi e riconoscimenti, o contratti con gli editori.

Tutto ciò porta ancora una volta alle domande riguardo le capacità creative dell’IA, anche in confronto delle capacità umane; “O decidiamo che [la qualità del romanzo] sia merito della sapienza e del talento dell’autore”, o “concludiamo che un gran bel libro è stato prodotto da un software a seguito di insignificanti istruzioni umane di poco valore: e allora dobbiamo forse ribaltare tutte le cose che ci siamo detti fino a oggi”.

“Scrivere con l’IA va benissimo”

E se nel Regno Unito si è pensato a un bollino per segnalare le opere scritte da umani, è interessante riflettere su cosa significhi veramente scrivere utilizzando questi strumenti. Su Facebook, il direttore editoriale della rivista L’indiscreto Francesco D’Isa, che spesso interviene su questi temi, ha riflettuto sull’overload di informazioni generato dall’impiego dell’intelligenza artificiale, in quanto “potenzia così tanto la propria portata cognitiva che a volte sovraccarica il cervello“. E proprio commentando la notizia dell’esclusione di Thélyson Orélien dal premio Goncourt, ha aggiunto: “Scrivere con l’IA va benissimo, anzi, se lavori meglio usandola trovo stupido non usarla…“.

Lo stesso D’Isa ha poi firmato una riflessione dal titolo La caccia alle streghe contro chi usa l’IA per scrivere è stupida per the-bunker.it: “(…) Posso usare la stilografica del nonno, una macchina da scrivere, Word con il correttore automatico, un editor pagato a cartella che mi riscrive mezzo capitolo, oppure un modello linguistico che mi propone venti varianti di un paragrafo di cui salvo tre righe. Posso aver letto mille libri e aver ricavato da essi stile e idee, oppure non aver letto un rigo. Posso prendere una trama da una storia sentita al bar o farmela suggerire da un sogno; posso parlare di fatti autobiografici reali o inventarli di sana pianta e dire che sono veri. Chi legge ha tutto il diritto di giudicare quello che trova sulla pagina e di smettere se non gli piace. Il resto però sono affari miei e se proprio ci tieni a scoprire la verità, sappi che questa sarà sempre oltre il tuo sguardo: non avrai mai alcuna certezza. La scrittura cela chi scrive in mille modi e non è mai, mai e ripeto mai figlia di una sola penna, neanche se rinchiudi chi scrive in una cella di isolamento”.

Non il primo caso: da Shy Girl a Call Me, I’ll Hide the Body

Se Orélien continua a fare scalpore anche per via del successo del libro, il suo non è il primo caso di un possibile utilizzo dell’intelligenza artificiale generativa che fa discutere il mondo editoriale.

Tra fine luglio e inizio agosto, ad esempio, si era infatti parlato di Jerry Falade e del suo esordio, Call Me, I’ll Hide the Body: dopo la manifestazione di interesse da parte di 14 editori e offerte che superavano i 2 milioni di dollari, infatti, l’agenzia che rappresentava il giovane scrittore ha deciso di ritirare il romanzo crime per “dubbi sulla genesi del manoscritto“. Falade, oltre a negare l’impiego dell’IA, ha parlato di un “pregiudizio nei confronti degli autori neri“.

A marzo, invece, la casa editrice Hachette aveva deciso di ritirare dal mercato l’horror Shy Girl di Mia Ballard per un sospetto uso dell’IA. Un caso, questo, nato dopo la pubblicazione del romanzo che, come riporta anche la BBC, aveva già venduto quasi circa duemila copie nel mercato britannico. Sebbene si sia sempre parlato di presunto uso, il nome di Ballard resta segnato: “Questa controversia mi ha cambiato la vita in molti modi, la mia salute mentale è ai minimi storici e il mio nome è rovinato per qualcosa che non ho nemmeno fatto personalmente”, ha rivelato l’autrice.

Il comunicato di Les Éditions du Boréal (l’editore canadese di Orélien)

Ma riprendiamo a ricostruire il caso Thélyson Orélien: il 24 settembre scorso, l’editore canadese di Orélien ha rilasciato alla stampa un comunicato in cui ha commentato la vicenda, affermando che “in nessuna di queste fasi (revisione linguistica e correzione di bozze, ndr) Boréal ha fatto ricorso all’intelligenza artificiale”. D’altro canto, per quello che riguarda il lavoro svolto precedentemente all’invio del manoscritto, si sottolinea che per la casa editrice “è impossibile confermare o smentire le accuse mosse contro l’autore e, in queste circostanze, è fondamentale non trarre conclusioni affrettate…”. Per poi aggiungere: “In assenza di prove concrete e tangibili, non spetta a noi decidere se abbia il diritto di esistere“.

Riflettendo anche sul dibattito attuale, che esula dal singolo caso e coinvolge ormai molti più attori protagonisti, la casa editrice canadese Boréal evidenzia come il rapporto tra editore e autore debba essere fondato sulla fiducia: “Non deve trasformarsi in un processo di sorveglianza”.

In questo discorso, tra l’altro, non va dimenticata la centralità che ha il copyright nelle dinamiche editoriali…

La risposta all’accusa di plagio

Con un testo inviato all’Agence France-Presse (AFP) a metà ottobre, anche Thélyson Orélien ha espresso la sua posizione dopo le accuse e gli innumerevoli commenti. Lo scrittore canadese-haitiano ha definito “una calunnia e un’eresia” l’accusa di utilizzo dell’intelligenza artificiale, spiegando di aver impiegato “strumenti per la ricerca”, ma che “nessuna frase è stata creata da una macchina” (come riporta anche Le Monde).

Per quanto riguarda, invece, le accuse di plagio, Orélien afferma di aver “commesso errori inaccettabili”, scusandosi per aver copiato dei testi senza citare le fonti.

Solo poche settimane prima, sempre in un comunicato rilasciato alla stampa, il suo editore aveva parlato di queste accuse come “motivo di preoccupazione”, perché “colpiscono valori a noi cari…”.

Paolo Giordano e la “difesa” contro l’IA

Come accennato prima, anche in Italia si sta discutendo molto di questi temi, e a questo proposito sembra destinata ad aprire un ulteriore ramo della discussione la riflessione pubblicata dallo scrittore Paolo Giordano il 13 ottobre dal Corriere della Sera. Anche il vincitore del Premio Strega 2008 si è espresso sulla vicenda Orélien e ha svelato il suo non-rapporto con l’intelligenza artificiale.

Se in prima battuta Giordano ha definito la scelta dell’Accademia Goncourt una “guerra santa – che perderà, che perderemo – in difesa dell’intelligenza naturale“, in seconda battuta si è concentrato sul presente: “[L’IA] Forse non spazzerà via i romanzieri, ma ha già cambiato qualcosa del nostro mestiere…”.

Giordano, che ha rivelato di essere al lavoro di un nuovo romanzo, ha spiegato il suo metodo di salvataggio del file: “Voglio lasciare una traccia evidente, qualora si rivelasse necessaria, del processo di correzione progressiva, e anche del mio disorientamento”.

“Ho disconnesso da internet il computer su cui scrivo”

Ma non solo. In risposta a molte delle denunce e delle rivelazioni per quello che riguarda “l’intrusione delle piattaforme social nelle elezioni di svariati Paesi”, l’impatto sulla salute delle piattaforme social e “l’addestramento delle intelligenze artificiali” violando la privacy e il copyright, Paolo Giordano ha affermato di aver “disconnesso da internet il computer” con cui scrive.

Per proteggersi da possibili visitatori esterni, Giordano ha scelto infatti di “tornare indietro”, evitando salvataggi sul cloud o l’invio delle bozze per mail: “Per la prima volta nella mia carriera, la mia agente, al momento opportuno, non riceverà un messaggio con un allegato. Le porterò la chiavetta oppure dei fogli stampati, brevi manu, o glieli spedirò con un corriere espresso. Lo stesso farà lei con la casa editrice”.

E così, tra il timore di passare per paranoico e la spiegazione del costo che hanno avuto le sue scelte, l’autore del longseller La solitudine dei numeri primi ha concluso con una proposta. Non quella di “bruciare le macchine (per il momento)”, ma “di usarle il meno possibile“.

Il dibattito suscitato dalla riflessione di Giordano

A Paolo Giordano ha risposto la scrittrice Chiara Valerio, in un pezzo proposto dal Post: “Mi rifiuto di essere verificata e certificata da una macchina ingrassata dalle parole mie e di altri da anni. Mi rifiuto, in poche parole, di accettare che la cronologia delle mie parole sia stabilita da una macchina”. La saggista poi prosegue: “So benissimo che qualcuno potrebbe dirmi domani che ciò che ho scritto oggi, e il modo in cui l’ho scritto, è AI. Ma è, al contrario, l’AI che viene da me, anzi da tutti noi”.

A Giordano ha replicato anche lo stesso D’Isa, in una riflessione pubblicata da theitalianreview.com, dal titolo “Caro Paolo, smetti di numerare i file“, che parte da una premessa: “(…) Giordano è liberissimo di non usare l’intelligenza artificiale, di diffidarne, di detestarla, di scrivere i suoi romanzi su una tavoletta di argilla, se lo fa stare meglio. Credo che nessuno, neanche il più infoiato tecnoentusiasta, gli abbia mai chiesto di fare diversamente. Il guaio è che lui chiede qualcosa a noi…”. E più avanti scrive: “(…) Provo allora a fare una proposta a Paolo e ai crociati: che ne dici se continui a scrivere come ti pare, smetti di numerare i file e tutti e tutte insieme conveniamo che ognuno scrive con quello che vuole? Puoi rifiutare queste macchine per ragioni etiche, estetiche, politiche. Fin qui tutto bene. Basta che chi non utilizza uno strumento non si arroghi l’autorità di stabilire come lavora chi lo usa…”.

ARTICOLO IN AGGIORNAMENTO…

Fotografia header: Scrittrice (foto GettyEditorial)