Premessa: Non sono riuscito a inserire le immagini su NoBlogo; linkerò a ciascuna ove indicato con la dicitura [FIG.X].
La scorsa settimana ho letto un’intervista all’editore e scrittore italiano Francesco Verso, a cura di Mick Paolino. Vi invito a leggerla a questo link prima di procedere col resto di quest’articolo, così avete presente a cosa mi riferisco.
Tranquilli, vi aspetto.
Fatto? Allora iniziamo.
Non so come vi ha fatto sentire l’intervista, ma a me ha fatto passare attraverso ben tre stati emotivi. Inizialmente ero interessato e incuriosito, poi dubbioso, scettico e infine sconcertato e infuriato. Sarebbe questo l’enfant prodige del solarpunk* italiano?
*[Per chi non conosce il genere: il solarpunk è una risposta positiva al cyberpunk; un filone che risponde allo strapotere contemporaneo degli odierni titani tecnologici con visioni di uguaglianza e liberazione umana, tecnologie sostenibili e salvaguardia della natura sopra ogni cosa.]
Grafici o Graffiti?
Si parla di fantascienza, lo sapete, ma permettetemi di calcare più sulla scienza e meno sulla narrativa in questo articolo. Se avete timore dell’analisi, lasciate ogni speranza eccetera eccetera. Fatto l’avvertimento, iniziamo subito dal fulcro di tutti i problemi: cosa notate in questo grafico? [FIG.1]
A una prima occhiata, l’interpretazione è relativamente facile: sia l’intelligenza umana (IU, la linea rossa) che quella artificiale (IA, la linea blu) crescono col passare tempo, ma a ritmi diversi; il momento in cui avviene il sorpasso è identificato come la “prima singolarità” e a seconda di quale delle due intelligenze prevale si apre uno spettro di possibilità che vanno da un estremo all’altro, ciascuna simboleggiata da una o più opere famose della cultura popolare del Ventunesimo Secolo.
Tutto bene, no?
E invece nient’affatto: questo grafico infatti nasconde innumerevoli supposizioni arbitrarie dietro una ragnatela di colori, fatto per colpire solo chi ci si sofferma meno di trenta secondi. E dato che io coi grafici ci ho passato vari anni, provo a mostrarvi cosa si dissotterra quando si scava un po’ sotto la superficie arcobaleno di questo… graffito.
Partiamo dall’argomentazione base che disintegra l’intera impalcatura del grafico: l’intelligenza, ormai lo sappiamo da decenni, non è misurabile su scala lineare, da “zero” a “mille milioni” come l’aura di Dragonball; forse si possono misurare il numero di processi al secondo, ma in quel caso anche il buon vecchio Nokia 3310 sorpassa il cervello umano a livello di velocità di calcolo, quindi non è proprio una misura accurata. Il QI è ancora peggio per una valanga di motivi. Quello che chiamiamo semplicisticamente “intelligenza” in realtà è un insieme di capacità molto complesse e situazionali che ancora non comprendiamo appieno, né in noi stessi né negli animali; non a caso ci stupiscono sempre i video di polpi, corvi, orche e delfini che dimostrano di saper risolvere problemi complessi in modi non ovvi. Ne parla anche Peter Godfrey-Smith in Altre Menti, che suppongo sia un esempio di ciò che l’intervistato intende con “intelligenza animale” (senza però citare alcunché).
Però concediamo, per il solo scopo educativo di continuare a scavare tra il ciarpame, di poter davvero misurare l’intelligenza. Chi ha detto che entrambe le intelligenze (umana e artificiale) progrediscono in maniera lineare? È una supposizione non da poco, anzi, due supposizioni. Partiamo dai LLM (che non sono IA!): è stato dimostrato che per ottenere miglioramenti misurabili da un modello al seguente è necessaria una mole sempre maggiore di dati, che è il motivo per cui le varie aziende che sviluppano questi software hanno bisogno di centri dati sempre più grandi, sempre più parametri e più potenza di calcolo senza un chiaro limite realistico. Questa è la cosiddetta trappola dei rendimenti decrescenti, e in termini grafici generalmente un andamento di questo tipo corrisponde a una curva logistica, che ha circa questa forma [FIG.2].
Ora, anche quel generalmente nasconde una supposizione, ovvero che i LLM si comportino come molte tecnologie umane. Le auto, internet, gli smartphone, i carburanti fossili e le energie rinnovabili hanno tutti andamenti del genere sia in termini di efficienza che di ritmi di adozione: si avvicinano sempre di più a un valore massimo (M, nel grafico), senza però mai superarlo. Certamente i LLM potrebbero anche non seguire un andamento del genere; potrebbero invece crescere in modo logaritmico, ovvero all’infinito ma sempre più lentamente (andamento che richiede supposizioni ancora diverse), oppure potrebbero non raggiungere la massima adozione e venire abbandonati in favore di un’altra tecnologia (e quindi decrescere fino a un valore minimo o nullo; pensate ai vinili o ai floppy disk), e via dicendo. In pratica: supporre che i LLM crescano linearmente o anche solo che crescano per decenni è un’affermazione silenziosa e con fondamenta fragilissime. Se si discute di fantascienza, e ancora di più se si discute di scienza, è fondamentale chiarire le proprie supposizioni, anziché occultarle.
Ma non ho ancora finito.
Se la crescita dei LLM non è certa, quella degli umani lo è ancora meno. Gli archeologi hanno misurato i crani* degli homo sapiens sapiens per vari decenni e le conclusioni più recenti sono inequivocabili: l’intelligenza umana è rimasta costante per almeno trentamila anni. Quello che abbiamo acquisito lungo la storia documentata sono esperienze, conoscenze, strumenti, mezzi di comunicazione, ma NON intelligenza. Supporre dunque che questa cresca in modo lineare non è solo una fantasia positivista e da techbro, è anche facilmente falsificabile da innumerevoli studi moderni e apertamente consultabili.
*[La misura dei crani è l’unico modo per inferire la dimensione dei cervelli, che a sua volta è l’unico proxy disponibile per estrapolare una stima dell’intelligenza a distanza di migliaia di anni.]
Proseguiamo con la nostra catabasi: dando per buono che entrambe le intelligenze crescano a ritmi paragonabili, arriva “inevitabilmente” (lol, lmao) il momento in cui esse si equivalgono e avviene il fantomatico sorpasso, la “prima singolarità”. Da qui in poi la parvenza di senso di questo grafico svanisce del tutto: perché la linea rossa (intelligenza umana) e quella blu (artificiale) spariscono? Ne rimane solo una? Si fondono? Crescono di pari passo? Perché dovrebbero, e come compararle se procedono allo stesso ritmo? Uno spruzzo di colori si apre ai quattro venti senza chiarimenti né chiarezza.
Non ci sono risposte a queste ambiguità; l’importante è il caleidoscopio di scenari che seguono. E non è neanche importante la “seconda singolarità”, dato che la presenza o assenza non ha influenze su alcuno dei sei scenari illustrati. La mia ricerca di cosa questo evento rappresenti ha portato scarsi risultati; secondo questo blog indica il momento in cui sia l’umano che la macchina si rendono conto dei propri limiti e iniziano a “creare significato insieme”. Allo stesso tempo, altri libri sull’argomento definiscono la prima singolarità quella di carattere economico (le IA che sostituiscono i lavoratori) e la seconda quella che nel grafico è indicata come prima. Insomma: non esiste un consenso sul significato di questi spartiacque, e piazzarli su un grafico del genere senza definirli è un errore titanico per chiunque abbia un pubblico e voglia informarlo in modo onesto e genuino. Lo scopo dei grafici dovrebbe essere quello di illustrare e chiarire, non di ottundere e confondere.
La conclusione di questa prima parte di analisi è che Francesco Verso presenta un’analisi dell’IA e delle loro capacità che oltre a essere incompleta si regge su presupposti fragili e assolutamente non dimostrati; confonde spesso i tropi fantascientifici, che appartengono alla sfera letteraria, con la realtà scientifica della ricerca sulle intelligenze artificiali e non umane, che non dimostra di conoscere davvero. Verso non proietta la scienza nel reame dell’immaginario, com’è d’uso nel genere della fantascienza, ma al contrario sovrascrive le sue fantasie agli sviluppi scientifici odierni.
IA e Fantascienza, Speculazioni e Scenari
Dunque, se uno volesse ridisegnare il confronto di cui sopra con supposizioni più realistiche, le vere opzioni sarebbero le tre seguenti [FIG.3]:
- Scenario M1 – L’intelligenza artificiale non supera quella umana; magari rimane uno strumento, nemmeno autocosciente, il cui paragone con l’umano risulta forzato, o magari si arresta alle capacità di un neonato o di un cane; un compagno semisenziente ma limitato e probabilmente non minaccioso (nonostante IA selvatiche/ferali sarebbero uno scenario fantascientifico seriamente innovativo). Qui si collocano i robot di Asimov e Philip K. Dick.
- Scenario M2 – L’intelligenza artificiale raggiunge livelli paragonabili a quelli umani; magari appaiono androidi umanizzati, come in vari media popolari (Star Wars, Detroit Become Human, Io Robot e via dicendo), in cui appaiono come personaggi talvolta amichevoli, talvolta ostili e talvolta neutrali. Per quanto mi riguarda, sono un grande estimatore dei personaggi androidi e li apprezzo anche senza una componente tematica incentrata sul confronto tra intelligenze.
- Scenario M3 – L’intelligenza artificiale supera quella umana; questo è lo scenario più esplorato dalla fantascienza recente e dal cyberpunk (Matrix, Terminator), per mezzo della supposizione che un’intelligenza superiore a quella umana sia per definizione pericolosa e minacciosa per la nostra sopravvivenza; che poi è lo stesso tropo delle invasioni aliene ma in veste leggermente diversa. Her e Neuromante sono due esempi di superintelligenze indifferenti.
Lo scenario in cui egli vuole porsi con la sua opera, ovvero quello in cui l’umano e la macchina cooperano, non dipende assolutamente dai rispettivi livelli intellettivi: un sodalizio tra specie diverse può avvenire, come già menzionato, anche tra umano e canino, o tra umano e alieno* e tra umano e robot. Non c’era alcun bisogno di invocare grafici e proiezioni per giustificare questa premessa narrativa: porsi in mezzo a questa costellazione di opere moderne, anziché elevare il suo romanzo, lo fa apparire come “un vaso di terracotta, costretto a viaggiare in compagnia di molti vasi di ferro”, per citare un romantico nome noto.
*[Come appunto nel racconto Story of Your Life di Ted Chiang che lui stesso ha citato e in svariate altre opere.]
Ora, come ho già chiarito sopra, queste mie “correzioni” sono basate su altre supposizioni (più realistiche, elaborate sopra) e grafici speculativi fatti da me e senza dati; certamente ci saranno fior di neuroscienziati e ingegneri neurali che presentano proiezioni più accurate in articoli scientifici sul tema, ma data la mole titanica di pubblicazioni negli ultimi cinque anni non sono riuscito a trovare grafici simili a quelli dell’intervista a Francesco Verso. Se ne trovate, vi invito a segnalarli e a smentirmi, in modo che la discussione del tema ci porti tutti a una maggiore consapevolezza su quali scenari vale la pena speculare.
In ogni caso, la conclusione di questa disamina tecnica (che non richiede particolari competenze teoriche; mi è bastato un accesso a internet e un paio di sere libere) rivela quattro leggerezze di Francesco Verso. In quest’intervista, egli dimostra:
- di non essere in grado di fare un grafico
- di non essere veramente informato sull’argomento di cui si professa esperto
- di non aver parlato con nessuno scienziato per chiedere conferma o aiuto
- di non aver verificato le proprie supposizioni, neppure su Wikipedia
Inoltre ho già chiarito come Verso non abbia fornito grandi prove sulla sua esperienza o conoscenza sul tema, dunque l’impressione che mi resta da quest’intervista è che non sappia nulla di LLM e che cerchi di cavalcarne l’onda mediatica per essere su più risultati Google possibili; da questo suo libro non mi aspetto nulla che non potrei sentire da un qualunque manager d’azienda tecnologica o venture capitalist della Silicon Valley.
Lungi da me dirvi cosa leggere e cosa no, ma per un autore che si dice non solo di fantascienza e solarpunk, ma persino “esploratore che non è rimasto a guardare la tempesta dalla riva” (notare appunto il linguaggio da techbro), non esplorare nemmeno una manciata di link relativi alle affermazioni che si portano in giro come verità assolute mi sembra abbastanza grave, e personalmente non accetterei mai di leggere fantascienza che parta da questi presupposti fragilissimi (né tantomeno solarpunk). Il paragone con Asimov, Lem, Clarke e Kim Stanley Robinson, autori che dedicavano gran parte del proprio processo creativo a documentarsi sulla ricerca e lo stato dell’arte di ogni argomento a cui mettevano mano, è a dir poco umiliante.
Raccontarsi le Proprie Storie
Ora che ho concluso le critiche scientifiche, passiamo a quelle narrative. Per la vostra gioia, anche quelle non sono poche.
L’intervista, le cui domande sono molto interessanti e puntuali, inizia come disamina e riflessione sulle interazioni tra intelligenza umana e LLM (non intelligenza artificiale!) e viene lentamente dirottata in un altisonante spot pubblicitario per l’ultima pubblicazione dell’intervistato. La mia personale opinione è che se l’obiettivo dell’intervista era quello di esplorare scenari e intelligenze future, sarebbe stato più opportuno interpellare uno scienziato che lavora davvero sul campo, piuttosto che un autore di fantascienza che in svariati paragrafi non ha saputo dimostrarsi né autorevole né preparato. Se invece l’obiettivo era recensire il libro, perché non dichiararlo dal principio?
Ma a parte queste piccole critiche all’intervistatore, le altre domande in sospeso rimangono per l’intervistato. La prima, fondamentale, alla quale non vi è stata risposta è in che modo i LLM possono essere compatibili con il solarpunk. Il consenso che si sta formando tra economisti, sociologi, informatici, ma anche editori e traduttori sostituiti da questa tecnologia, è che i LLM contribuiscano ad accentrare il potere nelle mani di chi lo ha già. Citando una recente ricerca di politologi e scienziati cognitivi: “riflettendo i casi passati dei mercati e dei media, il potere e l’influenza si sposteranno verso coloro che sono in grado di implementare pienamente queste tecnologie e lontano da coloro che non sono in grado di farlo. L’IA indebolisce la posizione di coloro su cui viene utilizzata e che forniscono i propri dati, rafforzando gli esperti di IA e i responsabili politici.” L’esatto opposto del solarpunk, in pratica.
Ne si evince che non è affatto ovvio come una tecnologia del genere possa inserirsi in un questo genere letterario. Sarebbe filosoficamente interessante e acuto se il romanzo intendesse affrontare proprio questo tema, cercando un equilibrio tra parti inconciliabili, oppure se l’autorità dell’IA venisse scartata in favore di quella dei cittadini; ma a giudicare dall’intervista stessa (e dalla sinossi sul sito dell’editore) questi temi non sono quelli che l’opera di Verso intende affrontare, dato che non vengono mai menzionati termini come “potere” o “disuguaglianza”. Non intendo leggere quest’opera e controllare in prima persona per i motivi già spiegati in precedenza, ma stando alle recensioni che ho trovato il tema della “simpoiesi” viene a malapena toccato (così come l’uso di LLM, segno del fatto che nessuno dei lettori ne fosse al corrente), mentre ciò che ha catturato l’attenzione di tutti sono… gli animali parlanti. Eccola, dunque, la famosa “intelligenza animale”! Bella innovazione fantascientifica!
Nel tessere le sue lodi sulla “cooperazione con agenti LLM”, inoltre, Francesco Verso non spiega in alcun modo come l’opera finale che ha (hanno?) prodotto sia migliore rispetto a una che avrebbe scritto in totale autonomia. Gli sono state suggerite metafore particolarmente brillanti? Lo hanno aiutato ad approfondire la psicologia e le reazioni dei personaggi lungo la storia? O magari hanno accelerato il processo di revisione e correzione di bozze (lavoro che avrebbe potuto fare anche uno degli editori della casa editrice che gli appartiene). L’unica menzione che fa è quella di un lasso temporale: tredici mesi in totale, il che suggerisce che qualsiasi sia stato il contributo materiale di questi LLM, certamente non ha accelerato il processo di scrittura.
Ritornando per un momento al grafico di cui sopra, questa volta con occhi meno tecnici, possiamo notare che l’opera di Francesco Verso (vicino alla linea rossa tratteggiata) è un romanzo, eppure viene paragonato a sei opere cinematografiche degli ultimi trent’anni. La letteratura del Ventesimo Secolo (quella che ha inaugurato e cementificato il canone fantascientifico dell’intelligenza artificiale) non compare affatto; sintomo del fatto che l’autore non ha familiarità con essa o che pensa che il pubblico a cui intende rivolgersi non conosca tali autori. Dopotutto, perché non includere almeno Asimov in un grafico che intende mostrare diversi scenari di intelligenze robotiche? Verso inoltre traduce fantascienza e solarpunk da ogni angolo del mondo, inclusi autori contemporanei noti come Liu Cixin, Chen Qiufan, Ken Liu e Vandana Singh. Davvero non ha alcun romanzo da citare, tra tutti quelli che sicuramente conosce? Il mio sospetto, forse infondato, è che l’intervista non intenda rivolgersi a un pubblico di lettori.
Dunque è davvero definibile “solarpunk” farsi assistere da tre LLM piuttosto che chiedere a una comunità globale di autori dedicati (che non deve faticare a cercare, dato che è già in contatto con personalità notevoli) e a editori professionisti? Cosa significa scrivere di mutuo aiuto, collaborazione e decolonizzazione* senza poi praticarli nella vita di tutti i giorni?
*[Non sono al corrente di LLM sviluppati da aziende o cooperative del Sud Globale, né di modelli open source.]
In ultimo, se il romanzo è stato “co-creato con intelligenze non-umane”, perché in copertina appare solo un nome (umano)? Perché sulla pagina del sito la sinossi non include alcuna menzione dei LLM usati durante il processo di stesura, se l’autore è tanto fiero di esserne pioniere ed esploratore? La risposta mi pare ovvia: Francesco Verso vuole la botte piena e l’IA lubrificata. Da una parte tenta di rivolgersi al pubblico solarpunk (anche attraverso il vocabolario usato nell’intervista, da “intelligenze non-umane” a “decolonizzazione” e via dicendo); dall’altra strizza l’occhio agli spalti accelerazionisti e techbro, e quindi i riferimenti ai “pionieri” e al lasciare indietro la massa di autori resistenti e luddisti. Pare un doppio gioco, un mentire a entrambe le parti alla forsennata ricerca di un pubblico sempre più grande ma senza alcun criterio o dedizione.
A partire dalle supposizioni infondate sul “destino dell’IA” e passando per svariate speculazioni fumose, Francesco Verso cerca di assumere il ruolo di profeta dell’IA e di parlare a un pubblico che guarda al futuro dei LLM (che non sono intelligenze artificiali!) con speranza e trepidazione. Così facendo tradisce i principi del solarpunk, di cui però mantiene l’estetica per non perdere il pubblico che già lo conosce e cercando invece di contrabbandare un’idea e una pratica (quella dei LLM come strumenti di liberazione umana) che non trova terreno fertile tra i lettori odierni (motivo per cui si prende la premura di tacere l’uso dei LLM nel processo di scrittura). Questa è una mia deduzione che spiega sia l’inaccuratezza nel parlare di IA che la mancanza di trasparenza nei materiali promozionali di questo romanzo; invito chiunque intenda smentirla a farlo senza problemi.
Ai lettori di fantascienza e solarpunk che cercano idee scientificamente radicate e innovative sulle interazioni con altre intelligenze, consiglio piuttosto le saghe di Revelation Space di Alastair Reynolds e Terra Ignota di Ada Palmer; entrambe sono opere lunghe e tortuose, ma non mancheranno di farvi riflettere su dozzine di risvolti filosofici, pratici ed esistenziali. Se invece preferite qualcosa di più leggero e meno tecnico, A Psalm for the Wild-Built di Becky Chambers narra del viaggio di unå monacå in crisi esistenziale e del robot che lå farà da mentore.
