A chi appartengono i pensieri artificiali?

Nel numero estivo di Pulviscolo ho segnalato un post di Venkatesh Rao intitolato Strange Knowledgeability. Da quando l’ho letto, però, ho continuato a tornarci sopra. Così ho deciso di riprenderlo e approfondirlo.

Il post esplora la conoscenza umana dal punto di vista di quella che Rao chiama «enciclopedicità prospettica». Fa parte del percorso di ricerca che Rao e i lettori della sua newsletter, Contraptions, stanno dedicando alla nascita e al funzionamento della «macchina della divergenza», il sistema storico costruito tra il 1600 e il 2000 e oggi, secondo l’autore, pienamente operativo.

La tesi da cui parte è che i large language model stiano portando a un punto di crisi il rapporto tra ciò che conosciamo e la conoscenza che possiamo delegare a supporti esterni.

Dalle enciclopedie settecentesche ai motori di ricerca, l’esternalizzazione del sapere ci ha costretti di continuo a decidere quali conoscenze trattenere e quali affidare a qualcosa che si trova fuori di noi.

Questa condizione può alimentare una convinzione che Rao considera sbagliata: più la conoscenza esterna diventa accessibile, meno abbiamo bisogno di possederne direttamente.

Per lui è vero il contrario. Più è vasta la quantità di conoscenza a nostra disposizione, più diventa importante possederne una porzione considerevole. Perché ciò che sappiamo determina anche ciò che siamo capaci di vedere.

L’Illuminismo offre un ottimo esempio di questa dinamica.

Secondo Rao, non può essere descritto soltanto come un insieme di idee che sfidarono le ortodossie medievali. Fu anche, e forse soprattutto, un nuovo modo di conoscere la realtà, che aveva nell’enciclopedia il proprio modello.

Per la prima volta nella storia, almeno per chi aveva accesso a questi strumenti - un accesso limitato da condizioni di classe, razza e genere - diventò possibile conoscere abbastanza cose da far coincidere la propria esperienza della realtà con una mappa del mondo.

Non era più necessario produrre personalmente una conoscenza per poterla acquisire. Bastava accedere a quella che altri avevano scoperto, organizzato e formalizzato.

Questo modificò anche il nostro rapporto con la curiosità.

La disponibilità di un numero enorme di risposte rese possibile quella che Rao chiama una condizione di post-curiosità. Non significa smettere completamente di farsi domande, ma abituarsi a credere che quasi ogni domanda possieda già una risposta, conservata da qualche parte in una biblioteca, in un’enciclopedia o, in tempi a noi più prossimi, in un motore di ricerca.

La frontiera dell’ignoto si allontana tanto che la curiosità ordinaria si esaurisce prima di riuscire a raggiungerla.

In questa lettura, l’Illuminismo marginalizzò il sapere religioso non soltanto contraddicendolo, ma costruendo un immenso spazio di domande alle quali la religione non aveva nulla da rispondere. Il suo immaginario, messo a confronto con l’estensione del mondo conoscibile, cominciò ad apparire improvvisamente piccolo.

Qualcosa di simile sta accadendo oggi con l’avvento dei large language model: sistemi di intelligenza artificiale capaci di generare linguaggio attraverso l’elaborazione di enormi quantità di dati.

Con una differenza decisiva.

Un’enciclopedia proponeva una particolare organizzazione del sapere: alfabetica, tematica o comunque fondata su una struttura riconoscibile. Un modello linguistico offre invece un numero potenzialmente infinito di modi per accedere alla conoscenza incorporata al suo interno.

Possiamo interrogarlo da qualsiasi direzione, adottando qualunque punto di vista o sistema di categorie. E quasi sempre il modello riesce a seguirci, restituendoci una risposta plausibile.

L’enciclopedicità diventa così una questione di prospettiva.

Se le enciclopedie ci hanno resi post-curiosi, gli LLM rischiano di renderci post-prospettici: disinteressati a cercare nuovi punti di vista, perché ogni prospettiva che una mente ordinaria riesce a concepire sembra già disponibile.

Di fronte a questo cambiamento, conclude Rao, avremo bisogno di una nuova forma di eccezionalità. Se nell’epoca delle enciclopedie il genio consisteva nel formulare domande che non avevano ancora una risposta, nell’epoca dell’intelligenza artificiale potrebbe consistere nello scoprire modi di conoscere che i modelli non hanno ancora attraversato.

È a questo strano modo di conoscere che rimanda la strange knowledgeability del titolo.

La prospettiva, devo ammetterlo, è intrigante.

Di fronte alla diffusione di sistemi che promettono di mappare la conoscenza umana fin nei suoi anfratti più remoti, la possibilità di scoprire modalità del sapere ancora inaccessibili alle macchine sembra restituire a noi esseri umani un ruolo da interpretare.

Il che è rassicurante.

Eppure nell’argomentazione di Rao mi sembra di intravedere anche un lato oscuro.

A un certo punto scrive:

I used to write a blog with the tagline “experiments in refactored thinking.” That wouldn’t be a good tagline today. LLMs have always-already refactored everything, every which way. You just have to Enquire Within Upon Any Perspective. You will find resonance for any private, half-formed insight, and assistance making it fully legible to yourself.

Back in the day, the most common compliment I got was something like “you put words to what I was thinking.” Now that function is well served by LLMs.

Un tempo, racconta Rao, quest’ultima frase era uno dei complimenti che riceveva più spesso dai lettori. Oggi quella funzione è svolta egregiamente dai modelli linguistici.

Il passaggio mi colpisce perché mi restituisce, come uno specchio, la mia esperienza con questi strumenti. Dare ordine ai miei pensieri e trovare parole più efficaci per esprimerli è infatti il modo in cui li uso più spesso.

Il mio lavoro - scrivere per capire il mondo e fare strategia per aiutare persone e organizzazioni a comunicare con più direzione al suo interno - consiste proprio nel trovare per le mie intuizioni parole che non siano soltanto adatte a descriverle, ma riescano anche a trasformarle in azioni.

In questo i large language model sono formidabili.

Ogni strategia che sviluppo nasce da un groviglio di osservazioni, ipotesi, informazioni e intuizioni ancora prive di una forma stabile. I modelli linguistici riescono a tradurre rapidamente quel groviglio in concetti più nitidi, mostrandomi connessioni che faticavo a vedere e formulazioni che non ero ancora riuscito a trovare.

Mi offrono una qualità del confronto che, altrimenti, richiederebbe un dialogo costante e profondo con un professionista molto più esperto di me.

Da freelance, però, non ho facile accesso a un dialogo del genere. Per chi lavora molto da solo, come me, l’intelligenza artificiale si comporta quindi come un tergicristallo cognitivo: migliora sensibilmente la visibilità dal mio abitacolo.

Ma come posso essere sicuro che i pensieri che vedo così chiaramente siano davvero miei?

La risposta è che non posso.

Non solo perché, come ho già scritto, nessun pensiero ci appartiene mai completamente. Ogni cosa che pensiamo è attraversata dalle parole, dalle idee e dalle esperienze degli altri.

Nel caso dell’intelligenza artificiale, però, non posso ricostruire fino in fondo la genealogia delle forme, dei concetti e delle associazioni che il modello mi propone per dare ordine a ciò che penso.

Ed è qui che si apre il problema.

L’influenza di una voce esterna non è una novità. Succede ogni volta che leggiamo un libro, ascoltiamo qualcuno o impariamo a usare una lingua. Ma in questi casi l’alterità della fonte rimane riconoscibile. Possiamo percepirne la distanza, opporle resistenza, decidere dove finisce il pensiero dell’altro e dove comincia il nostro.

L’intelligenza artificiale, invece, ci restituisce quella voce già accordata alla nostra.

Usa il nostro lessico, segue le nostre intenzioni, asseconda la struttura delle nostre domande. Ci riconsegna l’influenza esterna sotto forma di una frase che assomiglia a quella che avremmo voluto scrivere.

La sua origine diventa tanto più difficile da percepire quanto più il risultato riesce a somigliarci.

Se non conosco le archeologie del sapere da cui provengono le parole che fissano ciò che penso, come posso essere certo che riflettano davvero ciò in cui credo?

Non posso esserlo. O almeno non con un grado di certezza sufficiente a sciogliere il dubbio che, ogni volta che uso questi strumenti, un insieme di voci stia parlando attraverso di me senza più presentarsi come tale.

Forse è proprio la capacità di negoziare questo disagio il senso dell’evoluzione post-prospettica descritta da Rao.

Forse non si tratta soltanto di inventare prospettive che l’intelligenza artificiale non ha ancora attraversato. Si tratta anche di imparare a scegliere tra le infinite prospettive che può offrirci, riconoscendo quelle che ci appartengono abbastanza da poterle sostenere e rifiutando quelle che ci assomigliano soltanto.

La nuova forma di eccezionalità potrebbe allora non coincidere con l’originalità, ma con la responsabilità.

Non con la capacità di dimostrare che un pensiero è davvero nostro - impresa probabilmente impossibile - ma con quella di riconoscerlo come proprio, metterlo alla prova e rispondere delle parole con cui abbiamo scelto di farlo esistere.