Perché le persone hanno paura dell'AI?

Ti ricordi la polemica sulle società di intelligenza artificiale che distruggevano i libri dopo averli scansionati per addestrare i loro modelli?

Lo so, alla velocità a cui corre il mondo pare siano passati anni e invece se ne parlava appena qualche mese fa. Ma visto che questo è un blog che si fa vanto di essere intempestivo, ci torno su oggi per mettere in ordine qualche pensiero che mi frullava in testa da un po’.

Prima, però, ricapitoliamo un po’ la situazione.

In estate, nel pieno di una delle tante ondate di calore che ci hanno “allietato” quest’anno, è tornata a circolare una notizia: alcune società che sviluppano intelligenze artificiali acquistavano libri cartacei - in alcuni casi rari e/o fuori catalogo - per scansionarli e usarne i testi per addestrare i loro modelli linguistici.

Fino a qui nulla di strano.

I libri sono una fonte preziosa di contenuti per l’addestramento e le società di IA hanno pensato di attingervi anche attraverso l’acquisto di copie fisiche.

Il problema, o meglio la cosa che ha destato scalpore e indignazione, è che il processo di scansione comportava la distruzione dei libri. Il motivo? Per velocizzare le operazioni se ne tagliava il dorso, così da poter scansionare i fogli uno alla volta.

Una scelta di metodo, non una necessità: i libri possono essere scansionati anche senza essere distrutti.

Move fast and break things, non dicono forse così nella Silicon Valley?

Ora, prima che ti risalga il berserk, chiariamo alcuni punti: un sacco di libri, ogni anno, vengono mandati al macero per ragioni economiche, di spazio o per un fisiologico calo di interesse. Come raccontavo in un post di qualche tempo fa, non tutto quello che produciamo sopravvive alla prova del tempo.

Questo non basta a escludere che tra i libri distrutti ci fossero volumi importanti e irrecuperabili: per dirlo bisognerebbe sapere quali copie sono finite negli scanner. Ma ci ricorda che la distruzione dei libri è già parte del funzionamento ordinario dell’industria editoriale.

Flavio, stai per caso dicendo che se mi sono incazzato per questa cosa sono un visionario?

Non mi permetterei mai. Anzi, il punto di questo post è proprio sostenere che l’indignazione e la rabbia delle persone sono giustificate e comprensibili anche se l’oggetto dei loro strali - la distruzione di libri cartacei - è qualcosa che accade abbastanza di frequente.

Ti sto perdendo, Flavio: se i libri vengono distrutti di frequente, perché indignarsi per questo fatto è giustificato e comprensibile? Non è forse questo il doppio standard che gli “integrati” dell’intelligenza artificiale rimproverano agli “apocalittici”?

Ci arrivo. Per farlo devo citare il memo con cui Anthropic spiegava cos’era Project Panama, ovvero il nome in codice con cui dentro l’azienda veniva identificato il programma di scansione e distruzione dei libri, sul quale veniva consigliata una certa discrezione ai dipendenti.

È un documento piuttosto interessante, perché suggerisce che l’azienda fosse consapevole delle reazioni che il progetto avrebbe potuto suscitare. Non dimostra, da solo, che ne comprendesse tutta la portata simbolica. Ma la scelta di procedere tenendo riservata l’operazione dice qualcosa sul suo modo di confrontarsi con quelle reazioni.

Personalmente, più passa il tempo e meno subisco il fascino dell’oggetto libro. L’anima di un libro, per me, è soprattutto nelle parole di cui è fatto, più che nel supporto che le ospita. Ma questo non vuol dire che non riconosca il potere simbolico dell’oggetto, che è fortissimo.

Il libro, anche e soprattutto nella sua forma incarnata in un parallelepipedo di carta, è una rappresentazione del potere della cultura e della scienza contro le forze oscurantiste della società. Quando si parla di libri distrutti, infatti, le prime immagini che ci vengono in mente sono quelle dei roghi nazisti o dell’Indice dei libri proibiti, più che quella del libro come strumento di potere e di controllo, come poteva essere prima dell’invenzione della stampa.

Se penso che l’indignazione e la rabbia suscitate dal fatto di cui stiamo discutendo siano pienamente giustificabili e comprensibili è anche perché le associazioni che la distruzione dei libri attiva nell’immaginario sono dolorose e potentissime. Ma conta anche il fine per cui quei libri vengono distrutti e chi può decidere dell’uso che si fa del loro contenuto.

Di questo, i feudatari dell’intelligenza artificiale sembrano curarsi ben poco. La loro retorica - e il milieu culturale che li esprime - è profondamente ingegneristica e, a suo modo, totalitaria. L’imperativo che li muove è lo scaling up: aumentare la scala, espandersi, spostare sempre più in là i limiti di grandezza e rapidità.

È questo “atteggiamento” - e non tanto l’intelligenza artificiale in sé e per sé - che a mio avviso fa una paura fottuta a molte persone. Perché se ripeti di continuo che la tecnologia che stai sviluppando avrà un enorme potere trasformativo sulle loro vite, ma ti manca la sensibilità per confrontarti con la cultura depositata nell’immaginario che ne orienta i valori e le credenze, non puoi aspettarti che accolgano il tuo progetto a braccia aperte.

Anche perché - e il caso della distruzione dei libri rende visibile questa tensione - la tua azione di “distruzione creatrice” non ha come obiettivo quello di liberare la conoscenza, bensì quello di risucchiarla dentro una scatola nera di cui la tua azienda è proprietaria e il cui funzionamento resta fuori dal controllo della gente, per poi rivenderle l’accesso sotto forma di abbonamenti e crediti al consumo.

Il punto, a mio modo di vedere, non è fermarsi a stabilire se le polemiche siano o meno giustificate. È capire che almeno una parte della paura davanti all’intelligenza artificiale nasce dalla percezione che chi la sviluppa stia agendo senza alcun riguardo, per il proprio tornaconto e a vantaggio di pochi.

Non credo sia un problema di poco conto. Una società spaventata può diventare più facile da manipolare e controllare. E per come gira il mondo oggi mi sembra una prospettiva tutt’altro che rassicurante.