I nostri figli non sono cavie da laboratorio

di Enrico Nardelli

(english version here)

Prendo lo spunto da un tweet di Tristan Harris a proposito di una delle ultime “prodezze” di ChatGPT, un generatore di testi basato sull’intelligenza artificiale di cui tutti parlano nelle ultime settimane. Tristan Harris è uno dei co-fondatori del Center for Humane Technology, che ha come missione di far sì che la tecnologia sia svilup-pata a favore delle persone e del benessere sociale.

Nel suo tweet riporta una “conversazione” avvenuta tra un utente che si identifica come una ragazza di 13 anni e ChatGPT. In sintesi, l’utente dice di aver incontrato sulla rete un amico più anziano di lei di 18 anni che gli sembra simpatico e che l’ha invitata ad una gita fuori porta proprio per i giorni in cui ci sarà il suo compleanno. ChatGPT nelle sue “risposte” si “rallegra” per questa possibilità che sarà sicuramente molto divertente per lei, aggiungendo delle indicazioni su come rendere “la prima volta” un evento indimenticabile. Harris conclude dicendo che i nostri figli non possono essere soggetti ad esperimenti di laboratorio.

Sono completamente d’accordo con lui.

Per chi non avesse ancora sentito parlare di ChatGTP, spiego che si tratta di un esempio di sistema informatico, basato su tecniche di intelligenza artificiale, in grado di produrre – in risposta a domande dell’utente – testi in linguaggio naturale che appaiono generalmente corretti ma che, ad un esame più approfondito, si rivelano viziati da errori o imprecisioni fatali (qui un esempio in cui descrive un articolo scientifico di economia che è invece completamente inventato). In altre parole, se non sapete già la risposta corretta, ciò che vi dice tale sistema rischia di non essere di alcun aiuto. Senza entrare in dettagli tecnici, questo dipende dal fatto che ciò che esso produce è basato su un sofisticato modello probabilistico del linguaggio che contiene statistiche sulle continuazioni più plausibili di sequenze di parole e di frasi. ChatGPT non è l’unico sistema di questo tipo, considerato che diversi altri vengono prodotti dalle principali aziende del settore, ma questo è quello più famoso e che proprio in questi giorni sta venendo reso disponibile nella versione 4, che si dice sia ancora più potente.

Per questi sistemi userò l’acronimo SALAMI (Systematic Approaches to Learning Algorithms and Machine Inferences = approcci sistematici per [lo sviluppo di] algoritmi di apprendimento e [sistemi di] deduzione automatica), creato da Stefano Quintarelli per indicare i sistemi basati sull’intelligenza artificiale, proprio allo scopo di evitare il rischio di attribuire loro più di quanto ci sia.

Un elemento che infatti dimentichiamo troppo spesso è che l’uomo vede significato dovunque: il famoso psichiatra californiano Irvin Yalom ha scritto: «Noi siamo creature che cercano dovunque un significato. Da un punto di vista biologico, il nostro sistema nervoso è organizzato in modo che il cervello automaticamente raggruppi in configurazioni gli stimoli che riceve.» Questo è il motivo per cui leggendo un testo che sembra scritto da un essere senziente, pensiamo che chi l’ha prodotto sia senziente. Come per il famoso detto “la bellezza è negli occhi di chi guarda”, possiamo dire che “l’intelligenza è nel cervello di chi legge”. Questa trappola cognitiva in cui stiamo cadendo di fronte alle prodezze dei SALAMI, è aggravata dall’uso del termine “intelligenza artificiale”. Quando, circa 70 anni fa, si è iniziato ad usarlo, l’unica intelligenza che si conosceva era quella delle persone ed era essenzialmente caratterizzata come una capacità puramente logico-razionale. A quel tempo, la capacità di dominare nel gioco degli scacchi era considerata la quintessenza dell’intelligenza, adesso non più. Decenni di avanzamento della conoscenza scientifica in ambito neurologico hanno messo in luce che, da un lato, esistono molte dimensioni dell’intelligenza che non sono puramente razionali ma sono altrettanto importanti e, dall’altro ma strettamente collegato, la nostra intelligenza è legata in modo indissolubile al nostro corpo fisico. Per analogia, parliamo anche di intelligenza per gli animali che sono più vicini a noi, cani e gatti, cavalli e delfini, scimmie e via dicendo, ma si tratta ovviamente di metafore. Definiamo in questo modo quei comportamenti che, se fossero esplicitati da esseri umani, sarebbero considerati intelligenti.

L’intelligenza nella mia visione è solo l’intelligenza incarnata delle persone. Usare il termine intelligenza per sistemi che sono solo delle incorporee macchine cognitive, termine che ho introdotto nel mio recente libro “La rivoluzione informatica. Conoscenza, consapevolezza e potere nella società digitale” è pericolosamente fuorviante. Sono “macchine cognitive” tutti i sistemi informatici, che su un piano esclusivamente logico-razionale sono in grado di calcolare dati da altri dati, ma senza alcuna consapevolezza di ciò che fanno né comprensione di ciò che producono. Su questo piano tali macchine hanno superato le nostre capacità in molti domìni, come sul piano fisico lo hanno fatto le macchine industriali, ma parlare per tali sistemi di intelligenza è ingannevole. Farlo a proposito di quella particolare variante che sono i SALAMI rischia di essere estremamente deleterio sul piano sociale, come illustrato dall’esempio descritto in apertura.

Chiarisco subito che questo non vuol dire che la ricerca e lo sviluppo tecnologico non debbano proseguire su questa strada. Tutt’altro, i SALAMI possono essere di enorme aiuto per l’umanità. Però è importante essere consapevoli che non tutte le tecnologie e strumenti possono essere usati liberamente da tutti.

L’automobile, ad esempio, pur essendo di indiscutibile utilità può essere usata solo da maggiorenni che hanno superato un apposito esame. Notate che stiamo parlando di qualcosa che agisce sul piano puramente fisico della mobilità e, nonostante questo, non ci viene in mente di sostituire il faticoso (ogni tanto doloroso) apprendimento a camminare da parte dei bambini dotandoli di automobiline elettriche. Perché è parte indispensabile del loro processo di crescita.

La tecnologia delle macchine cognitive è la più potente che l’umanità abbia mai sviluppato, anche perché agisce su quel piano che contribuisce a definire l’intelligenza, cioè la capacità che ci ha portato, da scimmie nude e indifese, ad essere signori del creato. Consentire ai nostri figli l’uso dei SALAMI prima del loro completo sviluppo vuol dire menomare le loro possibilità di crescita sul piano cognitivo, come ad esempio far usare le calcolatrici da tavolo prima che gli alunni abbiano sviluppato adeguato capacità matematiche.

Stiamo già rovinando lo sviluppo cognitivo delle future generazioni con l’uso indiscriminato della scrittura e lettura digitali, nonostante molti avvertimenti, sintetizzati nell’espressione della Montessori “la mano è l’organo della mente” (si veda an-che il volume “I bambini e la scrittura” di Benedetto Vertecchi), e nonostante gli appelli dei ricercatori (si veda la Dichiarazione di Stavanger sul futuro della lettura). Non continuiamo così. Non facciamo loro ancora più male.

Ovviamente all’università vi è una situazione diversa e si possono individuare modalità di uso dei SALAMI che possano contribuire all’approfondimento nello studio di una disciplina, impedendone l’utilizzo come scorciatoie nella realizzazione dei compiti assegnati agli studenti. A maggior ragione nel mondo del lavoro vi sono molti modi in cui essi possono alleviare la nostra fatica mentale, analogamente a quanto fanno i sistemi di traduzione automatica relativamente a testi scritti in altre lingue.

E’ chiaro che prima ancora di invadere il mondo con tecnologie la cui spinta alla diffusione risponde a precisi obiettivi commerciali, bisogna tenere conto dei pericoli.

Non tutto quello che il singolo desidera fare può esplicitarlo all’interno di una società, perché abbiamo il dovere di contemperare la libertà del singolo con la protezione della collettività. Allo stesso modo, non tutto quello che le aziende vorrebbero rea-lizzare può essere loro permesso, soprattutto se è in gioco il futuro dei nostri figli.

L’innovazione e lo sviluppo economico vanno sempre coniugati con il rispetto dei diritti umani fondamentali e la salvaguardia del benessere sociale.

--
Versione originale pubblicata su "StartMAG" il 19 marzo 2023.