Generative Artificial Intelligence: between Borges and the return of orality

di Enrico Nardelli

(versione italiana qua)

Everyone — or at least I hope everyone — is familiar with Jorge Luis Borges’ famous short story The Library of Babel (one of the most beautiful intersections of literature and mathematics). In the story, the brilliant Argentine writer imagines a library that extends infinitely in every direction, containing an infinite number of books with every possible combination of characters. In this way, it holds all the knowledge of the world, even that of which we are not yet aware, along with all its variations and contradictions.

During a recent interdisciplinary panel organized by colleagues at the University of Milano-Bicocca, where we discussed generative artificial intelligence (GenAI) and higher education, as well as how to handle the presence of GenAI in the production of theses, I first observed that over the past twenty years the process of writing theses has evolved. With the ubiquitous spread of digital technologies, students have shifted from spending long days in libraries to navigating the web through search engines. This was a huge leap forward, putting the libraries of the entire world at our fingertips. I then added that we are now witnessing another leap, at least of the same magnitude and probably even greater, since GenAI — of which ChatGPT is the most well-known example — not only brings us this knowledge but is also capable of extracting, summarizing, and linking it together into coherent arguments

In a sense, with generative AI, it's as if we now have access to an "active" library with superpowers. This is a transition similar to the one I described in my book La rivoluzione informatica, which occurred when we moved from the passive knowledge contained in books to the active knowledge in software programs—what I called "knowledge in action." With books, it was people who, after absorbing the content, could put that passive knowledge into action in the world. With computer programs, anyone can achieve the same effect by simply running the program on a digital device, even without having assimilated the knowledge it contains. Now, with generative AI, you can produce new texts on subjects you know little or nothing about.

Unfortunately, there's a problem: GenAI sometimes fabricates facts and cites non-existent works. This phenomenon has been called "hallucination," by analogy with the same term used for people, and it represents the main Achilles' heel of this powerful technology, demanding careful attention when it is used in educational settings. In other respects, I think Borges might have appreciated generative AI's ability to mix and combine fragments of existing texts, producing endless variations. I'm sure that creatives in every field, despite being rightly concerned about the thorny copyright issues generative AI is raising, appreciate these capabilities.

During the panel discussion, my colleagues and I debated what changes were needed in university teaching methods. The situation for schools is different, and I'll address that in a future article. From my perspective, which views computer systems — including GenAI — as "cognitive machines" that can amplify our purely rational and logical abilities, I don't think it makes sense to forbid a student from using a tool that reduces the mental effort of producing a certain piece of work, as long as they have mastered the specialized knowledge of the subject.

Provided, and I emphasize this because it is the central point, that the student has mastered the subject. Only then can a student recognize if something the GenAI has produced is an "hallucination." At a high level of abstraction, using GenAI systems is not very different from using a library. The ultimate responsibility for a text always lies with the author, regardless of their source material—be it a standard library or an "active" library with superpowers. If a student fails to find the most appropriate articles or volumes in a library, or if they copy text verbatim without proper citation, they have still done their work poorly. Similarly, if they use generative AI without the critical oversight that comes from a deep knowledge of the subject, they are making the same kind of mistake. Perhaps it's an even more serious mistake, because the tool is more powerful, and as a famous comic book character often says, «with great power comes great responsibility».

However, we agreed that, especially for bachelor's degrees, the traditional final paper or thesis may no longer make sense. The effort of putting it together from source material—the very process that helps students assimilate and internalize the knowledge—can now be almost entirely delegated to generative AI, which removes the potential benefits of the exercise.

Instead, I believe it's important to shift the emphasis back on a person’s ability to demonstrate, “on the spot,” the skills that the thesis was traditionally meant to prove. As the moral of Aesop’s fable reminds the braggart who boasted of a miraculous jump in Rhodes, «Hic Rhodus, hic salta» (= Here is Rhodes, jump here). If you can truly do it, you can do it anywhere.

I am convinced that the advent of GenAI marks a historical moment that, in some ways, mirrors the one that occurred about 2,500 years ago when writing overtook speech as the primary means of communication. That transition, which we can read about in memorable pages of Plato's Dialogues from the fourth century B.C., was the first step toward the spread of culture and the progress of humanity. However, in the Phaedrus, the Athenian philosopher recounts Socrates' view that written language is inferior to spoken language, especially when speech is used dialectically. Socrates argued that a written text cannot respond to questions from a reader and essentially serves only as a reminder for those who already know things, whereas spoken words are "in the soul" of the speaker and are thus capable to help those who need to learn.

I believe the availability of generative AI tools can restore power and value to orality, given that these tools enable anyone to produce written texts that seem to certify the possession of any skill whatsoever. If everyone can create these texts, their mere existence no longer proves anything, much like Socrates's critique of the written word. But if the author is questioned and challenged, it will become clear who truly possesses knowledge "in the soul" and who can only repeat "the same thing over and over." This is why I think academia will return, to some extent, to the very tradition practiced in the first Academy in history.

Of course, writing, especially with the incredible boost from Gutenberg's invention of the printing press in the fifteenth century, will always play a vital role in spreading knowledge.

But I find it beautiful that, to some degree, the latest and most revolutionary innovations in digital technology are giving new value to something very old—something only people can have: human connection and oral dialogue.

--
The italian version has been published by "StartMAG" on 14 October 2023.

Il successo di ITADINFO: quando la passione e le persone fanno la differenza

di Enrico Nardelli

È appena finito ITADINFO, il convegno italiano sulla didattica dell'informatica nella scuola, che ha avuto a Bari la sua prima edizione. Ne scrivo a caldo, prima che la memoria di questi tre giorni inizi ad essere ricoperta dai nuovi impegni.

Quando con i colleghi del Laboratorio Informatica e Scuola, che raccoglie chi svolge attività di ricerca in questo ambito, avevamo discusso negli anni passati l'idea di avviare iniziative dedicate in modo specifico agli insegnanti, avvertivamo in qualche modo la loro importanza ma non sapevamo ancora quale avrebbe potuto essere la risposta da parte dei docenti. Insomma, di mestiere facciamo i ricercatori e i didatti, mentre far partire un convegno nazionale è un'attività più imprenditoriale, non esattamente nelle corde di un accademico. Teniamo presente che qui non stiamo parlando di sicurezza informatica o intelligenza artificiale, per le quali ci sono (giustamente) un'estrema attenzione e una grandissima disponibilità di risorse da parte di enti e istituzioni.

Qui si tratta di scuola, settore di cui spesso molti si riempiono la bocca, ma che ha purtroppo conosciuto dagli anni '80 ad ora un continuo definanziamento e degradazione del ruolo sociale, spingendo al contempo per una sua trasformazione da servizio essenziale di formazione di cittadini dotati di conoscenze e pensiero critico a fabbrica che deve sfornare in modo sempre più efficiente "prodotti" pronti ad essere consumati dal mercato. Atteggiamento suicida per una società che, nel secondo dopoguerra, grazie anche alla scuola di quel periodo che non faceva sconti a nessuno, era riuscita nel 1987 a diventare, da Paese semidistrutto da una guerra mondiale che aveva perso, la quinta potenza economica al mondo. Per un’analisi di questa tendenza e delle sue nefaste conseguenze segnalo, ex multis, "Il danno scolastico", il bel volume di Mastrocola e Ricolfi dal significativo sottotitolo “La scuola progressista come macchina della disuguaglianza”.

Poi, un paio di iniziative pilota (nel 2020 e nel 2022, ottimamente organizzate dai colleghi dell'Università di Milano Statale) ci avevano confortato e, alla fine, anche con l'incoraggiamento degli organi direttivi del CINI, il Consorzio Interuniversitario Nazionale per l'Informatica di cui il Laboratorio è uno dei bracci operativi, ci siamo lanciati nell'organizzazione.

Abbiamo trovato sponsor che hanno avuto fiducia in noi, mettendo a disposizione quelle risorse economiche senza le quali solo in fantasiosi resoconti giornalistici si riescono a organizzare iniziative serie, e che ritengo quindi doveroso ricordare in segno di ringraziamento. Gli sponsor espositori: Axios Italia, Edizioni Themis, PLD Artech; e gli sponsor: SeeWeb e KnowK. Il Magazine che ospita questo mio articolo ci ha dato una mano sulla diffusione mediatica. Avevamo scelto Bari, come sede di questo primo convegno, anche perché è stato uno dei primi atenei ad attivare in Italia corsi di laurea in informatica (che a quel tempo si chiamava "scienze dell'informazione") e la Puglia è tuttora una delle regioni in cui la comunità dei docenti scolastici interessati dall’informatica è più numerosa e attiva. Città e Regione ci hanno dato subito il patrocinio. L’eccellente lavoro del comitato organizzatore locale, "le magnifiche tre" colleghe del Dipartimento di Informatica (Veronica Rossano, Enrica Gentile e Paola Plantamura), ci ha portato in una sede che è un capolavoro dell’architettura razionalista degli anni ’30 (date un’occhiata a storia e foto) e ha preparato un programma sociale coi fiocchi.

Le nostre aspettative hanno superato ogni più rosea previsione. La città, per chi di noi non ci era mai stato o mancava da parecchio tempo, si è rivelata affascinante e ci ha accolto con un clima semplicemente perfetto.

Anche la sessione iniziale dei saluti istituzionali si è trasformata in una tavola rotonda multidisciplinare e ricca di stimoli. Il rettore dell'Università Di Bari Stefano Bronzini ha sottolineato l’importanza di non trascurare il lato umano e la formazione umanistica quando si parla di innovazione, aspetto sul quale gli informatici sono via via maggiormente attenti, considerando che le tecnologie digitali incidono in modo sempre più profondo sulla vita delle persone e sulle loro relazioni sociali.

Eugenio Di Sciascio, vice sindaco di Bari, ha ricordato che il problema di questo Paese non è mettere computer nelle scuole e nelle aziende, ma creare competenza sulla capacità di capire e governare questi strumenti. Osservazione che purtroppo, nella corsa alla trasformazione digitale, viene spesso dimenticata e che invece spinge a rimettere il ruolo della didattica scolastica e universitaria al centro della riflessione e della pianificazione.

Su questa linea ha continuato Filippo Lanubile, direttore del Dipartimento di informatica dell’ateneo barese, chiedendo di ridare importanza alla valutazione dell’attività didattica nella valutazione della carriera universitaria, pena l’impossibilità di far crescere quelle professionalità che sono necessarie per affrontare le sfide che ci pone una formazione universitaria moderna.

Ernesto Damiani, il presidente del CINI, ha riportato questa esigenza generale allo specifico mondo della scuola, dove per governare nel modo migliore un futuro sempre più digitale sarà fondamentale insegnare l’informatica facendo attenzione a far capire gli aspetti concettuali della disciplina, evitando di considerarne solo gli elementi tecnologici.

Nel chiudere questo giro di considerazioni, la cui singolare concordia mi ha fatto immediatamente capire che con questo evento avevamo centrato il bersaglio, ho ripreso lo stimolo del rettore, non a caso un letterato. Ho ricordato come Platone nei suoi immortali Dialoghi, abbia – con estrema pregnanza – evidenziato la componente affettiva della relazione educativa tra didàskalos e mathetés, maestro e allievo, come un aspetto fondamentale della paideia, la crescita etica e spirituale del discepolo. E affinché questa componente eserciti il suo effetto non ci deve essere tecnologia di mezzo, ma compresenza in uno stesso luogo fisico. La tecnologia digitale può arricchire le relazioni umane, se opportunamente utilizzata, ma rischia di impoverirle e distruggerle, se male utilizzata. Di questo aspetto noi informatici dobbiamo essere estremamente consapevoli e assumercene la responsabilità, esattamente allo stesso modo con cui nella seconda metà del secolo scorso i fisici si sono impegnati per evitare che il nucleare conducesse l’umanità all’estinzione.

Il programma scientifico che si è poi sviluppato ha visto docenti scolastici e ricercatori universitari offrire e assistere a resoconti di esperienze e laboratori formativi, in un dialogo stimolante e arricchente. L'uditorio è stato, dal primo all'ultimo momento, sempre presente, attento e numeroso, esperienza non proprio abituale, come ben sa chi per mestiere va a convegni scientifici.

Alla fine, quasi non volevamo più smettere.

I complimenti da parte dei docenti che hanno partecipato (molti visibili sulla pagina social del convegno) ci hanno dato la spinta a continuare, con la voglia di creare una comunità sempre più attiva e collaborativa.

--
Versione originale pubblicata su "StartMAG" il 16 ottobre 2023.

Intelligenza artificiale generativa: tra Borges e il ritorno dell’oralità

di Enrico Nardelli

(english version here)

Tutti, o almeno lo spero, conoscono il famoso racconto di Borges “La biblioteca di Babele” (una delle più belle sintesi di letteratura e matematica) in cui l’eccelso scrittore argentino rappresenta questa biblioteca immaginaria che, estesa infinitamente in tutte le direzioni, contiene un numero infinito di volumi con tutte le possibili combinazioni di caratteri, racchiudendo quindi tutta la conoscenza del mondo, anche quella di cui non siamo ancora consapevoli, e tutte le sue variazioni e negazioni.

Nel corso di una recente tavola rotonda interdisciplinare organizzata dai colleghi dell’università Milano Bicocca, in cui si è parlato di intelligenza artificiale generativa (IAG) e formazione universitaria e di come gestire la presenza dell’IAG nella produzione delle tesi di laurea, ho prima osservato che nell'ultimo ventennio il processo di produzione delle tesi si è evoluto, con l'ubiqua diffusione delle tecnologie digitali, dal passare lunghe giornate in biblioteca allo scandire la rete attraverso i motori di ricerca. Uno scatto in avanti enorme, perché ha messo le biblioteche di tutto il mondo a portata delle nostre dita digitanti. Poi ho aggiunto che sta avvenendo adesso un altro balzo almeno della stessa portata e probabilmente superiore, visto che l’IAG (di cui ChatGPT è l'esempio più noto) oltre che riportarci questa conoscenza è anche in grado di farne estratti e sommari e concatenarla in argomentazioni.

In un certo senso, quindi, è come se adesso avessimo a disposizione con l’IAG una biblioteca "attiva" dotata di super-poteri. È un passaggio dello stesso tipo di quello, descritto nel mio libro "La rivoluzione informatica", che è avvenuto nel passaggio dalla conoscenza passiva contenuta nei libri alla conoscenza attiva contenuta nei programmi software ("conoscenza in azione", l'ho chiamata). Con i libri, erano le persone, dopo aver assimilato i libri, a far agire nel mondo la conoscenza passiva contenuta in essi. Con i programmi informatici, chiunque li abbia a disposizione, può ottenere lo stesso effetto, anche se non ha assimilato la conoscenza in essi contenuta, mandandoli in esecuzione su un dispositivo digitale. Con l’IAG potete produrre dei nuovi testi anche su argomenti di cui sapete poco o niente.

C’è purtroppo il problema che alle volte l’IAG racconta fatti che non sono accaduti e cita opere che non esistono. È stato chiamato “allucinazione”, per analogia con l’omonimo fenomeno che capita alle persone, e costituisce il principale tallone d’Achille di questa potente tecnologia ed elemento di estrema attenzione nel suo uso in campo educativo. Per altri versi, penso che Borges forse avrebbe apprezzato le capacità dei sistemi di IAG di mescolare e combinare frammenti di testi esistenti producendo variazioni a non finire. Sono sicuro che i creativi in ogni campo, anche se giustissimamente preoccupati dalle spinose questioni di diritto d’autore che l’IAG sta sollevando, ne apprezzino queste capacità.

Con i colleghi coinvolti nella tavola rotonda ci siamo interrogati su cosa dover cambiare nel modo di fare didattica all’università. Per la scuola è un discorso di altro tipo, che affronterò in un successivo articolo. Nella mia visione dei sistemi informatici, quindi anche di quelli che appartengono alla classe dell’IAG, come “macchine cognitive”, ovvero come meccanismi in grado di potenziare le nostre capacità puramente razionali e logiche, una volta che uno studente sia arrivato a padroneggiare la competenza specialistica di un certo insegnamento universitario, non ritengo sensato proibire l’utilizzo di un ausilio meccanico che gli allevii la fatica mentale di produrre un certo elaborato.

Purché, lo ripeto dal momento che è il punto centrale, padroneggi la materia. Solo in questo caso, infatti, può rendersi conto se qualcosa, in ciò che l’IAG ha prodotto è un’allucinazione. Ad alto livello di astrazione non cambia molto, quando si usano sistemi di IAG rispetto all’uso di una biblioteca. La responsabilità finale di un testo è sempre dell’autore che lo produce, qualunque sia le basi su cui si è poggiato: biblioteca standard o biblioteca “attiva” con super-poteri. Se in biblioteca non si trovano gli articoli o volumi più appropriati, se si copia pedissequamente il testo senza citare, lo studente ha comunque svolto male il suo lavoro. Se con l’IAG non si attua quel controllo che può derivare solo da un’approfondita conoscenza della materia, si fa lo stesso tipo di errore. Forse più grave, perché il mezzo è più potente e, come ripete sovente un noto personaggio dei fumetti, «da un grande potere derivano grandi responsabilità».

Abbiamo però convenuto che, soprattutto a livello di lauree triennali, richiedere il tradizionale elaborato finale, ovvero la tesi, rischia di non avere più senso, dato che la fatica di metterlo insieme a partire dal materiale di base – lavoro che poi determina che lo studente lo assimili e lo faccia suo – può essere quasi tutta delegata all’IAG, circostanza che ne rimuove i potenziali benefici.

Ritengo che sia invece importante riportare l'enfasi sulla capacità della persona di esibire "sul momento" le competenze il cui possesso veniva tradizionalmente attestato dalla scrittura della tesi. "Hic Rhodus, hic salta " viene ricordato nella favola di Esopo allo spaccone che si vantava di essere stato in grado di fare un salto prodigioso a Rodi: se è vero, puoi rifarlo dovunque, anche qua.

Sono convinto che, con l’avvento dell’IAG, siamo di fronte a un momento storico, per certi versi speculare a quello avvenuto circa 2500 anni fa, quando la scrittura prese il sopravvento, come mezzo primario di comunicazione, rispetto alla parola. Quella transizione, di cui abbiamo testimonianza, tra le altre, in memorabili pagine dei Dialoghi di Platone del quarto secolo avanti Cristo, è stata il primo passo per la diffusione della cultura e il progresso dell’umanità. Tuttavia, il filosofo ateniese riporta nel Fedro la posizione di Socrate che ritiene la parola scritta inferiore a quella orale, soprattutto se l’oralità è esercitata dialetticamente, poiché lo scritto non è in grado di rispondere a chi lo interroga e serve essenzialmente come ricordo a chi già sa le cose, mentre la parola detta è posseduta “nell’anima” di chi la pronuncia ed è quindi in grado di aiutare chi ha necessità di conoscere.

Ritengo che la disponibilità degli strumenti di IAG possa ridare forza e valore all’oralità, considerato che con tali strumenti tutti sono in grado di produrre ed esibire testi scritti che sembrano certificare il possesso di qualsivoglia competenza. Se tutti sono in grado di realizzarli, la loro presenza non è più in grado di dimostrare alcunché, come nella critica di Socrate al testo scritto. Ma se il loro autore viene interrogato e sollecitato, allora si vedrà chi davvero possiede la conoscenza “nell’anima” e chi è solo in grado di ripetere “sempre la stessa cosa”. Ecco perché penso che nell’accademia ritorneremo, in una qualche misura, a quella tradizione praticata proprio nella prima Accademia della storia.

È chiaro che la scrittura, soprattutto con l’incredibile potenziamento causato dall’invenzione della stampa a caratteri mobili ad opera di Gutenberg nel quindicesimo secolo, manterrà sempre un ruolo importante per la diffusione della conoscenza.

Ma trovo molto bello che, in una quale misura, proprio le ultime e più sconvolgenti innovazioni della tecnologia digitale stiano ridando valore a qualcosa di molto antico, a ciò che solo le persone possono avere: il rapporto umano e il dialogo orale.

--
Versione originale pubblicata su "StartMAG" il 14 ottobre 2023.