It is written AI, but it reads as informAtIcs

by Enrico Nardelli

(versione italiana qua)

In recent years, artificial intelligence (AI) has been on everyone’s lips. Even the average person has understood that it is something important, given its daily presence in the media, under the pretext that it "will radically change our future." While it’s true that all technologies have deeply transformed society, our human nature always remains the same. It’s worth asking ourselves whether certain messages are obsessively repeated for our own good or to serve other interests. Cui prodest? (= Who benefits?), one should ask, but that is not the subject of this particular reflection.

Back in November 2020, I was invited to a panel discussion on "Teaching Artificial Intelligence in Italy" organized by AIxIA (Italian Association for Artificial Intelligence) as part of their annual conference. During my talk, which I titled somewhat provocatively "Si scrive IA, si legge InformaticA" (= It is written AI, but it reads as informAtIcs), I observed that the AI boom was finally making everyone realize the importance of informatics. Unfortunately, this awakening of attention was, and still is, accompanied by a view that considers AI as something separate from informatics.

In reality, AI is one of the oldest areas of informatics, because the desire to create something in our own image has always been strong in humanity. Historically, the term was coined in 1955 in a funding request that some USA informatics pioneers submitted to the National Science Foundation to conduct a two-month research project at Dartmouth (yes, just two months!). The proposal was based on the assumption that: «every aspect of learning or any other feature of intelligence can in principle be so precisely described that a machine can be made to simulate it». Although one always exaggerates a little when writing a research proposal to positively impress the funding decision-makers, the naivety of this statement is, in hindsight, somewhat amusing. This is especially true since the proposal went on to argue that «a significant advance can be made in one or more of these problems if a carefully selected group of scientists work on it together for a summer». In its closing lines, the proposal offered a more cautious and appropriate description of the problem of artificial intelligence, describing it as the problem «of making a machine behave in ways that would be called intelligent if a human were so behaving». In effect, this similarity is precisely what we use to describe something non-human as intelligent, while remaining perfectly aware that it is an "as-if" and not "the real thing." This is a crucial aspect that we too often tend to forget when talking about technology.

In any case, the proposal was approved, and the meeting that officially introduced the term "artificial intelligence" to the world and launched the development of this field of informatics took place in 1956. Its products – also thanks to this name – perfectly illustrate, though not exclusively, the revolutionary power of informatics. It is the possibility of building what I have called "cognitive machines", meaning machines that are able to replicate the logical-rational cognitive abilities of human beings. Precisely because they are machines that do not tire or get distracted, they constitute a powerful aid for human cognitive activities. To put it simply, we can say that the automobile is to our legs what "cognitive machines" are to our brain.

However, as I wrote back in November 2018, together with an international group of experts, in a report on software source code as a world heritage for sustainable development, neither the general public nor policymakers are typically aware that these digital artifacts are fundamentally different from any human-made device of the past, which typically only enhances people's physical and sensory abilities. Computer programs (i.e., source code) are a special representation of human knowledge, not in the usual passive and static form used for centuries in books, but in an entirely new way. It is actionable knowledge, meaning knowledge ready to be put into action with the appropriate hardware and capable of interacting dynamically with the world. Source code therefore represents a mechanization of human knowledge that is unprecedented in the history of humanity.

These "knowledge machines" augment the cognitive capabilities of humankind, much as industrial machines have enhanced and extended people's physical and sensory abilities over the past three centuries. However, they lack true learning capability and the adaptability that characterizes human intelligence.

Without a deep understanding of this fundamental difference between a cognitive machine and a person, the latter being the farthest thing from a machine that can exist, the role of informatics systems in society cannot be truly grasped. I discussed this in depth in my book, “La rivoluzione informatica: conoscenza, consapevolezza e potere nella società digitale” (= The Informatics Revolution: Knowledge, Awareness, and Power in the Digital Society).

With the arrival of the more powerful variant of artificial intelligence, the so-called Generative AI (GenAI), the situation risks becoming even more complicated. Our human nature invariably leads us to attribute more to cognitive machines than they are capable of, partly because of the words we use. The deplorable state of software development, which despite over 60 years of research is still incapable of producing artifacts with the same level of quality and predictability as other fields of engineering, does the rest. The consequences can range from the mere ineffectiveness of informatics systems — failing to perform the functions they were designed for or only doing so at the cost of great stress and enormous effort on our part — to the outright dehumanization of human beings, treated as mere things, disembodied objects to be disposed of at will.

Similar to the famous saying "beauty is in the eye of the beholder," we could say that for cognitive machines, "intelligence is in the brain of the reader". In previous articles, I have discussed several aspects that must be taken into account when considering the use of GenAI tools, from a societal perspective, for university education, and for school education, both in general and more specifically.

The terminological issue is therefore crucial: we shall return to it in more detail when we discuss the expression "artificial intelligence" in an upcoming article.

--
The original version (in italian) has been published by "StartMAG" on 18 february 2024.

Si scrive IA si legge InformaticA

di Enrico Nardelli

(english version here)

Negli ultimi anni l'intelligenza artificiale (IA) è sulla bocca di tutti. Anche l'uomo della strada ha capito che si tratta di qualcosa di importante, dal momento che ogni giorno è presente sui media, con la scusa che “cambierà radicalmente il nostro futuro”. Certamente tutte le tecnologie hanno trasformato la società in modo importante, ma la nostra natura umana è sempre la stessa ed è importante riflettere se certi messaggi vengono ripetuti in modo ossessivo per il nostro bene o per servire interessi altrui. Cui prodest ?, bisognerebbe chiedersi, ma non è questo il tema di codesta riflessione.

Nel novembre 2020 ero stato invitato a una tavola rotonda su "L'insegnamento dell'intelligenza artificiale in Italia” organizzata dall’AIxIA (Associazione Italiana per l’Intelligenza Artificiale) nell’ambito del loro convegno annuale. Nel corso del mio intervento, intitolato un po’ provocatoriamente proprio “Si scrive IA si legge InformaticA”, avevo osservato che l’esplosione dell’IA stava finalmente facendo capire a tutti l’importanza dell’informatica. Purtroppo, a questo risveglio dell’attenzione si accompagnava, e si accompagna ancora, una visione che ritiene l’IA sia qualcosa di diverso dall’informatica.

In realtà l'IA è una delle aree dell'informatica, tra le più antiche, perché il desiderio di creare qualcosa a nostra immagine e somiglianza è sempre stato forte nell'umanità. Storicamente il termine nasce nel 1955 con una richiesta di finanziamento che alcuni pionieri USA dell’informatica sottoposero alla National Science Foundation per svolgere a Dartmouth un progetto di ricerca della durata di 2 mesi (sic !). Il presupposto su cui era basato era questo: «ogni aspetto dell’apprendimento o di ogni altra caratteristica dell’intelligenza può in linea di principio essere descritto in modo così preciso che si può costruire una macchina in grado di simularlo». Anche se normalmente, quando si scrive una proposta di ricerca, si esagera sempre un pochino per impressionare positivamente chi dovrà decidere sul finanziamento, fa un po’ sorridere – a posteriori – l’ingenuità espressa in quest’affermazione, anche perché la proposta proseguiva argomentando che «un significativo avanzamento su alcuni di questi problemi si può ottenere se un gruppo attentamente selezionato di scienziati ci lavorerà sopra per un’estate». In chiusura, la proposta conteneva una descrizione più cauta e appropriata del problema dell’intelligenza artificiale, descrivendolo come «quello di una macchina che si comporta in un modo che sarebbe chiamato intelligente se fosse il comportamento di un essere umano». In effetti questa similitudine è proprio quella che applichiamo noi per descrivere come intelligente qualcosa di non umano, rimanendo perfettamente consapevoli che si tratta di un “come se” e non della “cosa reale”. Si tratta di un aspetto importantissimo, che invece troppo spesso – quando parliamo di tecnologia – tendiamo a dimenticare.

Comunque, la proposta fu approvata e nel 1956 si svolse l’incontro che battezzò al mondo il termine “intelligenza artificiale” e diede il via allo sviluppo di questo settore dell’informatica. I suoi prodotti – anche grazie a questo nome – esemplificano in modo lampante, ma non esclusivo, le capacità rivoluzionarie dell’informatica. Si tratta della possibilità di costruire quelle che ho definito “macchine cognitive”, cioè macchine che sono in grado di replicare le capacità cognitive logico-razionali dell’essere umano, costituendo – proprio grazie al fatto che sono macchine che non si stancano e non si distraggono – un potente ausilio per le attività cognitive dell’essere umano. Semplificando, possiamo dire che l’automobile sta alle nostre gambe come le “macchine cognitive” stanno al nostro cervello.

Tuttavia, come ho scritto nel novembre 2018, insieme a un gruppo internazionale di esperti, in un rapporto sul codice software sorgente come patrimonio dell’umanità per lo sviluppo sostenibile, in generale né i decisori né il grande pubblico sono consapevoli del fatto che questi artefatti informatici sono radicalmente diversi da qualsiasi precedente congegno creato dall’uomo, che è in genere in grado di potenziare solo le capacità fisiche e sensoriali delle persone. I programmi informatici (cioè il codice sorgente) sono una particolare rappresentazione della conoscenza umana, non nella consueta forma passiva e statica usata per secoli attraverso i libri, ma in un modo nuovo. Si tratta di actionable knowledge, cioè conoscenza pronta per essere messa in azione con l'hardware appropriato e in grado di interagire dinamicamente con il mondo. Il codice sorgente rappresenta quindi una meccanizzazione della conoscenza umana che non ha precedenti nella storia dell’umanità.

Queste “macchine della conoscenza” aumentano le capacità cognitive del genere umano, come le macchine industriali hanno accresciuto ed esteso le capacità fisiche e sensoriali delle persone negli ultimi tre secoli, ma non hanno la capacità di apprendimento e l’adattabilità dell’intelligenza umana.

Senza una comprensione approfondita di questa fondamentale differenza tra una macchina cognitiva e una persona, che è quanto di più lontano da una macchina possa esistere, il ruolo dei sistemi informatici nella società non può essere realmente capito. Ne ho discusso in profondità nel mio libro “La rivoluzione informatica: conoscenza, consapevolezza e potere nella società digitale”.

Con l’arrivo della variante più potente dell’intelligenza artificiale, la cosiddetta Intelligenza Artificiale Generativa (IAG), la situazione rischia di essere ancora più complicata, visto che la nostra natura umana invariabilmente ci porta ad attribuire alle macchine cognitive, anche a causa delle parole che usiamo, più di quanto esse siano in grado di fare. Il deplorevole stato dello sviluppo del software, che nonostante 60 anni e più di ricerca è ancora incapace di produrre artefatti con lo stesso livello di qualità e prevedibilità delle altre costruzioni dell’ingegneria, fa il resto. Le conseguenze possono andare dalla semplice inefficacia dei sistemi informatici, che non riescono a svolgere le funzioni per cui sono stati pensati o lo fanno solo a prezzo di grande stress ed enorme fatica da parte nostra, alla vera e propria disumanizzazione degli esseri umani, trattati alla stregua di cose, oggetti disincarnati di cui poter disporre a piacimento.

In maniera analoga al famoso detto “la bellezza è negli occhi di chi guarda”, possiamo sostenere che per le macchine cognitive “l’intelligenza è nel cervello di chi legge”. In precedenti articoli ho discusso alcuni aspetti che devono essere tenuti in considerazione, quando si parla dell’uso degli strumenti dell’IAG, dal punto di vista sociale, per la formazione universitaria e per quella scolastica, sia in generale che in modo più specifico.

La questione terminologica è dunque importante: la riprenderemo discutendo più in dettaglio l’espressione “intelligenza artificiale” in un prossimo articolo.

--
Versione originale pubblicata su "StartMAG" il 18 febbraio 2024.

The future worth living will be in presence

by Enrico Nardelli

(versione italiana qua)

There have been warnings for some time. When the first generative artificial intelligence (GenAI) tools became available, we first heard loud cries against the spread of disinformation, a subject that is certainly very delicate, but which is often treated with an embarrassing selective amnesia, given that those who have power have always used it to manipulate information so as to maintain and extend it (repaid, as far as possible, by those who did not have this power and want to conquer it). We arrived, in the name of 'correct' information, to demonize any opinion or discussion happening in non-traditional media, forgetting Gramsci's lesson on newspapers as tools used by interest groups that have the means to try to influence public opinion, even going so far as to turn scientific viewpoints into truths of faith to be blindly believed.

Then we assisted to the spread of articles generated by GenAI tools and published by media once recognized as authoritative. Next came channels of 'customized news' presented on video by synthetically generated journalists. A few weeks ago, we assisted to the viral spread of pornographic deep-fake photos of a famous American singer. To the discredit of a category that until a few years ago still had an almost absolute ethical rigor in publishing, we are witnessing the phenomenon – embarrassing for those who, like me, work in this field and have been educated in another era – of more and more researchers cheerfully using these tools to flood scientific journals with fake articles.

Now we have the definitive proof that in the future the only events we can really believe in will be those that take place in our presence. In fact, in a financial company, an employee was convinced to transfer 25 million dollars to a fraudulent bank account by means of a virtual meeting via video conference, attended by the company's CFO and other staff members. However, everybody but the unlucky guy who eventually made the transfer, had been synthetically generated by GenAI. According to what was reported, the scam had started with the usual phishing e-mail, but, due to the employee's well-founded puzzlement, evolved into a completely fabricated 'scam' which fully succeeded. A note of caution (you never know!): I have verified, to the best of my ability, the truthfulness of this piece of news but, even if it was not, it does not change the substance of my argument.

We must be aware that this is the reality in which we currently live in. As they say in these cases, 'the genie is out of the bottle' and it will certainly be impossible to get it back in. The reason is that GenAI can offer enormous opportunities to improve everything we do, if we know how to use it well. As I discussed in my book 'The Informatics Revolution', GenAI tools are among the most powerful examples of a cognitive machine, i.e. a machine automating human being's intellectual capabilities, replicating on a different level what an industrial machine performs at physical level. I consider a positive aspect the fact that a machine can have this ability. In this sense, I completely agree with what Charles W. Eliot, who was president of Harvard University for forty years, from 1869 to 1909, turning it in-to one of the most important universities in America, said at the end of the 19th century: 'A man should not be used for a task that can be done by a machine'.

With the spread of GenAI tools, actions done in presence and being physically in a place will become more and more valuable and relevant. I expect, on the one hand, the development of a market for synthetically generated 'cultural' products for mass consumption. This is already happening for books (e.g. travel guides) and for music (e.g. on streaming platforms). But, on the other hand, this will recover and boost the value of theatrical performances, concerts and artistic events in presence, which I consider a positive effect.

Obviously, the social consequences of this technological development must be carefully considered, because we risk transforming, at least in our Europe that has seen in the post-World War II period the development of a much more equal and balanced society than we had in previous centuries, our communities into new feudal domains, now linked not to the possession of land but to that of digital infrastructures.

Think for instance of the various services that are important in any democratic society: if we are not careful, those who can pay will have the human doctor or lawyer or teacher, for everyone else there will be the synthetic one. Quite rightly, Daniel Dennett, one of the sharpest thinkers in the field of artificial intelligence, argued that the undeclared use of fictitious persons should be a crime prosecuted as severely as the prosecution of counterfeit money dealers. There is at stake, he rightly argued, the future of our civilization.

They will try to convince us that having an 'artificially intelligent' professional will be for our sake, when in fact it will serve the purpose for which we have seen digital technology used over the last 50 years. That is, to increase productivity while keeping workers’ wages more or less at the same level, thereby increasing the profit share without allowing the working class to take advantage of productivity gains and thus ultimately widening the gap between social classes.

In a world where every document has become digital and can therefore be easily altered or generated at will, any document loses its value as a testimony of what happened. Unless it is clearly and unmistakably linked to a reliable and credible author. Technological solutions based on the certification of the identity and authenticity of the instrument used to generate a certain con-tent are beginning to become available (this is happening in the field of photography). In short, they work in the same way as the electronic identity card which we can use to prove who we are when operating on digital platforms. These will not necessarily be the final solutions: for instance, the many mechanisms for certifying the origin of e-mail messages that have been invented decades ago are not yet widely used. Nor should it ever be forgotten that even these solutions, although highly sophisticated, can be altered, given sufficient resources and the right circumstances. And care must also be taken not to exasperate this approach by pretending to certify every expression of human thought, since this – by effectively preventing dissent – would lead to the destruction of democracy.

Therefore, more and more, in our digital future, the roots of trust will become again associated to human beings and relationships in presence.

This is a return to the ancient that I hope we will learn to appreciate again, of which there is linguistic evidence (which those who have done classical studies should remember) in the verb of the ancient Greek expressing the action of 'knowing' (I know = οἶδα), which is nothing but the past tense of the verb expressing the action of 'seeing' (I see = ὁράω). Thus, 'I know' because 'I have seen', in the first person.

I really hope this will be the dominant motif of our future: the increasing importance of the physical dimension in an increasingly digitized society.

The future worth living will be in presence.

--
The original version (in italian) has been first published by "StartMAG" on 6 february 2024.

Per il futuro digitale “ci vuole un fisico reale”

di Enrico Nardelli

(english version here)

C’erano state da un po’ di tempo delle avvisaglie. Con l’arrivo degli strumenti di intelligenza artificiale generativa (IAG) si erano dapprima levati alti lamenti contro la diffusione della disinformazione, tema certamente assai delicato, ma che spesso viene trattato con un’imbarazzante amnesia selettiva della storia dell’umanità, nella quale chi ha avuto il potere ha sempre usato e piegato l’informazione al fine di mantenerlo ed estenderlo (ripagato, per quanto possibile, da chi questo potere non l’aveva e voleva conquistarlo). Ci si è spinti, in nome della “corretta” informazione, a demonizzare ogni opinione o discussione che osa avvenire su media non tradizionali, dimenticandosi della lezione di Gramsci sui giornali come strumento di lotta per gruppi di interesse che hanno i mezzi per cercare di influenzare l’opinione pubblica, arrivando addirittura a trasformare i punti di vista scientifici in verità di fede cui credere ciecamente.

Poi abbiamo assistito alla diffusione di articoli generati da questi strumenti e pubblicati da chi un tempo era riconosciuto come autorevole. Sono successivamente arrivati canali di “notizie personalizzate” presentate in video da giornalisti generati sinteticamente. Poche settimane fa, abbiamo visto una famosa cantautrice americana essere colpita dalla diffusione virale di sue finte foto pornografiche, generate appunto con l’IAG. A discredito di una categoria che fino a un po’ di anni fa aveva ancora un rigore etico pressoché assoluto nella pubblicazione, stiamo assistendo al fenomeno – imbarazzante per chi fa questo mestiere ed è, come me, stato formato in un’altra epoca – di sempre più ricercatori che usano allegramente la generazione sintetica per inondare le riviste scientifiche di falsi articoli.

Adesso è arrivata la prova definitiva che i soli avvenimenti ai quali potremo davvero credere in futuro saranno quelli che avverranno alla nostra presenza. In una società finanziaria, un impiegato è stato indotto a trasferire 25 milioni di dollari verso un conto corrente truffaldino mediante una riunione virtuale avvenuta in video-conferenza, alla quale ha partecipato il direttore finanziario della società stessa insieme ad altri membri dello staff. Tutti però, tranne il malcapitato che ha poi operato il trasferimento, erano stati generati sinteticamente dall’IAG. Secondo il resoconto, la truffa era iniziata con la solita mail di phishing ma, a causa delle giustificatissime perplessità dell’impiegato, si è poi evoluta in una vera e propria “sceneggiata” completamente inventata, ma che è andata a segno. Una nota di cautela (non si sa mai!): ho verificato, per quanto in mio potere, la veridicità della notizia me, se anche non lo fosse, non cambia la sostanza del mio argomento.

Dobbiamo essere consapevoli che questa è la realtà nella quale ci troviamo immersi. Come si usa ripetere in questi casi “il genio è fuori dalla bottiglia” e certamente sarà impossibile farlo rientrare. Perché comunque, questo è molto importante da ricordare, l’IAG può offrire enormi opportunità per migliorare ogni nostra attività, se sappiamo usarla bene. Come ho discusso nel mio libro “La rivoluzione informatica” essa costituisce un esempio tra i più potenti di una macchina cognitiva, ovvero un’automazione delle capacità intellettive dell’essere umano, che replica su un piano più elevato ciò che una macchina industriale compie rispetto alle sue capacità fisiche. Siamo certamente sconcertati, dal momento che ciò accade a un livello riservato fino a pochi decenni fa esclusivamente alla specie umana, però sempre di un’attività meccanica si tratta. Il fatto che sia una macchina a svolgerlo lo vedo come un aspetto positivo. In questo senso sono completamente d’accordo con quanto disse alla fine dell’Ottocento Charles W. Eliot, che è stato per quarant’anni, dal 1869 al 1909, presidente dell’Università di Harvard, trasformandola in uno dei più importanti atenei americani: «Un uomo non dovrebbe essere usato per un compito che può essere svolto da una macchina».

Col dilagare dell’IAG diventerà sempre più rilevante la presenza fisica e ciò che fanno le persone direttamente. Mi aspetto, da un lato, lo sviluppo di un mercato di prodotti “culturali” artificialmente generati per il consumo di massa. Sta già accadendo per i libri (ad esempio le guide turistiche) e per la musica (ad esempio sulle piattaforme di streaming). Ma, dall’altro, questo riattribuirà a spettacoli teatrali, concerti ed eventi artistici in presenza, quel valore che stavamo dimenticando.

Ovviamente le conseguenze sociali di questo sviluppo tecnologico devono essere tenute in debito conto, perché rischiamo di trasformare, almeno in quest’Europa che ha visto nel secondo dopoguerra lo sviluppo di una società molto più equa ed equilibrata di quelle che avevamo nei secoli passati, le nostre comunità in nuovi domìni feudali, legati adesso non al possesso della terra ma a quello delle infrastrutture digitali.

Pensate ad esempio ai vari servizi che sono importanti in ogni società democratica: se non facciamo attenzione, chi può pagare avrà il medico o l’avvocato o l’insegnante umano, per tutti gli altri ci sarà quello sintetico. Cercheranno di convincerci che è per il nostro bene avere il professionista “artificialmente intelligente”, mentre invece servirà allo scopo per cui abbiamo visto usare la tecnologia digitale negli ultimi 50 anni. Cioè aumentare la produttività a salario sostanzialmente invariato, incrementando di conseguenza la quota profitti senza far partecipare la classe lavoratrice a questo beneficio e quindi, in ultima analisi, allargando il divario tra le classi sociali.

Giustamente, Daniel Dennett, uno dei pensatori più acuti nel settore dell’intelligenza artificiale, ha argomentato che l’utilizzo non dichiarato di persone fittizie dovrebbe essere un crimine perseguito con la stessa severità con cui vengono perseguiti gli spacciatori di denaro falso. È in gioco, ha sostenuto a ragione, il futuro della nostra civiltà.

In un mondo in cui ogni documento è diventato digitale e perciò facilmente alterabile o generabile a piacere, esso perde la sua valenza di testimonianza su ciò che è successo. A meno che non sia chiaramente legato in modo chiaro e non disconoscibile ad un autore affidabile e credibile. Cominciano ad essere disponibili soluzioni tecnologiche basate sulla certificazione dell’identità e autenticità dello strumento usato per generare un certo contenuto (sta accadendo nel campo della fotografia). In sintesi, è lo stesso principio della carta d’identità elettronica con cui possiamo dimostrare chi siamo quando operiamo sulle piattaforme digitali. Non è detto che siano definitive: ad esempio, non abbiamo ancora un utilizzo generalizzato dei tanti meccanismi di certificazione della provenienza dei messaggi di posta elettronica che pure sono stati inventati da decine di anni. Né va mai dimenticato che anche queste soluzioni, pur se assai sofisticate, possono essere alterate, disponendo di risorse sufficienti e sfruttando le opportune circostanze. E va fatta anche attenzione a non esasperare questo approccio pretendendo di certificare ogni espressione del pensiero umano, poiché ciò – impedendo di fatto il dissenso – porterebbe alla distruzione della democrazia.

Pertanto, sempre di più, nel nostro futuro digitale, le radici della fiducia torneranno ad essere legate agli esseri umani e al rapporto in presenza.

Si tratta di un ritorno all'antico che spero impareremo a riapprezzare, di cui vi è una testimonianza linguistica (che dovrebbe ricordare chi ha fatto il classico) nel verbo del greco antico che esprime l'azione di "sapere" (io so = οἶδα), che altro non è che il tempo passato del verbo che esprime l'azione di "vedere" (io vedo = ὁράω). Quindi, "io so" perché "io ho visto", in prima persona. Spero davvero sia questo il motivo dominante del nostro futuro: la sempre maggiore importanza del piano fisico in una società sempre più digitalizzata.

Il futuro che vale la pena vivere sarà in presenza: possiamo quindi dire, per parafrasare una famosa canzone, “ci vuole un fisico reale”.

--
Versione originale pubblicata su "StartMAG" il 6 febbraio 2024.

The ChatGPT storm and education: 5 key takeaways

by Enrico Nardelli

(versione italiana qua)

In recent months, the world of education, particularly among teachers, has been in a state of upheaval. It's all because of generative artificial intelligence tools (which I'll refer to as GenAI for short), the most famous of which is ChatGPT. So, why is this happening? To begin with, GenAI tools are objectively able to produce content — whether it's text, images, or many other cognitive products typically created by humans — that is often indistinguishable from what a person would make. These tools, which Stefano Quintarelli aptly defines as just SALAMI (Systematic Approaches to Learning Algorithms and Machine Inferences), are mistakenly perceived by the general public as truly intelligent entities. This is due to a typical human tendency to project meaning onto things and see significance everywhere.

On top of this, enormous commercial interests are at stake. Billions of dollars are being invested annually in a race to capture market shares that are projected to be worth at least a thousand times more. This relentless drive pushes the media to constantly describe scenarios that swing from the fantastic (we'll solve all of humanity's problems) to the apocalyptic (we'll all lose our jobs). However, these narratives always aim to create a sense of inevitability: there is no alternative! And, since the most effective way to convince someone to use a product is to get them accustomed to it from an early age, the education sector has become the primary target of this pressure.

Moreover, GenAI tools are now fully integrated into the technological appendage we all carry around — our smartphones — and so, whether we like it or not, everyone ends up using them. "It's inevitable!" is the constant refrain. The term "innovative" is then used as a catch-all to convince those who are not experts, completely ignoring the potential long-term consequences. We just have to remember how, over the past two decades, we have let even very young children use digital devices without any real oversight. We have since realized that this created some serious problems, as documented in the final report from June 2021 by the Senate's Public Education and Cultural Heritage Commission. The report, part of a fact-finding investigation into "The Impact of Digital Technology on Students, with a Particular Focus on Learning Processes", highlighted significant issues.

Now, if we just focus on text-based GenAI tools — those that produce written responses to a request (e.g., "What were the key events of the Punic Wars?", "Write a 20-line summary of War and Peace", or "Describe the process of plant pollination") — the immediate consequence for schools is that one of the most traditional methods of assessing skills, homework, becomes completely ineffective. It's a no-brainer that students will use GenAI to do their assignments, unless schools enforce a prohibitive atmosphere, which in any case would only work for a short while.

The solution, however, is not to invent improbable ways for students to use these tools anyway. Later on, I will discuss five key problems with such an approach. The real answer is to place greater value on oral interaction and in-person relationships. This means less homework and more in-class work, which in turn requires smaller class sizes and more teachers. Of course, this costs money, but a country's future hinges on its education system. This kind of approach also restores the value of the relational aspect of the teacher-student bond. We know — at least since Plato's analysis in his Dialogues — that the emotional component of the educational relationship between a didàskalos and a mathetés, a master and a student, is a fundamental aspect of paideia, the ethical and spiritual growth of the disciple. While technology can enrich this component if used appropriately, it can never, ever replace it. To do so would impoverish and destroy our humanity.

Still, some people argue: "Let's turn the availability of GenAI into an opportunity for students to learn better. We should have them experiment with these technologies, since they'll have to use them as adults anyway." This approach, however, has some very important critical points that are worth examining.

1) These tools still under development, which often produce responses that seem correct but are inaccurate. Only if we are already well-versed in the subject on which GAI has generated a text can we spot what is wrong. Since the acquisition of knowledge is a fundamental part of education, especially for younger students, it makes no sense to risk them learning incorrect information (or worse, information distorted by prejudice or stereotypes).

2) These tools are controlled by the usual Big Tech companies, and there is a complete lack of oversight on how they were developed and how they work, what data was used for their training, and what security tests have been conducted. For every potentially harmful technology, societies have introduced regulations. In this case, the European Union is attempting to do so with the so-called "AI Act," for which a political agreement was recently announced, although the details remain unknown. In the meantime, however, the use of these tools is being encouraged as much as possible, regardless of the potential risks. A major problem erupted in the last days of 2023, with the news that The New York Times, one of the world's best-known and most reputable newspapers, has sued OpenAI and Microsoft for allegedly training their GenAI tools on its articles without authorization. Other lawsuits are expected soon, particularly concerning visual GenAI tools, those that can produce images and videos, since several users on X (formerly Twitter) have pointed out that such tools can produce copyrighted material even when the user’s prompt is phrased in a completely generic way.

3) Using tools that are still in development means we are essentially working for free for the companies that are building them, and who might one day sell them back to us. In other words, we are once again making the same mistake we made when we mindlessly embraced intrusive and abusive social platforms that collected massive amounts of data about us and now use it for commercial gain. And what did we get in return? When I hear people say that we need to train teachers in how to phrase questions to GAI systems so they can get the help they need (a practice known as "prompt engineering"), I shudder. Do we really want to turn teachers into free labor for Big Tech?

4) Even if GenAI tools always provided correct answers (which they do not), using them in the lower grades risks more than just our children acquiring false knowledge. It could also cripple their cognitive development because they would no longer be practicing essential skills. The ability to summarize texts, argue a position, and present a point of view are fundamental skills for any citizen. If students do not practice them in school, they will never acquire them. It is like if we only ever travel by car and never walk or bike: our physical abilities would weaken. Furthermore, while studying from books trains us to consider a variety of viewpoints and ways of presenting a topic, relying on very few sources of knowledge creates a strong risk of social indoctrination, especially in the humanities.

5) I find it astonishing how much of a contrast there is between the constant encouragement to use these tools and the complete lack of a serious ethical evaluation of involving minors in what are still experimental technologies. For any other experiment involving children, ethical approval is — rightfully — required, yet in this case, there's nothing? For a recent research project in elementary schools that compared two methods for teaching a fundamental informatics concept, my colleagues and I had to get approval from an ethics committee. Yet now I see people urging minors to use GenAI without any consideration of these issues, or of privacy concerns. Can you imagine if the Wright brothers had started flying people on their airplanes in the early 1900s while they were still being developed?

Some argue: “There’s no alternative, GenAI is here, and it’s part of our lives.”. While it is true that it is already a part of our lives, there is no absolute need to use it in the classroom. This does not mean we should not talk about it or pretend it does not exist. Collective use in the classroom, under a teacher's guidance and control, along with a critical discussion (at a level appropriate for the children's age), provides useful information about a technology they are bound to encounter. But at the current stage of the technology, students do not truly need to be using these tools regularly. For teachers, some uses are possible, as I described in a recent article. But extreme caution is necessary given the experimental nature of these tools and the risks associated with the handling of minors' personal data. In this regard, I would be interested to know if the Italian Data Protection Authority has assessed whether the encouragement for teachers to use these tools to improve their teaching by personalizing it for individual students might jeopardize the privacy of those students.

To be even clearer, in a context where we teach the scientific foundations of informatics in schools, there is certainly a place for teaching the principles of artificial intelligence, which is a very important field of informatic itself. However, teaching what machine learning, the core technique behind GenAI, is to someone who does not know what an automaton or an algorithm is, is like trying to explain trigonometry to someone who only knows the four basic arithmetic operations. You can, of course, explain that trigonometry allows you to measure the distance between two trees on opposite sides of a river without crossing it, but without a solid mathematical foundation, that amounts to nothing more than popular science. Useful, certainly, for a citizen who has little time to study but still needs to stay informed on scientific and technological advancements. In school, however, we should provide the scientific foundations needed to understand the world around us, both the natural one and the one we have artificially built, which is increasingly digital.

Rethinking the entire school curriculum in light of the transition from an industrial to a digital society is a necessary step, and it is far, far more important than chasing technological fads by training students and teachers to use GenAI tools.

--
The italian version has been first published by "StartMAG" on 4 january 2024.

Il ciclone ChatGPT e la scuola: 5 punti chiave

di Enrico Nardelli

(english version here)

In questi mesi nel mondo della scuola c’è un enorme subbuglio – soprattutto tra i docenti, a causa degli strumenti di intelligenza artificiale generativa (che nel seguito chiamerò, per brevità, IAG), di cui il più noto è ChatGPT. Come mai sta accadendo questo? Per cominciare, gli strumenti di IAG sono oggettivamente in grado di esibire prestazioni (nella produzione di testi, ma anche di immagini, e di molti altri prodotti cognitivi tipicamente realizzati dagli esseri umani) che in molti casi non sono distinguibili da quelle delle persone. Quindi, quelli che nella bella definizione di Stefano Quintarelli sono solo dei SALAMI (Systematic Approaches to Learning Algorithms and Machine Inferences = approcci sistematici per [lo sviluppo di] algoritmi di apprendimento e [sistemi di] deduzione automatica), vengono, a causa di un processo di proiezione che è tipico degli esseri umani che vedono significati dappertutto, erroneamente percepiti nell’interpretazione comune come delle entità realmente intelligenti.

Poi, sono in gioco enormi interessi commerciali, miliardi di euro (o dollari) investiti annualmente per tentare di accaparrarsi quote di mercato che si proiettano in valori almeno mille volte maggiori. Questi spingono ogni giorno, in modo incessante, a descrivere sui mezzi di comunicazione scenari che oscillano dal fantascientifico (risolveremo tutti i problemi dell’umanità) all’apocalittico (perderemo tutti il lavoro), ma sempre finalizzati a costruire una convinzione di ineluttabilità: non c’è alternativa! In particolar modo, dal momento che il modo migliore di convincere qualcuno ad usare un certo prodotto è quello di abituarlo all’uso sin da piccolo, il settore della scuola è quello su cui si concentra la maggiore pressione.

Inoltre, gli strumenti di IAG sono ormai integrati nell’appendice tecnologica di cui tutti siamo dotati, lo smartphone e quindi, volenti o nolenti, tutti si trovano ad utilizzarli. È inevitabile! si ribadisce in continuazione. Il termine “innovativo” viene poi usato come passepartout per convincere chi non è esperto, trascurando di considerare quali possono essere le reali conseguenze di lungo periodo. Ricordiamoci di come nell’ultimo ventennio si siano fatti usare dispositivi digitali ai minori, anche piccolissimi, senza alcun reale controllo, per poi accorgersi che, come documentato nel rapporto finale del giugno 2021 dell’indagine conoscitiva “Sull’impatto del digitale sugli studenti, con particolare riguardo ai processi di apprendimento” svolta dalla Commissione “Istruzione Pubblica e Beni Culturali” del Senato, qualche problema è stato creato, e non di poco conto.

Ora, per limitarci agli strumenti di IAG testuali, cioè quelli che preparano dei testi rispondenti a quanto è stato richiesto (p.es.: quali sono i fatti salienti delle Guerre Puniche? oppure: scrivi una sintesi in 20 righe de “I promessi sposi”, o ancora: descrivi il processo di impollinazione delle piante), la conseguenza immediata sulla scuola è che uno dei modi più tradizionali di verifica delle competenze utilizzato giornalmente, ovvero lo svolgimento di compiti a casa, perde completamente di efficacia. È ovvio, a meno di non instaurare un clima proibizionistico che comunque sarebbe di qualche utilità solo per un breve periodo, che tutti gli scolari li svolgerebbero usando l’IAG.

La risposta non è però inventarsi improbabili modi di farli comunque usare agli studenti. Discuterò nel seguito i cinque punti critici di un approccio di questo genere. La risposta è dar maggior valore all’oralità e al rapporto in presenza. Quindi, meno compiti a casa e più lavoro in classe, il che implica avere classi più piccole e più insegnanti. Certo, servono soldi, ma sull’istruzione si gioca il futuro di un Paese. Un approccio di questo genere, tra l’altro, torna a dare valore alla componente relazionale del rapporto tra docente e studente. Sappiamo bene, almeno a partire dall’analisi fatta da Platone nei suoi Dialoghi, che la componente affettiva della relazione educativa tra didàskalos e mathetés, maestro e allievo, è un aspetto fondamentale della paideia, la crescita etica e spirituale del discepolo. Questa componente può essere arricchita dalla tecnologia, se opportunamente utilizzata, ma mai, mai sostituita, pena l’impoverimento e la distruzione della nostra umanità.

Alcuni comunque dicono: “trasformiamo la disponibilità dell’IAG in un’opportunità per un apprendimento migliore da parte degli studenti; facciamogli fare degli esperimenti con queste tecnologie che comunque si troveranno ad usare da grandi”. Ci sono in questo modo di fare alcuni punti critici assai importanti che vale la pena esaminare.

1) Si tratta di strumenti ancora in fase di sviluppo, che spesso producono risposte che sembrano corrette, ma sono imprecise. Solo se conosciamo bene l’argomento sui cui l’IAG ha prodotto un testo possiamo accorgerci di ciò che non va. Dal momento che nella scuola, tanto più quanto più si è piccoli, l’acquisizione della conoscenza è proprio uno degli aspetti formativi fondamentali, è evidente che non è sensato rischiare che gli scolari apprendano conoscenze errate (se non addirittura viziate da pregiudizi o stereotipi).

2) Sono strumenti controllati dalle solite Big Tech, sui quali vi è un’assoluta mancanza di controllo su come sono stati messi a punto e funzionano, su quali dati siano stati usati per il loro addestramento e su quali prove di sicurezza siano state condotte. Per ogni tecnologia potenzialmente nociva le società hanno introdotto delle regolamentazioni. In questo caso ci sta provando l’Unione Europea con il cosiddetto “AI Act”, per il quale è stato recentemente annunciato l’accordo politico ma non sono noti i dettagli. Però nel frattempo se ne sta incentivando il più possibile l’uso, incuranti dei possibili rischi. Una prima grana è esplosa proprio negli ultimi giorni del 2023, con la notizia che il New York Times, uno dei giornali più noti e con la miglior reputazione al mondo, ha fatto causa per violazione di diritto d’autore a OpenAI e Microsoft perché avrebbero addestrato i loro strumenti IAG sui loro articoli senza esserne autorizzati. Altre se ne attendono a breve, relativamente agli strumenti IAG visuali, cioè quelli in grado di produrre immagini e video, dal momento che diversi utenti su X (precedentemente Twitter) hanno evidenziato che possono produrre immagini protette dal diritto autore, anche se l’utente formula la richiesta in modo generico.

3) Usare strumenti ancora in sviluppo vuol dire lavorare gratis per chi li sta mettendo a punto e magari un giorno ce li rivenderà. Ovvero, stiamo commettendo di nuovo lo stesso errore in cui siamo incorsi abbandonandoci senza pensare troppo a piattaforme sociali intrusive e abusive, che hanno raccolto quantità enormi di dati su di noi e le usano a scopo commerciale. Cosa ce ne viene in cambio? Quando si dice che dobbiamo insegnare ai docenti come fare le domande all’IAG per ottenere l’aiuto di cui possono aver bisogno (il cosiddetto prompt engineering) mi sento rabbrividire: ma davvero vogliamo trasformarli in forza-lavoro gratuita a disposizione delle Big Tech ?

4) Se anche gli strumenti dell’IAG dessero sempre risposte corrette (ma non è così), con il loro uso nei livelli inferiori della scuola non solo rischiamo che i nostri figli acquisiscano conoscenze errate, ma possiamo menomare le loro possibilità di crescita sul piano cognitivo, dal momento che in tal modo essi non le esercitano. Sintetizzare testi, argomentare una posizione, presentare un punto di vista sono competenze fondamentali per un qualunque cittadino. Se non li facciamo esercitare da scolari, non le acquisiranno mai. Un po’ come accade se ci spostiamo solo in automobile e mai a piedi o in bicicletta, le nostre capacità fisiche si indeboliscono. In aggiunta, mentre studiando sui libri ci si allena alla pluralità di punti di vista e modi di presentare un certo argomento, in presenza di pochissime sorgenti di conoscenza il rischio di un indottrinamento sociale, soprattutto per le materie umanistiche, è fortissimo.

5) Mi sembra incredibile il contrasto tra i continui inviti ad usarli e la mancanza di una seria valutazione di tipo etico relativa al coinvolgimento dei minori nell’uso di strumenti ancora sperimentali. Ma come, per qualunque sperimentazione che coinvolga i bambini è, giustissimamente, necessaria l’approvazione sul piano etico, e in questo caso invece niente? Per un recente progetto di ricerca nelle scuole primarie che confrontava due metodi di insegnamento di uno dei costrutti fondamentali dell’informatica, io e i miei colleghi abbiamo dovuto avere l’approvazione di un comitato etico, mentre in questo caso vedo esortazioni a far usare l’IAG a minorenni senza alcuna riflessione su questi aspetti, né su quelli relativi alla privacy. Ma voi vi immaginate se nei primi anni del Novecento i fratelli Wright avessero cominciato a far volare persone sui loro aeroplani mentre li mettevano a punto?

Si dice: ma non c’è alternativa, l’IAG è qua e fa parte della nostra vita. È vero che è già nella nostra vita, ma non c’è un assoluto bisogno di usarla nelle classi. Il che non vuol dire non parlarne o far finta che non esista. L’uso collettivo in aula, sotto il controllo e la guida del docente, accompagnato da una discussione critica, ovviamente al livello consentito dall’età dei bambini, costituisce un’utile informazione su una tecnologia che comunque incontrano. Ma non abbiamo davvero necessità che, allo stato attuale della tecnologia, gli studenti utilizzino regolarmente tali strumenti. Per i docenti, alcuni usi sono possibili, come ho descritto in un recente articolo, ma è necessaria un’estrema attenzione, vista la natura ancora sperimentale di questi strumenti e i pericoli legati alla disseminazione di dati personali dei minori. A questo proposito mi piacerebbe sapere se l’autorità Garante per la Protezione dei Dati Personali ha valutato se l’esortazione agli insegnanti di usare questi strumenti per migliorare la loro didattica, personalizzandola per le esigenze dei singoli studenti, possa mettere a repentaglio la privacy di questi ultimi.

Aggiungo, per essere ancora più chiaro: in un contesto in cui nelle scuole insegniamo le basi scientifiche dell’informatica, può certamente trovare spazio anche la didattica sui princìpi dell’intelligenza artificiale, che costituisce un settore molto importante dell’informatica stessa. Però, insegnare cos’è l’apprendimento automatico (= machine learning), cioè la tecnica fondamentale usata per l’IAG, a chi non sa cos’è un automa o un algoritmo è come tentare di far capire cos’è la trigonometria a chi conosce solo le quattro operazioni aritmetiche. Si può certo raccontare che la trigonometria permette di misurare la distanza tra due alberi al di là di un fiume senza attraversarlo, ma in assenza di un’adeguata base di matematica si tratta di semplice divulgazione. Utile certamente per il cittadino che ha poco tempo per studiare e che deve comunque essere aggiornato sugli avanzamenti scientifico-tecnologici, mentre nella scuola vanno fornite le basi scientifiche per comprendere il mondo intorno a noi, sia quello della natura che quello artificialmente costruito, che in misura sempre maggiore è digitale.

Ripensare l’intero curriculum scolastico alla luce della trasformazione ormai avvenuta da società industriale a società digitale è un passo indispensabile, molto, molto di più che inseguire le mode tecnologiche addestrando studenti e insegnanti all’uso degli strumenti di IAG.

--
Versione originale pubblicata su "StartMAG" il 4 gennaio 2024.

The European Recommendation on Teaching Informatics in Schools

by Enrico Nardelli

(versione italiana qua)

On Wednesday, December 6th, a press conference was held at the Chamber of Deputies, organized by the Innovation Intergroup (a cross-party group of parliamentarians committed to innovation issues), dedicated to the adoption by the Council of the European Union of the European Commission's proposed Recommendation on the teaching of informatics in schools. Representing the Intergroup were Senator Lorenzo Basso (PD) and Deputies Giulio Centemero (Lega) and Giulia Pastorella (Azione). Representing the business world were Agostino Santoni (Vice President for Digital at Confindustria) and Giorgio Binda (National President of Unimatica Confapi). A video of the press conference is available at this link.

The approved Recommendation addresses the need for education to support digital transformation by providing the necessary skills. Consequently, it recommends that all Member States develop high-quality informatics education in both primary and secondary schooling.

More specifically, the Recommendation calls on Member States to:

• Introducing high-quality informatics teaching from the start of compulsory education, with clearly defined learning objectives, dedicated time, and assessment methods, in order to offer all students the chance to develop their digital skills on a scientifically sound basis;
• Ensuring that informatics is taught by qualified teachers who have access to high-quality teaching resources, sound pedagogical approaches, and appropriate methods for evaluating learning outcomes.

This sends a clear message to all Member States: informatics is a fundamental scientific discipline for the education of all citizens in the 21st century. It is a timely and much needed guideline. Indeed, as societies moved from an agricultural to an industrial model, education evolved to include in compulsory schooling those sciences (physics, biology, chemistry, etc.) underpinning industrial machinery. In the same way, the shift from an industrial to a digital society requires adding informatics to compulsory education, as the discipline essential to understanding digital machines.

This Recommendation therefore marks a historic turning point, which we hope will finally prompt all European countries to launch serious and sustained informatics education initiatives in schools. It should be recalled that education remains a national competence, and the role of the European Union is therefore subsidiary.

All speakers agreed in reiterating the hope that Italy will launch intensive educational activities in this direction, stressing the importance of creating a synergy between the public and private sectors.

In Italy, the Minister of Education and Merit, Giuseppe Valditara, has long declared his intention to strengthen scientific education in schools—a highly commendable goal. Furthermore, since this Commission proposal clearly identifies informatics as the foundational scientific subject for the digital age, it would be appropriate to integrate existing plans in this sector, including within the PNRR (National Recovery and Resilience Plan), where currently only operational skills for using digital technology are discussed.

To this end, Mission M4 (Education and Research) of the PNRR includes sub-component C1.3 (Skills Enhancement and Infrastructure Strengthening), which provides for Investment 3.1 (New Skills and New Languages), with the objective of «promoting the integration, across the curricula of all school cycles, of activities, methodologies, and content aimed at developing STEM, digital, and innovation competencies», with 1.1 billion euros in available funding.

Ministerial Decree No. 184 of 2023 published the STEM guidelines, which provide only broad, necessarily non-detailed indications of what should be done with regard to digital competencies. In this regard, it should be noted that the "Informatics and School" Laboratory of CINI, the Consortium representing over 50 Italian state universities active in the informatics sector and thus Italy’s reference institution for informatics education, had already prepared a very detailed proposal in December 2017 regarding competency targets and learning objectives for teaching informatics throughout compulsory education, which is cited in a note within the guidelines themselves.

p>With Ministerial Decree No. 65 of April 12, 2023, the Ministry has already allocated 600 million euros to schools for the development of students’ STEM skills: each institution must design its projects in line with the aforementioned guidelines. We note at the outset that, in order to ensure the long-term sustainability of digital transformation processes, student training must be complemented by teacher training, so that students can continue to be prepared in the years beyond the PNRR funding period. Furthermore, to enhance the effectiveness of the Ministry’s action, participating schools should be provided with precise guidance on content, without, of course, infringing on school autonomy.

In this light, it is helpful to look at which large European countries faced this crossroad before us and can show us the way. Take the United Kingdom, for example. In the 2014-15 school year, they introduced a mandatory informatics curriculum for all schools. In November 2017, a Royal Society report highlighted that the situation had actually worsened. Consequently, in November 2018, the government decided to allocate 84 million pounds to create a national institute for teaching informatics, the National Centre for Computing Education, which was established in 2019 and is currently being re-funded.

Sufficient funds should remain under Investment Line 3.1 to support a similar initiative, which is indispensable if the country is to be adequately prepared for the digital transition.

A clear political commitment in this direction is therefore essential, supported by broad and cross-party consensus, in order to guide a transformation that will require at least a decade to complete. Only in this way can we ensure that future generations are equipped to shape – and not merely adapt to – their digital future.

--
The original version (in italian) has been published by "StartMAG" on 23 December 2023.

La raccomandazione europea sull’insegnamento dell’informatica nella scuola

di Enrico Nardelli

(english version here)

Mercoledì 6 dicembre si è svolta alla Camera la conferenza stampa, organizzata dall’Intergruppo Innovazione (gruppo bipartisan di parlamentari che hanno a cuore i temi dell’innovazione), dedicata all'approvazione da parte del Consiglio dell'Unione Europea della proposta di Raccomandazione della Commissione Europea sull'insegnamento dell'informatica nella scuola. Per l'Intergruppo hanno partecipato il senatore Lorenzo Basso (PD) e i deputati Giulio Centemero (Lega) e Giulia Pastorella (Azione). Per il mondo produttivo: Agostino Santoni (vicepresidente per il digitale di Confindustria) e Giorgio Binda (presidente nazionale Unimatica di Confapi). Il video della conferenza stampa è disponibile a questo link.

La Raccomandazione approvata affronta la necessità di far sì che l'istruzione supporti la trasformazione digitale, fornendo le competenze necessarie a questo scopo. Pertanto, viene raccomandato a tutti gli Stati Membri di sviluppare un’istruzione di qualità in informatica nell’istruzione sia primaria che secondaria.

In modo più specifico, si raccomanda di:

• inserire un insegnamento di alta qualità in informatica dall’inizio dell’educazione obbligatoria, avendo stabilito in modo chiaro gli obiettivi di apprendimento, il tempo dedicato e i metodi di valutazione, allo scopo di offrire a tutti gli studenti la possibilità di sviluppare le loro competenze digitali in modo scientificamente ben fondato,
• far sì che l’insegnamento dell’informatica sia erogato da insegnanti qualificati, che abbiano a disposizione risorse didattiche di qualità, approcci didattici ben fondati, e appropriati metodi di valutazione degli obiettivi di apprendimento.

Si manifesta quindi chiaramente a tutti gli Stati Membri la necessità di avere l’informatica come disciplina scientifica fondamentale per l’istruzione di tutti i cittadini nel 21-mo secolo. È un’indicazione quanto mai opportuna. Ricordiamo infatti che, con il passare da una società agricola ad una società industriale, il processo educativo delle persone è mutato, introducendo nell’istruzione obbligatoria elementi di quelle scienze (fisica, biologia, chimica, …) che sono alla base di ogni macchina industriale. Analogamente, nel passaggio dalla società industriale alla società digitale è necessario aggiungere nell’istruzione obbligatoria lo studio dell’informatica, indispensabile per comprendere le macchine digitali.

Questa raccomandazione è dunque una svolta epocale, che speriamo serva ad avviare finalmente in tutti i Paesi Europei una seria attività di formazione sull’informatica nella scuola. Ricordo che l’istruzione è una materia di competenza degli Stati Membri, per cui il ruolo dell’Unione Europea rimane sussidiario.

Tutti gli intervenuti sono stati concordi nel ribadire l’auspicio che in Italia venga avviata nella scuola un’intensa attività educativa in questa direzione, sottolineando l’importanza di fare sistema tra pubblico e privato.

In Italia, il Ministro dell’Istruzione e del Merito, Giuseppe Valditara, ha già da tempo dichiarato di voler rafforzare le preparazione scolastica nelle materie scientifiche, obiettivo quanto mai meritorio. Inoltre, dal momento che questa proposta della Commissione indica in modo evidente l’informatica come la materia scientifica alla base della preparazione per la società digitale, sarebbe opportuno integrare quanto previsto in tale settore, anche nell’ambito del PNRR, dove sono discusse solo le competenze operative di utilizzo della tecnologia digitale.

A questo fine, nella missione M4 (Istruzione e Ricerca) del PNRR è presente la sotto-componente C1.3 (Ampliamento delle competenze e potenziamento delle infrastrutture), che prevede l’investimento 3.1 (Nuove competenze e nuovi linguaggi), con l’obiettivo di «promuovere l’integrazione, all’interno dei curricula di tutti i cicli scolastici, di attività, metodologie e contenuti volti a sviluppare le competenze STEM, digitali e di innovazione», con a disposizione fondi per 1.100 milioni di euro.

Con il DM n.184 del 2023 sono state pubblicate le linee guida STEM, che danno solo indicazioni, necessariamente non dettagliate, su cosa fare relativamente alle competenze digitali. A tal proposito, si fa notare che il Laboratorio Informatica e Scuola del CINI, il Consorzio che raggruppa più di 50 università statali italiane attive nel settore dell’informatica ed è quindi l’istituzione di riferimento in Italia per la formazione in informatica, aveva preparato, già da dicembre 2017, una proposta molto dettagliata dei traguardi di competenze e degli obiettivi di apprendimento per l’insegnamento dell’informatica in tutte le fasce dell’istruzione obbligatoria, che viene citata in una nota delle linee guida stesse.

Il Ministero, con DM n.65 del 12 aprile 2023, ha già assegnato 600 milioni di euro alle scuole per lo sviluppo delle competenze STEM degli studenti: ogni istituto dovrà preparare i relativi progetti seguendo tali linee guida. Osserviamo preliminarmente che, per garantire sostenibilità nel lungo periodo ai processi di trasformazione digitale, in aggiunta alla formazione degli studenti è necessaria quella degli insegnanti, così da consentire di preparare i ragazzi anche negli anni successivi ai fondi PNRR. Inoltre, riteniamo che per aumentare l’efficacia dell’azione ministeriale occorra fornire agli istituti coinvolti, ben inteso senza ledere l’autonomia scolastica, indicazioni precise sui contenuti.

In quest’ottica, è utile guardare a chi, dei grandi paesi Europei, ha affrontato questo snodo prima di noi e può quindi indicarci una strada. Vi è l’esempio del Regno Unito. Nell’a.s. 2014-15 aveva inserito un curricolo di informatica obbligatorio per tutte le scuole. Nel novembre 2017 un rapporto della Royal Society aveva evidenziato che però la situazione era addirittura peggiorata. Allora nel novembre 2018 il governo ha deciso uno stanziamento di 84 milioni di sterline per la creazione, concretizzatasi nel 2019, di un istituto nazionale per l’insegnamento dell’informatica, il National Centre for Computing Education, che sta per essere rifinanziato.

Sulla linea di investimento 3.1 dovrebbero essere rimasti fondi in quantità sufficiente per un intervento di questo genere, imprescindibile se si vuol preparare il Paese alla transizione digitale.

È quindi indispensabile una chiara determinazione in questa direzione da parte della politica, che sia anche supportata da intese larghe e trasversali, per guidare una trasformazione che richiederà almeno un decennio per essere completata. Solo così potremo garantire alle future generazioni la possibilità di governare il loro futuro digitale.

--
Versione originale pubblicata su "StartMAG" il 23 dicembre 2023.

Artificial intelligence and schools: let’s make things clear

by Enrico Nardelli

(versione italiana qua)

We are seeing a frantic race to adopt Artificial Intelligence (AI) tools in schools, even though they still have critical issues that, especially in a sector where interventions can have long-term effects, should be considered with extreme care and studied over a longer timeframe. I think it's important to avoid a repeat of what happened with the widespread introduction of digital devices in education over the last two decades. Only recently have we started paying attention to the problems that their excessive use has created. For example, see the final report published in June 2021 from the inquiry “Sull’impatto del digitale sugli studenti, con particolare riguardo ai processi di apprendimento” (= On the Impact of Digital Technology on Students, with Particular Attention to Learning Processes) conducted by the Senate’s Committee “Istruzione Pubblica e Beni Culturali” (= Public Education and Cultural Heritage).

Here are a few points to help foster a more thoughtful reflection on this topic.

Before getting started, it’s important to recall that different levels of education—primary, lower secondary, upper secondary, university, and vocational training—have different needs and require different approaches. Therefore, in this article, I will focus on the school sector. I've discussed the university world elsewhere. For instance, master's degree students, who already have foundational knowledge in a field and are working to deepen and refine it, can be asked to critically evaluate papers produced by AI tools. This serves as an important exercise to test their level of preparation. This approach, however, seems far less relevant in schools, where students are still building their basic skills. To be able to criticize, you first have to know and know how to do.

It is also essential to distinguish between the different roles for using AI in schools: students, teachers, and administrative staff. The latter two groups can use these tools to help with repetitive tasks (while paying close attention to data privacy). For students, however, repeated exercise of cognitive functions cannot be bypassed (through the use of such tools) without inevitably undermining the development of their skills. This point is too often overlooked, even though centuries of educational experience remind us that both physical and intellectual abilities require constant and repeated practice to be developed.

Additionally, it is crucial to distinguish between using technology and education on the scientific principles behind it, a distinction that is too often overlooked. AI tools, while enormously useful for rational cognitive work — that is, the kind of reasoning that starts from objective elements and produces new data that are logically consistent with and derived from those elements (something that, more generally, all computer systems do, the “cognitive machines” I discussed in my book La rivoluzione informatica) — operate through fairly complex mechanisms. To truly understand how they work, you need adequate mathematical and scientific prerequisites that schools typically don't provide.

In fact, Italy is still lagging when it comes to the basic scientific skills needed to successfully navigate the digital transition. For more on this, I suggest looking at the proceedings from the conference on teaching informatics in schools, held at the Accademia dei Lincei on October 19th. This is precisely the gap highlighted by the European Commission's recommendation from April 2023 (COM(2023) 206 final), which urged all member states to include high-quality informatics education from the beginning of compulsory schooling. The general public still doesn't truly grasp what informatics is—the scientific discipline that underpins the digital world. AI is a highly specialized field within informatics. And while its tools, like those from many other areas of informatics, can be used by the average person, a real understanding of how they function must be built on a foundation of basic informatics knowledge that most people currently lack. It's like trying to explain differential and integral calculus to someone who's never taken a math class.

Lastly, and no less important, we need to evaluate the risks and benefits of introducing AI tools into schools. They can certainly bring advantages for certain types of users by reducing the effort associated with repetitive cognitive-rational tasks. However, these potential benefits must be balanced against possible downsides. These include loss of privacy, the spread of misinformation, the generation of inaccurate texts based solely on statistics (so-called "hallucinations," which I've discussed a elsewhere), and the significant energy consumption and environmental impact. For instance, a single query to an AI-based tool can be dozens of times more costly than a query to a standard search engine. We also must consider the potential dehumanization of the teacher-student relationship, where the relational component is an essential aspect.

AI tools can boost teacher productivity by reducing the time spent on repetitive tasks, allowing educators to dedicate more attention to students who need it most. These routine tasks include, for example: generating exercise and exam questions, creating presentations from texts (summarization), generating texts from detailed outlines, and providing explanations for simple requests for clarification, among others. Of course, it is crucial to remain aware of their margins of error, which makes it necessary to carefully review whatever they produce (and therefore to have a solid grasp of the subject matter). Ultimately, responsibility always lies with the human, not the tool.

In general, however, unsupervised use of these tools by students for schoolwork should be avoided. Some, for example, have suggested they could use them at home to get a first evaluation of their homework. A rather odd idea—since at that point they might as well use them to write the assignments, too! More importantly, given the risk of hallucinations in these systems, the very students who would benefit most from such feedback are also the least equipped to spot the mistakes the tools might introduce. Of course, students will still have access to them through their smartphones, so rather than relying on prohibition, the better approach is to provide information and raise awareness, for example, through collective use and critical discussion in the classroom. On the other hand, and this is probably good news, the fact that anyone can produce a high-quality written text with these tools could encourage a renewed emphasis on direct human interaction and oral dialogue.

For some schools, particularly technical institutes for Informatics, curricula will need to be adapted (and supported by suitable professional development for teachers) to include adequate scientific and technological training in this field, which will significantly influence the world of work in the near future. Since those who choose this technical track are generally aiming to enter the job market directly after graduation, it's only right that preparation in this area becomes part of their education.

In conclusion, it will be essential for AI tools used in schools monitored and regulated by the public sector. This is to avoid the risks associated with purely commercial products that lack independent oversight regarding their development, the data they were trained on, the security checks they have undergone, how they use and manipulate provided data, and any potential gender- or diversity-related biases. These are all aspects with a high social impact and, for this reason, they require the highest level of attention. It should also be remembered that this technology is still in an experimental phase, and every one of our interactions with it contributes to its development completely free of charge. This would only be acceptable for a tool owned by the community, where any improvements would ultimately benefit everyone.

Approximately twenty years after video game consoles first appeared in Italy and fifteen years after smartphones became widespread, the Parliamentary Commission mentioned at the beginning concluded its investigation with these words: «There are physical harms… and there are psychological harms… But the most worrying thing is the progressive loss of essential mental faculties, the faculties that for millennia have represented what we broadly call intelligence: the ability to concentrate, memory, critical thinking, adaptability, dialectical skills... These are the effects that the use, which in most cases can only degenerate into abuse, of smartphones and video games produces on the youngest.» I would not want a new Parliamentary Commission, twenty years from now, to reach the same (or perhaps even more) alarming conclusions regarding the use of AI tools.

The future of our children is too important to be sacrificed on the altar of productivity and technological progress.

--
The original version (in italian) has been published by "StartMAG" on 19 November 2023.

Intelligenza artificiale e scuola: facciamo chiarezza

di Enrico Nardelli

(english version here)

Stiamo osservando una corsa frenetica all’utilizzo degli strumenti di Intelligenza Artificiale (IA) nel mondo della scuola, quando essi presentano ancora alcuni aspetti critici che, soprattutto in questo settore in cui gli interventi sono grado di produrre effetti di lungo periodo, andrebbero invece considerati con estrema attenzione e studiati con tempi maggiormente dilatati. Mi sembra importante evitare che accada qualcosa di simile a quanto avvenuto con l’utilizzo dei dispositivi digitali, introdotti a tappeto nel settore dell’istruzione nel corso degli ultimi vent’anni e per i quali solo recentemente si sta facendo attenzione ai problemi che tale uso eccessivo ha creato. Si veda a tal proposito il documento finale, pubblicato nel giugno 2021, dell’indagine conoscitiva “Sull’impatto del digitale sugli studenti, con particolare riguardo ai processi di apprendimento” svolta dalla Commissione “Istruzione Pubblica e Beni Culturali” del Senato.

Espongo quindi nel seguito qualche elemento utile ad una riflessione più meditata su questo tema.

Prima di iniziare è necessario ricordare che i vari livelli della formazione (primaria, secondaria inferiore, secondaria superiore, terziaria, professionale) hanno esigenze diverse e richiedono approcci diversi. In questo articolo mi concentro quindi sul settore scolastico. Del mondo universitario ne ho parlato qua. Agli studenti di un corso di laurea magistrale, che hanno già competenze di base in un certo settore e le devono approfondire e raffinare, si può, ad esempio, chiedere che esaminino criticamente elaborati prodotti da strumenti dell’IA, come importante esercizio di verifica del loro livello di preparazione. Questo approccio non mi sembra invece così rilevante nel mondo scolastico, dove i discenti stanno ancora formando le loro competenze di base. Per poter criticare bisogna prima di tutto sapere e saper fare.

Bisogna poi distinguere tra i diversi ruoli per la fruizione dell’IA nella scuola: studenti, docenti, personale amministrativo. Le ultime due categorie possono usare questi strumenti per essere aiutati nello svolgimento di attività ripetitive (facendo attenzione agli aspetti relativi alla privacy dei dati ad essi forniti), laddove per gli studenti l’esercizio, anche ripetuto, delle funzioni cognitive non può essere evitato (mediante l’uso di questi strumenti) pena l’inevitabile carenza che ne conseguirebbe per lo sviluppo delle loro competenze. Questo elemento viene troppo spesso dimenticato, laddove un’esperienza educativa plurisecolare ci ricorda che non solo le capacità fisiche ma anche quelle intellettuali hanno necessità di esercizio costante e ripetuto per poter essere sviluppate.

Inoltre, è necessario differenziare tra uso della tecnologia e formazione sui suoi princìpi scientifici: si tratta di una distinzione troppo spesso ignorata. Gli strumenti dell’IA, pur potendo essere enormemente utili nel lavoro cognitivo razionale, cioè quello che a partire da elementi oggettivi consente di produrre nuovi dati logicamente consistenti con quelli di partenza e conseguenti da essi (qualcosa che – più in generale – fanno tutti i sistemi informatici, le “macchine cognitive” di cui ho parlato nel mio libro “La rivoluzione informatica”), hanno dei meccanismi di funzionamento abbastanza complessi che, per poter essere compresi, richiedono di essere introdotti solo in presenza degli adeguati prerequisiti matematici e scientifici che normalmente la scuola non fornisce.

Infatti, in Italia siamo ancora in ritardo sulle competenze scientifiche di base necessarie per poter affrontare con successo la transizione digitale (su questo tema invito a consultare gli atti del convegno svolto il 19 ottobre u.s. presso l’Accademia dei Lincei in tema di insegnamento dell’informatica nella scuola), come raccomandato ad Aprile 2023 della Commissione Europea di aprile 2023, COM(2023) 206 final, che ha esortato tutti gli stati membri a inserire un’istruzione di alta qualità sull’informatica fin dall’inizio dell’istruzione obbligatoria. Il grande pubblico non ha ancora capito cos’è davvero l’informatica, la disciplina scientifica alla base del mondo digitale. L’IA è un settore molto specialistico dell’informatica e se, come per molti altri settori dell’informatica, gli strumenti che esso produce sono utilizzabili anche dall’uomo comune, una comprensione dei suoi meccanismi di funzionamento deve essere basata su conoscenze di base di informatica che al momento le persone comuni non posseggono. Invece, è come se cercassimo di spiegare il calcolo differenziale e integrale a chi non ha mai studiato matematica nella scuola.

Infine, ma non meno importante, bisogna valutare rischi e benefici dell’inserimento degli strumenti dell’IA nella scuola. Essi possono apportare vantaggi, per alcune tipologie di utenti, riducendo la fatica legata ad attività cognitivo-razionali di tipo ripetitivo, ma i possibili vantaggi vanno valutati alla luce anche dei potenziali effetti negativi: riduzione della privacy, diffusione di disinformazioni, generazione di testi scorretti perché basati esclusivamente sulla statistica (le cosiddette allucinazioni – ne ho parlato qua), consumo energetico e relativo impatto ambientale (una query fatta ad uno strumento basato sull’IA ha un costo decine di volte superiore a quello di una query fatta ad un normale motore di ricerca), disumanizzazione del rapporto docente-studente in cui la componente relazionale è un aspetto essenziale.

Gli strumenti di IA possono infatti portare a una maggiore produttività per i docenti, se attraverso di essi riescono a ridurre il tempo dedicato alle attività ripetitive consentendo quindi loro di dedicarsi maggiormente alla cura degli studenti maggiormente bisognosi. Tra queste attività di routine ricordiamo, ad esempio: generazione di testi di esercizi e di esame, generazione di presentazioni a partire da testi (sommarizzazione), generazione di testi a partire da indici fini, fornire spiegazioni a richieste di chiarimenti semplici, etc. Ovviamente, è fondamentale essere sempre consapevoli che hanno dei margini di errore che richiedono di controllare sempre quanto da essi prodotto (e, quindi, di conoscere bene l’argomento che viene trattato) e che la responsabilità ultima è sempre della persona.

In generale, invece, il loro uso non sorvegliato da parte degli studenti per l’attività scolastica è da evitare. Alcuni, ad esempio, hanno suggerito che essi potrebbero usarli a casa per ottenere una prima valutazione dei loro compiti. Un po’ bizzarra, come idea, visto che a questo punto potrebbero poi anche usarli per produrre i compiti stessi! Ma soprattutto, alla luce delle possibili allucinazioni in cui questi strumenti incorrono, sono proprio gli studenti che più hanno bisogno di questa funzione quelli che meno sono in grado di rendersi conto di eventuali errori da essi commessi. Ovviamente gli studenti avranno comunque accesso ad essi attraverso i loro smartphone, e quindi bisognerà resistere a tentazioni proibizionistiche in favore di un’opera di informazione e diffusione di conoscenza, condotta – ad esempio – attraverso l’uso collettivo e la discussione critica nella classe. D’altro canto, è questa probabilmente è una buona notizia, il fatto che attraverso di essi sia possibile a chiunque produrre un testo scritto di buon livello, implicherà un ritorno e una maggiore presenza di rapporti umani diretti e dialogo orale.

Per alcuni indirizzi di scuola, penso in particolare agli istituti tecnici per l’informatica, andranno adeguati i curricoli (e sviluppato il necessario aggiornamento professionale per i docenti) per inserire un’adeguata formazione scientifica e tecnologica su questo settore, che influenzerà in modo significativo il mondo del lavoro nel prossimo futuro. Dato che chi sceglie questo indirizzo tecnico è generalmente orientato a entrare, al suo completamento, direttamente nel mercato del lavoro, è giusto che la preparazione in quest’ambito divenga parte della loro formazione.

Per concludere, sarà fondamentale che gli strumenti di IA usati nel mondo della scuola siano controllati/vigilati dal settore pubblico, onde evitare i rischi connessi a realizzazioni esclusivamente commerciali, che non hanno controlli indipendenti su come sono stati realizzati, con quali dati sono stati addestrati, a quali verifiche di sicurezza sono stati sottoposti, come usano e manipolano i dati forniti, in quali possibili discriminazioni legate al genere o ad altre diversità possono incorrere. Sono tutti aspetti che hanno un elevato impatto sociale e che per questo motivo richiedono il massimo livello di attenzione. Va anche ricordato che si tratta di una tecnologia ancora in fase sperimentale e che ogni nostra interazione con essa è un contributo al suo sviluppo fornito del tutto gratuitamente. Sarebbe accettabile solo per uno strumento posseduto dalla collettività e i cui miglioramenti vanno comunque a vantaggio di tutti.

Circa vent’anni anni dopo l’arrivo delle consolle di videogiochi e quindici anni dopo la diffusione degli smartphone in Italia, la Commissione Parlamentare citata in apertura concludeva la sua indagine con queste parole: «Ci sono i danni fisici ... E ci sono i danni psicologici ... Ma a preoccupare di più è la progressiva perdita di facoltà mentali essenziali, le facoltà che per millenni hanno rappresentato quella che sommariamente chiamiamo intelligenza: la capacità di concentrazione, la memoria, lo spirito critico, l’adattabilità, la capacità dialettica... Sono gli effetti che l’uso, che nella maggior parte dei casi non può che degenerare in abuso, di smartphone e video-giochi produce sui più giovani ». Non vorrei che tra altrettanto tempo una nuova Commisione Parlamentare arrivasse alle stesse (forse più) terribili conclusioni in riferimento all’uso degli strumenti dell’Intelligenza Artificiale.

Il futuro dei nostri figli è troppo importante per sacrificarlo sull’altare della produttività e del progresso tecnologico.

--
Versione originale pubblicata su "StartMAG" il 19 novembre 2023.