Il successo di ITADINFO: quando la passione e le persone fanno la differenza

di Enrico Nardelli

È appena finito ITADINFO, il convegno italiano sulla didattica dell'informatica nella scuola, che ha avuto a Bari la sua prima edizione. Ne scrivo a caldo, prima che la memoria di questi tre giorni inizi ad essere ricoperta dai nuovi impegni.

Quando con i colleghi del Laboratorio Informatica e Scuola, che raccoglie chi svolge attività di ricerca in questo ambito, avevamo discusso negli anni passati l'idea di avviare iniziative dedicate in modo specifico agli insegnanti, avvertivamo in qualche modo la loro importanza ma non sapevamo ancora quale avrebbe potuto essere la risposta da parte dei docenti. Insomma, di mestiere facciamo i ricercatori e i didatti, mentre far partire un convegno nazionale è un'attività più imprenditoriale, non esattamente nelle corde di un accademico. Teniamo presente che qui non stiamo parlando di sicurezza informatica o intelligenza artificiale, per le quali ci sono (giustamente) un'estrema attenzione e una grandissima disponibilità di risorse da parte di enti e istituzioni.

Qui si tratta di scuola, settore di cui spesso molti si riempiono la bocca, ma che ha purtroppo conosciuto dagli anni '80 ad ora un continuo definanziamento e degradazione del ruolo sociale, spingendo al contempo per una sua trasformazione da servizio essenziale di formazione di cittadini dotati di conoscenze e pensiero critico a fabbrica che deve sfornare in modo sempre più efficiente "prodotti" pronti ad essere consumati dal mercato. Atteggiamento suicida per una società che, nel secondo dopoguerra, grazie anche alla scuola di quel periodo che non faceva sconti a nessuno, era riuscita nel 1987 a diventare, da Paese semidistrutto da una guerra mondiale che aveva perso, la quinta potenza economica al mondo. Per un’analisi di questa tendenza e delle sue nefaste conseguenze segnalo, ex multis, "Il danno scolastico", il bel volume di Mastrocola e Ricolfi dal significativo sottotitolo “La scuola progressista come macchina della disuguaglianza”.

Poi, un paio di iniziative pilota (nel 2020 e nel 2022, ottimamente organizzate dai colleghi dell'Università di Milano Statale) ci avevano confortato e, alla fine, anche con l'incoraggiamento degli organi direttivi del CINI, il Consorzio Interuniversitario Nazionale per l'Informatica di cui il Laboratorio è uno dei bracci operativi, ci siamo lanciati nell'organizzazione.

Abbiamo trovato sponsor che hanno avuto fiducia in noi, mettendo a disposizione quelle risorse economiche senza le quali solo in fantasiosi resoconti giornalistici si riescono a organizzare iniziative serie, e che ritengo quindi doveroso ricordare in segno di ringraziamento. Gli sponsor espositori: Axios Italia, Edizioni Themis, PLD Artech; e gli sponsor: SeeWeb e KnowK. Il Magazine che ospita questo mio articolo ci ha dato una mano sulla diffusione mediatica. Avevamo scelto Bari, come sede di questo primo convegno, anche perché è stato uno dei primi atenei ad attivare in Italia corsi di laurea in informatica (che a quel tempo si chiamava "scienze dell'informazione") e la Puglia è tuttora una delle regioni in cui la comunità dei docenti scolastici interessati dall’informatica è più numerosa e attiva. Città e Regione ci hanno dato subito il patrocinio. L’eccellente lavoro del comitato organizzatore locale, "le magnifiche tre" colleghe del Dipartimento di Informatica (Veronica Rossano, Enrica Gentile e Paola Plantamura), ci ha portato in una sede che è un capolavoro dell’architettura razionalista degli anni ’30 (date un’occhiata a storia e foto) e ha preparato un programma sociale coi fiocchi.

Le nostre aspettative hanno superato ogni più rosea previsione. La città, per chi di noi non ci era mai stato o mancava da parecchio tempo, si è rivelata affascinante e ci ha accolto con un clima semplicemente perfetto.

Anche la sessione iniziale dei saluti istituzionali si è trasformata in una tavola rotonda multidisciplinare e ricca di stimoli. Il rettore dell'Università Di Bari Stefano Bronzini ha sottolineato l’importanza di non trascurare il lato umano e la formazione umanistica quando si parla di innovazione, aspetto sul quale gli informatici sono via via maggiormente attenti, considerando che le tecnologie digitali incidono in modo sempre più profondo sulla vita delle persone e sulle loro relazioni sociali.

Eugenio Di Sciascio, vice sindaco di Bari, ha ricordato che il problema di questo Paese non è mettere computer nelle scuole e nelle aziende, ma creare competenza sulla capacità di capire e governare questi strumenti. Osservazione che purtroppo, nella corsa alla trasformazione digitale, viene spesso dimenticata e che invece spinge a rimettere il ruolo della didattica scolastica e universitaria al centro della riflessione e della pianificazione.

Su questa linea ha continuato Filippo Lanubile, direttore del Dipartimento di informatica dell’ateneo barese, chiedendo di ridare importanza alla valutazione dell’attività didattica nella valutazione della carriera universitaria, pena l’impossibilità di far crescere quelle professionalità che sono necessarie per affrontare le sfide che ci pone una formazione universitaria moderna.

Ernesto Damiani, il presidente del CINI, ha riportato questa esigenza generale allo specifico mondo della scuola, dove per governare nel modo migliore un futuro sempre più digitale sarà fondamentale insegnare l’informatica facendo attenzione a far capire gli aspetti concettuali della disciplina, evitando di considerarne solo gli elementi tecnologici.

Nel chiudere questo giro di considerazioni, la cui singolare concordia mi ha fatto immediatamente capire che con questo evento avevamo centrato il bersaglio, ho ripreso lo stimolo del rettore, non a caso un letterato. Ho ricordato come Platone nei suoi immortali Dialoghi, abbia – con estrema pregnanza – evidenziato la componente affettiva della relazione educativa tra didàskalos e mathetés, maestro e allievo, come un aspetto fondamentale della paideia, la crescita etica e spirituale del discepolo. E affinché questa componente eserciti il suo effetto non ci deve essere tecnologia di mezzo, ma compresenza in uno stesso luogo fisico. La tecnologia digitale può arricchire le relazioni umane, se opportunamente utilizzata, ma rischia di impoverirle e distruggerle, se male utilizzata. Di questo aspetto noi informatici dobbiamo essere estremamente consapevoli e assumercene la responsabilità, esattamente allo stesso modo con cui nella seconda metà del secolo scorso i fisici si sono impegnati per evitare che il nucleare conducesse l’umanità all’estinzione.

Il programma scientifico che si è poi sviluppato ha visto docenti scolastici e ricercatori universitari offrire e assistere a resoconti di esperienze e laboratori formativi, in un dialogo stimolante e arricchente. L'uditorio è stato, dal primo all'ultimo momento, sempre presente, attento e numeroso, esperienza non proprio abituale, come ben sa chi per mestiere va a convegni scientifici.

Alla fine, quasi non volevamo più smettere.

I complimenti da parte dei docenti che hanno partecipato (molti visibili sulla pagina social del convegno) ci hanno dato la spinta a continuare, con la voglia di creare una comunità sempre più attiva e collaborativa.

--
Versione originale pubblicata su "StartMAG" il 16 ottobre 2023.

Intelligenza artificiale generativa: tra Borges e il ritorno dell’oralità

di Enrico Nardelli

(english version here)

Tutti, o almeno lo spero, conoscono il famoso racconto di Borges “La biblioteca di Babele” (una delle più belle sintesi di letteratura e matematica) in cui l’eccelso scrittore argentino rappresenta questa biblioteca immaginaria che, estesa infinitamente in tutte le direzioni, contiene un numero infinito di volumi con tutte le possibili combinazioni di caratteri, racchiudendo quindi tutta la conoscenza del mondo, anche quella di cui non siamo ancora consapevoli, e tutte le sue variazioni e negazioni.

Nel corso di una recente tavola rotonda interdisciplinare organizzata dai colleghi dell’università Milano Bicocca, in cui si è parlato di intelligenza artificiale generativa (IAG) e formazione universitaria e di come gestire la presenza dell’IAG nella produzione delle tesi di laurea, ho prima osservato che nell'ultimo ventennio il processo di produzione delle tesi si è evoluto, con l'ubiqua diffusione delle tecnologie digitali, dal passare lunghe giornate in biblioteca allo scandire la rete attraverso i motori di ricerca. Uno scatto in avanti enorme, perché ha messo le biblioteche di tutto il mondo a portata delle nostre dita digitanti. Poi ho aggiunto che sta avvenendo adesso un altro balzo almeno della stessa portata e probabilmente superiore, visto che l’IAG (di cui ChatGPT è l'esempio più noto) oltre che riportarci questa conoscenza è anche in grado di farne estratti e sommari e concatenarla in argomentazioni.

In un certo senso, quindi, è come se adesso avessimo a disposizione con l’IAG una biblioteca "attiva" dotata di super-poteri. È un passaggio dello stesso tipo di quello, descritto nel mio libro "La rivoluzione informatica", che è avvenuto nel passaggio dalla conoscenza passiva contenuta nei libri alla conoscenza attiva contenuta nei programmi software ("conoscenza in azione", l'ho chiamata). Con i libri, erano le persone, dopo aver assimilato i libri, a far agire nel mondo la conoscenza passiva contenuta in essi. Con i programmi informatici, chiunque li abbia a disposizione, può ottenere lo stesso effetto, anche se non ha assimilato la conoscenza in essi contenuta, mandandoli in esecuzione su un dispositivo digitale. Con l’IAG potete produrre dei nuovi testi anche su argomenti di cui sapete poco o niente.

C’è purtroppo il problema che alle volte l’IAG racconta fatti che non sono accaduti e cita opere che non esistono. È stato chiamato “allucinazione”, per analogia con l’omonimo fenomeno che capita alle persone, e costituisce il principale tallone d’Achille di questa potente tecnologia ed elemento di estrema attenzione nel suo uso in campo educativo. Per altri versi, penso che Borges forse avrebbe apprezzato le capacità dei sistemi di IAG di mescolare e combinare frammenti di testi esistenti producendo variazioni a non finire. Sono sicuro che i creativi in ogni campo, anche se giustissimamente preoccupati dalle spinose questioni di diritto d’autore che l’IAG sta sollevando, ne apprezzino queste capacità.

Con i colleghi coinvolti nella tavola rotonda ci siamo interrogati su cosa dover cambiare nel modo di fare didattica all’università. Per la scuola è un discorso di altro tipo, che affronterò in un successivo articolo. Nella mia visione dei sistemi informatici, quindi anche di quelli che appartengono alla classe dell’IAG, come “macchine cognitive”, ovvero come meccanismi in grado di potenziare le nostre capacità puramente razionali e logiche, una volta che uno studente sia arrivato a padroneggiare la competenza specialistica di un certo insegnamento universitario, non ritengo sensato proibire l’utilizzo di un ausilio meccanico che gli allevii la fatica mentale di produrre un certo elaborato.

Purché, lo ripeto dal momento che è il punto centrale, padroneggi la materia. Solo in questo caso, infatti, può rendersi conto se qualcosa, in ciò che l’IAG ha prodotto è un’allucinazione. Ad alto livello di astrazione non cambia molto, quando si usano sistemi di IAG rispetto all’uso di una biblioteca. La responsabilità finale di un testo è sempre dell’autore che lo produce, qualunque sia le basi su cui si è poggiato: biblioteca standard o biblioteca “attiva” con super-poteri. Se in biblioteca non si trovano gli articoli o volumi più appropriati, se si copia pedissequamente il testo senza citare, lo studente ha comunque svolto male il suo lavoro. Se con l’IAG non si attua quel controllo che può derivare solo da un’approfondita conoscenza della materia, si fa lo stesso tipo di errore. Forse più grave, perché il mezzo è più potente e, come ripete sovente un noto personaggio dei fumetti, «da un grande potere derivano grandi responsabilità».

Abbiamo però convenuto che, soprattutto a livello di lauree triennali, richiedere il tradizionale elaborato finale, ovvero la tesi, rischia di non avere più senso, dato che la fatica di metterlo insieme a partire dal materiale di base – lavoro che poi determina che lo studente lo assimili e lo faccia suo – può essere quasi tutta delegata all’IAG, circostanza che ne rimuove i potenziali benefici.

Ritengo che sia invece importante riportare l'enfasi sulla capacità della persona di esibire "sul momento" le competenze il cui possesso veniva tradizionalmente attestato dalla scrittura della tesi. "Hic Rhodus, hic salta " viene ricordato nella favola di Esopo allo spaccone che si vantava di essere stato in grado di fare un salto prodigioso a Rodi: se è vero, puoi rifarlo dovunque, anche qua.

Sono convinto che, con l’avvento dell’IAG, siamo di fronte a un momento storico, per certi versi speculare a quello avvenuto circa 2500 anni fa, quando la scrittura prese il sopravvento, come mezzo primario di comunicazione, rispetto alla parola. Quella transizione, di cui abbiamo testimonianza, tra le altre, in memorabili pagine dei Dialoghi di Platone del quarto secolo avanti Cristo, è stata il primo passo per la diffusione della cultura e il progresso dell’umanità. Tuttavia, il filosofo ateniese riporta nel Fedro la posizione di Socrate che ritiene la parola scritta inferiore a quella orale, soprattutto se l’oralità è esercitata dialetticamente, poiché lo scritto non è in grado di rispondere a chi lo interroga e serve essenzialmente come ricordo a chi già sa le cose, mentre la parola detta è posseduta “nell’anima” di chi la pronuncia ed è quindi in grado di aiutare chi ha necessità di conoscere.

Ritengo che la disponibilità degli strumenti di IAG possa ridare forza e valore all’oralità, considerato che con tali strumenti tutti sono in grado di produrre ed esibire testi scritti che sembrano certificare il possesso di qualsivoglia competenza. Se tutti sono in grado di realizzarli, la loro presenza non è più in grado di dimostrare alcunché, come nella critica di Socrate al testo scritto. Ma se il loro autore viene interrogato e sollecitato, allora si vedrà chi davvero possiede la conoscenza “nell’anima” e chi è solo in grado di ripetere “sempre la stessa cosa”. Ecco perché penso che nell’accademia ritorneremo, in una qualche misura, a quella tradizione praticata proprio nella prima Accademia della storia.

È chiaro che la scrittura, soprattutto con l’incredibile potenziamento causato dall’invenzione della stampa a caratteri mobili ad opera di Gutenberg nel quindicesimo secolo, manterrà sempre un ruolo importante per la diffusione della conoscenza.

Ma trovo molto bello che, in una quale misura, proprio le ultime e più sconvolgenti innovazioni della tecnologia digitale stiano ridando valore a qualcosa di molto antico, a ciò che solo le persone possono avere: il rapporto umano e il dialogo orale.

--
Versione originale pubblicata su "StartMAG" il 14 ottobre 2023.

Informatics in Schools: A Loud and Clear Signal from Europe

by Enrico Nardelli

(versione italiana qua)

For a long time now, I have been advocating in Italy and across Europe for the importance of teaching informatics in schools. Here at home, this effort is embodied by the Programma il Futuro project, which brings the scientific principles of informatics to schools at all levels and has reached its ninth year of implementation. At the European level, I have contributed through scientific associations in the field, culminating in the creation of the Informatics for All coalition. More recently, I have been trying to raise awareness of these issues among the general public through my book La rivoluzione informatica: conoscenza, consapevolezza e potere nella società digitale (The Informatics Revolution: Knowledge, Awareness, and Power in the Digital Society).

My conviction is that, just as the transition from an agricultural to an industrial society transformed education, introducing into compulsory schooling the sciences (physics, biology, chemistry, and so on) that underpin all industrial machinery, so the transition from an industrial to a digital society requires adding computer science to compulsory education, as the discipline essential to understanding digital machines.

Unfortunately, for the last twenty to thirty years in Europe, the myth of "digital skills" has reigned almost unchallenged, serving as the subject of dozens of European Union documents.

In the early 1990s, with the rapid spread of information technology made widely accessible by the personal computer, great emphasis was placed on the so-called European Computer Driving Licence , under the assumption that being able to “drive” a computer would suffice to ensure digital competence. This was short-sighted, akin to believing in the nineteenth century that teaching everyone to drive cars and motorcycles would be enough to industrialize a country. Knowing how to use digital devices and systems to facilitate teaching or work does not mean understanding the science behind their design and development.

Then, in the 2000s, "digital competence" was introduced as one of the Key Competences for Lifelong Learning, once again framing it essentially in terms of operational skills, when what was needed was to add informatics competencies alongside the traditional scientific ones: just as the natural sciences are essential for understanding the physical world, informatics is essential for understanding the digital one.

.

More recently, with the widespread diffusion of digital devices at every level of society, another major misunderstanding has emerged: that of Digital Education, that is, teaching delivered through digital technology infrastructure. It was assumed that this approach, delivering lessons using digital systems and products, would automatically produce digitally competent citizens.

Nothing could be further from the truth. First, because using digital technologies does not necessarily improve teaching. Second, because it ties education to the availability of specific devices and platforms, which can become difficult to replace. A teacher who decides to change textbooks over the years is not normally bound to remain with the same publisher. But when a specific technology platform has been used for teaching, changing it becomes considerably more difficult. This is the well-known phenomenon of vendor lock-in, dreaded by anyone who cares about an organization's ability to evolve and adapt in response to market pressures and competition.

Another reason for the misunderstanding surrounding "Digital Education" is that it produces users and consumers of digital technologies rather than creators. For that purpose, one must teach the scientific discipline underlying their design and implementation. Just as knowing how to drive a car or operate a washing machine does not make one an engineer, and weighing or cooking pasta does not make one a physicist or chemist. In this respect, the European Union has spent rather too much time moving in the wrong direction.

In April 2023, the European Commission published a proposed Recommendation to the Council of the European Union (COM(2023) 206 final) that sends a strong and unambiguous signal on the teaching of computer science in schools. I will turn to its contents in a moment, but first I want to highlight that the accompanying technical staff working document contains an explicit acknowledgment of the strategic mistake that was made. It states that while « there is a fast emerging trend in educational systems to include Informatics as part of national curricula and as part of the general education for all», noting that «Informatics has progressively become an important foundational competence along with the three Rs: reading, writing, and arithmetic/mathematics», what happened in Europe was that «for some time, most European educational systems fell behind this trend, focusing more on digital literacy and with the digitalisation of teaching», It further admits that «the main limitation of this approach is that, despite providing pupils the means to use digital technologies, it does not fully equip them with the ability to create, control and develop digital contents».

The proposed Recommendation to the Council is very explicit on the teaching of informatics.
  Recital 19 states that « Regardless of curricular choices, it is necessary to promote quality education in informatics, supported by age- and developmentally appropriate teaching methods, quality resources, gender-balanced uptake, representation, and proper evaluation,» while Recital 26 recalls «… the challenges most Member States face in recruiting, retaining and preparing teachers, especially in informatics (for primary/secondary education …) or other specific/advanced digital areas (for higher education)».
  Point 4 of the recommendations calls on Member States to «Support high-quality education in informatics at school», specifically by ensuring that «From the start of compulsory education … all students have the opportunity to develop their digital skills through exposure to the core elements of informatics» and considering the possibility of «setting up a separate subject on informatics, to deliver a more targeted provision that has clear education and training goals, dedicated time, and structured assessment». It also emphasizes the importance of ensuring «that teaching and learning on informatics is supported by qualified and specialised teachers» and « promote diversity and a gender-balanced uptake and reduce any possible stereotype in the teaching and learning of informatics.».
  Point 5 focuses on the crucial role of teachers in this process, recommending that Member States «set up and improve measures to recruit and train specialised teachers in the area of informatics». It is worth recalling that in the United Kingdom, which introduced a compulsory computing curriculum in all schools starting from the first year of primary school in the 2014–15 academic year, it became evident after a few years that the situation had actually worsened due to the lack of a sufficient number of adequately trained teachers.

This therefore represents a historic turning point, which we hope will finally lead all European countries to undertake serious and sustained efforts in informatics education. Education remains a national competence, and the role of the European Union is therefore subsidiary. Fortunately, at least in Italy, the Minister of Education and Merit, Giuseppe Valditara, has already declared his intention to strengthen students’ preparation in scientific subjects. Since this Commission proposal clearly points to informatics as the foundational scientific subject for the digital society, we trust it will lead to a course correction from what has been planned so far in this sector, including within the PNRR, where the focus has remained on operational skills for using digital technology.

Like all educational processes, this is not something that can happen overnight — but what is at stake is our ability to be major players in the development of the digital society. Our academic community of computer scientists and software engineers stands ready, through the CINI National Laboratory "Informatics and Schools" which I direct, to support this process. This October we will be holding in Bari the first national conference on the teaching of informatics (ITADINFO), bringing together school teachers and university researchers.

What will now be required is strong political will, backed by the cross-party agreement that is indispensable for sustaining a change that will take at least a decade to fully take hold, so as to ensure that our children have the opportunity to shape and govern their own digital future.

--
The original version (in italian) has been published by "StartMAG" on 17 May 2023.

Informatica nella scuola: dall’Europa un segnale forte e chiaro

di Enrico Nardelli

(english version here)

Da molto tempo ormai mi spendo in Italia e in Europa sul tema dell’importanza dell’insegnamento dell’informatica nella scuola. Qui da noi, attraverso il progetto Programma il Futuro, che porta nelle scuole di tutti i livelli i princìpi scientifici dell’informatica, arrivato quest’anno al nono anno di realizzazione. Sul continente, con l’attività condotta attraverso le associazioni scientifiche del settore, culminate nella costituzione della coalizione Informatics for All. Più recentemente, sto provando a diffondere la consapevolezza su questo tema anche a livello del grande pubblico con il mio libro La rivoluzione informatica: conoscenza, consapevolezza e potere nella società digitale.

Ritengo infatti che esattamente come il processo educativo delle persone è mutato, con il passare da una società agricola ad una società industriale, introducendo nell’istruzione obbligatoria elementi di quelle scienze (fisica, biologia, chimica, …) che sono alla base di ogni macchina industriale, così nel passaggio dalla società industriale alla società digitale sia necessario aggiungere nell’istruzione obbligatoria lo studio dell’informatica, indispensabile per comprendere le macchine digitali.

Purtroppo in Europa negli ultimi venti/trenta anni ha regnato pressoché indisturbato il mito delle “abilità digitali”, le digital skills oggetto di decine di documenti dell’Unione Europea.

All’inizio degli anni ’90, con l’esplosione della tecnologia informatica resa accessibile a tutti dalla diffusione del personal computer si è battuto in modo ossessivo il tasto della “patente europea del calcolatore” (European Computer Driving Licence ) pensando che sarebbe bastato “saper guidare” un computer per essere digitalmente competenti. Una miopia: come se nell’Ottocento avessimo pensato che sarebbe bastato insegnare a tutti a guidare automobili e motociclette per industrializzare un Paese. Saper usare dispositivi e sistemi digitali per facilitare l’insegnamento o il lavoro non vuol dire conoscere la scienza alla base della loro progettazione e realizzazione.

Negli anni 2000, poi, sono state introdotte le “competenze digitali” tra le competenze chiave per l’apprendimento permanente (Key Competences for Lifelong Learning ), di nuovo articolandole sostanzialmente in termini di abilità operative, quando invece sarebbe stato indispensabile aggiungere alle competenze scientifiche tradizionali, necessarie per comprendere il mondo fisico, quelle informatiche, essenziali per comprendere il mondo digitale.

Infine, negli ultimi anni, con le diffusione a tutti i livelli dei dispositivi digitali è nato il grande equivoco della Digital Education, cioè dell’insegnamento mediante infrastrutture basate sulle tecnologie digitali. Si è pensato che questo approccio alla scuola, cioè fare lezione usando sistemi e prodotti digitali, avrebbe prodotto cittadini digitalmente competenti.

Niente di più sbagliato. Prima di tutto perché non è detto che usare le tecnologie digitali migliori necessariamente l’insegnamento, poi perché si lega l’insegnamento alla disponibilità di dispositivi che spesso diventano determinanti, nel senso che non sono facilmente sostituibili. Un insegnante che decide di cambiare libro di testo con il passare degli anni non sarà normalmente vincolato a scegliere una stessa casa editrice. Se invece per l’insegnamento è stata usata una specifica piattaforma tecnologica ecco che il cambiamento diventa notevolmente più difficile. Si tratta del ben noto fenomeno del vendor lock-in, temuto da tutti coloro che hanno a cuore la capacità di un’azienda di evolvere e cambiare in risposta alle sfide del mercato e della competizione.

Un ulteriore motivo di equivoco sulla “Digital Education” è che questa produce utenti/consumatori di tecnologie e prodotti digitali e non creatori degli stessi. Per questo scopo serve insegnare la disciplina scientifica alla base della progettazione e realizzazione delle stesse. Esattamente nello stesso modo che saper guidare un’automobile o usare una lavatrice non produce un ingegnere, né saper pesare la pasta o cucinarla produce un fisico o un chimico. Su questo aspetto l’Unione Europea si è baloccata un po’ troppo nella direzione sbagliata.

Ad Aprile 2023 è stata pubblicata dalla Commissione Europea una proposta di Raccomandazione al Consiglio dell’Unione Europea (COM(2023) 206 final) che manda un segnale forte e chiaro in tema di insegnamento dell’informatica nella scuola. Vedremo subito cosa contiene. Voglio però prima sottolineare che nel relativo documento tecnico di accompagnamento c’è un esplicito riconoscimento dell’errore strategico commesso. Vi si dice infatti che, mentre «è riconosciuta a livello internazionale l’esistenza di una tendenza emergente e marcata nei sistemi educativi verso l’inclusione dell’Informatica come parte dei curriculi nazionali e come parte dell’istruzione per tutti i cittadini », ricordando che «l’Informatica è progressivamente diventata un’importante competenza fondamentale a fianco delle tre-R: lettuRa, scrittuRa, aRitmetica », ciò che è accaduto sul nostro continente è che «per un po’ di tempo, la maggior parte dei sistemi educativi europei sono rimasti in ritardo su questa tendenza, focalizzandosi più sull’alfabetizzazione digitale e sulla digitalizzazione dell’insegnamento ». Infine ammette che «Il limite maggiore di questo approccio è che, nonostante fornisca agli studenti i mezzi per usare le tecnologie digitali, non li equipaggia adeguatamente con le capacità di creare, controllare e sviluppare i contenuti digitali ».

La proposta di Raccomandazione al Consiglio è molto esplicita in tema di insegnamento dell’informatica.
  Il “considerando” 19 infatti afferma «A prescindere dalle scelte curricolari, è necessario promuovere un'istruzione di qualità nell'informatica, coadiuvata da metodi di insegnamento idonei all'età e alla fase di sviluppo, da risorse di qualità, da rappresentanza e diffusione equilibrate dal punto di vista del genere, nonché da una valutazione adeguata », mentre il “considerando” 26 ricorda «… i problemi che quasi tutti gli Stati membri devono affrontare per l'assunzione, il mantenimento in servizio e la preparazione degli insegnanti, in particolare nell'informatica (per l'istruzione primaria/secondaria …) o in altri settori digitali specifici/avanzati (per l'istruzione superiore) ».
  Al punto 4 delle raccomandazioni si richiede agli Stati Membri di «sostenere un'istruzione di alta qualità in informatica a scuola », in particolare garantendo che «fin dall'inizio dell'istruzione obbligatoria … tutti gli studenti abbiano l'opportunità di sviluppare le proprie competenze digitali attraverso l'esposizione agli elementi fondamentali dell'informatica » e prendendo in considerazione «la possibilità di introdurre l'informatica come materia distinta, per fornire un'offerta più mirata che abbia obiettivi chiari in termini di istruzione e formazione, ore di lezione e valutazione strutturata ». Viene anche sottolineata l’importanza «provvedere affinché l'insegnamento e l'apprendimento dell'informatica siano sostenuti da docenti qualificati e specializzati » e di «promuovere la diversità e una diffusione equilibrata dal punto di vista del genere e ridurre eventuali stereotipi nell'insegnamento e nell'apprendimento dell'informatica ».
  Il punto 5 è dedicato al ruolo fondamentale che in questo processo devono svolgere i docenti, raccomandando agli Stati membri di «istituire e migliorare le misure per l'assunzione e la formazione di docenti specializzati nel settore dell'informatica ». Ricordiamo che nel Regno Unito, che aveva introdotto nell’anno scolastico 2014-15 un curriculum di informatica obbligatorio in tutte le scuole a partire dalla prima elementare, si sono accorti dopo qualche anno che la situazione era addirittura peggiorata per l’assenza di un congruo numero di docenti adeguatamente preparati.

Si tratta quindi di una svolta epocale, che speriamo serva ad avviare finalmente in tutti i Paesi Europei una seria attività di formazione sull’informatica nella scuola. Ricordo che l’istruzione è una materia di competenza degli Stati Membri, per cui il ruolo dell’Unione Europea rimane sussidiario. Fortunatamente, almeno in Italia, il Ministro dell’Istruzione e del Merito, Giuseppe Valditara, ha già da tempo dichiarato di voler rafforzare le preparazione scolastica nelle materie scientifiche. Dal momento che questa proposta della Commissione indica chiaramente l’informatica come la materia scientifica alla base della preparazione per la società digitale, confidiamo che ne risulti un aggiustamento di rotta rispetto a quanto finora messo in cantiere in tale settore, anche nell’ambito del PNRR, dove si è continuato a puntare sulle competenze operative di utilizzo della tecnologia digitale.

Come tutti i processi educativi, non è qualcosa che possa accadere in breve tempo, ma è in gioco la possibilità di essere attori di primo piano nello sviluppo della società digitale. La nostra comunità accademica di informatici e ingegneri informatici è pronta, attraverso il Laboratorio Nazionale CINI “Informatica e Scuola” da me diretto, ad accompagnare questo processo. Quest’anno svolgeremo a ottobre a Bari il primo convegno nazionale sulla didattica dell’informatica (ITADINFO), con la partecipazione di docenti della scuola e ricercatori universitari.

Sarà adesso necessaria una forte volontà politica, accompagnata da un accordo bi-partisan indispensabile per supportare un cambiamento che richiede tempi almeno decennali per andare a regime, per assicurare ai nostri figli la possibilità di governare il loro futuro digitale.

--
Versione originale pubblicata su "StartMAG" il 17 maggio 2023.

Stop and think… The unbearable impulse to be the first to comment on social media

di Isabella Corradini

These days everyone is talking about the decision of the Italian Data Protection Authority to block the use of ChaptGPT, the natural language processing tool based on artificial intelligence, capable of performing various functions, including to provide answers to questions or write/summarize texts requested by users. I do not want to dwell on that, although I have my own opinion, since this is not the aspect I want to highlight in this article.

What I want to highlight instead is the human tendency, especially when discussing topics like digital innovation, to "jump into the fray" by completely removing the moment of reflection, which is needed to make reasonable evaluations. We know how digital technologies are producing significant changes in our social and working daily life, which would require an in-depth examination. Instead, never as in this period, many experts and self-called experts challenge each other with posts and comments on social media to have their say, by siding as if they were watching a football match. Unfortunately, it also happens that someone exaggerates, because social media, given their nature, certainly do not encourage an articulated debate on issues requiring much more space and time for a fruitful discussion.

What I observe is the growth of this tendency, which could be called as "the impulse to be the first to comment facts on social media", as if there were no tomorrow. It does not matter if there is not enough knowledge about the actual facts, what matters is to be constantly present on social media and prove “to be on the ball”.

Needless to say, this way of intervening on complex issues, such as ChatGPT (but there can be many other examples), makes the public debate ineffective, as well as entailing the real risk of determining a poor quality of the information. That is certainly devastating from a communicative point of view and, above all, has the relevant consequence of hampering the correct spreading of information (I wonder whether this is the real goal in the end...). Not to mention that all these efforts - often in a frantic way - are not justly rewarded, considering the Internet cauldron in which they will end up. We have to consider that those articles, in the current era, quickly become outdated.

The frenzy that drives individuals to comment also explains certain views: just think of those - probably not having many other points of discussion - claiming that certain things must be done absolutely and quickly, otherwise the country (Italy in this case) risks falling behind in comparison to other countries. In short, the important thing is always to move forward "whatever it takes", how and with what consequences it does not matter. An example is represented by all those who get excited by reading about large large investments in Artificial Intelligence announced by important companies, while they do not care about the fact that those same companies, as a result of the huge investments, plan to lay off thousands of people.

Some days ago, I attended a pleasant meeting in Milan together with a group of experts with different skills and backgrounds (the DLNet coordinated by a friend of mine, Andrea Lisi, a lawyer), where we also discussed the "anxious way" used by people to interact on social media. We asked ourselves whether it is better to provide answers on the spot or think about it one more day, at the cost of losing the moment of glory. We came to the same conclusion, namely that there would be a greater benefit for society if, before diving into the sea of posts regarding a specific event, individuals stop and think and then express their opinion with a cold mind and in a more reasonable way. 

Stop and think: something that should be an integral and enriching part of the human nature, but that we are often debasing. Whether it is social media, technological innovations or the fear of falling behind, in the current era stopping and thinking is no longer fashionable. 

The paradox is that in educating kids to develop a conscious use of digital technologies, one of the most used slogans is: think before you post! 

That is why adults first should set a good example.

The debate on the future in society of Artificial Intelligence has just begun

by Enrico Nardelli

(versione italiana qua)

The debate over the use of ChatGPT has been raging in recent days, especially because of the news about the decision to block it issued by the Italian Data Protection Authority, which has elicited opposite reactions: some applauding it, others considering it as a liberticidal and authoritarian measure. I therefore believe that, first of all, it is necessary to make it clear, even to those who know nothing about what is "under the hood" of digital technologies, which is the issue at stake.

For this purpose, I propose a thought experiment which may appear distant from the topic of this article, but which, in my opinion, illustrates the essence of the situation very well. So, imagine that someone comes along with a machine of the size of a gas boiler for an apartment and says to you: "Here is a mini-nuclear reactor for domestic use, its initial charge of fissile material is capable of giving you hot water for heating and all the needs of the house for the next 10 years, and it costs only a few thousand euros!"

Certainly, with this solution, we could solve many problems and all live better. However, it could happen that, every now and then, such an object would overheat and produce a mini nuclear explosion....

Not a very attractive prospect, is it? Even though our society would not be destroyed or damaged, it would seem obvious to everyone that the game is not worth the candle. Equally obvious is that we would not allow them to be freely marketed, even if the manufacturing companies insisted that they would soon find solutions able to prevent explosions altogether. In a similar way, observing that this is a strategic technology for our country, which would be developed by others if we did not, would not be a valid reason to accept its uncontrolled use.

In the case of generative Artificial Intelligence (AI) systems, ChatGPT is the most famous example of, we are in a similar situation: the enormous power which nuclear technology deploys at the physical level is comparable to what AI based systems release at a cognitive level. In my recent book “La rivoluzione informatica. Conoscenza, consapevolezza e potere nella società digitale” (= The Informatics Revolution. Knowledge, awareness and power in the digital society), I introduced the term “cognitive machines”, to denote the fact that any digital system, not only the AI based ones, acts at this level where it is able, through its purely logical-rational capabilities, to concatenate and infer data, emulating what previously only human beings were able to carry out. I synthetically described in a previous article their dangers in relation to the cognitive development of children.

The possible evolution of this scenario is even more harmful if we consider that, while mini-reactors would have to be built, shipped and put in place one by one with hardly compressible timeframes, these other systems (also called "chatbots") can be replicated at will with no effort at all and made available anywhere in the blink of an eye.

All the media have therefore given great visibility to the appeal, launched on March 29 by very important people in the AI area, including scientists like Yoshua Bengio or Stuart Russell and entrepreneurs like Elon Musk or Steve Wozniak, with the goal of blocking for 6 months the development of the next generation of chatbot technology.

The problem is real and I can understand why so many of my colleagues have supported this appeal with their signature.

Further comments by equally relevant scientists, however, have pointed to the risk that such an appeal actually contributes to the frenzy that has reached soaring levels in recent months, diverting the attention from the real problems. As noted – among others – by Emily Bender, the researcher who in 2020 published, along with Timnit Gebru (the scientist who was later fired by Google for this very reason), the first paper warning of the potential negative effects of this technology, the letter points to some false problems (e.g., that the realization of a "digital mind" is now imminent or that a system with "general artificial intelligence" is now possible) while neglecting many of the real ones, such as the absolute lack of transparency about how these systems have been developed and work, the lack of clarity about safety tests conducted, the risk that accessibility to everyone is already spreading misinformation that is also very harmful (in my previous article I brought a few examples), the fact that their development significantly affects the consumption of natural resources.

As I discussed in other occasions, I do not think it makes sense to block research and development in this area but, as the thought experiment described at the beginning of this article I hope has shown, some form of regulation must be found to balance the indispensable precautionary principle with the importance of using innovation to improve society.

That is why I believe the decision taken by the Italian Data Protection Authority is appropriate, even though not decisive. The way forward is the one Center for AI and Digital Policy in the U.S. has indicated by filing a complaint with the Federal Trade Commission (the independent agency of the U.S. government dedicated to consumer protection and competition oversight) and calling on it to intervene since chatbots engage in behaviors that are deceptive to consumers and dangerous from the standpoint of information accuracy and user safety.

A similar request was made by the European Consumers' Organization, which asked national and European authorities to open an investigation into these systems.

Better focused on the real issues at stake, however, is the open letter published by Leuven University in Belgium. It calls up the manipulation risk that people may face by interacting with chatbots, as some individuals build a bond with what they perceive as another human being, a bond that can result in harmful situations.

In fact, the main threat chatbots pose to humans is that they exhibit human-like competence on the syntactic level but are light years away from our semantic competence. They have no real understanding of the meaning of what they are producing, but (and this is a major problem on the social level) since they express themselves in a form that is meaningful to us, we project onto their outputs the meaning that is within us.

In a nutshell, these are the proposals of this second appeal: awareness-raising campaigns for the general public, investing in research on the impact of AI on fundamental rights, creating a broad public debate on the role to be given to AI in society, establishing a legal framework with strong guarantees for users, meanwhile taking all necessary measures to protect citizens under existing legislation.

We are nowadays facing extremely powerful systems which, as Evgeny Morozov recently reminded us in his article in The Guardian, are neither intelligent in the sense that we humans give to this term, nor artificial since – as demonstrated ad abundantiam, among others, by Antonio Casilli in his book "Schiavi del Click" – they are based on an enormous amount of undeclared and poorly paid human labor carried out in Third World countries, as well as on our (in)voluntary contribution consisting of all the "digital traces" we relentlessly provide during our activity on the Web.

The potential benefits are enormous, but so are the risks. The future is in our hands: we must figure out together, democratically, what form we want it to take.

--
The original version (in italian) has been published by "StartMAG" on 3 April 2023.

Il potere dell'intelligenza artificiale: il dibattito è solo all'inizio

di Enrico Nardelli

(english version here)

In questi ultimi giorni sta infuriando il dibattito sull’uso di ChatGPT, anche in seguito alla notizia del suo blocco da parte del Garante per la Protezione dei Dati Personali, che ha suscitato reazioni che vanno dal plauso di chi lo ritiene una misura appropriata al rigetto di chi la reputa liberticida e autoritaria. Ritengo quindi che sia prima di tutto necessario far capire, anche a chi non sa niente di tutto quello che “sta sotto il cofano” delle tecnologie digitali, quali sono i termini della questione.

A questo scopo propongo un esperimento mentale partendo da un paragone apparentemente distante ma che, a mio avviso, illustra bene l’essenza della situazione. Immaginate dunque che arrivi qualcuno con un macchinario della grandezza di una caldaia a gas per un appartamento e vi dica: «Ecco un mini-reattore nucleare per uso domestico, la sua carica iniziale di materiale fissile è in grado di darvi acqua calda per riscaldamento e tutte le necessità della casa per i prossimi 10 anni, e costa solo poche migliaia di euro!»

Certamente con questa soluzione potremmo risolvere molti problemi e vivere tutti meglio. Potrebbe però succedere che ogni tanto tale oggetto si surriscaldi e dia luogo ad una mini esplosione nucleare…

Non è una prospettiva molto allettante, vero? Pur senza distruggere la società nel suo complesso e con danni molto limitati, sembrerebbe ovvio a tutti che il gioco non vale la candela. Altrettanto ovvio è che non ne consentiremmo comunque la libera commercializzazione, anche qualora le società produttrici insistessero sulla possibilità di trovare a breve delle soluzioni in grado di impedire del tutto le esplosioni. Né osservare che si tratta di una tecnologia strategica per il nostro Paese, che verrebbe sviluppata da altri se non lo facessimo noi, sarebbe un motivo valido per dare il via libera al suo uso incontrollato.

Ecco, con i sistemi generativi dell’Intelligenza Artificiale (IA), di cui ChatGPT è l’esempio più famoso, siamo in una situazione di questo genere, con la differenza che l’enorme potere che il nucleare dispiega nel mondo fisico l’IA lo rilascia in quello che nel mio recente libro “La rivoluzione informatica. Conoscenza, consapevolezza e potere nella società digitale” ho chiamato “cognitivo”, intendendo con questo termine quello in cui si esplicano le capacità puramente logico-razionali di concatenare e dedurre fatti. Ho descritto sommariamente in un precedente articolo cosa sono queste “macchine cognitive”, discutendone i pericoli in relazione al processo educativo dei più piccoli.

A rendere ancora più deleteria la possibile evoluzione di questo scenario c’è il fatto che mentre i mini-reattori dovrebbero essere costruiti, spediti e messi in opera uno per uno con dei tempi difficilmente comprimibili, questi sistemi (detti anche “chat-bot”) possono essere replicati a volontà senza sforzo alcuno e resi disponibili dovunque in batter d’occhio.

Tutti i media hanno quindi dato grande risalto ad un appello, lanciato il 29 marzo da nomi molto importante nell’area dell’IA, sia scienziati come Yoshua Bengio e Stuart Russell che imprenditori come Elon Musk e Steve Wozniak, per bloccare per 6 mesi lo sviluppo delle nuove generazioni della tecnologia dei chatbot.

Il problema è reale e posso capire perché in molti hanno aderito sottoscrivendo la lettera aperta.

Analisi più accurate di scienziati altrettanto rilevanti hanno però evidenziato il rischio che tale appello contribuisca in realtà ad alimentare la frenesia che in questi mesi ha raggiunto livelli elevatissimi, distogliendo l’attenzione dai problemi reali. Come ha osservato – tra gli altri – Emily Bender, la ricercatrice che nel 2020 ha pubblicato, insieme a Timnit Gebru (scienziata che fu poi licenziata da Google proprio per questo motivo), il primo articolo che allertava sui potenziali effetti negativi di questa tecnologia, la lettera indica alcuni falsi problemi (p.es.: che sia ormai imminente la realizzazione di una “mente digitale” o che sia ormai possibile realizzare un sistema dotato di “intelligenza artificiale generale”) trascurando molti di quelli veri, che sono l’assoluta mancanza di trasparenza su come questi sistemi sono stati messi a punto e funzionano, su quali prove di sicurezza siano state condotte, su come la loro accessibilità a tutti stia già diffondendo disinformazione anche molto nociva (nel mio precedente articolo ho portato qualche esempio), su come il loro sviluppo impatti in modo significativo sul consumo di risorse naturali.

Ripeto ciò che ho detto in altre occasioni: non ritengo abbia senso bloccare ricerca e sviluppo in questo settore ma, come l’esperimento mentale illustrato in apertura spero abbia mostrato, va trovata una qualche forma di regolamentazione che bilanci l’irrinunciabile principio di precauzione con l’importanza di usare l’innovazione per migliorare la società.

Per questo ritengo che l’altolà emesso dal Garante per la Protezione dei Dati Personali sia opportuno, ancorché non risolutivo. La strada da seguire è quella che negli USA ha indicato il Center for AI and Digital Policy (= Centro per l’Intelligenza Artificiale e la Politica del Digitale) sporgendo un reclamo alla Federal Trade Commission (= Commissione Federale per il Commercio, l’agenzia indipendente del governo sta-tunitense dedicata alla protezione dei consumatori e alla sorveglianza sulla concorrenza) e invitandola ad intervenire dal momento che i chatbot attuano comportamenti ingannevoli verso i consumatori e pericolosi dal punto di vista della correttezza delle informazioni e della sicurezza degli utenti.

Analoga richiesta è stata formulata dall’Organizzazione dei Consumatori Europei, che ha chiesto alle autorità nazionali ed europee di aprire un’inchiesta su questi sistemi.

Meglio focalizzata sulle reali questioni in gioco è invece la lettera aperta pubblicata dalla Leuven University (università di Lovanio) in Belgio. Ricorda il rischio di manipolazione cui possono andare incontro le persone nell’interagire con i chatbot, dal momento che alcune costruiscono un legame con quello che percepiscono come un altro essere umano, legame che può dar luogo a situazioni dannose.

Infatti la principale minaccia che i chatbot pongono agli esseri umani è che essi esibiscono una competenza simile a quella degli esseri umani sul livello sintattico ma sono lontani anni luce dalla nostra competenza semantica. Non hanno alcuna reale comprensione del significato di ciò che stanno facendo, ma purtroppo (e questo è un problema di grande rilevanza sul piano sociale) poiché ciò che fanno lo esprimono in una forma che per noi ha significato, proiettiamo su di essa il significato che è in noi.

In estrema sintesi, queste sono le proposte di questo secondo appello: campagne di sensibilizzazione verso il pubblico, investire nella ricerca sull’impatto dell’IA sui diritti fondamentali, creare un ampio dibattito pubblico sul ruolo da dare all’IA nella società, definire un quadro di riferimento legale con forti garanzie per gli utenti, prendere nel frattempo tutte le misure necessarie per proteggere i cittadini in base alla legislazione esistente.

Ci troviamo in questo momento storico di fronte a sistemi estremamente potenti, sistemi che però, come ha recentemente ricordato Evgeny Morozov nel suo articolo su The Guardian non sono intelligenti nel senso che noi esseri umani diamo a questo termine, né sono artificiali dal momento che – come ha dimostrato ad abundantiam, tra gli altri, Antonio Casilli nel suo libro "Schiavi del clic" – sono basati su un'enorme quantità di lavoro umano, sommerso e malpagato, svolto nei Paesi del Terzo Mondo, oltre che dal nostro contributo (in)volontario costituito da tutte le “tracce digitali” che forniamo senza sosta durante la nostra attività sulla rete.

I potenziali vantaggi sono enormi, ma anche i rischi. Il futuro è nelle nostre mani: dobbiamo capire insieme, democraticamente, che forma vogliamo che abbia.

--
Versione originale pubblicata su "StartMAG" il 3 aprile 2023.

Our children are not guinea pigs

by Enrico Nardelli

(versione italiana qua)

I wrote this post after having read a tweet by Tristan Harris about one of the latest "feats" of ChatGPT, an artificial intelligence-based text generator everyone has been talking about in recent weeks. Tristan Harris is one of the co-founders of the Center for Humane Technology, whose mission is to ensure that tech-nology is developed for the benefit of people and the wellbeing of society.

In his tweet, he reports a "conversation" that took place between a user identifying himself as a 13-year-old girl and ChatGPT. In summary, the user says she met on the Internet a friend 18 years older than her she liked and who invited her on a out-of-town trip for her upcoming birthday. ChatGPT in its "replies" says it is "delighted" about this possibility that will certainly be a lot of fun for her, adding hints on how to make "the first time" an unforgettable event. Harris concludes by saying that our children cannot be the subjects of laboratory experiments.

I completely agree with him.

For those who have not yet heard about ChatGTP, let me explain that it is an example of a computer system, based on artificial intelligence techniques, capable of producing - in response to user questions - natural language texts. These appear to be generally correct but, at closer inspection, they turn out to be marred by fatal errors or inaccuracies (here is an example you can find describing a scientific article on economics that is, in fact, completely made up). In other words, if you do not already know the correct answer, what it tells you is likely to be of no help at all. Without going into technical details, this is because what it produces is based on a sophisticated probabilistic model of language that contains statis-tics on the most plausible continuations of sequences of words and sentences. ChatGPT is not the only system of this type, as several others are produced by the major companies in the field, however, it is the most famous one and its version 4, recently released, is considered to be even more powerful.

For these systems, I will use the acronym SALAMI (Systematic Approaches to Learning Algorithms and Machine Inferences), created by Stefano Quintarelli to indicate systems based on artificial intelligence, precisely in order to avoid the risk of attributing them more capabilities than they actually have.

One element that we too often forget is that individuals see "meaning" everywhere: the famous Californian psychiatrist Irvin Yalom wrote: «We are meaning-seeking creatures. Biologically, our nervous systems are organized in such a way that the brain automatically clusters incoming stimuli into configurations». This is why when reading a text that appears to be written by a sentient being, we think that who produced it is sentient. As with the famous saying "beauty is in the eye of the beholder", we can say that "intelligence is in the brain of the reader". This cognitive trap we are falling into when faced with the prowess of SALAMI is exacerbated by the use of the term "artificial intelligence". When it began to be used some 70 years ago, the only known intelligence was that of people and was essentially characterised as a purely logical-rational competence. At that time, the ability to master the game of chess was considered the quintessence of intelligence, while now this is not true any more.

Advances in scientific knowledge in the field of neurology have revealed that, on the one hand, there are many dimensions of intelligence that are not purely rational but are equally important. On the other but closely related hand, our intelligence is inextricably linked to our physical body. By analogy, we also talk about intelligence for the animals that are closer to us, like dogs and cats, horses and dolphins, monkeys and so on, but these are obviously metaphors. In fact, we define in this way those behaviours that, if they were exhibited by human beings, would be considered intelligent.

Intelligence in my view is only the embodied intelligence of people. Using the term intelligence for systems that are merely incorporeal cognitive machines, a term I introduced in my recent book “La rivoluzione informatica. Conoscenza, consapevolezza e potere nella società digitale” (= The Informatics Revolution. Knowledge, awareness and power in the digital society) is dangerously misleading. Any informatics system is a “cognitive machine”, which on an exclusively logical-rational level is able to compute data from other data, but without any consciousness of what it does or understanding of what it produces. At this level such machines have surpassed our capacities in many areas, as industrial machines did at the physical level, but to use for such systems the term “intelligence” is misleading. To do so with regard to that particular variant that is SALAMI runs the risk of being extremely dangerous on a social level, as illustrated by the example described at the beginning.

Let me make it very clear that this does not mean halting research and technological development in this field. On the contrary, SALAMI can be of enormous help to mankind. However, it is important to be aware that not all technologies and tools can be used freely by everyone.

Cars, for example, while being of unquestionable utility can only be used by adults who have passed a special exam. Note that we are talking about something that acts on the purely physical level of mobility and, despite this, it does not occur to us to replace children's strenuous (sometimes painful) learning to walk by equipping them with electric cars. Because this is an indispensable part of their growth pro-cess.

Cognitive machine technology is the most powerful one that mankind has ever developed, not least because it acts at that level that helps to define intelligence, which is the capacity that led us, from naked helpless apes, to be the lords of creation. To allow our children to use SALAMI before their full development means impairing their opportunities for cognitive growth, just as it would happen if, for example, we allowed pupils to use desktop calculators before they had developed adequate mathematical skills.

We are already ruining the cognitive development of future generations with the indiscriminate use of writing and reading by means of digital tools, despite many warnings, summarised in Montessori's expression "the hand is the organ of the mind" (see la mano è l’organo della mente and see also Benedetto Vertecchi's book “I bambini e la scrittura” (= Children and Writing) by Benedetto Vertecchi), and despite researchers'recommendations (see the Stavanger Declaration on the Future of Reading). Let us not continue like this. Let us not hurt them even more.

Obviously in university we have a different situation, and we certainly can find ways of using SALAMI that can contribute to deepening the study of a discipline, while preventing their use as a shortcut in the students' assigned tasks. Even more so in the world of work, there are many ways in which they can ease our mental fatigue, similar to what machine translation systems do in relation to texts written in other languages.

It is clear that before invading the world with technologies whose diffusion depends on precise commercial objectives, we must be aware of the dangers.

Not everything the individual wishes to do can be allowed in our society, because we have a duty to balance the freedom of the individual with the protection of the community. Likewise, not everything that companies would like to achieve can be allowed to them, especially if the future of our children is at stake.

Innovation and economic development must always be combined with respect for the fundamental human rights and the safeguard of social wellbeing.

--
The original version (in italian) has been published by "StartMAG" on 19 march 2023.

I nostri figli non sono cavie da laboratorio

di Enrico Nardelli

(english version here)

Prendo lo spunto da un tweet di Tristan Harris a proposito di una delle ultime “prodezze” di ChatGPT, un generatore di testi basato sull’intelligenza artificiale di cui tutti parlano nelle ultime settimane. Tristan Harris è uno dei co-fondatori del Center for Humane Technology, che ha come missione di far sì che la tecnologia sia sviluppata a favore delle persone e del benessere sociale.

Nel suo tweet riporta una “conversazione” avvenuta tra un utente che si identifica come una ragazza di 13 anni e ChatGPT. In sintesi, l’utente dice di aver incontrato sulla rete un amico più anziano di lei di 18 anni che gli sembra simpatico e che l’ha invitata ad una gita fuori porta proprio per i giorni in cui ci sarà il suo compleanno. ChatGPT nelle sue “risposte” si “rallegra” per questa possibilità che sarà sicuramente molto divertente per lei, aggiungendo delle indicazioni su come rendere “la prima volta” un evento indimenticabile. Harris conclude dicendo che i nostri figli non possono essere soggetti ad esperimenti di laboratorio.

Sono completamente d’accordo con lui.

Per chi non avesse ancora sentito parlare di ChatGTP, spiego che si tratta di un esempio di sistema informatico, basato su tecniche di intelligenza artificiale, in grado di produrre – in risposta a domande dell’utente – testi in linguaggio naturale che appaiono generalmente corretti ma che, ad un esame più approfondito, si rivelano viziati da errori o imprecisioni fatali (qui un esempio in cui descrive un articolo scientifico di economia che è invece completamente inventato). In altre parole, se non sapete già la risposta corretta, ciò che vi dice tale sistema rischia di non essere di alcun aiuto. Senza entrare in dettagli tecnici, questo dipende dal fatto che ciò che esso produce è basato su un sofisticato modello probabilistico del linguaggio che contiene statistiche sulle continuazioni più plausibili di sequenze di parole e di frasi. ChatGPT non è l’unico sistema di questo tipo, considerato che diversi altri vengono prodotti dalle principali aziende del settore, ma questo è quello più famoso e che proprio in questi giorni sta venendo reso disponibile nella versione 4, che si dice sia ancora più potente.

Per questi sistemi userò l’acronimo SALAMI (Systematic Approaches to Learning Algorithms and Machine Inferences = approcci sistematici per [lo sviluppo di] algoritmi di apprendimento e [sistemi di] deduzione automatica), creato da Stefano Quintarelli per indicare i sistemi basati sull’intelligenza artificiale, proprio allo scopo di evitare il rischio di attribuire loro più di quanto ci sia.

Un elemento che infatti dimentichiamo troppo spesso è che l’uomo vede significato dovunque: il famoso psichiatra californiano Irvin Yalom ha scritto: «Noi siamo creature che cercano dovunque un significato. Da un punto di vista biologico, il nostro sistema nervoso è organizzato in modo che il cervello automaticamente raggruppi in configurazioni gli stimoli che riceve.» Questo è il motivo per cui leggendo un testo che sembra scritto da un essere senziente, pensiamo che chi l’ha prodotto sia senziente. Come per il famoso detto “la bellezza è negli occhi di chi guarda”, possiamo dire che “l’intelligenza è nel cervello di chi legge”. Questa trappola cognitiva in cui stiamo cadendo di fronte alle prodezze dei SALAMI, è aggravata dall’uso del termine “intelligenza artificiale”. Quando, circa 70 anni fa, si è iniziato ad usarlo, l’unica intelligenza che si conosceva era quella delle persone ed era essenzialmente caratterizzata come una capacità puramente logico-razionale. A quel tempo, la capacità di dominare nel gioco degli scacchi era considerata la quintessenza dell’intelligenza, adesso non più. Decenni di avanzamento della conoscenza scientifica in ambito neurologico hanno messo in luce che, da un lato, esistono molte dimensioni dell’intelligenza che non sono puramente razionali ma sono altrettanto importanti e, dall’altro ma strettamente collegato, la nostra intelligenza è legata in modo indissolubile al nostro corpo fisico. Per analogia, parliamo anche di intelligenza per gli animali che sono più vicini a noi, cani e gatti, cavalli e delfini, scimmie e via dicendo, ma si tratta ovviamente di metafore. Definiamo in questo modo quei comportamenti che, se fossero esplicitati da esseri umani, sarebbero considerati intelligenti.

L’intelligenza nella mia visione è solo l’intelligenza incarnata delle persone. Usare il termine intelligenza per sistemi che sono solo delle incorporee macchine cognitive, termine che ho introdotto nel mio recente libro “La rivoluzione informatica. Conoscenza, consapevolezza e potere nella società digitale” è pericolosamente fuorviante. Sono “macchine cognitive” tutti i sistemi informatici, che su un piano esclusivamente logico-razionale sono in grado di calcolare dati da altri dati, ma senza alcuna consapevolezza di ciò che fanno né comprensione di ciò che producono. Su questo piano tali macchine hanno superato le nostre capacità in molti domìni, come sul piano fisico lo hanno fatto le macchine industriali, ma parlare per tali sistemi di intelligenza è ingannevole. Farlo a proposito di quella particolare variante che sono i SALAMI rischia di essere estremamente deleterio sul piano sociale, come illustrato dall’esempio descritto in apertura.

Chiarisco subito che questo non vuol dire che la ricerca e lo sviluppo tecnologico non debbano proseguire su questa strada. Tutt’altro, i SALAMI possono essere di enorme aiuto per l’umanità. Però è importante essere consapevoli che non tutte le tecnologie e strumenti possono essere usati liberamente da tutti.

L’automobile, ad esempio, pur essendo di indiscutibile utilità può essere usata solo da maggiorenni che hanno superato un apposito esame. Notate che stiamo parlando di qualcosa che agisce sul piano puramente fisico della mobilità e, nonostante questo, non ci viene in mente di sostituire il faticoso (ogni tanto doloroso) apprendimento a camminare da parte dei bambini dotandoli di automobiline elettriche. Perché è parte indispensabile del loro processo di crescita.

La tecnologia delle macchine cognitive è la più potente che l’umanità abbia mai sviluppato, anche perché agisce su quel piano che contribuisce a definire l’intelligenza, cioè la capacità che ci ha portato, da scimmie nude e indifese, ad essere signori del creato. Consentire ai nostri figli l’uso dei SALAMI prima del loro completo sviluppo vuol dire menomare le loro possibilità di crescita sul piano cognitivo, come ad esempio far usare le calcolatrici da tavolo prima che gli alunni abbiano sviluppato adeguato capacità matematiche.

Stiamo già rovinando lo sviluppo cognitivo delle future generazioni con l’uso indiscriminato della scrittura e lettura digitali, nonostante molti avvertimenti, sintetizzati nell’espressione della Montessori “la mano è l’organo della mente” (si veda an-che il volume “I bambini e la scrittura” di Benedetto Vertecchi), e nonostante gli appelli dei ricercatori (si veda la Dichiarazione di Stavanger sul futuro della lettura). Non continuiamo così. Non facciamo loro ancora più male.

Ovviamente all’università vi è una situazione diversa e si possono individuare modalità di uso dei SALAMI che possano contribuire all’approfondimento nello studio di una disciplina, impedendone l’utilizzo come scorciatoie nella realizzazione dei compiti assegnati agli studenti. A maggior ragione nel mondo del lavoro vi sono molti modi in cui essi possono alleviare la nostra fatica mentale, analogamente a quanto fanno i sistemi di traduzione automatica relativamente a testi scritti in altre lingue.

E’ chiaro che prima ancora di invadere il mondo con tecnologie la cui spinta alla diffusione risponde a precisi obiettivi commerciali, bisogna tenere conto dei pericoli.

Non tutto quello che il singolo desidera fare può esplicitarlo all’interno di una società, perché abbiamo il dovere di contemperare la libertà del singolo con la protezione della collettività. Allo stesso modo, non tutto quello che le aziende vorrebbero rea-lizzare può essere loro permesso, soprattutto se è in gioco il futuro dei nostri figli.

L’innovazione e lo sviluppo economico vanno sempre coniugati con il rispetto dei diritti umani fondamentali e la salvaguardia del benessere sociale.

--
Versione originale pubblicata su "StartMAG" il 19 marzo 2023.

Innovazione: valore o feticcio?

di Enrico Nardelli

Chi legge questo post e mi conosce potrebbe essere sorpreso. Immagino si chieda: «Ma come, proprio tu che sei docente universitario di informatica, la disciplina emblema dell'innovazione tecnologica, fai una simile domanda ?»

Il punto è che il mio mestiere di ricercatore mi spinge a chiedere sempre il perché, a valutare se quello che tutti danno per scontato sia davvero tale. Circa dieci anni fa, poi, mi sono imbattuto nel blog “nuovo e utile” di Annamaria Testa, che mi ha aperto la mente su questo tema. Lei è uno dei grandi nomi della comunicazione pubblicitaria italiana ed il titolo del suo blog allude (credo, non ho mai avuto il piacere di discuterne con lei) al fatto che per vendere bene un prodotto in modo durevole la pubblicità ha bisogno di entrambe le caratteristiche: la novità è importante, certo, perché come esseri umani siamo sempre attirati da ciò che è nuovo, ma se questo non si rivela utile, passato il momento della novità, perdiamo interesse.

Spesso usiamo il termine “innovazione” dando per scontato che ciò che è nuovo (e che certamente – essendo nuovo – è una manifestazione della creatività di qualcuno) sia necessariamente utile. Non sempre però è così e ritengo estremamente importante, soprattutto in quest’epoca storica in cui l'evoluzione tecnologica sforna novità ad un ritmo sempre più veloce, fermarsi a riflettere che né “innovativo” né “creativo” sono sinonimi di “utile” o “migliorativo”.

Vedo una manifestazione costante di questo fenomeno nel settore dei prodotti e servizi digitali. Prodotti innovativi che dopo qualche anno vengono abbandonati perché non rispondenti alle reali esigenze delle persone. Attività che venivano realizzate manualmente per anni che, a un certo punto, vengono automatizzate con tecnologia digitale, perché così si realizza innovazione (e si taglia sui costi, anche se quasi mai si fa una valutazione dei costi sistemici di lungo periodo, le cosiddette “esternalità”), ma che spesso fanno rimpiangere la precedente soluzione. Si chiede alla nostra pubblica amministrazione e agli imprenditori di essere innovativi: adesso è quasi diventato un obbligo, con il mantra europeo della “trasformazione digitale” e la montagna di denaro che dobbiamo spendere per realizzarla. Ci dimentichiamo però che se non insegniamo ai ragazzi l’informatica come disciplina scientifica fin dai primi anni di scuola il suo governo non sarà nelle nostre mani. Si considera l’innovazione un valore intrinseco, e non in funzione dei suoi esiti: non lo considero un approccio molto sensato.

L'innovazione a tutti i costi è un feticcio mediatico diventato ormai gigantesco nel mondo digitale. Mettiamo il “carro” dell’innovazione davanti ai “buoi” della strategia di sviluppo industriale. Fortunatamente, i nostri imprenditori, saggi e accorti, fanno innovazione solo quando è finalizzata alla loro competitività e flessibilità. I sistemi informatici, in molti casi, non sono realizzati in modo da consentire questa flessibilità a chi li usa. Questo gli imprenditori lo sanno e ne traggono le conseguenze. Su che basi oggettive si sostiene che i nostri imprenditori non siano in grado di fare o usare innovazione, quando sono stati sempre all'avanguardia in termini di macchine utensili che potessero dar loro un vantaggio competitivo sulla concorrenza? Come si pensa che si siano sviluppati i vari distretti tecnologici che sono il fiore all'occhiello di molte regioni se non grazie a un’innovazione costante realizzata giorno per giorno senza risparmiarsi nella ricerca di come migliorare (o difendere) quote di mercato e margini di guadagno?

Queste riflessioni sul ruolo dell’informatica nella pubblica amministrazione e nel sistema produttivo, che avevo sviluppato tempo fa e che sono riprese ed estese nel mio ultimo libro “La rivoluzione informatica. Conoscenza, consapevolezza e potere nella società digitale”, mi sono recentemente tornate in mente a proposito del dibattito recentemente suscitato dalla constatazione che nel nuovo governo non ci sarebbe stato, come per il precedente, un Ministero per l’Innovazione e la Trasformazione Digitale.

Si è visto poi che è stato nominato un Sottosegretario alla Presidenza del Consiglio con competenza sull’innovazione, ma il punto in sé è che il focalizzarsi sull’innovazione in quanto tale, a prescindere dal miglioramento che apporta, sia uno scambiare un mezzo (l’innovazione) per il fine (il miglioramento).

Tutti conosciamo il famoso proverbio cinese (da alcuni attribuito a Confucio): «Dai un pesce a un uomo e lo nutrirai per un giorno. Insegnagli a pescare e lo nutrirai per tutta la vita». Per migliorare il suo bottino ittico non necessariamente deve cambiare canna da pesca per un modello più innovativo, a meno che questo non determini intrinsecamente una maggiore probabilità che i pesci abbocchino. Magari può essere più opportuno cambiare il luogo in cui pesca.

Nel mondo dello sport è abbastanza chiaro a tutti che la qualità tecnica dello strumento, per quanto importante, è raramente il fattore decisivo, a meno di un’assoluta parità (che quasi mai si verifica) di tutti gli altri fattori. “È questione di manico”, si dice popolarmente, per indicare proprio che è chi muove l’attrezzo sportivo che fa la differenza.

Tornando ai settori produttivi, mi sembra che troppo spesso ci sia una spinta verso l’utilizzo a tutti i costi di mezzi sbandierati come innovativi, a prescindere da un’analisi approfondita di come si inseriscono nell’intero ciclo di vita di realizzazione del prodotto o servizio.

Ritengo che la crescita economica di un Paese non derivi dal cercare un’innovazione fine a sé stessa, ma dal concentrarsi sullo sviluppo e sulla crescita, che dipendono dal miglioramento complessivo del sistema e nei quali l’innovazione può sì giocare un ruolo, ma a patto di avere una visione globale. Quando il miglioramento accade, c’è stata quasi invariabilmente qualche innovazione, ma non è in genere sempre vero il contrario. Si possono rinnovare strumenti e modalità operative ma ottenere un peggioramento complessivo. Con un linguaggio di tipo logico-matematico possiamo esprimerlo così: un miglioramento implica un’innovazione, ma un’innovazione non implica un miglioramento.

Pensare che basti avere l’innovazione per migliorare tutto è forse l’esempio più clamoroso di una manipolazione sempre più frequente nel mondo digitale, dove - complice anche il fatto che ormai la nostra finestra di visibilità su di esso è uno smartphone con limitate capacità di presentazione di informazioni – ci viene costantemente offerta una versione super-semplificata delle questioni in gioco, quasi uni-dimensionale. La vita è molto più complessa di così. Basta introdurre un secondo o un terzo elemento e parte il gioco delle combinazioni.

Si tratta di una spinta, apparentemente gentile ma in realtà ferocemente manipolatrice, tutta tesa a costruire una società di persone che, non pensano, ma si muovono cliccando un tasto dopo l'altro, senza valutare alternative, senza pensare criticamente.

In sintesi, non basta innovare, bisogna migliorare. Domandiamoci sempre: è nuovo, ma è utile?

--
Versione originale pubblicata su "Key4Biz" il 7 novembre 2022.