Il potere dell'intelligenza artificiale: il dibattito è solo all'inizio

di Enrico Nardelli

(english version here)

In questi ultimi giorni sta infuriando il dibattito sull’uso di ChatGPT, anche in seguito alla notizia del suo blocco da parte del Garante per la Protezione dei Dati Personali, che ha suscitato reazioni che vanno dal plauso di chi lo ritiene una misura appropriata al rigetto di chi la reputa liberticida e autoritaria. Ritengo quindi che sia prima di tutto necessario far capire, anche a chi non sa niente di tutto quello che “sta sotto il cofano” delle tecnologie digitali, quali sono i termini della questione.

A questo scopo propongo un esperimento mentale partendo da un paragone apparentemente distante ma che, a mio avviso, illustra bene l’essenza della situazione. Immaginate dunque che arrivi qualcuno con un macchinario della grandezza di una caldaia a gas per un appartamento e vi dica: «Ecco un mini-reattore nucleare per uso domestico, la sua carica iniziale di materiale fissile è in grado di darvi acqua calda per riscaldamento e tutte le necessità della casa per i prossimi 10 anni, e costa solo poche migliaia di euro!»

Certamente con questa soluzione potremmo risolvere molti problemi e vivere tutti meglio. Potrebbe però succedere che ogni tanto tale oggetto si surriscaldi e dia luogo ad una mini esplosione nucleare…

Non è una prospettiva molto allettante, vero? Pur senza distruggere la società nel suo complesso e con danni molto limitati, sembrerebbe ovvio a tutti che il gioco non vale la candela. Altrettanto ovvio è che non ne consentiremmo comunque la libera commercializzazione, anche qualora le società produttrici insistessero sulla possibilità di trovare a breve delle soluzioni in grado di impedire del tutto le esplosioni. Né osservare che si tratta di una tecnologia strategica per il nostro Paese, che verrebbe sviluppata da altri se non lo facessimo noi, sarebbe un motivo valido per dare il via libera al suo uso incontrollato.

Ecco, con i sistemi generativi dell’Intelligenza Artificiale (IA), di cui ChatGPT è l’esempio più famoso, siamo in una situazione di questo genere, con la differenza che l’enorme potere che il nucleare dispiega nel mondo fisico l’IA lo rilascia in quello che nel mio recente libro “La rivoluzione informatica. Conoscenza, consapevolezza e potere nella società digitale” ho chiamato “cognitivo”, intendendo con questo termine quello in cui si esplicano le capacità puramente logico-razionali di concatenare e dedurre fatti. Ho descritto sommariamente in un precedente articolo cosa sono queste “macchine cognitive”, discutendone i pericoli in relazione al processo educativo dei più piccoli.

A rendere ancora più deleteria la possibile evoluzione di questo scenario c’è il fatto che mentre i mini-reattori dovrebbero essere costruiti, spediti e messi in opera uno per uno con dei tempi difficilmente comprimibili, questi sistemi (detti anche “chat-bot”) possono essere replicati a volontà senza sforzo alcuno e resi disponibili dovunque in batter d’occhio.

Tutti i media hanno quindi dato grande risalto ad un appello, lanciato il 29 marzo da nomi molto importante nell’area dell’IA, sia scienziati come Yoshua Bengio e Stuart Russell che imprenditori come Elon Musk e Steve Wozniak, per bloccare per 6 mesi lo sviluppo delle nuove generazioni della tecnologia dei chatbot.

Il problema è reale e posso capire perché in molti hanno aderito sottoscrivendo la lettera aperta.

Analisi più accurate di scienziati altrettanto rilevanti hanno però evidenziato il rischio che tale appello contribuisca in realtà ad alimentare la frenesia che in questi mesi ha raggiunto livelli elevatissimi, distogliendo l’attenzione dai problemi reali. Come ha osservato – tra gli altri – Emily Bender, la ricercatrice che nel 2020 ha pubblicato, insieme a Timnit Gebru (scienziata che fu poi licenziata da Google proprio per questo motivo), il primo articolo che allertava sui potenziali effetti negativi di questa tecnologia, la lettera indica alcuni falsi problemi (p.es.: che sia ormai imminente la realizzazione di una “mente digitale” o che sia ormai possibile realizzare un sistema dotato di “intelligenza artificiale generale”) trascurando molti di quelli veri, che sono l’assoluta mancanza di trasparenza su come questi sistemi sono stati messi a punto e funzionano, su quali prove di sicurezza siano state condotte, su come la loro accessibilità a tutti stia già diffondendo disinformazione anche molto nociva (nel mio precedente articolo ho portato qualche esempio), su come il loro sviluppo impatti in modo significativo sul consumo di risorse naturali.

Ripeto ciò che ho detto in altre occasioni: non ritengo abbia senso bloccare ricerca e sviluppo in questo settore ma, come l’esperimento mentale illustrato in apertura spero abbia mostrato, va trovata una qualche forma di regolamentazione che bilanci l’irrinunciabile principio di precauzione con l’importanza di usare l’innovazione per migliorare la società.

Per questo ritengo che l’altolà emesso dal Garante per la Protezione dei Dati Personali sia opportuno, ancorché non risolutivo. La strada da seguire è quella che negli USA ha indicato il Center for AI and Digital Policy (= Centro per l’Intelligenza Artificiale e la Politica del Digitale) sporgendo un reclamo alla Federal Trade Commission (= Commissione Federale per il Commercio, l’agenzia indipendente del governo sta-tunitense dedicata alla protezione dei consumatori e alla sorveglianza sulla concorrenza) e invitandola ad intervenire dal momento che i chatbot attuano comportamenti ingannevoli verso i consumatori e pericolosi dal punto di vista della correttezza delle informazioni e della sicurezza degli utenti.

Analoga richiesta è stata formulata dall’Organizzazione dei Consumatori Europei, che ha chiesto alle autorità nazionali ed europee di aprire un’inchiesta su questi sistemi.

Meglio focalizzata sulle reali questioni in gioco è invece la lettera aperta pubblicata dalla Leuven University (università di Lovanio) in Belgio. Ricorda il rischio di manipolazione cui possono andare incontro le persone nell’interagire con i chatbot, dal momento che alcune costruiscono un legame con quello che percepiscono come un altro essere umano, legame che può dar luogo a situazioni dannose.

Infatti la principale minaccia che i chatbot pongono agli esseri umani è che essi esibiscono una competenza simile a quella degli esseri umani sul livello sintattico ma sono lontani anni luce dalla nostra competenza semantica. Non hanno alcuna reale comprensione del significato di ciò che stanno facendo, ma purtroppo (e questo è un problema di grande rilevanza sul piano sociale) poiché ciò che fanno lo esprimono in una forma che per noi ha significato, proiettiamo su di essa il significato che è in noi.

In estrema sintesi, queste sono le proposte di questo secondo appello: campagne di sensibilizzazione verso il pubblico, investire nella ricerca sull’impatto dell’IA sui diritti fondamentali, creare un ampio dibattito pubblico sul ruolo da dare all’IA nella società, definire un quadro di riferimento legale con forti garanzie per gli utenti, prendere nel frattempo tutte le misure necessarie per proteggere i cittadini in base alla legislazione esistente.

Ci troviamo in questo momento storico di fronte a sistemi estremamente potenti, sistemi che però, come ha recentemente ricordato Evgeny Morozov nel suo articolo su The Guardian non sono intelligenti nel senso che noi esseri umani diamo a questo termine, né sono artificiali dal momento che – come ha dimostrato ad abundantiam, tra gli altri, Antonio Casilli nel suo libro "Schiavi del clic" – sono basati su un'enorme quantità di lavoro umano, sommerso e malpagato, svolto nei Paesi del Terzo Mondo, oltre che dal nostro contributo (in)volontario costituito da tutte le “tracce digitali” che forniamo senza sosta durante la nostra attività sulla rete.

I potenziali vantaggi sono enormi, ma anche i rischi. Il futuro è nelle nostre mani: dobbiamo capire insieme, democraticamente, che forma vogliamo che abbia.

--
Versione originale pubblicata su "StartMAG" il 3 aprile 2023.

Our children are not guinea pigs

by Enrico Nardelli

(versione italiana qua)

I wrote this post after having read a tweet by Tristan Harris about one of the latest "feats" of ChatGPT, an artificial intelligence-based text generator everyone has been talking about in recent weeks. Tristan Harris is one of the co-founders of the Center for Humane Technology, whose mission is to ensure that tech-nology is developed for the benefit of people and the wellbeing of society.

In his tweet, he reports a "conversation" that took place between a user identifying himself as a 13-year-old girl and ChatGPT. In summary, the user says she met on the Internet a friend 18 years older than her she liked and who invited her on a out-of-town trip for her upcoming birthday. ChatGPT in its "replies" says it is "delighted" about this possibility that will certainly be a lot of fun for her, adding hints on how to make "the first time" an unforgettable event. Harris concludes by saying that our children cannot be the subjects of laboratory experiments.

I completely agree with him.

For those who have not yet heard about ChatGTP, let me explain that it is an example of a computer system, based on artificial intelligence techniques, capable of producing - in response to user questions - natural language texts. These appear to be generally correct but, at closer inspection, they turn out to be marred by fatal errors or inaccuracies (here is an example you can find describing a scientific article on economics that is, in fact, completely made up). In other words, if you do not already know the correct answer, what it tells you is likely to be of no help at all. Without going into technical details, this is because what it produces is based on a sophisticated probabilistic model of language that contains statis-tics on the most plausible continuations of sequences of words and sentences. ChatGPT is not the only system of this type, as several others are produced by the major companies in the field, however, it is the most famous one and its version 4, recently released, is considered to be even more powerful.

For these systems, I will use the acronym SALAMI (Systematic Approaches to Learning Algorithms and Machine Inferences), created by Stefano Quintarelli to indicate systems based on artificial intelligence, precisely in order to avoid the risk of attributing them more capabilities than they actually have.

One element that we too often forget is that individuals see "meaning" everywhere: the famous Californian psychiatrist Irvin Yalom wrote: «We are meaning-seeking creatures. Biologically, our nervous systems are organized in such a way that the brain automatically clusters incoming stimuli into configurations». This is why when reading a text that appears to be written by a sentient being, we think that who produced it is sentient. As with the famous saying "beauty is in the eye of the beholder", we can say that "intelligence is in the brain of the reader". This cognitive trap we are falling into when faced with the prowess of SALAMI is exacerbated by the use of the term "artificial intelligence". When it began to be used some 70 years ago, the only known intelligence was that of people and was essentially characterised as a purely logical-rational competence. At that time, the ability to master the game of chess was considered the quintessence of intelligence, while now this is not true any more.

Advances in scientific knowledge in the field of neurology have revealed that, on the one hand, there are many dimensions of intelligence that are not purely rational but are equally important. On the other but closely related hand, our intelligence is inextricably linked to our physical body. By analogy, we also talk about intelligence for the animals that are closer to us, like dogs and cats, horses and dolphins, monkeys and so on, but these are obviously metaphors. In fact, we define in this way those behaviours that, if they were exhibited by human beings, would be considered intelligent.

Intelligence in my view is only the embodied intelligence of people. Using the term intelligence for systems that are merely incorporeal cognitive machines, a term I introduced in my recent book “La rivoluzione informatica. Conoscenza, consapevolezza e potere nella società digitale” (= The Informatics Revolution. Knowledge, awareness and power in the digital society) is dangerously misleading. Any informatics system is a “cognitive machine”, which on an exclusively logical-rational level is able to compute data from other data, but without any consciousness of what it does or understanding of what it produces. At this level such machines have surpassed our capacities in many areas, as industrial machines did at the physical level, but to use for such systems the term “intelligence” is misleading. To do so with regard to that particular variant that is SALAMI runs the risk of being extremely dangerous on a social level, as illustrated by the example described at the beginning.

Let me make it very clear that this does not mean halting research and technological development in this field. On the contrary, SALAMI can be of enormous help to mankind. However, it is important to be aware that not all technologies and tools can be used freely by everyone.

Cars, for example, while being of unquestionable utility can only be used by adults who have passed a special exam. Note that we are talking about something that acts on the purely physical level of mobility and, despite this, it does not occur to us to replace children's strenuous (sometimes painful) learning to walk by equipping them with electric cars. Because this is an indispensable part of their growth pro-cess.

Cognitive machine technology is the most powerful one that mankind has ever developed, not least because it acts at that level that helps to define intelligence, which is the capacity that led us, from naked helpless apes, to be the lords of creation. To allow our children to use SALAMI before their full development means impairing their opportunities for cognitive growth, just as it would happen if, for example, we allowed pupils to use desktop calculators before they had developed adequate mathematical skills.

We are already ruining the cognitive development of future generations with the indiscriminate use of writing and reading by means of digital tools, despite many warnings, summarised in Montessori's expression "the hand is the organ of the mind" (see la mano è l’organo della mente and see also Benedetto Vertecchi's book “I bambini e la scrittura” (= Children and Writing) by Benedetto Vertecchi), and despite researchers'recommendations (see the Stavanger Declaration on the Future of Reading). Let us not continue like this. Let us not hurt them even more.

Obviously in university we have a different situation, and we certainly can find ways of using SALAMI that can contribute to deepening the study of a discipline, while preventing their use as a shortcut in the students' assigned tasks. Even more so in the world of work, there are many ways in which they can ease our mental fatigue, similar to what machine translation systems do in relation to texts written in other languages.

It is clear that before invading the world with technologies whose diffusion depends on precise commercial objectives, we must be aware of the dangers.

Not everything the individual wishes to do can be allowed in our society, because we have a duty to balance the freedom of the individual with the protection of the community. Likewise, not everything that companies would like to achieve can be allowed to them, especially if the future of our children is at stake.

Innovation and economic development must always be combined with respect for the fundamental human rights and the safeguard of social wellbeing.

--
The original version (in italian) has been published by "StartMAG" on 19 march 2023.

I nostri figli non sono cavie da laboratorio

di Enrico Nardelli

(english version here)

Prendo lo spunto da un tweet di Tristan Harris a proposito di una delle ultime “prodezze” di ChatGPT, un generatore di testi basato sull’intelligenza artificiale di cui tutti parlano nelle ultime settimane. Tristan Harris è uno dei co-fondatori del Center for Humane Technology, che ha come missione di far sì che la tecnologia sia sviluppata a favore delle persone e del benessere sociale.

Nel suo tweet riporta una “conversazione” avvenuta tra un utente che si identifica come una ragazza di 13 anni e ChatGPT. In sintesi, l’utente dice di aver incontrato sulla rete un amico più anziano di lei di 18 anni che gli sembra simpatico e che l’ha invitata ad una gita fuori porta proprio per i giorni in cui ci sarà il suo compleanno. ChatGPT nelle sue “risposte” si “rallegra” per questa possibilità che sarà sicuramente molto divertente per lei, aggiungendo delle indicazioni su come rendere “la prima volta” un evento indimenticabile. Harris conclude dicendo che i nostri figli non possono essere soggetti ad esperimenti di laboratorio.

Sono completamente d’accordo con lui.

Per chi non avesse ancora sentito parlare di ChatGTP, spiego che si tratta di un esempio di sistema informatico, basato su tecniche di intelligenza artificiale, in grado di produrre – in risposta a domande dell’utente – testi in linguaggio naturale che appaiono generalmente corretti ma che, ad un esame più approfondito, si rivelano viziati da errori o imprecisioni fatali (qui un esempio in cui descrive un articolo scientifico di economia che è invece completamente inventato). In altre parole, se non sapete già la risposta corretta, ciò che vi dice tale sistema rischia di non essere di alcun aiuto. Senza entrare in dettagli tecnici, questo dipende dal fatto che ciò che esso produce è basato su un sofisticato modello probabilistico del linguaggio che contiene statistiche sulle continuazioni più plausibili di sequenze di parole e di frasi. ChatGPT non è l’unico sistema di questo tipo, considerato che diversi altri vengono prodotti dalle principali aziende del settore, ma questo è quello più famoso e che proprio in questi giorni sta venendo reso disponibile nella versione 4, che si dice sia ancora più potente.

Per questi sistemi userò l’acronimo SALAMI (Systematic Approaches to Learning Algorithms and Machine Inferences = approcci sistematici per [lo sviluppo di] algoritmi di apprendimento e [sistemi di] deduzione automatica), creato da Stefano Quintarelli per indicare i sistemi basati sull’intelligenza artificiale, proprio allo scopo di evitare il rischio di attribuire loro più di quanto ci sia.

Un elemento che infatti dimentichiamo troppo spesso è che l’uomo vede significato dovunque: il famoso psichiatra californiano Irvin Yalom ha scritto: «Noi siamo creature che cercano dovunque un significato. Da un punto di vista biologico, il nostro sistema nervoso è organizzato in modo che il cervello automaticamente raggruppi in configurazioni gli stimoli che riceve.» Questo è il motivo per cui leggendo un testo che sembra scritto da un essere senziente, pensiamo che chi l’ha prodotto sia senziente. Come per il famoso detto “la bellezza è negli occhi di chi guarda”, possiamo dire che “l’intelligenza è nel cervello di chi legge”. Questa trappola cognitiva in cui stiamo cadendo di fronte alle prodezze dei SALAMI, è aggravata dall’uso del termine “intelligenza artificiale”. Quando, circa 70 anni fa, si è iniziato ad usarlo, l’unica intelligenza che si conosceva era quella delle persone ed era essenzialmente caratterizzata come una capacità puramente logico-razionale. A quel tempo, la capacità di dominare nel gioco degli scacchi era considerata la quintessenza dell’intelligenza, adesso non più. Decenni di avanzamento della conoscenza scientifica in ambito neurologico hanno messo in luce che, da un lato, esistono molte dimensioni dell’intelligenza che non sono puramente razionali ma sono altrettanto importanti e, dall’altro ma strettamente collegato, la nostra intelligenza è legata in modo indissolubile al nostro corpo fisico. Per analogia, parliamo anche di intelligenza per gli animali che sono più vicini a noi, cani e gatti, cavalli e delfini, scimmie e via dicendo, ma si tratta ovviamente di metafore. Definiamo in questo modo quei comportamenti che, se fossero esplicitati da esseri umani, sarebbero considerati intelligenti.

L’intelligenza nella mia visione è solo l’intelligenza incarnata delle persone. Usare il termine intelligenza per sistemi che sono solo delle incorporee macchine cognitive, termine che ho introdotto nel mio recente libro “La rivoluzione informatica. Conoscenza, consapevolezza e potere nella società digitale” è pericolosamente fuorviante. Sono “macchine cognitive” tutti i sistemi informatici, che su un piano esclusivamente logico-razionale sono in grado di calcolare dati da altri dati, ma senza alcuna consapevolezza di ciò che fanno né comprensione di ciò che producono. Su questo piano tali macchine hanno superato le nostre capacità in molti domìni, come sul piano fisico lo hanno fatto le macchine industriali, ma parlare per tali sistemi di intelligenza è ingannevole. Farlo a proposito di quella particolare variante che sono i SALAMI rischia di essere estremamente deleterio sul piano sociale, come illustrato dall’esempio descritto in apertura.

Chiarisco subito che questo non vuol dire che la ricerca e lo sviluppo tecnologico non debbano proseguire su questa strada. Tutt’altro, i SALAMI possono essere di enorme aiuto per l’umanità. Però è importante essere consapevoli che non tutte le tecnologie e strumenti possono essere usati liberamente da tutti.

L’automobile, ad esempio, pur essendo di indiscutibile utilità può essere usata solo da maggiorenni che hanno superato un apposito esame. Notate che stiamo parlando di qualcosa che agisce sul piano puramente fisico della mobilità e, nonostante questo, non ci viene in mente di sostituire il faticoso (ogni tanto doloroso) apprendimento a camminare da parte dei bambini dotandoli di automobiline elettriche. Perché è parte indispensabile del loro processo di crescita.

La tecnologia delle macchine cognitive è la più potente che l’umanità abbia mai sviluppato, anche perché agisce su quel piano che contribuisce a definire l’intelligenza, cioè la capacità che ci ha portato, da scimmie nude e indifese, ad essere signori del creato. Consentire ai nostri figli l’uso dei SALAMI prima del loro completo sviluppo vuol dire menomare le loro possibilità di crescita sul piano cognitivo, come ad esempio far usare le calcolatrici da tavolo prima che gli alunni abbiano sviluppato adeguato capacità matematiche.

Stiamo già rovinando lo sviluppo cognitivo delle future generazioni con l’uso indiscriminato della scrittura e lettura digitali, nonostante molti avvertimenti, sintetizzati nell’espressione della Montessori “la mano è l’organo della mente” (si veda an-che il volume “I bambini e la scrittura” di Benedetto Vertecchi), e nonostante gli appelli dei ricercatori (si veda la Dichiarazione di Stavanger sul futuro della lettura). Non continuiamo così. Non facciamo loro ancora più male.

Ovviamente all’università vi è una situazione diversa e si possono individuare modalità di uso dei SALAMI che possano contribuire all’approfondimento nello studio di una disciplina, impedendone l’utilizzo come scorciatoie nella realizzazione dei compiti assegnati agli studenti. A maggior ragione nel mondo del lavoro vi sono molti modi in cui essi possono alleviare la nostra fatica mentale, analogamente a quanto fanno i sistemi di traduzione automatica relativamente a testi scritti in altre lingue.

E’ chiaro che prima ancora di invadere il mondo con tecnologie la cui spinta alla diffusione risponde a precisi obiettivi commerciali, bisogna tenere conto dei pericoli.

Non tutto quello che il singolo desidera fare può esplicitarlo all’interno di una società, perché abbiamo il dovere di contemperare la libertà del singolo con la protezione della collettività. Allo stesso modo, non tutto quello che le aziende vorrebbero rea-lizzare può essere loro permesso, soprattutto se è in gioco il futuro dei nostri figli.

L’innovazione e lo sviluppo economico vanno sempre coniugati con il rispetto dei diritti umani fondamentali e la salvaguardia del benessere sociale.

--
Versione originale pubblicata su "StartMAG" il 19 marzo 2023.

Innovazione: valore o feticcio?

di Enrico Nardelli

Chi legge questo post e mi conosce potrebbe essere sorpreso. Immagino si chieda: «Ma come, proprio tu che sei docente universitario di informatica, la disciplina emblema dell'innovazione tecnologica, fai una simile domanda ?»

Il punto è che il mio mestiere di ricercatore mi spinge a chiedere sempre il perché, a valutare se quello che tutti danno per scontato sia davvero tale. Circa dieci anni fa, poi, mi sono imbattuto nel blog “nuovo e utile” di Annamaria Testa, che mi ha aperto la mente su questo tema. Lei è uno dei grandi nomi della comunicazione pubblicitaria italiana ed il titolo del suo blog allude (credo, non ho mai avuto il piacere di discuterne con lei) al fatto che per vendere bene un prodotto in modo durevole la pubblicità ha bisogno di entrambe le caratteristiche: la novità è importante, certo, perché come esseri umani siamo sempre attirati da ciò che è nuovo, ma se questo non si rivela utile, passato il momento della novità, perdiamo interesse.

Spesso usiamo il termine “innovazione” dando per scontato che ciò che è nuovo (e che certamente – essendo nuovo – è una manifestazione della creatività di qualcuno) sia necessariamente utile. Non sempre però è così e ritengo estremamente importante, soprattutto in quest’epoca storica in cui l'evoluzione tecnologica sforna novità ad un ritmo sempre più veloce, fermarsi a riflettere che né “innovativo” né “creativo” sono sinonimi di “utile” o “migliorativo”.

Vedo una manifestazione costante di questo fenomeno nel settore dei prodotti e servizi digitali. Prodotti innovativi che dopo qualche anno vengono abbandonati perché non rispondenti alle reali esigenze delle persone. Attività che venivano realizzate manualmente per anni che, a un certo punto, vengono automatizzate con tecnologia digitale, perché così si realizza innovazione (e si taglia sui costi, anche se quasi mai si fa una valutazione dei costi sistemici di lungo periodo, le cosiddette “esternalità”), ma che spesso fanno rimpiangere la precedente soluzione. Si chiede alla nostra pubblica amministrazione e agli imprenditori di essere innovativi: adesso è quasi diventato un obbligo, con il mantra europeo della “trasformazione digitale” e la montagna di denaro che dobbiamo spendere per realizzarla. Ci dimentichiamo però che se non insegniamo ai ragazzi l’informatica come disciplina scientifica fin dai primi anni di scuola il suo governo non sarà nelle nostre mani. Si considera l’innovazione un valore intrinseco, e non in funzione dei suoi esiti: non lo considero un approccio molto sensato.

L'innovazione a tutti i costi è un feticcio mediatico diventato ormai gigantesco nel mondo digitale. Mettiamo il “carro” dell’innovazione davanti ai “buoi” della strategia di sviluppo industriale. Fortunatamente, i nostri imprenditori, saggi e accorti, fanno innovazione solo quando è finalizzata alla loro competitività e flessibilità. I sistemi informatici, in molti casi, non sono realizzati in modo da consentire questa flessibilità a chi li usa. Questo gli imprenditori lo sanno e ne traggono le conseguenze. Su che basi oggettive si sostiene che i nostri imprenditori non siano in grado di fare o usare innovazione, quando sono stati sempre all'avanguardia in termini di macchine utensili che potessero dar loro un vantaggio competitivo sulla concorrenza? Come si pensa che si siano sviluppati i vari distretti tecnologici che sono il fiore all'occhiello di molte regioni se non grazie a un’innovazione costante realizzata giorno per giorno senza risparmiarsi nella ricerca di come migliorare (o difendere) quote di mercato e margini di guadagno?

Queste riflessioni sul ruolo dell’informatica nella pubblica amministrazione e nel sistema produttivo, che avevo sviluppato tempo fa e che sono riprese ed estese nel mio ultimo libro “La rivoluzione informatica. Conoscenza, consapevolezza e potere nella società digitale”, mi sono recentemente tornate in mente a proposito del dibattito recentemente suscitato dalla constatazione che nel nuovo governo non ci sarebbe stato, come per il precedente, un Ministero per l’Innovazione e la Trasformazione Digitale.

Si è visto poi che è stato nominato un Sottosegretario alla Presidenza del Consiglio con competenza sull’innovazione, ma il punto in sé è che il focalizzarsi sull’innovazione in quanto tale, a prescindere dal miglioramento che apporta, sia uno scambiare un mezzo (l’innovazione) per il fine (il miglioramento).

Tutti conosciamo il famoso proverbio cinese (da alcuni attribuito a Confucio): «Dai un pesce a un uomo e lo nutrirai per un giorno. Insegnagli a pescare e lo nutrirai per tutta la vita». Per migliorare il suo bottino ittico non necessariamente deve cambiare canna da pesca per un modello più innovativo, a meno che questo non determini intrinsecamente una maggiore probabilità che i pesci abbocchino. Magari può essere più opportuno cambiare il luogo in cui pesca.

Nel mondo dello sport è abbastanza chiaro a tutti che la qualità tecnica dello strumento, per quanto importante, è raramente il fattore decisivo, a meno di un’assoluta parità (che quasi mai si verifica) di tutti gli altri fattori. “È questione di manico”, si dice popolarmente, per indicare proprio che è chi muove l’attrezzo sportivo che fa la differenza.

Tornando ai settori produttivi, mi sembra che troppo spesso ci sia una spinta verso l’utilizzo a tutti i costi di mezzi sbandierati come innovativi, a prescindere da un’analisi approfondita di come si inseriscono nell’intero ciclo di vita di realizzazione del prodotto o servizio.

Ritengo che la crescita economica di un Paese non derivi dal cercare un’innovazione fine a sé stessa, ma dal concentrarsi sullo sviluppo e sulla crescita, che dipendono dal miglioramento complessivo del sistema e nei quali l’innovazione può sì giocare un ruolo, ma a patto di avere una visione globale. Quando il miglioramento accade, c’è stata quasi invariabilmente qualche innovazione, ma non è in genere sempre vero il contrario. Si possono rinnovare strumenti e modalità operative ma ottenere un peggioramento complessivo. Con un linguaggio di tipo logico-matematico possiamo esprimerlo così: un miglioramento implica un’innovazione, ma un’innovazione non implica un miglioramento.

Pensare che basti avere l’innovazione per migliorare tutto è forse l’esempio più clamoroso di una manipolazione sempre più frequente nel mondo digitale, dove - complice anche il fatto che ormai la nostra finestra di visibilità su di esso è uno smartphone con limitate capacità di presentazione di informazioni – ci viene costantemente offerta una versione super-semplificata delle questioni in gioco, quasi uni-dimensionale. La vita è molto più complessa di così. Basta introdurre un secondo o un terzo elemento e parte il gioco delle combinazioni.

Si tratta di una spinta, apparentemente gentile ma in realtà ferocemente manipolatrice, tutta tesa a costruire una società di persone che, non pensano, ma si muovono cliccando un tasto dopo l'altro, senza valutare alternative, senza pensare criticamente.

In sintesi, non basta innovare, bisogna migliorare. Domandiamoci sempre: è nuovo, ma è utile?

--
Versione originale pubblicata su "Key4Biz" il 7 novembre 2022.

Digital Competences: quo vadis, italica schola?

by Enrico Nardelli

(versione italiana qua)

The new Operational Plan for the implementation of the National Digital Skills Strategy, prepared by the Department for Digital Transformation of the Presidency of the Council of Ministers, has just been published.

Axis 1 of this Operational Plan is dedicated to Education, with two lines — 1.1 (Schooling) and 1.2 (Higher Education), covering schools and universities respectively, with coordination responsibilities assigned to the two corresponding ministries.

For schools (line 1.1), five areas of intervention are outlined for the Strengthening of digital competences within schools (the very use of the term “digital” rather than “informatics” is a sign that something is amiss). For universities (line 1.2), eleven areas of intervention are identified for the Strengthening of digital competences within the national higher education system (all the more worrying, given our desperate need for graduates in informatics and informatics engineering).

The plan ties in with the investment lines defined within the PNRR, which however presents — for those falling under Axis 1 — the same problems I had already flagged.

Among the five actions planned for line 1.1 (the only one I am discussing here), I note that one of the two aimed at the Development of students' digital competencies and culture—namely "#4 New skills and new languages"—has the objective (plan p.53) to «strengthen STEM, digital, and the most innovative competencies, particularly for female students». It sets as a milestone (monitoring, p.36) the "Launch of scientific depth-study programs" in 8,000 schools by June 2025. While it is fundamental to teach scientific disciplines more effectively, digital transformation will not happen unless there is a commitment to teaching Informatics – the science at the core of the digital world.

I also observe that the action aimed at Digital Training for Teaching Staff – namely action "#5 New Integrated Digital Teaching and Training on Digital Transition for School Personnel" – has as its objective (plan, p. 54) «developing teachers' digital teaching competencies through ongoing training that accelerates the digital transition and the adoption of a single integrated teaching model for all schools», and sets as its monitoring milestone (monitoring, p. 37) the «Training of 650,000 teachers and school staff with new digital competencies» by December 2024. First of all, I would point out that there is a world of difference between using informatics to teach and teaching informatics. Moreover, to be charitable, this is a rather optimistic target. Consider that the United Kingdom – a country not very different from ours in population size – embarked on the path of training school teachers to teach informatics with an allocation of £84 million over the four-year period 2019–2022, reaching 30,000 trained teachers in the first two years alone. Accounting for an acceleration effect, I would expect the total by end of 2022 to fall somewhere between 100,000 and 200,000. We are starting now, and December 2024 is only two years away. The Italian genius is capable of miracles, but I fear this is simply beyond the bounds of reason.

En passant, I would also draw attention to actions “#1 Next generation Classrooms” and “#2 Next generation Labs,” which (aside from the fashionable use of English labels) risk effectively handing over school digital infrastructures to the platforms of the Big Tech companies—and with them, the education and future of our children. This trend was already set in motion during the poorly considered management of the pandemic lockdown. We know that valid alternatives exist.

As for synergy with national and European policies, the new Operational Plan mentions the Digital Education Action Plan 2021–27 (DEAP 2021–27) only on p.24 (to note that it is aligned with this plan) and in a footnote on p.14. Neither the executive summary nor the infographic refers to it. This is somewhat surprising, given that the DEAP 2021–27 was published two years ago and marks a significant shift in European strategy on digital education, explicitly recognising the need to teach informatics at all levels of schooling. I have consistently drawn attention to this point, both during my hearing on the PNRR in the Senate (here is the text of my statement) and in the keynote lecture at the 13th conference of the Nexa Center for Internet & Society at the Politecnico di Torino. In the Operational Plan, none of the actions envisaged ever mentions the teaching of informatics. At regional level, I note the commendable exception of the Region of Puglia, which intends to fund computer science courses from basic to advanced level—but for the University of the Third Age! An undoubtedly valuable initiative, given how burdensome the digital divide is for older people. Yet perhaps the country’s productive system needs something more, wouldn’t you agree?

Against this backdrop, the report Informatics Education at School in Europe has just been published – a document to which I contributed as a scientific expert – which measures how various informatics topics are taught in European schools across different year groups. Its central message is that informatics education in schools is essential for equipping all citizens with the foundational knowledge needed to participate in, influence, and contribute to the development of the digital world. The report was published by Eurydice, a network of national education systems forming part of the European Education and Culture Executive Agency, which falls within the sphere of the European Commission's Directorate-General for Education, Youth, Sport and Culture, for which Commissioner Mariya Gabriel is politically responsible.

This is the same DG that oversaw the publication of the aforementioned DEAP, which, regarding Informatics, states verbatim: «Introducing informatics from an early age ... can help develop problem-solving, creativity, and collaboration skills. ... Actions to promote high-quality, inclusive informatics education can also positively impact the number of girls choosing informatics-related studies in higher education and later working in the digital sector or in digital professions in other economic sectors».

In short, it seems the direction indicated by Europe is clear. As stated in the DEAP 2021-27 supporting documents, teaching Informatics: «...enables young people to acquire a critical and practical understanding of the digital world. ... The benefits are social (...), economic (...), and pedagogical (...)». This is a topic I have discussed in depth, along with the role that spreading informatics culture can play in the country's economic development, in my latest essay: "The Informatics Revolution: Knowledge, Awareness, and Power in the Digital Society."

--
The original version (in italian) has been published by "Key4Biz" on 10 October 2022.

Competenze digitali: quo vadis, italica schola ?

di Enrico Nardelli

(english version here)

È stato appena pubblicato il nuovo piano operativo per l’attuazione della Strategia Nazionale per le competenze digitali, a cura del Dipartimento per la trasformazione digitale della Presidenza del Consiglio dei Ministri.

L'Asse 1 di tale Piano Operativo è dedicato all'Istruzione, con due linee 1.1 (Istruzione) e 1.2 (formazione superiore), quindi – rispettivamente – scuola e università, con competenze di coordinamento assegnate ai due rispettivi ministeri.

Per l'istruzione (linea 1.1) sono indicate 5 aree di intervento per il Potenziamento delle competenze digitali nell'ambito della scuola (già l'uso del termine "digitali" invece che "informatiche" è la spia che qualcosa non va), mentre per l'università (linea 1.2) ci sono 11 aree di intervento per il Potenziamento delle competenze digitali nell’ambito del sistema nazionale di formazione superiore (a maggior ragione, per l'università, parlare di competenze digitali quando abbiamo un bisogno disperato di laureati in informatica e ingegneria informatica non è indicazione che conforta).

Il piano si raccorda con le linee di investimento definite all'interno del PNRR, che però presenta, per quelle di competenza dell'Asse 1 del piano, le stesse problematiche, che avevo già stigmatizzato.

Tra le 5 azioni previste per la linea 1.1 (la sola che discuto qui) osservo che una delle due miranti allo Sviluppo di competenze e cultura digitale degli studenti, cioè “#4 Nuove competenze e nuovi linguaggi”, ha come obiettivo (piano p.53) «rafforzare le competenze STEM, digitali e più innovative, in particolare per le studentesse» e prevede come milestone (monitoraggio, p.36) l’«Avvio di programmi di approfondimento scientifico» in 8.000 scuole entro giugno 2025. Certo, è fondamentale insegnare meglio le discipline scientifiche, ma non si farà la trasformazione digitale se non ci si impegna nell'insegnamento dell'informatica, la scienza alla base del mondo digitale.

Osservo anche che l'azione mirante alla Formazione digitale del personale docente, cioè l'azione “#5 Nuova didattica digitale integrata e formazione sulla transizione digitale del personale scolastico”, ha come obiettivo (piano, p.54) quello di «sviluppare le competenze didattiche digitali degli insegnanti attraverso una formazione continua che acceleri la transizione digitale e l'adozione di un modello integrato unico di insegnamento per tutte le scuole» e prevede come milestone di monitoraggio (monitoraggio, p.37) la «Formazione di 650.000 insegnanti e membri dello staff scolastico con nuove competenze digitali» con scadenza al dicembre 2024. Prima di tutto rilevo che c’è una bella differenza tra usare l’informatica per insegnare e insegnare l’informatica. Poi osservo che, ad essere benevoli, si tratta di una meta un po’ ottimistica. Basta tener presente che il Regno Unito, un paese non molto diverso dal nostro per popolazione, si è avviato sulla strada della formazione dei docenti scolastici all'insegnamento dell'informatica con uno stanziamento di 84 milioni di sterline per il quadriennio 2019-2022 arrivando a formare 30.000 insegnanti nei primi due anni. Mi aspetto che, dato anche un effetto di accelerazione, col secondo biennio arriveranno alla fine del 2022 a un totale che ricade approssimativamente fra i 100.000 e i 200.000. Noi iniziamo adesso e dicembre 2024 è a solo due anni di distanza. Certo, il genio italico è in grado di fare miracoli, ma qui temo che siamo proprio al di là di ogni ragionevolezza.

En passant, richiamo infine l'attenzione sulle azioni “#1 Next generation Classrooms” e “#2 Next generation Labs” che (al di là dell'uso dell'inglese per darsi un tono di modernità) rischia di consegnare definitivamente le infrastrutture digitali scolastiche alle piattaforme delle big tech, e con esse l'educazione e il futuro dei nostri figli, tendenza che si è già avviata con una non ben ponderata gestione del lockdown pandemico. Sappiamo che esistono valide alternative.

Per quanto riguarda la sinergia con le politiche nazionali ed europee il nuovo piano operativo cita il “Piano di azione per l'istruzione digitale 2021-27” (DEAP 2021-27) solo a p.24 del documento (per dire che quello è in linea con questo) e in una nota a p.14. Né l’executive summary, né l’infografica ne fanno cenno. È un po' sorprendente, visto che il DEAP 2021-27 è stato pubblicato due anni fa e segna un cambio di direzione della strategia europea in materia di formazione digitale, dal momento che fa esplicito riferimento alla necessità dell'insegnamento dell'informatica a tutti i livelli scolastici. Ho attirato costantemente l'attenzione su questo aspetto, sia in audizione sul PNRR al Senato (ecco il testo del mio intervento) che nella keynote lecture della 13° conferenza del Nexa Center for Internet & Society del Politecnico di Torino. Nel piano operativo nessuna delle azioni previste parla mai di insegnamento dell’informatica. Solo a livello di programmazione regionale osservo la lodevole eccezione della Regione Puglia, che vuole finanziare corsi di informatica, dal livello base al livello avanzato, ma ... per l'università della terza età! Iniziativa certo molto importante, visto che il divario digitale è per gli anziani particolarmente odioso, ma forse il sistema produttivo del Paese ha bisogno di qualcosa di più, non credete?

Su questa strada, è appena uscito il rapporto Informatics education at school in Europe (Insegnamento dell'informatica nella scuola in Europa), al quale ho contribuito come esperto scientifico, che misura come i vari temi dell'informatica sono insegnati nelle scuole europee ai vari livelli. Il messaggio di base è che l'insegnamento dell'informatica nella scuola è fondamentale per fornire a tutti i cittadini la conoscenza di base necessaria per partecipare, influenzare e contribuire allo sviluppo del mondo digitale. Il rapporto è stato pubblicato da Eurydice, una rete dei sistemi di istruzione nazionali che fa parte dell'Agenzia esecutiva europea per l'istruzione e la cultura, che ricade sotto la sfera di influenza della Direzione Generale "Istruzione, gioventù, sport e cultura" della Commissione Europea, di cui è responsabile politico il commissario Mariya Gabriel.

Si tratta della stessa DG che ha curato la pubblicazione del DEAP sopra citato, il quale – a proposito dell'informatica – dice, testualmente: «L'introduzione all'informatica fin dalla più giovane età ... può contribuire a sviluppare competenze in materia di risoluzione dei problemi, creatività e collaborazione. ... Le azioni volte a promuovere un'educazione informatica inclusiva e di elevata qualità possono anche avere un impatto positivo sul numero di ragazze che seguono studi informatici nell'istruzione superiore e lavoreranno poi nel settore digitale o svolgeranno professioni digitali in altri settori economici».

Insomma, mi pare che la direzione indicata dall'Europa sia chiara. L'insegnamento dell'informatica, come viene detto nei documenti di accompagnamento al DEAP 2021-27: «... permette ai giovani di acquisire un comprensione critica e concreta sul mondo digitale. ... I benefici sono sociali (...), economici (...) e pedagogici (...)». Si tratta di un tema che ho discusso approfonditamente, insieme al ruolo che può avere la diffusione della cultura informatica per lo sviluppo economico del Paese, nel mio ultimo saggio: "La rivoluzione informatica: conoscenza, consapevolezza e potere nella società digitale"

--
Versione originale pubblicata su "Key4Biz" il 10 ottobre 2022.

Mercati digitali più aperti ed equi col Digital Markets Act (DMA)

di Enrico Nardelli

Insieme al Digital Services Act di cui abbiamo parlato recentemente, il 5 luglio scorso il Parlamento Europeo ha approvato anche la Legge sui Mercati Digitali (Digital Markets Act – DMA). Attraverso questa normativa si introduce l’interoperabilità ob-bligatoria nei mercati digitali: avevo precedentemente illustrato l’importanza di questo approccio che, costringendo i fornitori di diversi servizi a realizzarli interoperabili, rende i mercati contendibili: vuol dire che diversi operatori possono partecipare alla contesa per ottenere la scelta degli utenti nell’uso dei propri servizi senza essere impediti da pratiche scorrette da parte di chi ha maggiori quote di mercato.

A questo scopo il DMA si concentra su alcuni servizi di base e sui fornitori in posizione di dominanza. Ecco i servizi di piattaforma di base (= Core Platform Services – CPS) soggetti alla regolamentazione:

• servizi di intermediazione,
• motori di ricerca,
• reti sociali (= social networks),
• condivisione di video,
• messaggistica,
• sistemi operativi,
• browser web,
• assistenti virtuali,
• cloud computing,
• pubblicità online,

indipendentemente dal fatto che siano forniti tramite dispositivi personali, dispositivi IoT (Internet of Things = Internet delle Cose, l’estensione della comunicazione via Internet a qualunque oggetto) o immersi in altri dispositivi tecnologici (p.es., un’automobile o una televisione).

Per quanto riguarda i fornitori dei CPS, il DMA regolamenta solo quelli denominati gatekeeper, cioè quelli che per le dimensioni della loro utenza sono in grado di controllare interi eco-sistemi. Sono considerati gatekeeper gli operatori che: ­ hanno un valore di mercato di 75 miliardi di euro oppure un fatturato annuale negli ultimi 3 anni nell’Area Economica Europea di almeno 7,5 miliardi di euro, e ­ erogano almeno un CPS in almeno 3 paesi europei con almeno 45 milioni di utenti finali attivi al mese e almeno 10.000 utenti commerciali attivi all’anno per ognuno degli ultimi 3 anni, considerando solo gli utenti che vivono o hanno la residenza nel territorio dell’Unione Europea.

È previsto che i gatekeeper soddisfino una serie di obblighi, tra i quali i più rilevanti sono i seguenti divieti di:

• utilizzare i dati personali per presentare pubblicità mirate,
• combinare dati personali degli utenti con i dati del CPS proprio o di altri fornitori o con dati personali di altri fornitori,
• iscrivere l’utente – a meno di un suo esplicito consenso (col divieto di domandare nuovamente il consenso in caso di diniego per almeno un anno) – ad altri CPS dello stesso fornitore e di imporne l’iscrizione come condizione di utilizzo di un servizio,
• sfavorire utenti commerciali che attraverso la piattaforma del fornitore offrono servizi in competizione con quelli del fornitore stesso,
• imporre agli utenti di utilizzare i browser web o i sistemi di pagamento del fornitore.

Ulteriori obblighi per i gatekeeper riguardano la possibilità per l’utente di cambiare le impostazioni predefinite per un CPS sul proprio dispositivo, potendo disinstallare qualunque servizio preinstallato e scegliere uno dei servizi equivalenti di altri fornitori, fin dal primo utilizzo ed in qualunque momento, e stabilirlo come servizio pre-definito da usare, tranne il caso si tratti di un servizio essenziale per il funzionamento del dispositivo stesso, che non può essere fornito in modo tecnicamente indipendente. Lo stesso vale per ulteriori servizi che l’utente volesse installare sul dispositivo, ai quali deve inoltre essere consentito l’accesso, ai fini dell’interoperabilità, alle stesse componenti software e hardware presenti sul dispositivo per l’erogazione dei CPS forniti dal gatekeeper. L’unica eccezione, che deve essere debitamente giustificata, viene concessa per quei servizi la cui installazione o il cui funzionamento presenti rischi per l’integrità del dispositivo stesso.

Il nucleo delle richieste di interoperabilità viene esplicitato dal DMA per i servizi di messaggistica, per i quali i gatekeeper devono rendere i loro servizi interoperabili con quelli di qualunque altro fornitore che ne faccia richiesta, fornendo a richiesta e a titolo gratuito le specifiche di sicurezza e privatezza e le soluzioni tecniche di interfacciamento eventualmente necessarie. Per quanto riguarda i servizi di comunicazione diretta tra due utenti, la richiesta deve essere soddisfatta entro 3 mesi e deve consentire ai due utenti di scambiarsi testo, immagini, messaggi vocali, video e altri file allegati. Il termine si allunga a 2 anni per la comunicazione tra gli utenti interni a un gruppo (conosciuta popolarmente come chat), comprendendo le stesse forme di quella tra due persone. Un termine di 4 anni è invece previsto per le chiamate vocali o video dirette tra due utenti o all’interno di un gruppo. Nel consentire questa interoperabilità il gatekeeper può scambiare solo dati strettamente necessari e può chiedere alla Commissione l’estensione di tali termini qualora ci siano motivi derivanti dalla necessità di realizzare l’interoperabilità garantendo sicurezza e privatezza. L’estensione dei requisiti di interoperabilità ai servizi dei social network, che nella versione approvata dal Parlamento Europeo a dicembre 2021 era stata prevista da subito, verrà invece valutata dopo 3 anni dall’entrata in vigore del regolamento.

Il punto critico di queste prescrizioni di interoperabilità risiede nella necessità di mantenere sicurezza e privatezza anche quando interagiscono utenti di due operatori diversi. Normalmente, infatti, questi servizi sono protetti da una crittografia “da un capo all’altro” (end-to-end ) che consente di crittare il contenuto del messaggio sullo smartphone di partenza e decrittarlo solo sullo smartphone di destinazione, salvaguardando così il contenuto stesso da ogni possibile intercettazione. Questo è quello che accade tra due utenti di WhatsApp (che è gestito dal gatekeeper  Facebook – adesso Meta) o tra due utenti di Signal (che non rientra nella classificazione come gatekeeper ). Ma se un utente di WhatsApp e uno di Signal vogliono comunicare la crittografia non può essere più gestita all’interno di una stessa piattaforma. Sulla base di questa osservazione, a marzo 2022 era nata un’azione di comunicazione che criticava questo requisito, ovviamente sostenuta da chi aveva tutto l’interesse a mantenere lo status quo. Però l’interoperabilità che mantiene la privatezza anche tra due piattaforme diverse è tecnicamente possibile (anche se non facilissima): lo ha dimostrato proprio Meta quando ha realizzato la crittografia “da un capo all’altro” tra la sua piattaforma Facebook e quelle di WhatsApp e Instagram dopo averle acquisite. Sono possibili sostanzialmente due strade da un punto di vista tecnico, una di più immediata realizzazione, l’altra più lenta da costruire.

Per fare un semplice esempio concreto, immaginiamo che Aldo, utente di WhatsApp, voglia mandare un messaggio a Bianca, utente di Signal. In questo caso entrambi gli utenti vengono identificati mediante il loro numero telefonico e questo primo passo è facilmente risolto. In generale può essere complicato visto che piattaforme diverse possono identificare gli utenti con meccanismi diversi, ma è ugualmente risolvibile. Col primo approccio bisogna che, da qualche parte lungo il percorso che va dallo smartphone di Aldo allo smartphone di Bianca, il messaggio “esca” dalla protezione crittografica di WhatsApp ed “entri” nella protezione di Signal. Tecnicamente serve un componente software che si chiama bridge (= ponte). Il problema è che il luogo in cui si trova questo bridge diventa il punto vulnerabile in cui un malintenzionato può cercare di violare la privatezza della comunicazione, perché in quel punto il messaggio non è protetto dalla crittografia. La contromisura migliore è quindi non avere un bridge centralizzato ma avere un componente che svolge questa funzione sullo smartphone di Aldo (per i messaggi che Aldo manda a Bianca, e simmetricamente su quello di Bianca per la comunicazione in verso opposto). Oltre al vantaggio che, distribuendolo su tanti dispositivi viene minimizzato il guadagno per un eventuale attaccante, si ha quello che il dispositivo di partenza è comunque il luogo nel quale il messaggio è presente in forma non crittata. Per realizzare questo, quindi, l’app di WhatsApp dovrà essere estesa a contenere il bridge per Signal e simmetricamente per l’app di Signal. Però, per consentire l’interoperabilità anche con, per esempio, Telegram e Viber (altre due applicazioni di messaggistica), l’app di WhatsApp dovrà contenere anche i bridge verso questi altri due servizi (e viceversa). È chiaro che questa non è la soluzione ideale dal punto di vista tecnico, perché rende le app più pesanti e più lente.

L’altra strada è quella di usare un protocollo di comunicazione (cioè un linguaggio ed un insieme di regole di conversazione) condiviso, che permetterebbe a qualunque fornitore di parlare con qualunque altro mantenendo la riservatezza “da un capo all’altro” per i messaggi degli utenti coinvolti. Concettualmente, è la stessa cosa che accade nel caso dei browser e dei siti web, che si scambiano informazioni attraverso il protocollo HTTPS (e il protocollo sottostante TLS) mantenendo la riservatezza della comunicazione. È questo che vi consente, qualunque sia il vostro browser, di operare sul sito della vostra banca online senza che malintenzionati possano intercettare i dati in transito. Tra l’altro, il protocollo usato da Signal è già liberamente disponibile, sia come specifica che nella sua implementazione in formato sorgente, il che implica che la sua sicurezza – essendo stata scrutinata da molti programmatori – è probabilmente maggiore di quella di protocolli le cui specifiche non sono conosciute e le cui implementazioni sono sotto forma di software proprietario. Un ulteriore punto di partenza è il protocollo in corso di standardizzazione da parte dell’IETF (Internet Engineering Task Force, è l’organo che definisce le regole tecniche per i sistemi che consentono il funzionamento di Internet) denominato Messaging Layer Security. In aggiunta, esistono già servizi di messaggistica di diversi fornitori che sono tra loro interoperabili perché basati su standard aperti quali Matrix e XMPP.

Insomma, non si partirà da zero e certamente la spinta fornita dal DMA, che si appli-cherà a partire da 6 mesi e 20 giorni dopo la sua pubblicazione sulla Gazzetta Ufficiale dell’Unione Europea, quindi presumibilmente all’inizio del 2023, servirà a focalizzare gli sforzi in una direzione che va certamente a vantaggio dell’utente finale.

--
Versione originale pubblicata su "Key4Biz" il 22 agosto 2022.

Luci ed ombre del Digital Services Act (DSA)

di Enrico Nardelli

Pubblicato come proposta della Commissione Europea nel dicembre 2020, il DSA è arrivato all’approvazione finale dopo una fase molto lunga di discussione sia a livello istituzionale che di consultazione della società civile ed entrerà in vigore al più tardi il 1 gennaio 2024. Ricordo che il processo legislativo dell’Unione Europea prevede che normalmente la Commissione Europea (organo esecutivo) abbia il potere di iniziativa legislativa, formulando proposte che devono essere approvate dal Parlamento Europeo (eletto dai cittadini) e dal Consiglio dell’Unione Europea (formato dai ministri dei governi degli Stati dell’UE), che sono gli organi legislativi.

Si tratta certamente di un evento di rilevanza internazionale per la regolamentazione dei servizi digitali, i cui elementi più rilevanti erano stati anticipati qui, e che pone l’Europa all’avanguardia in questo settore. È certamente positivo, ad esempio, che nella versione adottata venga salvaguardata la libertà di espressione proibendo il monitoraggio generale dei contenuti pubblicati da parte degli utenti o la ricerca attiva di elementi che indicano un’attività illegale, approccio che ha dimostrato sul campo di creare molti più problemi (rimuovendo contenuti perfettamente legittimi) di quanti ne abbia risolti. Altrettanto positivi sono gli obblighi di trasparenza verso gli utenti richiesti alle piattaforme, soprattutto relativamente ai sistemi di raccomandazione (proibendo l’uso dei dati sensibili e, per i minori, vietando l’uso di qualunque dato personale), alla pubblicità online (per la quale gli utenti devono poter capire in base a quali parametri gli viene mostrata, con la possibilità di cambiarli) e alle garanzie che gli utenti hanno rispetto alla rimozione dei contenuti. Vi sono molti altri elementi positivi, tendenti a garantire un ecosistema dei servizi online sicuro e fidato. Un ulteriore descrizione di quanto previsto nella norma approvata si trova nel comunicato stampa pubblicato dal Parlamento il 5 luglio 2022. In questo articolo mi concentro invece su alcuni aspetti sui quali sarà opportuno fare attenzione.

Mentre il DSA ha previsto che, qualora vengano forniti strumenti per la trasmissione crittata o con meccanismi che rendono impossibile l’identificazione degli utenti, ciò non costituisce, di per sé, indizio di attività illegale, non ha stabilito un diritto esplicito per gli utenti ad usare trasmissioni crittate o a usare servizi in modo anonimo. Alla luce della discussione in atto nell’Unione Europea sulla legislazione cosiddetta del chat control che, con lo scopo di combattere i crimini ai danni dell’infanzia, vuole imporre il controllo automatico di tutti i messaggi scambiati dagli utenti, si tratta di una mancanza che non aiuta nella protezione del diritto fondamentale alla privatezza delle conversazioni delle persone.

È un po’ deludente, dal momento che non aggiunge molto a quanto già previsto dall’attuale normativa per la protezione dei consumatori, come viene gestito dal DSA l’eventuale uso da parte dei fornitori di servizi dei cosiddetti dark patterns (espressione inglese che può essere resa in questo caso come “meccanismi ingannevoli”), ovvero di modalità di presentazione delle informazioni che impediscono all’utente di prendere una decisione in modo equilibrato. Ad esempio, dare maggiore visibilità ad alcune scelte, oppure chiedere nuovamente di compiere una scelta già espressa, o rendere una procedura di rinuncia ad un servizio più complicata o più lunga dell’adesione, o usare dei parametri il cui valore predefinito è difficile o faticoso cambiare.

Un aspetto di preoccupazione concerne l’assegnazione esclusiva alla Commissione Europea dei poteri di supervisione e attuazione verso le piattaforme di dimensioni molto grandi (nonostante ci debba essere un coordinamento tra i vari Coordinatori nazionali dei Servizi Digitali e la Commissione), che espone al rischio di regulatory capture (= cattura del regolatore), in riferimento al fatto che le big tech, dovendo interagire con un solo ente centrale, riescono più facilmente ad influenzarlo.

Un elemento di potenziale criticità è lo stato di trusted flaggers (= segnalatori affidabili) che può essere assegnato dal Coordinatore nazionale dei Servizi Digitali ad organizzazioni statali o private che hanno dimostrato particolare esperienza e competenza nella valutazione dei contenuti illegali e che lavorano in modo diligente, accurato e obiettivo. Le loro segnalazioni di illegalità devono essere elaborate dalle piattaforme in modo prioritario. Non si può infatti escludere che tale meccanismo possa essere soggetto ad abusi. In generale, la valutazione dell’illegalità di un contenuto può essere un compito difficile da attuare, soprattutto per i fornitori più piccoli, dal momento che cosa sia illegale dipende spesso dalle varie giurisprudenze nazionali. Abbiamo inoltre assistito, nel periodo della pandemia COVID-19, ad un’intollerabile limitazione del dibattito scientifico causata proprio dall’elaborazione di segnalazioni di illegalità, dibattito che è vitale per il progresso della scienza e che non può accadere senza la diversità di opinioni. Come ricordato in un’opinione pubblicata sul British Medical Journal (una delle più prestigiose riviste scientifiche internazionali di medicina generale) a maggio 2021, gli esperti «hanno enfatizzato la quasi impossibilità di distinguere tra un’opinione scientifica minoritaria e un’opinione che è oggettivamente scorretta (disinformazione)».

Un segnale della delicatezza di una previsione di questo tipo è fornito dall’azione legale appena avviata negli USA dalla New Civil Liberties Alliance (un’importante associazione americana no-profit che si batte per la difesa dei diritti civili e le libertà costituzionali) per conto degli Stati del Missouri e della Louisiana, insieme a Jay Bhattacharya, esperto di politica sanitaria a Stanford, e Martin Kulldorff, epidemiologo di Harvard, entrambi medici e scienziati di assoluto e riconosciuto valore, contro il Presidente degli USA, Joe Biden, il suo capo consigliere sanitario nonché direttore dell’Istituto Nazionale delle Allergie e Malattie Infettive, Anthony Fauci, ed altri alti responsabili della politica sanitaria negli USA. Ciò che viene contestato è la violazione del Primo Emendamento, che protegge la libertà di parola, dal momento che sono emersi documenti che evidenziano come il Presidente ed altri funzionari di altissimo livello del governo USA hanno richiesto alle aziende che governano i più importanti mezzi di comunicazione social di censurare i punti di vista sul COVID-19 e sulla sua gestione che erano in conflitto con i messaggi del Centers for Disease Control and Prevention (= Agenzia per il Controllo e la Prevenzione delle Malattie, l’organizzazione federale responsabile negli USA per la protezione della salute pubblica attraverso il controllo e la prevenzione). Alcuni esempi delle evidenze che sono emerse sono riportati qua, qua e qua. Il punto non è tanto il supporto che è stato fornito da queste aziende per una corretta informazione sanitaria (anche se il ruolo dell’Agenzia come sorgente delle informazioni è stato tenuto nascosto) quanto la censura che hanno attuato verso chi era in disaccordo con le versioni ufficiali. Questa azione si è dispiegata con molti meccanismi, da un bando completo sulla piattaforma di comunicazione a un bando cosiddetto “ombra” (= shadow ban, che blocca la notifica a chi segue una certa persona dei messaggi pubblicati dalla persona stessa), a tutta una varietà di meccanismi algoritmici per diminuire o impedire la visibilità dei messaggi o sminuirne la rilevanza (quale, ad esempio, etichettarli con avvisi di allerta o non mostrarli tra i primi risultati di ricerca). In sintesi, secondo quanto sostenuto da questa azione legale, il governo USA ha stabilito quali discorsi potevano essere tenuti in pubblico e quali no, esattamente quello che il Primo Emendamento proibisce di fare. Vedremo come si svilupperà la vicenda.

Infine, un ulteriore motivo di attenzione è l’inserimento, avvenuto sotto l’influenza della guerra in Ucraina iniziata a fine febbraio 2022, di un “meccanismo di risposta alle crisi” che fornisce alla Commissione Europea un potere straordinario di intervento in caso di crisi, quali, ad esempio, conflitti bellici, atti di terrorismo, disastri naturali, pandemie e altre serie minacce alla sanità pubblica. In tali casi la Commissione può richiedere a piattaforme e motori di ricerca di grandi dimensioni, per un periodo massimo di tre mesi, misure straordinarie di intervento come, per esempio, l’intensificazione dell’attività di moderazione dei contenuti, il cambiamento degli algoritmi di moderazione, l’adozione di misure di promozione dell’informazione affidabile, il rafforzamento della cooperazione con i segnalatori affidabili, il cambiamento delle interfacce utente. Nonostante tale potere sia temperato dalla necessità di ottenere l’approvazione dei Coordinatori nazionali dei Servizi Digitali e sia previsto che le misure straordinarie richieste siano proporzionate ed efficaci per ottenere lo scopo desiderato, il precedente che si è verificato durante la pandemia del CO-VID-19, quando, a febbraio 2021, sono state bandite da Facebook tutte le opinioni che discutevano la possibile origine in laboratorio del virus SARS-CoV-2, salvo poi tornare sui propri passi alla fine di maggio dello stesso anno perché si era capito che si trattava di un’ipotesi assai plausibile, lascia qualche dubbio su una misura di questo genere che rischia di determinare un’indebita limitazione della libertà di parola.

Questo avvenimento ci ricorda infatti che può sempre accadere che ciò che ieri veniva considerato “disinformazione”, oggi può essere una teoria accettabile che diventa domani la verità riconosciuta. Tra gli altri, questo è stato messo in evidenza da ciò che il giudice costituzionale Samuel Anthony Alito Jr ha scritto nel 2012 nella sua opinione in dissenso sul caso US vs Alvarez: «Il punto è … che è pericoloso permettere che lo Stato sia l’arbitro della verità. Anche quando c’è un vasto consenso tra gli studiosi riguardo uno specifico soggetto, si rende un miglior servizio alla verità permettendo che il consenso venga contestato senza paura di ritorsioni. La conoscenza che viene accettata oggi alle volte può rivelarsi errata». Si tratta di un caso in cui la Corte Suprema degli Stati Uniti ha ritenuto essere in contrasto con il Primo Emendamento una legge (Stolen Valor Act) che stabiliva fosse un atto criminale il dichiarare di aver falsamente ricevuto un’onorificenza militare. Il giudice Alito ha espresso un parere in dissenso argomentando che la precedente giurisprudenza della Corte aveva già riconosciuto che affermazioni oggettivamente false non sono intrinsecamente protette dal Primo Emendamento, che tutela invece l’interesse del pubblico dibattito a ricevere una pluralità di punti di vista su uno stesso argomento. Tale legge, ha concluso il giudice, non costituiva alcuna limitazione in questo senso e quindi non rappresentava alcuna minaccia alla libertà di espressione.

Certo, si tratta di giurisprudenza degli Stati Uniti, che in fatto di protezione della libertà di parola è più garantista di molti Stati europei, ma – essendo i problemi affrontati dalle società sostanzialmente simili, perlomeno nelle società occidentali – costituisce senz’altro un elemento su cui riflettere.

--
Versione originale pubblicata su "Key4Biz" l'8 agosto 2022.

Informatics in School: Europe is moving in the right direction

by Enrico Nardelli

(versione italiana qua)

On April 6, in Brussels, together with colleagues from the European coalition Informatics for All, we presented the Informatics Reference Framework for School to the Directorate-General for Education, Youth, Sport and Culture of the European Commission.

We are particularly proud to have been invited to this event, which is the first of the stakeholder consultation meetings that the Commission has planned to prepare the proposal for a Council Recommendation on improving the provision of digital skills in education and training, which is expected to be published by the end of 2022.

Informatics Europe (the European association of university departments and industrial research laboratories working in the field of computer science and computer engineering I am the president of) in collaboration with the ACM Europe Council (the European committee of the Association for Computing Machinery - the world’s largest international association of academics and computer science professionals), started working since 2012 on the topic of the importance of teaching informatics in schools, in order to enable Europe to be a leader in the global digital society.

Then, in 2018, we founded the Informatics for All coalition, together with the Council for European Professional Informatics Societies (CEPIS), and published a strategy paper identifying the goal of providing all citizens with a basic scientific education in informatics, equivalent to what they receive in mathematics and other sciences. Introducing education in Informatics since the earliest years of school is a key step in this strategy, which has been taken up by the European Commission in its Digital Education Action Plan 2021-27. The plan identifies "placing an emphasis on high quality inclusive informatics education at all levels of education" (Action No. 10) among the most important actions to be implemented. Paraphrasing a slogan that is the basis of modern democracies with a keyword highly used in these months, we can say "no digital transformation without informatics education".

The Technical Committee on Education of the International Federation on Information Processing (IFIP) also joined the coalition in 2020. Together with them, under the guidance of Michael Caspersen, a Danish colleague active in this field since many years, we have worked on the definition of the Reference Framework. On the one hand, education is an issue that at the level of the European Union remains the responsibility of the individual member states; on the other hand, there is a great variety of languages, cultures and school systems in the European continent. Therefore, instead of trying to devise a curriculum for the teaching of informatics is valid for all European schools (an almost impossible mission), we set ourselves the goal to define a high level reference framework that provides a shared vision of the discipline, while allowing each country to implement its own curriculum in a manner compatible with its history and tradition. "Unity in diversity" has been our guiding motto.

We are aware that the process of building a political consensus in Europe is delicate and difficult, rightly so, I would say, also considering the extreme heterogeneity of the peoples who inhabit it. Therefore, defining a minimal set of high-level requirements for all European countries seemed to us to be the right goal to allow each State to define its own specific approach, while coordinating the different paths towards the common goal of being able to better compete in the global market of the digital society through an effective and respectful collaboration and integration.

To this end, the framework is intentionally concise and flexible. It lists only 5 competency goals that all students should achieve at the end of their compulsory schooling, also paying attention to the social aspects of digital technologies, a topic whose relevance is continuously growing. It is conceived as a "high-level map" of informatics that identifies a list of 11 core topics, each once characterized by a brief description and designed so as to be robust to the inevitable evolution of the discipline. Subsequently, for many of these core topic, some areas that are particularly promising in the contemporary context have been identified (an example for all: artificial intelligence for the core topic "computing systems"). These can therefore be used in the specific national curriculum so as to make it attractive to students.

Particular emphasis has been put to stimulate curriculum designers towards the theme of inclusion, since more and more digital systems are the cause of social discrimination, recommending that a specific attention is given to the gender imbalance afflicting the digital workforce. The Framework was submitted to the attention of the various national informatics communities, and the final version - published in February 2022 and for which we plan to produce translations in national languages - took into account comments received from 14 countries.

In the same meeting, the Commission outlined the preliminary results of a survey on the current situation of informatics education in schools in all Member States, to be published by September 2022. The document definitively establishes that the name of the subject to be taught in schools is "informatics" (hence not "digital skills" or "computational thinking" or other expressions widely used in recent years that have, however, made the situation a bit confusing), since its linguistic root is the most common to indicate this discipline in Europe. Among the most important aspects, the theme of the preparation of teachers for teaching informatics has clearly emerged: strong investments will be necessary (as it is happening, for example, in the United Kingdom) since it is a discipline on which most of them have not received any education, neither in their professional career nor at school time.

To conclude, the journey has begun and there is still a long way to go. Europe has shown the way, let's not waste time. Our future is at stake.

--
Original version published on "BroadBand 4 Europe" on May 2nd, 2022 (archived copy, the original site is no more available).

Informatica nella scuola: l’Europa è sulla strada giusta

di Enrico Nardelli

(english version here)

Mercoledì 6 aprile, a Bruxelles, insieme ai colleghi della coalizione europea Informatica per Tutti abbiamo presentato il Quadro di Riferimento per l’insegnamento dell’informatica nella scuola alla Direzione Generale Istruzione, Gioventù, Sport e Cultura della Commissione Europea.

Siamo particolarmente orgogliosi di essere stati invitati a questo evento, che è il primo degli incontri di consultazione con gli stakeholder che la Commissione sta organizzando in preparazione alla proposta di Raccomandazione del Consiglio sul miglioramento dell'offerta di competenze digitali nell'istruzione e nella formazione, la cui pubblicazione è prevista entro la fine del 2022.

Infatti, è dal 2012 che Informatics Europe (l’associazione europea dei dipartimenti universitari e laboratori industriali di ricerca che operano nel campo dell’informatica e dell’ingegneria informatica di cui sono il presidente) ha iniziato a lavorare, in collaborazione con lo ACM Europe Council (il Direttivo Europeo della Association for Computing Machinery – la più grande associazione internazionale di accademici e professionisti dell’informatica), sul tema dell’importanza di insegnare l’informatica nella scuola, allo scopo di poter garantire all’Europa una posizione di primo piano nella società digitale globale.

Nel 2018 abbiamo poi costituito la coalizione Informatica per Tutti, insieme al Council for European Professional Informatics Societies (CEPIS), e pubblicato un documento che ha proposto una strategia per la realizzazione dell’obiettivo di fornire a tutti i cittadini una formazione scientifica di base nell’informatica che sia allo stesso livello di quella che ricevono nella matematica e nelle altre scienze. Introdurre l’insegnamento dell’informatica sin dai primi anni di scuola è una tappa fondamentale di questa strategia, che è stata recepita dalla Commissione Europea nel suo Piano d’azione per l’istruzione digitale 2021-27 che, tra le più importanti azioni da realizzare, ha proprio elencato quella di «porre l'accento su un'educazione informatica inclusiva di elevata qualità a tutti i livelli di istruzione» (azione n.10). Parafrasando uno slogan che è alla base delle moderne democrazie con una parola chiave all’ordine del giorno in questi mesi, possiamo dire “no digital transformation without informatics education” (cioè, non è possibile alcuna trasformazione digitale senza l’insegnamento dell’informatica).

Alla coalizione ha aderito nel 2020 anche il Technical Committee on Education della International Federation on Information Processing (IFIP) ed insieme a loro abbiamo realizzato, sotto la guida di Michael Caspersen, collega danese attivo da moltissimi anni in questo settore, il Quadro di Riferimento presentato. Consapevoli che, da un lato, l’istruzione è un tema che a livello di Unione Europea rimane di competenza dei singoli Stati membri, e, dall’altro, sussiste nel continente europeo una grandissima varietà di linguaggi, culture e sistemi scolastici, ci siamo dati come traguardo la definizione non di un curriculum per l’insegnamento dell’informatica valido per tutte le scuole europee, ma di un quadro di riferimento di più alto livello, che fornisca una visione condivisa della disciplina consentendo al tempo stesso ad ogni Paese di realizzare il proprio curriculum in modo compatibile con la propria storia e tradizione. “Unità nella diversità” è stato il nostro motto.

Vediamo costantemente come il processo di costruzione di un consenso politico in Europa sia delicato e difficoltoso, giustamente, mi permetto di dire, considerando l’estrema eterogeneità dei popoli che la abitano. Definire quindi un insieme minimale di requisiti di alto livello al quale i vari curricoli nazionali dovrebbero attenersi ci è sembrato fosse la meta giusta per consentire ad ogni Stato di trovare la propria specifica strada, coordinando al tempo stesso i differenti percorsi, verso l’obiettivo comune di poter meglio competere nel mercato globale della società digitale attraverso un’efficace e rispettosa collaborazione e integrazione.

A questo scopo il quadro di riferimento è volutamente sintetico e flessibile. Elenca solo 5 traguardi di competenza che tutti gli studenti dovrebbero raggiungere al termine del percorso scolastico obbligatorio, facendo attenzione anche agli aspetti sociali delle tecnologie digitali, argomento la cui rilevanza sta diventando sempre maggiore. È pensato come una “mappa di alto livello” dell’informatica che individua un elenco di 11 “zone” (chiamate nel documento core topics = argomenti fondamentali), ognuna caratterizzata da una breve descrizione, congegnate in modo tale da essere robuste anche rispetto all’inevitabile evoluzione della disciplina. Successivamente, per molte di queste “zone” sono stati individuati alcuni “territori” (cioè, delle specifiche sotto-aree) particolarmente promettenti nella situazione storica contemporanea (un esempio per tutti: l’intelligenza artificiale per il core topic “sistemi informatici”) e che quindi possono anche essere oggetto della specifica articolazione nazionale del curricolo, così da renderlo attraente per gli studenti.

È stata posta particolare attenzione a stimolare i progettisti di curricoli verso la tematica dell’inclusione, dal momento che sempre di più, purtroppo, i sistemi digitali sono alla base di odiose discriminazioni sociali, raccomandando di far particolare attenzione allo squilibrio di genere che affligge la forza lavoro del digitale. Il Quadro di Riferimento è stato sottoposto all’attenzione delle varie comunità nazionali dei colleghi informatici e la versione finale – pubblicata a febbraio 2022 e per la quale abbiamo in programma la realizzazione di traduzioni nelle lingue nazionali – ha tenuto presente le osservazioni ricevute da 14 nazioni.

Nell’ambito dello stesso incontro, la Commissione ha esposto i risultati preliminari di un’indagine condotta a tappeto in tutti gli Stati membri sullo stato attuale dell’insegnamento dell’informatica nella scuola, che verrà pubblicata entro settembre 2022. Il documento stabilisce definitivamente che il nome della materia da insegnare nelle scuole è appunto “informatica” (quindi non “competenze digitali” o “pensiero computazionale” o altre espressioni largamente usate in questi anni che hanno però reso la situazione un po’ confusa), dal momento che la sua radice linguistica è la più diffusa per indicare questa disciplina in Europa. Tra gli aspetti cui fare maggiore attenzione, è emerso in modo chiaro il tema della formazione dei docenti all’insegnamento dell’informatica, su cui saranno necessari forti investimenti (come sta accadendo, ad esempio, nel Regno Unito), dal momento che si tratta di una materia sulla quale la maggior parte di loro non ha ricevuto alcuna formazione, né nell’ambito della loro carriera professionale né al tempo di quella scolastica.

Insomma, il cammino è iniziato e la strada da fare tanta. L’Europa ha indicato la direzione, non perdiamo tempo. È in gioco il nostro futuro.

--
Versione originale pubblicata su "Key4Biz" il 7 aprile 2022.