Understanding Informatics to Govern the Digital Dimension of Society in the National Interest

by Enrico Nardelli

(versione italiana qua)

About a month ago we celebrated the 50th anniversary of the internet — an innovation that seemed to be merely a tool, but which a visionary artist like David Bowie, in a BBC interview twenty years ago, described as "an alien life form, … the birth of something exhilarating and terrifying." Artists often see clearly what scientists and technologists struggle to grasp, particularly when it comes to the social impact of their discoveries.

The social effects of digital technology are now plain for all to see — above all because these innovations, which seemed destined to bring us a better future, are instead increasingly constraining our daily lives.

The title of the book by Soro presented at the conference "Data between Digital Sovereignty and National Interest: People, Public Administrations and Businesses," held recently at the University of Milan, contains the expression "digital humanism" — a term that was also at the centre of a scientific conference in which I participated as president of Informatics Europe, the association that brings together university departments and industrial research centres working in the field of informatics. The conference produced a document, the Vienna Manifesto, which recalls that digital technologies "are challenging our societies and questioning what it means to be human." The manifesto — whose endorsement by individuals and institutions we actively encourage — reminds us that the challenge for all of us is to build a just and democratic society in which people are at the centre of technological progress.

This is first and foremost a social and political challenge, and only secondarily a scientific or technological one, because the digital dimension is now ever more intertwined with the various social dimensions that encompass all the different relationships — economic, legal, cultural, and so on — established among individuals. This dimension, which is where digitalised data resides, defines a social space that, like any other social space, can be shaped according to different political visions. I therefore consider it entirely natural that governments should wish to exercise their steering and management role with respect to the digital sphere as well.

The following words were written this year: "a nation's data is a collective resource, a national asset. This country and its people have a sovereign right over such data, a right that cannot be extended to those who are not its citizens." This did not happen in Europe; these are not the words of a leader of one of those parties that many media outlets are quick to label populist. These words are contained in an Indian government document that, in February of this year, set out a draft national e-commerce policy.

International think tanks have raised the usual loud objections against a protectionism that hinders trade and depresses the economy. But it is hard to understand why a nation's natural resources should be protected while its digital ones should not. I therefore consider it entirely legitimate and indeed necessary for a state to govern digital space just as it governs physical space, given that the natural world and the digital world are now so deeply intertwined that they must be managed together. In the digital society, whoever controls data controls society. Germany and France want national clouds to store data with the guarantee that it remains within the state's borders. Paris and Barcelona are the most prominent examples of cities that have understood that their citizens' data is an enormously precious resource.

What, then, is needed to this end? A few reflections from a scholar and a citizen, leaving it to politicians to draw the threads together.

Our "digital doubles" are like us — they are exactly us. What would we call rulers who sold their own citizens to foreign powers? Is it acceptable for this to happen in the digital dimension? To what ends should the control and governance of digital infrastructure and data be directed? In recent years the phrase "data is the new oil" has been widely repeated. But if this data belongs to people, is it right — socially, ethically, and politically — to treat it as a commodity? Are people a commodity? There is very little awareness of these issues, as demonstrated by a well-known experiment in which a shop sold goods to customers who paid with their personal data. I apologise in advance if the comparison seems macabre, but would you give up a finger to buy a car?

I believe that digital space, along with the solutions connected to it, must be managed in the interest of the Nation — that is, in the interest of its citizens. We need a politics that returns to exercising, on behalf of the people, the sovereignty that Article 1 of our Constitution assigns to them.

To do this, however, it is necessary to understand the foundational core of this "alien life form," to borrow the expression David Bowie used twenty years ago.

The point is that the impact of the digital on society is a genuine revolution — one that would be more accurately called the informatics revolution, because it is due not so much to the way data is represented in digital form, but to the fact that informatics, the scientific discipline that underpins this technology, allows us to build a new kind of machine.

These machines are reminiscent of those that, during the industrial revolution, made possible the transformation of society from agrarian to industrial — but they are different and enormously more powerful. Industrial machines are amplifiers of human physical strength; the machines of the informatics revolution are cognitive machines — amplifiers of the rational cognitive functions of human beings.

Cognitive activities that until recently only human beings were capable of performing are now within the reach of machines. We started with simple things — sorting lists of names — but now we can recognise whether a piece of fruit is ripe or whether a fabric has defects, to give just two examples made possible by that branch of informatics known as artificial intelligence.

There are, however, two problems.

1. These cognitive machines possess neither the flexibility nor the adaptability to change their mode of operation as circumstances evolve. All possible future scenarios must have been anticipated in some way by their designers. We cannot therefore leave them to operate on their own, unless they are deployed in contexts where we are completely certain that everything has been taken into account. Games are a paradigmatic example of such scenarios. These cognitive machines are automatic mechanisms — gigantic clockwork devices that always behave in the same way. This is why digital transformation so often fails: because people assume that once the computing system has been built, the work is done. In reality, since no context is static and unchanging, computing systems that are not accompanied by people capable of adapting them to the evolution of operational scenarios are bound to fail.

2. These cognitive machines are entirely detached from what it means to be a person. Some see this as an advantage; to me it is an enormous flaw. I do not believe it is possible to determine a single best way of making decisions. Those who think that artificial intelligence can govern human society in the best possible way for everyone are either deluded or harbour hidden interests. Since human society has existed, it has been the task of politics to determine the synthesis between the conflicting needs that always exist in any assembly. And such a synthesis cannot be separated from our being human. The only intelligence capable of making appropriate decisions in this context is the embodied intelligence of people, not the artificial intelligence of cognitive machines.

To set ourselves on the path to becoming a society that governs the digital appropriately, however, we cannot do without — and we are already monstrously behind — serious education at all levels in informatics. It is necessary that informatics, the science that underpins the digital world, enters schools just as physics and biology — the sciences underpinning the natural world — are already present.

In recent times I often hear it repeated that we need to teach the new language of coding — that is, computer programming. I always counter that focusing on coding means training digital labourers, who will be the first to be sacrificed as technology advances, and that what must instead be taught are the basic scientific concepts of informatics.

This is the path being followed in the United States — a country that launched the coding craze, yet subsequently included Computer Science, that is, informatics, in the federal legislation that prescribes which subjects a student must study to receive a "well-rounded" education. A very humanistic expression, emphasising that investment in education is the most important and fruitful long-term investment a country can make.

In Europe, the association of which I am president, Informatics Europe, together with other scientific associations, has launched the "Informatics for All" initiative with a declaration — the Rome Declaration — which calls on all European and international institutions to work to ensure that the study of the foundations of informatics, indispensable to understanding the digital world, is included in schools, alongside the foundations of the other scientific disciplines that enable people to be fully aware citizens of contemporary society.

As with other great social issues, it is the task of politics to decide what to do. In the digital sphere, I am fond of recalling a quotation from Evgeny Morozov — one of the most clear-sighted sociologists in this field — who wrote in his book To Save Everything, Click Here: "for a mass political party today, to neglect its responsibility toward the digital is to neglect its responsibility toward the very future of democracy."

--
The original version (in italian) has been published by "Key4Biz" on 2 Decembre 2019.

Conoscere l'informatica per governare la dimensione digitale della società nell'interesse nazionale

di Enrico Nardelli

(english version here)

Circa un mese fa abbiamo celebrato i 50 anni di internet, un’innovazione che sembrava fosse solo uno strumento ma che un artista visionario come David Bowie, nel corso di un’intervista alla BBC di venti anni fa, aveva definito «una forma di vita aliena, ... la nascita di qualcosa di esaltante e terrificante». Spesso gli artisti vedono con chiarezza ciò che scienziati e tecnologi non riescono ad afferrare bene, soprattutto quando si parla dell’impatto sociale delle loro scoperte.

Gli effetti sociali della tecnologia digitale sono ormai sotto gli occhi di tutti, soprattutto perché queste novità che sembrava dovessero portarci ad un futuro migliore stanno viceversa ingabbiando sempre di più la nostra vita quotidiana.

Nel titolo del libro di Soro presentato nel corso del convegno “I Dati tra Sovranità Digitale e Interesse Nazionale. Le Persone, le Pubbliche Amministrazioni e le Imprese”, svoltosi recentemente nell’Ateneo milanese, compare l’espressione “umanesimo digitale”, un termine che è stato anche al centro di un convegno scientifico cui ho partecipato come presidente di Informatics Europe, l’associazione che raggruppa dipartimenti universitari e centri di ricerca industriali che operano nel settore informatico. Il convegno ha prodotto un documento, il Manifesto di Vienna, che ricorda come le tecnologie digitali «stanno minando la società e mettendo in discussione la nostra comprensione di cosa significhi essere umani». Il manifesto – di cui sollecitiamo l’adesione da parte di persone e istituzioni – ricorda che la sfida per tutti noi è costruire una società giusta e democratica in cui le persone siano al centro del progresso tecnologico.

Questa è una sfida prima di tutto sociale e politica e solo in seconda istanza una sfida scientifica o tecnologica, perché la dimensione digitale è ormai sempre più intrecciata con le varie dimensioni sociali, che coprono tutti i vari rapporti (economici, giuridici, culturali, …) che si stabiliscono tra un insieme di individui. Questa dimensione, che è quella in cui sono presenti i dati digitalizzati, definisce quindi uno spazio sociale che, come ogni altro spazio sociale, può essere costruito secondo diverse visioni politiche. Ritengo quindi del tutto naturale che i governi vogliano attuare la loro attività di indirizzo e gestione anche nei confronti del digitale.

Quest’anno sono state scritte più o meno queste parole: «i dati di una nazione sono una risorsa collettiva, un bene nazionale. Questo paese e il suo popolo hanno un diritto di sovranità su tali dati, diritto che non può essere esteso a coloro che non ne hanno la cittadinanza». Non è avvenuto in Europa, non sono parole di un leader di uno di quei partiti ai quali molti media riservano l’etichetta di populisti. Queste parole sono contenute in un documento del governo indiano che ha definito nel febbraio di quest’anno una bozza di politica nazionale per l’e-commerce.

I think-tank internazionali hanno sollevato i soliti alti lamenti contro un protezionismo che ostacola il commercio e deprime l’economia. Ma non si capisce perché le risorse naturali di una nazione debbano essere protette e quelle digitali no. Ritengo quindi assolutamente legittimo e doveroso che uno Stato governi lo spazio digitale così come governa lo spazio fisico, visto che mondo naturale e mondo digitale sono ormai compenetrati e vanno gestiti insieme. Nella società digitale chi controlla i dati controlla la società. Germania e Francia vogliono cloud nazionali per archiviare dati con la garanzia che rimangano entro il perimetro dello Stato. Parigi e Barcellona sono gli esempi più famosi di città che hanno capito che i dati dei propri cittadini sono un bene preziosissimo.

Cos’è quindi necessario a questo scopo? Alcune riflessioni da studioso e cittadino, lasciando ai politici il compito di tirare le fila.

I nostri “doppi digitali” sono come noi, sono esattamente noi: come chiameremmo quei governanti che vendessero i propri cittadini a poteri stranieri? È lecito che questo accada nella dimensione digitale? A quali fini deve essere asservito il controllo e il governo di infrastrutture e dati digitali? Si ripete spesso negli ultimi anni che “i dati sono il nuovo petrolio”. Ma se questi dati sono quelli delle persone è corretto (socialmente, eticamente e politicamente) considerarli come una merce? Le persone sono una merce? C’è una scarsissima consapevolezza di questi aspetti, se in un famoso esperimento un negozio ha venduto oggetti a clienti che pagavano con i propri dati personali. Chiedo scusa in anticipo se il paragone è macabro, ma vi privereste di un dito per comprare un’automobile?

Penso che lo spazio digitale, come le soluzioni ad esso connesse, vadano curati nell'interesse della Nazione, cioè nell’interesse dei suoi cittadini. Abbiamo bisogno di una politica che ritorni ad esercitare per conto del popolo quella sovranità che l'articolo 1 della nostra Costituzione gli assegna.

Per far ciò è però necessario capire bene il nucleo fondante di questa “forma di vita aliena”, col termine usato da David Bowie vent’anni fa.

Il punto è che l’impatto del digitale sulla società è una vera e propria rivoluzione, che sarebbe più corretto chiamare rivoluzione informatica, perché è dovuta, più che al modo di rappresentare i dati, appunto in forma digitale, al fatto che l’informatica, la disciplina scientifica che è alla base di questa tecnologia, ci permette di costruire un nuovo tipo di macchine.

Queste macchine ricordano quelle che, nel corso della rivoluzione industriale, hanno reso possibile la trasformazione della società da contadina a industriale, ma sono diverse ed enormemente più potenti. Le macchine industriali sono degli amplificatori della forza fisica dell’uomo, le macchine della rivoluzione informatica sono macchine cognitive, amplificatori delle funzioni cognitive razionali dell’essere umano.

Attività cognitive che solo gli esseri umani erano in grado di compiere fino a poco tempo fa adesso sono alla portata delle macchine. Abbiamo iniziato con cose semplici, mettere in ordine liste di nomi, ma adesso possiamo riconoscere se un frutto è maturo o se un tessuto presenta difetti, per parlare di un paio di esempi resi possibili da quella parte dell’informatica che va sotto il nome di intelligenza artificiale.

Ci sono due problemi, però.

1. Queste macchine cognitive non hanno né flessibilità né adattabilità per cambiare il loro modo di operare al mutare delle condizioni al contorno. Tutti possibili scenari futuri devono essere stati in qualche modo previsti dai progettisti. Non possiamo quindi lasciarle operare da sole, a meno che non siano in contesti in cui siamo completamente sicuro che tutto è stato tenuto in considerazione. I giochi sono un esempio paradigmatico di questi scenari. Queste macchine cognitive sono meccanismi automatici, giganteschi orologi che si comportano sempre nello stesso modo. Questo è il motivo per cui molto spesso la trasformazione digitale fallisce. Perché si pensa che, una volta realizzato il sistema informatico, il lavoro sia completato. Invece, poiché nessun contesto è statico ed immutabile, sistemi informatici non accompagnati da persone in grado di adattarli all’evoluzione degli scenari operativi sono destinati al fallimento.

2. Queste macchine cognitive sono del tutto distaccate da cosa significhi essere persone. Qualcuno lo vede come un pregio, per me è un enorme difetto. Io ritengo che non esista la possibilità di determinare un unico modo migliore di prendere le decisioni. Quelli che pensano che mediante l’intelligenza artificiale si possa governare la società umana nel modo migliore per tutti sono degli illusi (o hanno interessi nascosti). Da che esiste la società umana è compito della politica quello di determinare la sintesi tra le esigenze contrastanti che sempre esistono in ogni consesso. E tale sintesi non può prescindere dal nostro essere umani. L’unica intelligenza che può prendere decisioni appropriate in questo contesto è l’intelligenza incarnata delle persone, non quella artificiale delle macchine cognitive.

Per avviarci però ad essere una società che governa in modo appropriato il digitale non possiamo prescindere – e siamo già in mostruoso ritardo – da una seria azione formativa a tutti i livelli sull’informatica. È necessario che l’informatica, la scienza che è alla base del mondo digitale, entri nella scuola così come ci sono fisica e biologia, le scienze alla base del mondo naturale.

Negli ultimi tempi sento spesso ripetere che bisogna insegnare il nuovo linguaggio del coding, cioè la programmazione informatica. Controbatto sempre che concentrarsi sul coding vuol dire formare operai digitali, che saranno i primi ad essere sacrificati dall’avanzare della tecnologia, e che invece bisognare insegnare i concetti scientifici di base dell’informatica.

Questa è la strada che stanno seguendo negli USA, un paese che ha lanciato la mania del coding, ma che poi ha inserito la Computer Science, cioè l’informatica, nella legislazione federale che prescrive quali sono le materie che uno studente deve studiare per ricevere un’istruzione “a tutto tondo”. Un’espressione molto umanistica per rimarcare che l’investimento in educazione è quello più importante e fruttuoso sul lungo periodo che un Paese possa fare.

In Europa, l’associazione di cui sono presidente, Informatics Europe, insieme ad altre associazioni scientifiche, ha lanciato l’iniziativa “Informatica per Tutti” con una dichiarazione, la Dichiarazione di Roma che chiede a tutte le istituzioni europee e internazionali di adoperarsi affinché lo studio dei fondamenti dell’informatica, indispensabili alla comprensione del mondo digitale, sia inserito nella scuola, a fianco dei fondamenti delle altre discipline scientifiche che rendono possibile alle persone di essere cittadini pienamente consapevoli della società contemporanea.

Come per altri grandi temi sociali, è compito della politica decidere cosa fare. Nella sfera del digitale, io sono solito ricordare una citazione di Evgenj Morozov (uno dei sociologi più lucidi in questo ambito) che nel suo libro “I signori del silicio” ha scritto «per un partito di massa odierno, non curarsi della propria responsabilità sul digitale equivale a non curarsi della propria responsabilità sul futuro stesso della democrazia».

--
Versione originale pubblicata su "Key4Biz" il 2 dicembre 2019.