The Broken Promises of Digital Automation

by Enrico Nardelli

(versione italiana qua)

The history of automation in the evolution of Western societies is a fascinating one. I am no more than an amateur historian, but we have certainly seen, over the centuries, social change and automation advance together — making certain aspects of life more comfortable and allowing many people to improve their living conditions.

Consider domestic life alone (though similar arguments can be made for working life). Until the middle of the last century, the household of a member of the professional middle class would still employ a number of domestic servants, responsible for all the tasks that need to be carried out in any home. Until the spread of the telephone — which began around the turn of the nineteenth and twentieth centuries — even conveying a message to a relative nearby required either a visit or the sending of a messenger. The number of servants naturally varied according to the income of the head of the household (almost invariably a man), and all of them reported to his wife — who was, to all intents and purposes, a genuine business manager (which may explain why women-led startups are more profitable than those led by men).

The twentieth century is the one in which automation grows with ever-increasing momentum, as household appliances supplant their human counterparts and enable women's emancipation from domestic chores. Things do not go smoothly from the outset — a washing machine is merely a piece of metal infinitely less intelligent than a servant capable of doing the laundry according to the mistress of the house's instructions, applied flexibly by their own judgment. Yet the efforts of manufacturers to produce comprehensible, easy-to-use appliances, combined with people's adaptability in using these devices for what they are actually able to do, mean that many "technological marvels" genuinely make life more comfortable today — and have allowed people who would once have been servants for life to build a more fulfilling life for themselves and their families.

With the advent of electronic automation — which quickly becomes digital automation — the trend reverses. The problem is that machines begin to operate in a context characterised by perception of the external world and decision-making based on its interpretation, a situation that is extremely difficult to manage without human intelligence, unless one is operating in very narrow domains. Industrial automation, from the 1980s onwards, does indeed make giant strides — just think of how many production processes have become fully robotised. Meanwhile, in our homes during that same period, we are wrestling with video recorders that stubbornly refuse to record our favourite programmes.

Then comes personal informatics, gradually embedded in every device — from household appliances to mobile phones — and in every service, from banks to public administration counters.

And this is where the great betrayal takes place.

People are left at the mercy of monstrously complicated mechanisms that give no indication of their internal state and offer no means of understanding what is happening. They are forced to follow, like puppets, lists of incomprehensible actions which they carry out religiously, hoping not to make a mistake, while the more superstitious accompany each step with apotropaic gestures ("you never know!"). The result is that we — who are supposed to be the masters of our machines — find ourselves transformed into slaves with no way out.

Alongside this, companies large and small (and the larger they are, the worse it gets) make a mockery of our privacy, prying into everything we do and listening to everything we say (and before long we will discover they are video-recording us too).

Digital automation, made possible by informatics, in the general absence of any industrial policy in this sector, is not being applied to make our lives better — it is making them worse. We work more and under greater stress, particularly those of us doing knowledge work. We used to have staff to handle more operational tasks — physically typing a letter, registering it, and posting it. Now, marvel of the digggital age (the three g's are intentional!), we must do all of this ourselves — while losing time trying to figure out whether the recipient's address is the right one, whether the network connection is working, whether our organisation's automated document management system requires us to tick this or that box, and so on.

To be clear: I am not complaining because I no longer have secretarial support. I am objecting because digital automation has not been delivered as promised — it has not liberated us but enslaved us, destroying our free time. "Productivity" has increased, but the benefits have not been fairly distributed (see chart below).

In the early 2000s, we find ourselves in exactly the same kind of situation. The same promises keep being made, but the reality — which we have now experienced firsthand — is terribly different.

I have no need of intelligent digital services that deploy sophisticated algorithms trying to anticipate what I might want. What I need are services that do a few things — the things I actually need — but do them consistently well, without wasting my time, and — as a domestic servant of the last century would have done — protect me and my family from undue intrusion.

In short: digital automation that is "simple, but respectful and trustworthy."

Let us start from there.

--
The original version (in italian) has been published by "Key4Biz" on 22 June 2020.

The Law of the Social Impact of Digital Technology

by Enrico Nardelli

(versione italiana qua)

The Law of the Social Impact of Digital Technology – "The social impact of digital technology is unpredictable, even taking into account the Law of the Social Impact of Digital Technology."

This variation on Hofstadter's Law (by the unforgettable author of Gödel, Escher, Bach) about planning activities — "Any task takes longer than you think, even taking into account Hofstadter's Law" — came to me some time ago, when I was taking part in the debate on digital contact tracing applications for managing the Covid-19 pandemic. Centralised or decentralised, anonymous or pseudonymous, voluntary or compulsory, from the most unbridled individual freedom to the most Orwellian social control.

I took part in some more technical discussions and contributed some information on the relevant legislative provisions, but a growing conviction has been taking hold within me that most people do not fully appreciate how delicate the intersection between digital technology and human society is — and therefore how much caution ought to be exercised.

Personally, I tend to find this lack of understanding forgivable, because the bulk of humanity has been living with digital tools for barely two decades, during which governments have done very little to teach any fundamental concepts. At the same time, these are technologies more disruptive than the printing press, more revolutionary than the industrial revolution.

If we look with a degree of detachment at the evolution of humanity over the last five thousand years — roughly the period in which civilisations somewhat more socially developed than a tribe first emerged — we realise that technological advances had the chance to be absorbed and digested over generation after generation, during which societies had time to adapt their social structures to what was happening.

With the spread of digital technology, however, something different has occurred: in a very short space of time, a couple of laws of nature have been overturned — laws that, for better or worse, have always governed our existence.

The most important is the one that reminds us that everything, sooner or later, comes to an end. Every living being eventually dies, and with their death their actions and relationships often fade into oblivion. In our digital lives this does not happen, and as digital representations grow ever more sophisticated, this overturning clashes increasingly with common sense. Of course, even centuries ago we had statues reminding posterity of the features and deeds of famous figures — but now digital eternity is within everyone's reach.

Second — and connected to the first "subversive" element — there is the breaking down of spatial and temporal barriers, which makes the replication of any digital artefact virtually instantaneous and ubiquitous. Our "digital double" can be replicated as many times as desired, wherever desired, effortlessly — something that until now was only possible for the gods.

As a result of the dismantling of these two "Pillars of Hercules," a digital secret — once revealed — will live forever and spread across the entire world. It is no coincidence that the fundamental natural right to be forgotten required explicit legislation before it could be recognised by the digital society. And it did not happen immediately, and it did not happen without casualties: lives were shattered before a remedy was found.

Having demolished these insurmountable limits within the brief span of a single generation, we have found ourselves in entirely uncharted territory, at risk of meeting the fate of Ulysses in Dante's Inferno

:

Three times it whirled her round with all the waters,
the fourth time lifted up the stern on high,
and plunged the prow below, as pleased Another,
until the sea had closed above us.

The problem is expressed by the Law I stated above: we cannot grasp the impact of this technology because it is too "alien" to us (listen again to these reflections on the Internet by David Bowie from ten years ago), and because the exponentially growing combination of interactions between technologies and situations lies beyond our capacity for comprehension.

And yet we ought to know — given that from naked apes we have transformed ourselves into the (near) lords and masters of this planet — that everything that is available will be exploited in every possible way. And we are not in a position to foresee the consequences. The possible combinations and interactions would therefore call for proceeding with the utmost caution — whereas instead we seem to be running blindfolded toward the edge of a cliff.

So let us try to be very, very careful every time we pick up the "magic wand" of the digital. We risk finding ourselves in the same situation as the sorcerer's apprentice — but without a master capable of setting things right.

--
The original version (in italian) has been published by "Key4Biz" on 21 July 2020.

La legge dell'impatto sociale della tecnologia digitale

di Enrico Nardelli

(english version here)
La legge dell’impatto sociale della tecnologia digitale – «L'impatto sociale della tecnologia digitale è imprevedibile, anche tenendo conto della Legge dell'impatto sociale della tecnologia digitale.»

Questa variazione della Legge di Hofstadter (l'indimenticabile autore di "Gödel, Escher, Bach") sulla pianificazione delle attività («Per fare una cosa ci vuole sempre più tempo di quanto si pensi, anche tenendo conto della Legge di Hofstadter») mi è venuta in mente qualche tempo fa, quando partecipavo al dibattito sulle applicazioni di tracciamento digitale dei contatti per la gestione della pandemia del Covid-19. Centralizzato o decentralizzato, anonimo o pseudonimo, volontario od obbligatorio, dalla libertà individuale più sfrenata al controllo sociale più orwelliano.

Ho partecipato ad alcune discussioni più tecniche e dato qualche contributo informativo sulle disposizioni legislative in merito, ma sempre più forte sta crescendo dentro di me la convinzione che la maggior parte delle persone non si rende conto fino in fondo di quanto sia delicata l'intersezione tra la tecnologia digitale e la società umana (e, quindi, di quanta prudenza andrebbe adoperata).

Personalmente tendo a giustificare tale incomprensione, perché il grosso dell'umanità convive con strumenti digitali da neanche un ventennio, nel quale molto poco è stato fatto dai governi per insegnare qualche concetto fondamentale. D’altro canto, si tratta di tecnologie più dirompenti di quella della stampa a caratteri mobili, più sconvolgenti della rivoluzione industriale.

Se guardiamo con un po' di distacco l'evoluzione dell'umanità negli ultimi cinquemila anni (grosso modo il periodo in cui sono nate civiltà un po' più socialmente evolute di una tribù) ci rendiamo conto che i progressi tecnologici hanno avuto modo di essere assorbiti e digeriti per generazioni e generazioni, nel corso delle quali le società avevano il tempo di adattare le loro strutture sociali a quanto stava accadendo.

Con la diffusione della tecnologia digitale è invece accaduto che in brevissimo tempo sono state sovvertite un paio di leggi della natura che, nel bene e nel male, hanno sempre regolato la nostra esistenza.

La più importante è quella che ci ricorda che ogni cosa, prima o poi, finisce. Ogni essere vivente prima o poi muore e con la sua morte spesso cadono nell'oblio le sue azioni e le sue relazioni. Nella nostra vita digitale ciò non succede, e man mano che le rappresentazioni digitali diventano sempre più sofisticate questo sovvertimento urta sempre più in conflitto con il senso comune. Certo, anche secoli fa avevamo statue che ricordavano ai posteri fattezze e gesta dei personaggi famosi, ma adesso l'eternità (digitale) è alla portata di tutti.

In secondo luogo – e connesso con il primo elemento "sovversivo" – vi è il superamento delle barriere spazio-temporali che rendono la replicazione di qualunque artefatto digitale pressoché istantanea e ubiqua. Il nostro "doppio digitale" può essere replicato quante volte si vuole, dove si vuole, senza fatica, obiettivo possibile solo agli dèi, prima d'ora.

A causa del superamento di queste due “colonne d'Ercole” un segreto digitale – una volta svelato – vivrà in eterno ed in tutto il mondo. Non è un caso che il fondamentale diritto naturale all'oblio ha avuto bisogno di un'esplicita normativa per poter essere riconosciuto dalla società digitale. E non è accaduto subito, e non è accaduto in modo incruento: esistenze sono state spezzate prima di arrivare a porvi rimedio.

L'aver scardinato questi limiti invalicabili nel rapido spazio di una sola generazione ci ha portati in un territorio del tutto inesplorato, in cui rischiamo di fare la fine di Ulisse nell'inferno dantesco:

Tre volte il fé girar con tutte l’acque
a la quarta levar la poppa in suso
e la prora ire in giù, com’altrui piacque,
infin che ’l mar fu sovra noi richiuso.

Il problema è espresso dalla Legge che ho sopra enunciato, cioè che non riusciamo a capire l'impatto di questa tecnologia perché troppo "aliena" rispetto a noi (riascoltate questa riflessioni su Internet di David Bowie di 10 anni fa) e perché la combinazione a crescita esponenziale delle interazioni tra tecnologie e situazioni va al di là delle nostre possibilità di comprensione.

Eppure dovremmo sapere, visto che da scimmie nude ci siamo trasformati nei (quasi) signori e padroni di questo pianeta, che tutto quello che è disponibile verrà sfruttato in tutti i modi possibili. E non siamo in grado di prevederne le conseguenze. Le possibili combinazioni ed interazioni richiederebbero quindi di procedere con piedi di piombo, mentre invece sembra che stiamo correndo bendati verso il precipizio.

Dunque, cerchiamo di essere molto, ma davvero molto, prudenti ogni volta che prendiamo in mano la "bacchetta" del digitale. Rischiamo di trovarci nella stessa situazione dell'apprendista stregone, ma senza un maestro in grado di rimettere le cose a posto.

--
Versione originale pubblicata su "Key4Biz" il 21 luglio 2020.

Il nostro “doppio digitale” necessita di diritti costituzionali?

di Enrico Nardelli

(english version here)

Nel corso degli ultimi settant’anni l’informatica, la scienza che ha reso possibile la realizzazione del mondo digitale, ha causato una rivoluzione sociale di portata inaudita, i cui effetti non sono stati ancora compresi nella loro pienezza.

Lo ha ribadito di recente Antonello Soro, Presidente dell’Autorità Garante per la Protezione dei Dati Personali, nel discorso di presentazione della relazione annuale 2019 dell’Autorità, descrivendo l’innovazione digitale come «...“fatto sociale totale” capace di inscrivere in nuove coordinate un’intera costruzione del mondo e la sua stessa antropologia» e ricordando «l’insidiosa vulnerabilità del nostro io digitale».

Ho quindi riflettuto, da comune cittadino ma anche da esperto di informatica, se questo nuovo “fatto sociale totale” sia adeguatamente considerato a livello costituzionale.

Altre innovazioni (p.es., la televisione e l'aeroplano) hanno cambiato la nostra società in modo incredibile nello stesso periodo. Le esigenze umane su cui esse hanno effetto, però, essendo state tutelate dalla nostra Costituzione non in riferimento alla tecnologia con cui possono essere soddisfatte ma in relazione ai diritti fondamentali che esprimono, non hanno avuto bisogno di nessun adattamento, nonostante gli avanzamenti della tecnica. Poter comunicare con qualcuno o raggiungere fisicamente un posto sono, ad esempio, esigenze imprescindibili per una compiuta espressione delle relazioni sociali, ma gli artt. 15 e 16 della Costituzione mantengono intatta tutta la loro validità, pur avendo noi oggi a disposizione strumenti di comunicazione e sistemi di trasporto difficilmente prevedibili dai padri costituzionali.

L’avvento prima dell’elettronica e poi dell’informatica ha trasformato profondamente anche il mondo dei media, ma quanto scritto nell’art. 21 non ha avuto bisogno di alcun cambiamento. Si è discusso e si discute, è vero, se le reti sociali rese possibili da Internet non debbano ricevere una menzione nella nostra carta fondativa, ma sinora non c’è alcuna definitiva conclusione.

In prima approssimazione potrebbe quindi sembrare che non ci sia niente di nuovo.

L’inviolabilità della nostra libertà personale, così come del nostro domicilio e delle nostre comunicazioni, continua a rimaner garantita nella sfera digitale dagli stessi articoli (artt. 13, 14 e 15) che la assicurano nel mondo fisico.

Osservo, però, che l’insieme dei nostri dati digitali, aggregati e correlati, costituisce ciò che chiamo il nostro “doppio digitale” ovvero la proiezione di noi stessi in quella nuova dimensione del mondo che si è manifestata in tutta la sua importanza solo con lo sviluppo della tecnologia digitale.

Questo elemento è stato enfatizzato nel discorso di Soro, quando ha ricordato che «La traslazione, mai così totalizzante, della nostra esistenza individuale e collettiva nella dimensione immateriale del web, espone infatti ciascuno di noi – in primo luogo attraverso i propri dati – alle sottili ma pervasive minacce di una realtà, quale quella digitale, tanto straordinaria quanto poco presidiata» e che «la protezione dati, regolando le condizioni per la circolazione di ciò che, come il dato, rappresenta l’elemento costitutivo del digitale, si è rivelata un presupposto ineludibile di ogni possibile equilibrio tra l’uomo e la tecnica».

Mi chiedo, allora: se questo aspetto è qualcosa che ha arricchito il tipo di persone che siamo, perché non viviamo e non esistiamo più soltanto nello spazio fisico, ma abbiamo delle estensioni, delle proiezioni, nel mondo digitale, chi presidia questa realtà così importante?

Certo, abbiamo il GDPR (General Data Protection Regulation – il regolamento europeo per la protezione dei dati personali), una norma di cui in Europa possiamo essere fieri per come definisce con precisione e rigore i limiti dell’utilizzo della miriade di byte che ci lasciamo dietro interagendo a piè sospinto con dispositivi e sistemi digitali, e la normativa italiana in materia, di cui l’Autorità presieduta da Soro è il sommo custode.

Mi interrogo, però, se non ci siano dei diritti non presidiati dall’attuale Costituzione. Non è, forse, rimasto sguarnito il diritto a preservare la nostra identità, che a questo punto non si estrinseca più soltanto nel mondo fisico ma anche in quello digitale?

L’art. 22 protegge alcuni aspetti relativi all’identità: cittadinanza, nome, capacità giuridica. Al momento in cui è stata scritta, questi aspetti erano tutto quello che serviva. L’esplosione del mondo digitale ne ha però messo in luce altri, quelli relativi alla “proiezione digitale della nostra identità”, che forse potrebbero richiedere una tutela dello stesso rango legislativo. Non perché siano “nuovi”: l’umanità registra dati sul mondo da migliaia se non decine di migliaia di anni. Ma perché dall’essere una componente del tutto trascurabile della nostra esistenza ne sono diventanti una parte rilevante ed importante e, come ci ha purtroppo insegnato l’emergenza sanitaria di questo periodo, di cui non si può più disinteressare.

Sempre Soro ha osservato la natura particolarmente delicata di quest’area, evidenziando che «La devoluzione alla dimensione immateriale di pressoché tutte le nostre attività non è un processo neutro, ma comporta, se non assistito da adeguate garanzie, l’esposizione a inattese vulnerabilità in termini non solo di sicurezza informatica ma anche di soggezione a ingerenze e controlli spesso più insidiosi, perché meno percettibili di quelli tradizionali.»

In astratto, la dimensione dei dati è sempre esistita, ma in concreto ha sempre avuto uno “spessore” trascurabile. L’esplosione dei sistemi digitali l’ha però enormemente accresciuta (e sempre di più lo farà in futuro) ed è ormai componente integrante e costitutiva della nostra vita personale e sociale.

Questa fortissima ed incontrollata crescita della dimensione dei dati è stata rimarcata dallo stesso Soro che, in una precedente occasione, ha sottolineato che «Bisogna promuovere una forte regolazione del digitale ... per proteggere i dati più rilevanti ... e costruire garanzie ulteriori» e che pertanto «il primo punto è proteggere la persona digitale».

Non sono quindi l’unico a pensare che sia giunto il momento di predisporre “adeguate garanzie”.

--
Versione originale pubblicata su "Key4Biz" il 26 giugno 2020.