Generative AI and learning: primum non nocere

by Enrico Nardelli

(versione italiana qua)

In this article, I offer some general reflections on the use of generative AI tools in learning processes, first recalling two important observations that are far too often forgotten in discussions on this topic. The first is that there are many and varied levels of education: primary, lower secondary, upper secondary, tertiary, and vocational. "Students" at these different levels have different capacities, which require tailored approaches. The second is that, in the specific world of schooling, the three most relevant roles – students, teachers, and technical-administrative personnel – face different needs. Certainly, for teachers and technical-administrative staff – adults who have received specific professional training for their roles in school – the use of tools that enhance cognitive abilities can be helpful, as long as it is not excessive, whereas the case is somewhat different for students.

In this regard, it is worth noting that a recent study of 319 knowledge workers, conducted across 5 different countries and 5 different work sectors, based on 936 real-world examples of generative AI use, highlighted a decrease in perceived effort, coupled with a rise in overconfidence in AI. Cognitive work shifted from execution to verification and integration of responses. The study highlighted the risk of an atrophy of critical thinking skills if this use is not balanced by appropriate awareness. This is the well-known risk called the "irony of automation," highlighted in the early 1980s by Lisanne Bainbridge: by mechanizing routine tasks and leaving the management of exceptions to human beings, one deprives them of daily opportunities to exercise their judgment and strengthen their cognitive abilities. Consequently, these abilities weaken and people find themselves unprepared precisely when exceptions arise.

Another recent study, conducted on 666 participants aged 17 and older in the United Kingdom, yielded results consistent with the previous one. The use of generative AI reduces cognitive effort but can undermine critical thinking if it occurs without autonomous reflection. These risks are particularly pronounced among less educated generations – which should prompt reflection especially among those concerned with social inequalities – and younger ones – a topic we will return to when discussing students.

These two pieces of experimental evidence confirm what had previously been theorized about the effect of using generative AI tools on higher-order cognitive functions, such as reasoning, problem-solving, planning, and metacognitive monitoring. In that paper, it had indeed been hypothesized that constant and pervasive use of these tools could alter the efficiency of such functions and that therefore interventions would be necessary to counteract these potential negative effects.

And now let us turn to students. As far back as March 2023, in my first article on this topic, I wrote: «Allowing our children to use  [these tools] before their full development means undermining their potential for cognitive growth».

While an adult can evaluate what a generative AI system proposes based on their knowledge and experience, a school student is still developing the very knowledge and skills that would be necessary for them to carry out this verification. Therefore, an adult who chooses to use generative AI is deciding to reduce their cognitive effort and not exercise their abilities, but since they have already acquired the necessary competence, if the abandonment of practice is not excessively prolonged there will be no negative consequences. On the other hand, a student who uses these tools risks permanently depriving themselves of the opportunity to develop fundamental competencies for their cognitive growth, as we shall see below.

In this regard, however, an important distinction must be made among the different types of uses that can be made of generative AI tools. As is often the case with many tools invented by humans, indeed, how one uses the tool makes the difference. A familiar example is the knife, which can be used for offense or defense, or to make certain activities more effective.

Some researchers at Anthropic (the company that developed Claude, one of the most widely used generative AI tools) recently made available a preprint (that is, a preliminary technical report not subject to the peer review process that characterizes scientific publications) that highlights – in the specific field of software engineering – some interesting findings. The study involved 52 junior-level software engineers who had to learn to use a code library previously unknown to them in order to complete their tasks. Half had access to a generative AI tool that could also provide them with the correct code, while the others did not have this capability. The first group was slightly faster in completing their tasks, but when subsequently asked about what they had learned, they achieved an average score of 50%, lower than the 67% score achieved by those who had done everything "by hand".

This last result, although based on a limited sample, aligns with previously published scientific research that has reported the risk of a decrease in the ability to understand new topics related to the use of generative AI tools.

In one study, 91 university students were asked to examine a socio-scientific topic unfamiliar to them. In this task, half of them had access to a generative AI tool to study the topic and produce arguments for or against it, while students in the other half could only use a search engine and therefore had to reach conclusions working independently. Those in the first group reported lower cognitive effort but at the cost of lower quality arguments produced.

In addition, apart from the already discussed study involving 666 participants in the United Kingdom, which had highlighted a greater risk in younger people of not developing critical thinking, it is highly relevant to recall a study on mathematics learning involving approximately a thousand upper secondary school students. Although the use of generative AI improves the results obtained in solving exercises, students who used it subsequently performed worse when it was no longer available, thus showing that they acquired such skills to a lesser extent. This reduction in performance, however, is smaller if the generative AI tool is "constrained" to operate in a mode that prevents it from providing complete answers, but allows it only to provide suggestions and prompts prepared by the teacher.

In this direction, another element of interest highlighted by the Anthropic study derives from the analysis that researchers conducted on interaction patterns with the generative AI assistant for engineers in the first group, with inferior performance. Among these, those who reported a score below 40% essentially delegated all or nearly all tasks to AI. Those in this group who instead reported a score above 67% used AI to have their own independently produced work evaluated and to understand how certain mechanisms worked. The researchers clarified that there is no causal connection between the different approach used and the different score obtained, but the association between the two is certainly interesting to consider.

It is clear that when time is short we all tend to use available shortcuts. However, if a situation of this kind becomes the norm, there is a risk of obtaining a permanent reduction in cognitive abilities, even in adults who have developed them. Every faculty, whether mental or physical, remains active only through constant, specific exercise.

Two reflections follow from this.

The first: in work contexts, it is important not only that employees be given the opportunity to use generative AI tools with sufficient time to verify their results and avoid producing "slop" that someone else will have to fix, but also that a clear "corporate practice of generative AI" be disseminated that can mitigate its negative consequences.

The second reflection concerns specifically school students, who generally tend to view school study hours as an obstacle standing between them and more fun and interesting activities (spending time with friends, playing, doing sports, …). It takes a good deal of self-discipline to remain glued to the desk "racking your brains" over topics you cannot understand, when a smartphone offers an AI assistant available that can provide complete answers.

Since the student will inevitably tend to take shortcuts, it is important that they have access only to constrained generative AI tools. While this may be feasible in the classroom, it seems impossible to achieve when the student is at home. I would add that in any case this implies greater work for the teacher, who will need to work much harder to prepare appropriate supplementary instructional material if they want their students to derive real benefit from it.

I conclude by noting that this entire sector is still in tumultuous development and, while it is certainly necessary for researchers to study methods and approaches that can be useful in improving teaching and learning, it is wise to proceed in the daily practice of educational systems with the utmost caution to avoid causing damage, especially to younger students. This is also because the consolidation of experimental evidence in the practice of scientific research is slow and sometimes non-linear. For example, a study that received a great deal of attention because it had highlighted a significant positive impact of the use of generative AI tools on improving learning, through a meta-analysis of 51 research articles, was later retracted by the journal that published it due to «discrepancies in the meta-analysis … that undermine confidence in the validity of the analysis and the conclusions derived from it».

The aphorism primum non nocere is as true in medicine as it is in education.

--
The original version (in italian) has been published by "StartMAG" on 15 june 2026.

IA generativa e apprendimento: primum non nocere

di Enrico Nardelli

(english version here)

In questo articolo sviluppo alcune riflessioni generali sull’uso degli strumenti di IAgen nei processi di apprendimento, richiamando prima di tutto due importanti osservazioni troppo spesso dimenticate nelle discussioni su questo tema. La prima è che i livelli della formazione sono molti e diversificati: primaria, secondaria inferiore, secondaria superiore, terziaria, professionale. Gli “studenti” in questi diversi livelli hanno capacità differenti, che rendono necessari differenti approcci. La seconda è che – nello specifico mondo della scuola – i tre ruoli più rilevanti, allievi, docenti, personale tecnico-amministrativo hanno differenti esigenze alle quali far fronte. Certamente, per i docenti e il personale tecnico-amministrativo, che sono adulti che hanno ricevuto una specifica preparazione professionale sulle funzioni che svolgono nella scuola, l’utilizzo di strumenti che potenziano le loro capacità cognitive può essere utile, quando non si esageri, mentre per gli studenti il caso è un po’ diverso

A questo proposito, ricordo che un recente studio su 319 lavoratori della conoscenza, condotto in 5 differenti Paesi e in 5 differenti settori lavorativi, relativo a 936 esempi reali di uso di IAgen ha messo in luce una diminuzione dello sforzo percepito, insieme allo sviluppo di una fiducia eccessiva nell'IA. Il lavoro cognitivo si è spostato dall'esecuzione alla verifica e integrazione delle risposte. Il rischio che lo studio ha messo in luce è quello di un’atrofia delle capacità critiche se questo utilizzo non viene bilanciato da un’opportuna consapevolezza. Si tratta del ben noto rischio chiamato “ironia dell’automazione”, evidenziato all’inizio degli anni ‘80 del secolo scorso da Lisanne Bainbridge, in base al quale meccanizzando i compiti di routine e lasciando la gestione delle eccezioni all’essere umano, si priva quest'ultimo delle occasioni quotidiane di esercitare il proprio giudizio e di rafforzare le proprie capacità cognitive. Di conseguenza, tali capacità si indeboliscono e le persone si ritrovano impreparate proprio quando le eccezioni si presentano.

Un’altra recente ricerca condotta su 666 partecipanti dai 17 anni in su nel Regno Unito, ha evidenziato risultati coerenti con quelli del precedente studio. L’uso dell’IAgen riduce lo sforzo cognitivo ma può indebolire il pensiero critico se avviene senza una riflessione autonoma. Tali rischi sono maggiori soprattutto per le generazioni meno istruite – il che dovrebbe suscitare riflessioni soprattutto in coloro che sono attenti alle disuguaglianze sociali – e quelle più giovani – tema che riprenderemo più avanti parlando degli studenti.

Queste due evidenze sperimentali confermano quanto era stato precedentemente teorizzato sull’effetto dell’uso di strumenti di IAgen sulle funzioni cognitive di ordine superiore, quali il ragionamento, la risoluzione di problemi, la pianificazione e il monitoraggio metacognitivo. In tale articolo si era infatti ipotizzato che l’uso costante e pervasivo di questi strumenti potesse alterare l’efficienza di tali funzioni e fossero quindi necessari interventi che contrastassero questi potenziali effetti negativi.

E veniamo adesso agli studenti, a proposito dei quali, già a marzo 2023, nel mio primo articolo su questo tema, scrivevo: «Consentire ai nostri figli l’uso di  [questi strumenti] prima del loro completo sviluppo vuol dire menomare le loro possibilità di crescita sul piano cognitivo».

Mentre, infatti, un adulto può esaminare quanto gli viene proposto da un sistema IAgen in base all sua conoscenza ed esperienza, uno studente di scuola sta ancora sviluppando quelle conoscenze ed abilità che gli sarebbero necessarie per effettuare questa verifica. Pertanto, un adulto che sceglie di usare IAgen sta decidendo di diminuire il suo sforzo cognitivo e di non esercitare le sue capacità ma, dal momento che ha acquisito la competenza necessaria, se la rinuncia all’esercizio non è eccessivamente protratta nel tempo non vi saranno conseguenze negative. Al contrario, uno studente che usa questi strumenti rischia di privarsi per sempre della possibilità di sviluppare competenze fondamentali per la sua crescita cognitiva, come vedremo nel seguito.

A questo proposito va però operata una distinzione importanti tra i tipi di uso che si possono fare degli strumenti di IAgen. Come spesso accade per moltissimi strumenti inventati dall’uomo, infatti, il come si usa lo strumento fa la differenza. Un esempio che tutti conoscono è quello del coltello, che può essere usato per offesa o per difesa o per rendere più efficaci alcune attività.

Alcuni ricercatori di Anthropic (la società che ha sviluppato Claude, uno dei più usati strumenti di IAgen) hanno recentemente reso disponibile un preprint (cioè un rapporto tecnico preliminare non sottoposto a quel processo di revisione tra pari che caratterizza le pubblicazioni scientifiche) che evidenzia – nello specifico settore della programmazione informatica – alcuni dati interessanti. Lo studio ha riguardato 52 ingegneri del software di livello junior che hanno dovuto imparare ad utilizzare, per svolgere i loro compiti, una libreria di codice informatico a loro precedentemente ignota. Metà avevano a disposizione uno strumento di IAgen per aiutarli, che poteva anche fornire loro il codice corretto, mentre gli altri non avevano questa possibilità. Il primo gruppo è stato più veloce (ma non di tanto) nel completare i propri compiti, ma quando, a posteriori, è stato interrogato su quanto aveva imparato ha ottenuto un punteggio medio del 50%, inferiore al punteggio di 67% ottenuto da chi aveva fatto tutto “a mano”.

Quest’ultimo risultato, seppur su un campione limitato, concorda con ricerche scientifiche precedentemente pubblicate che hanno riportato il rischio di una diminuzione della capacità di comprensione di nuovi argomenti legata all’uso degli strumenti di IAgen.

In una ricerca è stato chiesto a 91 studenti universitari di esaminare un tema socio-scientifico a loro non familiare. In questo compito, metà di loro hanno avuto a disposizione uno strumento di IAgen per studiare l’argomento e produrre argomentazioni favorevoli o contrarie, mentre gli studenti dell’altra metà hanno potuto usare solo un motore di ricerca ed hanno dovuto quindi raggiungere le conclusioni lavorando in modo autonomo. Quelli del primo gruppo hanno riportato uno sforzo cognitivo inferiore a prezzo però di una minore qualità delle argomentazioni prodotte.

In aggiunta, a parte lo studio già discusso relativo ai 666 partecipanti del Regno Unito, che aveva evidenziato nei più giovani un maggiore rischio di non sviluppare il pensiero critico, è assai rilevante ricordare una ricerca svolta sull’apprendimento della matematica con circa un migliaio di studenti della scuola secondaria superiore. Sebbene l’uso dell’IAgen migliori i risultati ottenuti nello svolgimento degli esercizi, gli studenti che l’hanno utilizzata hanno poi prestazioni inferiori quando essa non è più disponibile, evidenziando quindi che hanno acquisito tali abilità in misura ridotta. Questa riduzione delle prestazioni risulta però inferiore se lo strumento di IAgen è “vincolato” ad operare in una modalità che gli impedisce di fornire risposte complete, ma gli consente solo di fornire suggerimenti e stimoli preparati dall’insegnante.

In questa direzione, un ulteriore elemento di interesse evidenziato dallo studio di Anthropic deriva dall’analisi che ricercatori hanno condotto sugli schemi di interazione con l’assistente IAgen per gli ingegneri del primo gruppo, con prestazioni inferiori. Tra questi, coloro che hanno riportato un punteggio inferiore al 40% hanno sostanzialmente delegato tutti i compiti o quasi all’IA. Quelli di questo gruppo che hanno invece riportato un punteggio superiore al 67% hanno usato l’IA per farsi valutare quanto avevano prodotto da soli in modo autonomo e per capire come funzionavano alcuni meccanismi. I ricercatori hanno chiarito che non vi è un collegamento causale tra il diverso approccio usato e il diverso punteggio ottenuto, ma l’associazione tra i due è senz’altro interessante da considerare.

È chiaro che quando il tempo a disposizione è poco tutti tendiamo a usare le scorciatoie disponibili. Però, se una situazione di questo genere diventa la norma, si rischia di ottenere una permanente diminuzione delle capacità cognitive, anche in adulti che le hanno sviluppate. Ogni facoltà, mentale o fisica, una volta acquisita viene mantenuta attiva solo con un esercizio costante e specifico.

Ne derivano due riflessioni.

La prima: nei contesti lavorativi, è bene che non solo i dipendenti siano messi in condizione di usare gli strumenti di IAgen con sufficiente tempo a disposizione per verificarne i risultati ed evitare di produrre “sbobba” che qualcun altro dovrà sistemare, ma anche che venga diffusa una chiara “pratica aziendale dell’IAgen” che ne possa mitigare le conseguenze negative.

La seconda riflessione riguarda in modo specifico gli studenti della scuola, che tendono generalmente a vivere le ore dello studio scolastico come un ostacolo che si frappone tra loro e attività più divertenti e interessanti (stare con gli amici, giocare, fare sport, …). Serve una buona dose di auto-disciplina per rimanere inchiodati alla scrivania a “spaccarsi la testa” su argomenti che non si riescono a capire, quando sul proprio smartphone è a disposizione un assistente IA che può fornire le risposte complete.

Dal momento che lo studente tenderà fatalmente a prendere delle scorciatoie è importante che abbia a disposizione solo strumenti di IAgen vincolati. Mentre questo può essere fattibile in classe, mi sembra impossibile da ottenere quando lo studente è a casa. Aggiungo che comunque questo implica un maggior lavoro per l’insegnante che dovrà lavorare molto di più per preparare l’adeguato materiale didattico supplementare, se vuole che i suoi studenti ne traggano un reale beneficio.

Concludo osservando che tutto questo settore è in sviluppo ancora tumultuoso e, mentre è sicuramente necessario che i ricercatori studino metodi e approcci che possano essere utili a migliorare insegnamento e apprendimento, è bene procedere nella pratica quotidiana dei sistemi educativi con molta, moltissima cautela per evitare di causare danni, soprattutto agli studenti più giovani. Anche perché il consolidamento delle evidenze sperimentali, nella pratica della ricerca scientifica, è lento e alle volte non lineare. Ad esempio, uno studio di cui si è parlato molto, dal momento aveva evidenziato un grande impatto positivo dell’uso di strumenti di IAgen sul miglioramento dell’apprendimento, attraverso la meta-analisi di 51 articoli di ricerca, venga poi ritirato dalla rivista che l’ha pubblicato a causa di «discrepanze nella meta-analisi … che minano la fiducia riposta nella validità dell’analisi e delle conclusioni che ne derivano».

L’aforisma primum non nocere è vero in medicina come nell’istruzione.

--
Versione originale pubblicata su "StartMAG" il 15 giugno 2026.

Digital Tools and Learning: Plato Wins Again

by Enrico Nardelli

(versione italiana qua)

I had recounted, in a previous article, how the 2023 UNESCO report had sounded a first, dramatic alarm bell by defining Ed-Tech (that is, the use of digital tools in the education system) a "tragedy" with immense costs and virtually no benefits.

On January 15, 2026, before the United States Senate Committee on Commerce, Science, and Transportation, Dr. Jared Cooney Horvath, a neuroscientist specializing in learning and technology, recounted another silent tragedy: that of an entire generation sacrificed on the altar of digital technology.

Horvath, director of LME Global and author of the volume The Digital Delusion, is neither a nor a nostalgic. He is a scholar who has spent years analyzing tens of thousands of studies on the use of digital technology in education.

For over a century we have taken for granted that each generation was more intelligent than the previous one. This is the so-called "Flynn Effect." But Horvath presented chilling data: starting from the mid-2000s, the cognitive development of young people in the developed world stopped growing. In many cases, it has gone backward.

Horvath didn't limit himself to words. He brought before the committee, which conducted a public hearing (here the full video) on the theme "Plugged Out: Examining the Impact of Technology on America's Youth," data from major international studies involving millions of students in dozens of countries. These include PISA (Programme for International Student Assessment), the triennial survey on the level of preparation of 15-year-old students, TIMSS (Trends in International Mathematics and Science Study), a study that analyzes international trends in mathematics and science learning, and PIRLS (Progress in International Reading Literacy Study), an international survey that evaluates the reading skills of primary school students.

The conclusion is uniform: greater daily exposure to digital tools consistently corresponds to lower scores in reading, mathematics, and science. The more time spent in front of a screen, the worse the performance. The data is available within his written testimony.

I know very well that correlation is not causation, but it seems objectively difficult to identify causes other than the massive spread of digital technology in schools. And, in any case, the precautionary principle suggests the advisability of carefully reconsidering the situation.

On the other hand, what Horvath reported is in agreement with many independent studies related to reading and writing with digital devices.

For reading: text comprehension and retention are more solid on paper than on screen, particularly for complex or long texts. Spatial stability, reduced scrolling, and physical interaction with the paper page support memory formation and comprehension. The scientific literature on this point is substantial and convergent. A meta-analysis of 49 studies published in 2024 reaffirmed that students who read on paper consistently achieve higher scores on comprehension tests compared to those who read the same material on screen. Here is an informal description of what is called the "screen inferiority effect."

For writing: taking notes by hand is superior, for long-term learning, to taking notes on a computer. From the pioneering study by Mueller & Oppenheimer of 2014 (with the significant title "The Pen Is Mightier Than the Keyboard") to the recent article by Italian neuroscientists from 2025, the evidence is consistent. While typing on a keyboard encourages literal transcription and superficial processing, writing by hand requires synthesis, comprehension, and reorganization of concepts, and is therefore superior in an educational context.

Horvath examined nearly 400 meta-analyses, covering over 21,000 research studies related to the use of digital technologies for teaching. Most of these achieve results below the effectiveness of normal classroom instruction. In other words: a good teacher who lectures in a traditional way produces better results than almost all digital tools analyzed in the scientific literature.

Only in very limited contexts — adaptive exercises for basic skills and targeted remedial interventions — do digital tools manage to approach significant results. In these cases they work because they support the repetition of exercises in well-defined areas, not because they improve deep learning.

The reasons for this lie in neuroscience. When attention is repeatedly interrupted, three costs emerge: loss of time due to task switching, increase in errors due to cognitive interference, and weakening of memory formation, since learning shifts from deep encoding toward habitual processing.

The problem is that digital platforms are optimized for rapid switching between content, novelty, and continuous attention capture. Even when used for academic purposes, they activate the same behavioral patterns that students practice in recreational screen use: frequent checking, rapid scrolling, multitasking. These digital devices train young people's brains to respond to brief, intermittent, gamified stimuli. Technology doesn't make them smarter. It makes them dependent on the immediate reward circuit.

Deep learning, the kind that forms lasting memory and critical thinking, is built through interaction between people and in the continuous and thorough exercise of one's mental capacities, not in the relationship between a person and a screen. The human brain learns through relationships, socially mediated error, the physical presence of others — that didàskalos that Plato knew to be inseparable from the mathetés. Technology, if well used — and this is a very critical "if" — can enhance this encounter between teacher and student. But it can never replace it.

The fatal error of the last twenty years has been believing that a tablet could be a bridge to knowledge, when in reality it has been a wall that has prevented access to deep cognitive functions. Technology is a tool for experts who want to lighten their work, Horvath reminded us, it is not the way novices learn to become experts. A calculator is an extraordinary tool for someone who already knows statistics; it allows them to externalize the effort to concentrate on strategy. But if you give the same calculator to a student who has not yet internalized the meaning of various methods, you are not helping them: you are preventing them from building the synapses necessary to understand statistics.

The central point of all of Horvath's work, with which I completely agree, is not the rejection of technology, but bringing it back to its true nature: a useful tool, not a substitute. The absolute priority must be learning, which must be carried out in person with human teachers, as we have always done, that is, in an analog way. In this regard he stated, during his testimony: "The secret to learning to use digital technology is not to use digital technology. It's learning analogically, the way we've always learned, and then using technology to facilitate the exercise of cognitive abilities we've already developed."

Yet, many opinion newspapers (especially those that have praised distance learning) ignore this wealth of evidence. They prefer to tell stories of "innovative schools" with interactive whiteboards and classrooms without books. Of course, it's easier to celebrate technological novelty than to face the effort of building true educational relationships and investing resources to have well-prepared and well-paid teachers, the only ones who can make a difference.

Who is thinking about the long-term well-being, cognitive and otherwise, of future generations?

--
The original version (in italian) has been published by "StartMAG" on 26 April 2026.

Strumenti digitali e apprendimento: Platone vince ancora

di Enrico Nardelli

(english version here)

Avevo raccontato, in un precedente articolo, come il rapporto UNESCO del 2023 avesse suonato un primo, drammatico campanello d’allarme definendo l'Ed-Tech (cioè l’uso di strumenti digitali nel sistema dell’istruzione) una "tragedia" dai costi immensi e dai benefici pressoché nulli.

Il 15 gennaio 2026, davanti alla Commissione per il Commercio, la Scienza e i Trasporti del Senato degli Stati Uniti, il dottor Jared Cooney Horvath, neuroscienziato esperto di apprendimento e tecnologia, ha raccontato un’altra tragedia silenziosa, quella di un’intera generazione sacrificata sull’altare della tecnologia digitale.

Horvath, direttore di LME Global e autore del volume The Digital Delusion (L'illusione digitale), non è né un tecnofobo né un nostalgico. È uno studioso che ha passato anni ad analizzare decine di migliaia di ricerche sull’uso del digitale nell’istruzione.

Per oltre un secolo abbiamo dato per scontato che ogni generazione fosse più intelligente della precedente. È il cosiddetto "Effetto Flynn". Ma Horvath ha presentato dati agghiaccianti: a partire dalla metà degli anni 2000 lo sviluppo cognitivo dei giovani nel mondo sviluppato ha smesso di crescere. In molti casi, è tornato indietro.

Horvath non si è limitato alle parole. Ha portato davanti alla commissione, che ha condotto un’audizione pubblica (qui il video integrale) sul tema "Plugged Out: Examining the Impact of Technology on America's Youth" (= Scollegàti: esaminare l'impatto della tecnologia sui giovani americani), i dati di grandi studi internazionali che coinvolgono milioni di studenti in decine di paesi. Si tratta del PISA (Programme for International Student Assessment), l’indagine triennale sul livello di preparazione degli studenti di 15 anni, del TIMSS (Trends in International Mathematics and Science Study), uno studio che analizza le tendenze internazionali nell’apprendimento di matematica e scienze, e del PIRLS (Progress in International Reading Literacy Study), un’indagine internazionale che valuta le competenze di lettura degli studenti della scuola primaria.

La conclusione è uniforme: una maggiore esposizione quotidiana agli strumenti digitale corrisponde costantemente a punteggi più bassi in lettura, matematica e scienze. Più tempo si passa davanti allo schermo, peggiori sono le prestazioni. I dati sono disponibili all’interno della sua testimonianza scritta.

So benissimo che la correlazione non è causazione, ma mi sembra oggettivamente difficile individuare cause diverse dalla diffusione massiccia della tecnologia digitale nella scuola. E, in ogni caso, il principio di precauzione suggerisce l’opportunità di riconsiderare attentamente la situazione.

D’altro canto, quanto ha riportato Horvath è in accordo con molti studi indipendenti relativi alla lettura e scrittura con dispositivi digitali.

Per la lettura: la comprensione del testo e la sua ritenzione risultano più solide su carta che su schermo, in particolare per testi complessi o lunghi. La stabilità spaziale, la riduzione dello scorrimento e l'interazione fisica con la pagina di carta supportano la formazione della memoria e la comprensione. La letteratura scientifica su questo punto è cospicua e convergente. Una meta-analisi di 49 studi pubblicata nel 2024 ha ribadito che gli studenti che leggono su carta ottengono costantemente punteggi più alti nei test di comprensione rispetto a quelli che leggono lo stesso materiale su schermo. Qui una descrizione informale di quello che viene chiamato “effetto di inferiorità dello schermo”.

Per la scrittura: prendere appunti a mano è superiore, per l'apprendimento a lungo termine, al prendere appunti al computer. A partire dal pionieristico studio di Mueller & Oppenheimer del 2014 (dal significativo titolo “La penna è più potente della tastiera) fino al recente articolo di neuroscienziati italiani del 2025, le evidenze sono concordi. Mentre digitare su una tastiera incoraggia la trascrizione letterale e un'elaborazione superficiale, scrivere a mano impone sintesi, comprensione e riorganizzazione dei concetti, ed è quindi superiore in un contesto educativo.

Horvath ha esaminato quasi 400 meta-analisi, che coprono oltre 21.000 studi di ricerca relativi all’uso delle tecnologie digitali per l’insegnamento. La maggior parte di queste ottiene risultati al di sotto dell'efficacia della normale istruzione in classe. In altri termini: un buon insegnante che fa lezione in modo tradizionale produce risultati migliori di quasi tutti gli strumenti digitali analizzati dalla letteratura scientifica.

Solo in contesti molto limitati — esercitazioni adattive per competenze di base e interventi di recupero mirati — gli strumenti digitali riescono ad avvicinarsi a risultati significativi. In questi casi funzionano perché supportano la ripetizione di esercizi in ambiti ben definiti, non perché migliorino l'apprendimento profondo.

Le motivazioni di ciò sono nelle neuroscienze. Quando l'attenzione è ripetutamente interrotta, emergono tre costi: perdita di tempo dovuta al cambio di compito, aumento degli errori per interferenza cognitiva, e indebolimento della formazione della memoria, poiché l'apprendimento si sposta dalla codifica profonda verso un'elaborazione abitudinaria.

Il problema è che le piattaforme digitali sono ottimizzate per il passaggio rapido tra contenuti, la novità e la cattura continua dell'attenzione. Anche quando vengono utilizzate per scopi accademici, attivano gli stessi schemi comportamentali che gli studenti praticano nell'uso ricreativo degli schermi: controlli frequenti, scorrimento rapido, multitasking. Questi dispositivi digitali abituano i cervelli dei ragazzi a rispondere a stimoli brevi, intermittenti, gamificati. La tecnologia non li rende più intelligenti. Li rende dipendenti dal circuito della ricompensa immediata.

L'apprendimento profondo, quello che forma la memoria duratura e il pensiero critico, si costruisce nell'interazione tra persone e nell’esercizio continuo e approfondito delle proprie capacità mentali, non nel rapporto tra una persona e uno schermo. Il cervello umano impara attraverso la relazione, l’errore socialmente mediato, la presenza fisica dell’altro – quel didàskalos che Platone sapeva essere inscindibile dal mathetés. La tecnologia, se ben usata – e questo è un “se” molto critico, può potenziare questo incontro tra maestro e allievo. Ma non potrà mai sostituirlo.

L'errore fatale degli ultimi vent'anni è stato credere che un tablet potesse essere un ponte verso la conoscenza, quando in realtà è stato un muro che ha impedito l'accesso alle funzioni cognitive profonde. La tecnologia è uno strumento per esperti che vogliono alleggerire il proprio lavoro, ha ricordato Horvath, non è il modo con cui i novizi imparano a diventare esperti. Un calcolatore è uno strumento straordinario per chi conosce già la statistica; gli permette di esternalizzare la fatica per concentrarsi sulla strategia. Ma se si dà lo stesso calcolatore a un ragazzo che non ha ancora interiorizzato il senso dei vari metodi, non lo si sta aiutando: gli si impedisce di costruire le sinapsi necessarie per capire la statistica.

Il punto centrale di tutto il lavoro di Horvath, con cui sono completamente d’accordo, non è il rifiuto della tecnologia, ma il ricondurla alla sua vera natura: uno strumento utile, non un sostituto. La priorità assoluta deve essere l’apprendimento, che deve essere svolto in presenza con insegnanti umani, come abbiamo sempre fatto, cioè in modo analogico. A questo proposito ha dichiarato, durante la sua testimonianza: «Il segreto per imparare a usare la tecnologia digitale è non usare la tecnologia digitale. È imparare in modo analogico, nel modo in cui abbiamo sempre imparato, e poi usare la tecnologia per facilitare l’esercizio di capacità cognitive che abbiamo già sviluppato».

Eppure, molti giornali di opinione (soprattutto quelli che hanno tessuto le lodi della didattica a distanza) ignorano questa mole di evidenze. Preferiscono raccontare storie di “scuole innovative” con lavagne interattive e classi senza libri. Certo, è più facile celebrare la novità tecnologica che affrontare la fatica di costruire relazioni educative vere e investire risorse per avere insegnanti ben preparati e ben pagati, i soli che possono fare la differenza.

Chi ci pensa al benessere a lungo termine, cognitivo e non solo, delle prossime generazioni?

--
Versione originale pubblicata su "StartMAG" il 26 aprile 2026.

The Wonders of Generative Artificial Intelligence?

by Enrico Nardelli

(versione italiana qua)

The title is inspired by the novel "Le meraviglie del 2000" (= The Wonders of the Year 2000), not exactly among Emilio Salgari's best-known works, which describes the adventures of two friends who sleep for a hundred years and awaken in a future world (in 2003) where electricity is omnipresent, has made communications instantaneous and automated countless work activities. For them, coming from the early 1900s, it's a beautiful and pleasant experience. But then... if you keep reading, you'll understand for yourselves why I chose it as inspiration.

One of the promises tied to the advent of generative artificial intelligence (GenAI) is that by automating the most repetitive and low-value-added tasks, it would allow workers to have more time for more creative and meaningful activities. Research conducted for eight months, from April to December 2025, at an American tech company of about 200 employees, including through in-depth interviews, partially contradicts this expectation: GenAI tools don't reduce workload, but intensify it. Workers operate at more sustained paces, perform a broader range of tasks, and extend their activity to time slots that were previously reserved for rest, often without anyone explicitly asking them to.

Three main forms of intensification have been identified.

The first is task expansion: since with GenAI one can easily access professional skills that one doesn't possess, workers have begun to tackle tasks that were previously performed by others. Product managers and designers started writing code, researchers took on product development activities, and generally employees attempted work they would have previously delegated or avoided. GenAI tools made these tasks suddenly accessible, making possible what many experienced as cognitive enhancement: less dependence on others, immediate feedback, sense of autonomy. The concrete result was a progressive widening of each role's perimeter, with cascading effects: engineers, for example, found themselves having to review and correct GenAI-assisted work produced by colleagues, with a further increase in their own workload.

The second form of intensification described in the research was the progressive blurring of the boundary between work and non-work. Since starting a task with GenAI became almost frictionless — no more "writer's block" — workers began inserting small work activities into moments that were previously for waiting: during lunch, in meetings, while waiting for a file to load. The conversational style of prompts contributed to normalizing this behavior, making it difficult to perceive the activity as "real work." Over time, breaks lost their recovery function and work took on an increasingly widespread and continuous presence throughout the day.

The third form is intensified multi-tasking: GenAI introduced a new work mode where a person simultaneously performs multiple activities — writing code manually while GenAI generates an alternative version, running multiple agents in parallel, resuming long-postponed activities because GenAI can "handle them" in the background. While this creates a sensation of productive momentum, it also causes continuous attention shifting, frequent checking of what GenAI is doing, and a growing number of open activities to follow.

These three mechanisms feed each other in a self-reinforcing cycle: GenAI accelerates certain tasks, speed expectations increase, dependence on GenAI grows, the work perimeter expands further.

The authors warn that what appears to be a productivity gain risks masking a silent and unsustainable expansion of workload, with consequences for cognitive fatigue, decision quality, turnover and burnout. Since the additional effort is voluntary and often experienced as stimulating experimentation, managers struggle to notice it until the damage is already done.

At this point I pick up the threads of Salgari's novel: what happens to the two young men is that the frenetic pace and continuous stimuli caused by the acceleration of human activities induced by electricity lead to irritability, insomnia, mental fatigue, culminating in a real nervous breakdown. What seemed like an unstoppable possibility for progress reveals itself as a physiological and psychological threat. The moral, extraordinarily current, is that technological progress, if not accompanied by balancing actions that take our human nature into account, can become destructive.

We must be well aware of this aspect as generative artificial intelligence tools (useful, but to be used with constant attention) become increasingly widespread. Surely psychologists who deal with digital transformation will be able to contribute to deepening these aspects.

The solution proposed by the authors of the study I cited is not to ask individuals to self-regulate, but to develop a real "corporate GenAI practice": a set of intentional norms and routines that structure the use of these tools. The authors suggest three concrete levers: intentional pauses to slow the pace and prevent silent accumulation of overload; work sequencing, namely norms that regulate when and how activities advance, protecting concentration windows and reducing context switching that is costly from a cognitive standpoint; finally, human grounding, namely the protection of spaces and moments of social connection that interrupt solitary work mediated by GenAI, broaden perspective and feed creativity through comparison between different human viewpoints.

These are practices that become increasingly important as informatics technology becomes more widespread. Despite beginning to talk about techno-stress in the mid-1980s and some countermeasures being taken, e.g. at least in some organizations email is not accessible outside work hours, we are — thanks to smartphones and social networks — constantly connected.

Let's be careful that the further acceleration due to generative artificial intelligence doesn't derail our mental health. What do you think?

--
The original version (in italian) has been published by "StartMAG" on 11 April 2026.

Le meraviglie dell'intelligenza artificiale generativa?

di Enrico Nardelli

(english version here)

Il titolo è ispirato al romanzo “Le meraviglie del Duemila”, non proprio tra i più noti di Emilio Salgari, che descrive le avventure di due amici che dormono per cento anni e si risvegliano in un mondo futuro (nel 2003) in cui l’elettricità è onnipresente, ha reso le comunicazioni istantanee e automatizzato moltissime attività lavorative. Per loro, che vengono dagli inizi del Novecento, si tratta di un’esperienza bella e piacevole. Ma poi… se continuate a leggere capirete da soli perché l’ho scelto come ispirazione.

Una delle promesse legate all’avvento dell'intelligenza artificiale generativa (IAgen) è che essa, automatizzando i compiti più ripetitivi e a basso valore aggiunto, consentirebbe ai lavoratori di avere più tempo per attività più creative e significative. Una ricerca condotta per otto mesi, da aprile a dicembre 2025, presso un'azienda tecnologica americana di circa 200 dipendenti, anche attraverso interviste approfondite, smentisce in parte questa aspettativa: gli strumenti di IAgen non riducono il carico di lavoro, ma lo intensificano. I lavoratori operano a ritmi più sostenuti, svolgono una gamma più ampia di compiti ed estendono la loro attività a fasce orarie che prima erano riservate al riposo, spesso senza che nessuno glielo chieda esplicitamente.

Sono state identificate tre forme principali di intensificazione.

La prima è l'espansione dei compiti: poiché con l'IAgen si può accedere facilmente a competenze professionali che non si posseggono, i lavoratori hanno cominciato ad affrontare compiti che prima venivano eseguiti da altri. Product manager e designer si sono messi a scrivere codice, i ricercatori hanno affrontato attività di sviluppo prodotti, e in generale i dipendenti hanno tentato lavori che in precedenza avrebbero delegato o evitato. Gli strumenti di IAgen hanno reso questi compiti improvvisamente accessibili, rendendo possibile quello che molti hanno vissuto come un potenziamento cognitivo: meno dipendenza dagli altri, feedback immediato, senso di autonomia. Il risultato concreto è stato un progressivo allargamento del perimetro di ciascun ruolo, con effetti a cascata: gli ingegneri, ad esempio, si sono ritrovati a dover revisionare e correggere il lavoro assistito dall'IAgen prodotto dai colleghi, con un ulteriore aumento del proprio carico.

La seconda forma di intensificazione descritta nella ricerca è stato il progressivo sfumare del confine tra lavoro e non-lavoro. Poiché avviare un compito con l'IAgen è diventato quasi privo di attrito — niente più “blocco dello scrittore” — i lavoratori hanno cominciato a inserire piccole attività lavorative nei momenti che prima erano di attesa: durante il pranzo, in riunione, mentre aspettano il caricamento di un file. Lo stile conversazionale dei prompt ha contribuito a normalizzare questo comportamento, rendendo difficile percepire l'attività come "lavoro vero". Nel tempo, le pause hanno perso la loro funzione di recupero e il lavoro ha assunto una presenza sempre più diffusa e continua nella giornata.

La terza forma è il multi-tasking intensificato: l'IAgen ha introdotto una nuova modalità di lavoro in cui una persona esegue contemporaneamente più attività — scrivere codice manualmente mentre l'IAgen ne genera una versione alternativa, far girare più agenti in parallelo, riprendere attività a lungo rinviate perché l'IAgen può "occuparsene" in background. Sebbene questo crei una sensazione di slancio produttivo, determina anche un continuo spostamento dell'attenzione, un frequente controllo di ciò che l’IAgen sta facendo e un numero crescente di attività aperte e da seguire.

Questi tre meccanismi si alimentano a vicenda in un ciclo autorinforzante: l'IAgen accelera certi compiti, le aspettative di velocità aumentano, la dipendenza dall'IAgen cresce, il perimetro del lavoro si allarga ulteriormente.

Gli autori avvertono che quello che in apparenza sembra un guadagno di produttività rischia di mascherare un'espansione silenziosa e insostenibile del carico di lavoro, con conseguenze su affaticamento cognitivo, qualità delle decisioni, turnover e burnout. Poiché lo sforzo aggiuntivo è volontario e spesso vissuto come una stimolante sperimentazione, i dirigenti faticano a rendersene conto fino a quando il danno non è già fatto.

A questo punto riprendo le fila del romanzo di Salgari: quello che accade ai due giovani è che i ritmi frenetici e gli stimoli continui determinati dall’accelerazione delle attività umane indotte dall’elettricità determinano irritabilità, insonnia, affaticamento mentale, fino a sfociare in un vero e proprio esaurimento nervoso. Quella che sembrava una possibilità di progresso inarrestabile si rivela una minaccia fisiologica e psicologica. La morale, straordinariamente attuale, è che il progresso tecnologico, se non è accompagnato da azioni di bilanciamento che tengano conto della nostra natura umana, può diventare distruttivo.

Di questo aspetto dobbiamo essere ben consapevoli, man mano che gli strumenti di intelligenza artificiale generativa (utili, ma da usare facendo sempre attenzione) si diffondono sempre di più. Sicuramente gli psicologi che si occupano di trasformazione digitale potranno contribuire ad approfondire questi aspetti.

La soluzione proposta dagli autori dello studio che ho citato non è chiedere ai singoli di autoregolarsi, ma sviluppare una vera e propria "pratica aziendale dell'IAgen": un insieme di norme e routine intenzionali che strutturino l'uso di questi strumenti. Gli autori suggeriscono tre leve concrete: pause intenzionali per rallentare il ritmo e prevenire l'accumulo silenzioso di sovraccarico; sequenziamento del lavoro, ovvero norme che regolino quando e come le attività avanzano, proteggendo le finestre di concentrazione e riducendo i salti di contesto che sono costosi dal punto di vista cognitivo; infine, radicamento umano, ovvero la tutela di spazi e momenti di connessione sociale che interrompano il lavoro solitario mediato dall'IAgen, allarghino la prospettiva e alimentino la creatività attraverso il confronto tra punti di vista umani diversi.

Si tratta di pratiche che diventano sempre più importanti, man mano che la tecnologia informatica diventa sempre più diffusa. Nonostante si sia cominciato a parlare di techno-stress a metà degli anni ‘80 del secolo scorso e qualche contro-misura sia stata presa, p.es. almeno in alcune organizzazioni la posta elettronica non è accessibile fuori orario di lavoro, siamo – grazie allo smartphone e alle reti sociali – costantemente connessi.

Facciamo attenzione a che l’ulteriore accelerazione dovuta all’intelligenza artificiale generativa non faccia deragliare la nostra salute mentale. Che ne pensate?

--
Versione originale pubblicata su "StartMAG" il 11 aprile 2026.

The big illusion is over: Artificial Intelligence is not replacing software developers

by Enrico Nardelli

(versione italiana qua)

Let me say upfront — to pre-empt the usual hasty comments from those who won't read to the end — that I do believe tools based on generative Artificial Intelligence (GenAI, hereafter) are genuinely useful in software development, as they are in many other fields. But we need to be able to tell dreams from reality.

In 2023, Big Tech CEOs were more or less unanimously declaring that GenAI would replace most software developers by 2025. As recently as March 2025, Dario Amodei, CEO of Anthropic, was claiming that within 3 to 6 months GenAI would be writing 90% of all code.

The story went that the future would be "agentic" — that developers would have digital colleagues who never slept and never complained and would therefore take their jobs.

2024 closed with no fewer than 152,000 employees laid off across the tech sector worldwide, while by December 2025 the number of layoffs had reached 123,000 — all of it justified, according to the executives themselves, as "realigning towards an AI-centric future."

2026 has now begun, and there is no trace of the miraculous transformations that until recently were being touted as certainties — as I had anticipated several months ago. There I cited the Generative AI Gap report from MIT's NANDA project, published in July 2025, which had found that despite $40 billion in global investment, a staggering 95% of GenAI pilot projects had failed to produce any measurable economic return. Most organisations were seeing a net impact of zero on their bottom line.

Here are some updates that help explain why.

The GitClear report of February 2025 examined 211 million lines of code modified in the open source repositories used by Big Tech, finding that between 2020 and 2024 there was a near-doubling (from 3.05% to 5.67%) in the proportion of code that is added and then deleted within two weeks — so-called code churn. This is a clear indicator of a progressive decline in the quality of software being produced. The only technological or organisational change of any significance that occurred over the same period is that the proportion of developers using GenAI tools rose from zero to 63%. Correlation is not causation, of course, but this looks very much like a smoking gun. Furthermore, the report also recorded an increase in duplicated code blocks and a decrease in code reuse. These too are signs of declining quality. A December 2025 study by CodeRabbit, analysing 470 pull requests on the GitHub platform (used by more than 100 million developers worldwide to share and collaboratively develop code), found that GenAI-generated code produces on average 1.7 times more issues than code written by humans.

Stack Overflow, following a survey involving nearly 50,000 developers across 177 countries, reported that the proportion of developers favourably disposed towards GenAI tools fell from over 70% in 2024 to around 60% in 2025. The main source of frustration, cited by 66% of respondents, was that GenAI-produced solutions are "almost right, but not quite" — which leads to wasted time fixing errors in the code generated this way. That said, 69% of them acknowledged that GenAI does increase productivity in software writing. Several studies carried out in 2024 found that this increase ranges from 10–20% for senior developers to 35–40% for junior ones, who are better placed to benefit from a system that has knowledge of virtually all the software ever written in the world.

These findings are corroborated by studies conducted by the Stanford software engineering productivity research group involving more than 100 developers at major technology companies, which showed that the productivity gains in software development achieved through the use of GenAI tools are on average between 10% and 20%. Using them uncritically for software development, however, risks being a very costly mistake in the long run. While the volume of code produced increases by almost 40%, its quality decreases, requiring additional time for correction. And these are just the short-term consequences. Over the medium or long term — that is, in the context of the adaptive maintenance of software systems that have been in operation for some time — the situation risks becoming explosive.

There are no results yet pointing in this direction, given how little time has passed, but two significant findings emerge from the Stanford group's studies. The first is that without strong discipline in keeping a company's codebase structured and organised in a clear and clean manner, productivity gains evaporate or even reverse. The second is that productivity gains are greatest for new, low-complexity projects, while they diminish considerably for mature, high-complexity ones.

Throughout 2025, the wonders of vibe coding were extolled — the approach to software development in which a developer interacts with GenAI in natural language to "materialise" a complex software system by describing its overall vision. The problem is that this approach is fine for a demo but not for production-grade systems, because — like a sandcastle — it does not hold up solidly over time. This is the so-called GenAI technical debt: the future costs that accumulate when, in the rush of software development, one takes advantage of GenAI's code generation speed without bothering with thorough checks and verification.

During 2025, an approach emerged — conceptually known for some time, though now gaining traction — called specification-driven development, in which the developer uses GenAI tools starting from a specification — that is, a high-level description of the desired behaviour of the entire system — defined by the developer and progressively refined in ever greater detail, also with the support of GenAI. In this way, one partially overcomes the main limitation of these tools, which are based on statistics rather than symbolic representation: their inability to represent concepts that abstract away from the literal context under examination. With this approach, the software developer transforms into a specification developer. It is too early to say where this will lead, however, not least because the problems afflicting GenAI systems will not be overcome until the statistical approach is coupled with the symbolic one. The need to review AI-generated code in order to be confident it can be trusted therefore remains, at least until that integration occurs — and no one can reliably say when that will be. Which means that graduates in informatics and informatics engineering will always be in high demand — but that is a separate conversation.

And then there is the ever-present elephant in the room when it comes to informatics systems: security.

The Veracode October 2025 report on the security of GenAI-generated code reveals that 45% of it contains at least one of the ten most critical vulnerabilities identified by OWASP (Open Worldwide Application Security Project). For Java programs the situation is even worse. This sheds light on another important point: since GenAI tools have been trained on all existing code, and Java systems contain — for partly historical reasons — far more vulnerabilities than those written in other languages, the code that GenAI generates for this language is correspondingly more flawed.

Finally, the most damaging effect of all: the decline in hiring for entry-level software development roles. Because companies believed GenAI could handle junior-level tasks, hiring for these profiles collapsed. In 2024, the 15 largest Silicon Valley companies hired 25% fewer people for positions requiring less than one year of experience, while the reduction at start-ups was 11%. In its wake, we will likely also see a decline in enrolments in university degree programmes and upper secondary school diploma courses centred on informatics.

A suicidal choice, at every level. If companies do not hire inexperienced young people, they will never be able to develop experienced leaders. If young people do not learn to develop informatics systems with their own minds, they will never be able to manage those developed by GenAI.

Companies that have understood how to use GenAI are deploying it to help people be more effective in their work, freeing them from repetitive, low-level tasks. Those that are blindly relying on GenAI to get rid of new hires or pay them less will be forced to think again — and it will hurt.

The pendulum always swings back. What do you think?

--
The original version (in italian) has been published by "StartMAG" on 16 February 2026.

La grande illusione infranta: l'Intelligenza Artificiale non sostituisce gli sviluppatori di software

di Enrico Nardelli

(english version here)

Anticipo subito - per evitare i soliti commenti frettolosi di chi non legge fino in fondo - che ritengo che gli strumenti basati sull'Intelligenza Artificiale generativa (IAGen, nel seguito) abbiano certamente un'utilità nello sviluppo del software, così come in molti altri settori. Ma dobbiamo essere in grado di distinguere i sogni dalla realtà.

Nel 2023 i capi delle Big Tech dicevano più o meno tutti che l'IAGen avrebbe sostituito la maggior parte degli sviluppatori software entro il 2025. Ancora a marzo 2025 Dario Amodei, il CEO di Anthropic, dichiarava che nel giro di 3-6 mesi l’IAGen avrebbe scritto il 90% del codice.

Si raccontava che il futuro sarebbe stato "agentico", che chi sviluppa software avrebbe avuto colleghi digitali che non dormivano mai e non si lamentavano mai e che, quindi, gli avrebbero sottratto il lavoro.

Il 2024 si era chiuso con ben 152.000 dipendenti del settore licenziati in tutto il mondo, mentre a dicembre 2025 i licenziamenti erano arrivati a 123.000. Il tutto, secondo le dichiarazioni degli stessi capi "per riallinearsi verso un futuro incentrato sull'IA".

È iniziato il 2026 e dei cambiamenti miracolosi dati per certi fino a poco fa non si vede traccia, come avevo anticipato già qualche mese fa. Lì citavo il rapporto Il Divario dell'IA Generativa del progetto NANDA del MIT, uscito a luglio 2025, che aveva registrato come, nonostante 40 miliardi di dollari di investimenti globali, un incredibile 95% dei progetti pilota di IAGen non era riuscito a produrre un ritorno economico misurabile. La maggior parte delle organizzazioni stava vedendo un impatto netto pari a zero sui propri profitti.

Ecco alcuni aggiornamenti che spiegano il perché.

Il rapporto di GitClear di Febbraio 2025 ha esaminato 211 milioni di linee di codice modificate negli archivi a sorgente aperto (open source repository) usati dalle Big Tech osservando che dal 2020 al 2024 si è verificato un incremento percentuale quasi doppio (da 3,05% a 5,67%) della quantità di codice che viene aggiunto e poi cancellato nel giro di due settimane (code churn). È questo un segno che indica una progressiva diminuzione della qualità del software prodotto. L'unico cambiamento tecnologico o organizzativo di una qualche rilevanza che è accaduto nello stesso intervallo di tempo è che la percentuale di sviluppatori che usa strumenti di IAGen è passata dallo zero al 63%. La correlazione non è causazione, certo, ma questa sembra essere una vera e propria "pistola fumante". Non solo, il rapporto ha registrato anche un aumento di blocchi di codice duplicati e una diminuzione del riutilizzo del codice. Anche questi sono segnali di diminuzione della qualità. Uno studio di CodeRabbit di Dicembre 2025 ha rivelato, analizzando 470 richieste di integrazione (pull request) di nuove parti di codice in programmi esistenti sulla piattaforma GitHub (usata da più di 100 milioni di sviluppatori in tutto il mondo per condividere codice informatico e collaborare al suo sviluppo), che il codice prodotto da IAGen crea mediamente 1,7 più problemi del codice prodotto da esseri umani

Stack Overflow, a seguito di un'indagine che ha coinvolto quasi 50.000 sviluppatori in 177 paesi, ha riportato che la percentuale favorevole all'utilizzo di strumenti di IAGen è calata da più del 70% nel 2024 a circa il 60% nel 2025. Il motivo principale di frustrazione nel loro utilizzo, riportato dal 66% degli sviluppatori, è che le soluzioni prodotte dall'IAGen sono "quasi corrette, ma non completamente", il che conduce a sprecare tempo nelle attività di correzione degli errori del codice ottenuto per questa via. Il 69% di loro ha comunque riconosciuto che l'IAGen aumenta la produttività nella scrittura del software. Diverse ricerche svolte nel 2024 hanno evidenziato che tale aumento va dal 10-20% dello sviluppatore senior al 35-40% di uno junior, che è in grado di trarre maggior vantaggio da un ambiente che conosce tutto il software sviluppato nel mondo.

Questi dati sono confermati anche dagli studi condotti dal gruppo di ricerca sulla produttività dell'ingegneria del software di Stanford su più di 100 sviluppatori delle maggiori aziende tecnologiche, che hanno evidenziato come l'aumento di produttività nello sviluppo di software ottenuto dall'uso di strumenti di IAGen sia mediamente tra il 10% e il 20%. Usarli acriticamente per lo sviluppo del software rischia però di essere un errore molto costoso a lungo termine. Infatti, mentre la quantità di codice realizzato aumenta di quasi il 40%, la sua qualità diminuisce, richiedendo tempo aggiuntivo per per essere corretto. E queste sono le conseguenze sul breve periodo. Nel medio o lungo, ovvero in un contesto di manutenzione adattiva di sistemi software che sono in funzione da parecchio tempo, la situazione rischia di essere esplosiva.

Non ci sono ancora risultati in questa direzione, considerato il poco tempo trascorso, ma dagli studi di questo gruppo di Stanford due elementi rilevanti emergono. Il primo è che in assenza di una forte disciplina nel mantenere il software dell'azienda strutturato e organizzato in modo chiaro e pulito i guadagni di produttività si annullano o addirittura si invertono. Il secondo è che i guadagni di produttività sono maggiori per progetti nuovi e di bassa complessità, mentre si affievoliscono notevolmente per progetti maturi e di alta complessità.

Per tutto il 2025 sono state decantate le meraviglie del vibe coding, l'approccio allo sviluppo del software nel quale uno sviluppare interagisce in linguaggio naturale con l'IAGen per "materializzare" un sistema software complesso di cui si descrive la visione generale. Il problema è che questo approccio va bene per fare una demo ma non per sistemi da usare a regime, perché – come un castello di sabbia – non rimane solidamente in piedi col passare del tempo. È il cosiddetto debito tecnico dell'IAGen, cioè i costi futuri che si accumulano quando nello sviluppo del software si approfitta, per sbrigarsi, delle velocità di generazione del codice di IAGen senza stare a fare tanti controlli e verifiche.

Nel corso del 2025 è emerso un approccio (che a livello concettuale era però noto da molto tempo) chiamato “sviluppo guidato dalla specifica” (specification driven development) nel quale lo sviluppatore usa gli strumenti di IAgen a partire di una specifica (cioè di una descrizione di massima del comportamento desiderato dell’intero sistema) da lui definita e via via precisata in modo sempre più dettagliato, anche con il supporto dell’IAgen. In tal modo si supera in qualche modo il maggior problema di questi strumenti, basati sulla statistica e non sulla rappresentazione simbolica, cioè quello di essere in grado di rappresentare concetti che astraggono rispetto al contesto letterale preso in esame. Lo sviluppatore di software si trasforma con quest’approccio in uno sviluppatore di specifiche. È presto per dire però dove si arriverà con questo approccio, anche perché i problemi che affliggono i sistemi di IAgen non verranno superati fino a che l’approccio statistico non sarà accoppiato a quello simbolico. Rimane quindi ancora in piedi, almeno fino a questa integrazione (che nessuno può dire in modo affidabile quando avverrà) la necessità di controllare il codice prodotto per essere sicuri di potersi fidare. Il che implica che di laureati in informatica e ingegneria informatica ci sarà sempre un gran bisogno, ma questo è un altro discorso.

E poi c'è il solito "convitato di pietra" quando si parla di sistemi informatici: la sicurezza.

Il rapporto Veracode di ottobre 2025 sulla sicurezza del codice generato dall'IAGen rivela che il 45% di questo contiene almeno una delle 10 vulnerabilità più importanti secondo l'OWASP (Open Worldwide Application Security Project = Progetto per la sicurezza mondiale delle applicazioni open source, gestito dall'omonima fondazione no-profit). Per i programmi scritti in Java la situazione è ancora peggiore. Questo getta luce su un altro elemento importante: dal momento che gli strumenti IAGen sono stati addestrati su tutto il codice esistente, e i sistemi in Java contengono, per ragioni anche storiche, molte più vulnerabilità di quelli in altri linguaggi, i programmi che vengono generati dall'IAGen per questo linguaggio sono più difettosi.

Infine l'effetto più dannoso: la diminuzione delle assunzioni nelle posizioni iniziali dello sviluppo software. Siccome le aziende pensavano che l'IAGen potesse gestire compiti di livello junior, le assunzioni per questi profili sono crollate. Nel 2024 le 15 maggiori aziende della Silicon Valley hanno assunto il 25% in meno nelle posizioni con meno di un anno di esperienza, mentre la riduzione è stata dell'11% nelle start-up. A seguire, vedremo probabilmente anche una diminuzione delle iscrizioni ai corsi di laurea universitari e ai corsi di diploma di scuola secondaria superiore centrati sull'informatica.

Una scelta suicida, a tutti i livelli. Se le aziende non assumono giovani inesperti, non saranno mai in grado di formare leader esperti. Se i giovani non imparano a sviluppare sistemi informatici con la propria testa, non saranno mai in grado di gestire quelli sviluppati dall'IAGen.

Le aziende che hanno capito come usare l’IAGen la stanno mettendo in gioco per aiutare le persone a essere più efficaci nel loro lavoro, liberandole da compiti ripetitivi e di basso livello. Quelle che si stanno affidando ciecamente all’IAGen per liberarsi di neo-assunti o pagarli di meno, saranno costrette a ricredersi dolorosamente.

Il pendolo torna sempre indietro. E voi che ne pensate?

--
Versione originale pubblicata su "StartMAG" il 2 marzo 2026.

Four reasons to scale back expectations for generative Artificial Intelligence

by Enrico Nardelli

(versione italiana qua)

«Artificial Intelligence (AI) is going to reproduce human intelligence. AI will eliminate disease. AI is the single biggest, most important invention in human history. You've likely heard it all—but probably none of these things are true».

This is the opening of a special issue titled Hype Correction, subtitled It's time to reset expectations, published in December 2025 by the Technology Review of the Massachusetts Institute of Technology (MIT), one of the most authoritative sources on scientific and technological research in the United States and worldwide.

I had anticipated back in April 2025 that things were heading in this direction, a trajectory now confirmed by the analysis of such a prestigious publication.

You certainly remember how the launch of ChatGPT-3.5 (Generative Pre-trained Transformer) at the end of 2022 captured the world's attention, prompting both private and public entities worldwide to invest heavily in the LLM (Large Language Model) technology that underpins Generative AI (GenAI) systems. Many believed this was the path toward achieving Artificial General Intelligence (AGI), an intelligence similar to human intelligence but even more powerful, versatile, and tireless, which would free us from labor and find solutions to all our problems. However, after three years of continuous promises, the launch of ChatGPT-5 in August 2025 – perceived as merely incremental rather than revolutionary – began to make the exaggeration behind that vision increasingly evident.

In October 2025, I pointed out the first signs of a course correction already underway.

Summarizing what has emerged from various reports and studies conducted in 2025, there are four key elements that explain the current state of affairs.

1. LLM-based systems are not the path to AGI. This has been stated, among others, by Yann LeCun, who served as Meta’s chief scientist until November 2025 and left the company precisely because he disagreed with its continued insistence on LLMs. Ilya Sutskever, former Chief Scientist and co-founder of OpenAI (the company behind ChatGPT), has observed that LLMs' ability to generalize – that is, to extract general principles and apply lessons learned during training to new situations – is far more limited than that of human beings. In January 2026, The Atlantic (one of the oldest and most prestigious magazines in the US) published an article declaring "Large language models don't ‘learn’ – they copy," based on work by researchers from Stanford and Yale, who succeeded in getting four of the most widely used GenAI systems to reproduce nearly entire books or very large portions of them. A scientific review by researchers from Caltech and Stanford, published in January 2026, highlighted how even the most recent models, even those presented as "capable of reasoning," actually have significant problems reasoning correctly.
2. GenAI systems remain prone to hallucinations (i.e., making things up) at a rate estimated between 15% and 25% — an unacceptable level for most consequential decisions and interactions, in both personal and professional life. This is especially troubling because, unlike a human being, these systems are incapable of self-correcting through experience. Any ordinary worker may make mistakes at first but usually learns and improves. This does not and cannot happen with GenAI systems, precisely because they are based on an essentially statistical learning of language, namely on how frequently words appear near one another, and they lack causal reasoning capabilities. The special issue cited at the beginning observes how surprising it is that this approach managed to create artificial systems that produce human-like expressions when prompted with any question, but the fact that we perceive them as intelligent is our own projection. See my first two articles on the subject from March 2023 and April 2023.
3. For routine tasks, GenAI systems can outperform the average person, but because they fail to deliver expert-level performance reliably in real-world contexts, they have not managed to drive meaningful productivity gains at the enterprise level. We were misled when we saw successive versions of these systems pass professional qualification exams, but it later became clear that such performance was largely due to having “memorized” all available test materials in those fields rather than to any genuine understanding of their core concepts. In the words of Andrej Karpathy (inventor of the popular term vibe coding, which we will return to in a future article), these are "versatile but shallow and error-prone" tools capable of helping ordinary people accomplish things they would otherwise need an expert for (such as getting the gist of a legal or medical document), but not easily integrated into a productive workflow.
4. Certainly, the majority of people now use GenAI systems daily, both personally and professionally, but in most cases they do so free of charge, given that at least a dozen companies make them available. The upshot is that, after a cumulative $600 billion in investment between 2021 and 2025, there is still no viable business model — and this is prompting investors to rethink their positions. It is no coincidence that talk of a bubble began circulating in 2025, including from prominent industry figures such as Sundar Pichai, CEO of Alphabet (Google's parent company), in November of that year. Daron Acemoglu, 2024 Nobel laureate in Economics, analyzed the influence of the entire AI sector on the US economy through 2035 and concluded that only about 5% of tasks will be effectively performed by AI, and GDP will increase by only 1.1% to 1.8%. One capability still lacking is the ability, given a specific work situation, to reliably provide context-dependent information to solve emerging problems. Indeed, in January 2026, a Washington Post article reported that «economic data shows the technology largely has not replaced workers», and the Remote Labor Index analysis, conducted jointly by the Center for AI Safety and Scale AI, confirmed Acemoglu's predictions for now: on average, only 2.5% of jobs posted on a platform offering paid tasks to independent workers were successfully completed by leading GenAI systems. Additionally, also in January 2026, a survey by Apollo Global Management (one of the world's largest investment management firms) of CFOs (Chief Financial Officers) showed that the majority of them in 2025 «are seeing no impact from AI on labor productivity, decision-making speed, customer satisfaction or time spent on high value-added tasks».

None of this means GenAI tools are useless — far from it. They do augment our cognitive capabilities, provided we scrutinize their outputs carefully. They are extremely useful for carrying out routine tasks in areas we already master (so that we can correct any mistakes). A very recent example is their use as evaluators of the scientific rigor of theoretical computer science papers, which according to 81% of authors helped increase clarity and readability. They will certainly continue to improve, although to achieve major leaps in quality, it will be necessary to integrate them with systems based on a symbolic approach, and it is far from clear when this will happen.

There is still a long road ahead. What do you think?

--
The original version (in italian) has been published by "StartMAG" on 16 February 2026.

Quattro motivi per ridimensionare le aspettative sull'Intelligenza Artificiale generativa

di Enrico Nardelli

(english version here)

«L'intelligenza artificiale (IA) riprodurrà l'intelligenza umana. L'IA sconfiggerà le malattie. L'IA è la più grande e più importante invenzione nella storia dell'umanità. Lo avete sentito ripetere mille volte – ma probabilmente nulla di tutto ciò è vero».

Inizia così il numero speciale intitolato Hype Correction, con sottotitolo It’s time to reset expectations, pubblicato a dicembre 2025 dalla Rivista di Tecnologia del Massachussets Institute of Technology (MIT), una delle fonti più attendibili della ricerca scientifica e tecnologica degli Stati Uniti e del mondo.

Avevo anticipato ad aprile 2025 che la situazione si stava evolvendo in tal modo, consistente con quest’analisi di una pubblicazione così autorevole.

Ricordate certamente come il lancio di ChatGPT-3.5 (Generative Pre-trained Transformer) alla fine del 2022 abbia catalizzato l’attenzione generale, spingendo in tutto il mondo sia soggetti privati che pubblici a investire pesantemente nella tecnologia degli LLM (Large Language Model = modelli linguistici di grandi dimensioni) che è alla base dei sistemi di Intelligenza Artificiale generativa (IAgen). Molti pensavano che fosse la strada per arrivare a un’intelligenza artificiale di natura generale (AGI = Artificial General Intelligence), simile a quella dell’uomo e ancora più potente, più versatile e infaticabile, che ci avrebbe liberato dal lavoro e trovato la soluzione a tutti i problemi. Però, dopo tre anni di continue promesse, il lancio di ChatGPT-5, avvenuto ad agosto 2025 e percepito come un semplice miglioramento incrementale e non certo rivoluzionario, aveva iniziato a rendere evidente l’esagerazione che c’era in tale visione.

A ottobre 2025 avevo indicato i primi segnali che mostravano la correzione di rotta in atto.

Sintetizzando adesso ciò che è emerso da diversi rapporti e studi realizzati nel 2025, vi sono quattro importanti elementi che spiegano il perché della situazione attuale.

1. I sistemi basati sui LLM non sono la strada per arrivare all’AGI. Questo è stato dichiarato, tra gli altri, da Yann LeCun, che è stato fino a novembre 2025 il capo scienziato di Meta, da lui abbandonata proprio perché in disaccordo sull’insistere con gli LLM. Ilya Sutskever, già scienziato capo e co-fondatore di OpenAI (la società che ha realizzato ChatGPT) ha osservato che le capacità degli LLM di generalizzare (cioè di estrarre princìpi generali) e quindi applicare a situazioni diverse quanto appreso durante il loro addestramento sono molto più limitate di quelle degli esseri umani. A gennaio 2026 la rivista The Atlantic (una delle riviste più antiche e prestigiose degli USA) ha pubblicato un articolo che dichiara «I modelli linguistici di grandi dimensioni non “apprendono” – copiano», basandosi su un lavoro svolto da ricercatori di Stanford e Yale, che sono riusciti a far produrre a quattro tra i più usati sistemi di IAgen quasi l’intero testo o porzioni vastissime di molti libri. Una rassegna scientifica svolta da ricercatori di Caltech e Stanford, pubblicata a gennaio 2026, ha evidenziato come anche i più recenti modelli, perfino quelli presentati come “capaci di ragionamento” abbiano in realtà grossi problemi nel ragionare in modo corretto.
2. I sistemi di IAgen tendono ancora ad essere soggetti ad allucinazioni (cioè, inventare cose che non esistono) in una misura valutata tra il 15% e il 25%, ovvero un livello inaccettabile nella maggior parte delle azioni e interazioni importanti sia nella vita privata che produttiva, soprattutto perché tali sistemi non sono in grado di auto-correggersi con l’esperienza, diversamente da una persona. Qualunque normale lavoratore può sbagliare all’inizio, ma poi, normalmente, impara e migliora. Questo non accade e non può accadere con i sistemi di IAgen, proprio in ragione del fatto che sono basati su un apprendimento essenzialmente di natura statistica del linguaggio, cioè relativo alla frequenza con cui le parole appaiono più o meno vicine e non hanno capacità di ragionamento causale. Il numero speciale citato in apertura osserva come sia sorprendente che quest’approccio sia riuscito a realizzare sistemi artificiali che producono espressioni simili a quelle degli esseri umani quando stimolate con una qualunque domanda, ma il fatto che li percepiamo come intelligenti è una nostra proiezione. Si vedano in proposito i miei primi due articoli sul tema a marzo 2023 e ad aprile 2023.
3. Per compiti normali i sistemi di IAgen possono essere più efficaci della persona media, ma poiché non raggiungono prestazioni da esperti in modo affidabile in contesti reali non riescono ad essere davvero efficaci per aumentare la produttività a livello aziendale. Su questo ci siamo illusi quando abbiamo visto che le successive versioni di tali sistemi erano in grado di superare gli esami per accedere a professioni complicate, ma poi si è capito che queste prestazioni erano dovute semplicemente all’aver “memorizzato” tutti i test disponibili per le relative discipline, più che a una reale comprensione dei loro concetti fondamentali. Nelle parole di Andrea Karpathy (inventore del popolarissimo termine vibe coding, su cui ritorneremo in un prossimo articolo) si tratta di strumenti «versatili ma di scarsa profondità e soggetti a errori», che quindi possono mettere la persona media in grado di fare cose per le quali sarebbe altrimenti costretta a ricorrere a un esperto (ad esempio, capire il significato di massima di un documento legale o medico), ma che non possono essere così facilmente integrati in un contesto produttivo.
4. Certamente la maggioranza delle persone usa ormai quotidianamente i sistemi di IAgen, sia a livello personale che professionale, ma nella maggior parte dei casi lo fa gratuitamente, dal momento che ci sono almeno una decina di aziende diverse che li rendono disponibili. Il risultato è che, dopo 600 miliardi di dollari complessivamente investiti dal 2021 al 2025, non c’è ancora un modello di business e questo sta facendo riconsiderare agli investitori le loro scelte. Non a caso, nel 2025 si è cominciato a parlare di bolla, anche da parte di autorevoli leader del settore, come Sundar Pichai, il CEO di Alphabet (la casa madre di Google) a novembre di quell’anno. Daron Acemoglou, premio Nobel per l’economia nel 2024, ha analizzato l’influenza di tutto il settore dell’IA sull’economia USA fino al 2035 e ha concluso che solo circa il 5% dei compiti verrà eseguito in modo efficace dall’IA e il PIL aumenterà solo di un valore compreso tra 1,1 e 1,8%. Una caratteristica che ancora manca è la capacità, data una specifica situazione lavorativa, di fornire in modo affidabile informazioni dipendenti dal contesto per risolvere determinati problemi che sono sorti. Proprio a gennaio 2026, un articolo del Washington Post ha riportato che «i dati economici dimostrano che la tecnologia in gran parte non ha sostituito i lavoratori» e l’analisi Remote Labor Index, svolta congiuntamente dal Center for AI Safety e da Scale AI, ha confermato per il momento le previsioni di Acemoglou: infatti mediamente solo il 2,5% dei lavori proposti su una piattaforma che offre a lavoratori in proprio compiti a pagamento è stato completato con successo dai migliori sistemi di IAgen. In aggiunta, sempre a gennaio 2026, un’indagine della società Apollo Global Management (una delle più grandi al mondo nella gestione di investimenti) sui CFO (Chief Financial Officer = Direttore Finanziario), ha mostrato che la maggioranza di loro nel 2025 «non ha visto alcun impatto sulla produttività del lavoro, velocità nel prendere decisioni, soddisfazione della clientela, tempo speso su compiti ad alto valore aggiunto».

Tutto questo non vuol dire che gli strumenti di IAgen siano inutili, tutt’altro. Potenziano le nostre capacità in ambito cognitivo, purché scrutiniamo con attenzione ciò che producono. Sono utilissimi per svolgere compiti di routine in settori che padroneggiamo (così da poter correggere gli eventuali errori): un recentissimo esempio è l’impiego come valutatori del rigore scientifico di articoli di informatica teorica, che secondo l’81% degli autori ha contribuito ad aumentare chiarezza e leggibilità. Certamente continueranno a migliorare, anche se per avere salti di qualità importanti sarà necessario integrarli con sistemi basati su un approccio simbolico e non è per niente chiaro quando questo accadrà.

La strada quindi è ancora lunga. Voi che ne pensate?

--
Versione originale pubblicata su "StartMAG" il 16 febbraio 2026.