Intelligenza artificiale e scuola: facciamo chiarezza

di Enrico Nardelli

Stiamo osservando una corsa frenetica all’utilizzo degli strumenti di Intelligenza Artificiale (IA) nel mondo della scuola, quando essi presentano ancora alcuni aspetti critici che, soprattutto in questo settore in cui gli interventi sono grado di produrre effetti di lungo periodo, andrebbero invece considerati con estrema attenzione e studiati con tempi maggiormente dilatati. Mi sembra importante evitare che accada qualcosa di simile a quanto avvenuto con l’utilizzo dei dispositivi digitali, introdotti a tappeto nel settore dell’istruzione nel corso degli ultimi vent’anni e per i quali solo recentemente si sta facendo attenzione ai problemi che tale uso eccessivo ha creato. Si veda a tal proposito il documento finale, pubblicato nel giugno 2021, dell’indagine conoscitiva “Sull’impatto del digitale sugli studenti, con particolare riguardo ai processi di apprendimento” svolta dalla Commissione “Istruzione Pubblica e Beni Culturali” del Senato.

Espongo quindi nel seguito qualche elemento utile ad una riflessione più meditata su questo tema.

Prima di iniziare è necessario ricordare che i vari livelli della formazione (primaria, secondaria inferiore, secondaria superiore, terziaria, professionale) hanno esigenze diverse e richiedono approcci diversi. In questo articolo mi concentro quindi sul settore scolastico. Del mondo universitario ne ho parlato qua. Agli studenti di un corso di laurea magistrale, che hanno già competenze di base in un certo settore e le devono approfondire e raffinare, si può, ad esempio, chiedere che esaminino criticamente elaborati prodotti da strumenti dell’IA, come importante esercizio di verifica del loro livello di preparazione. Questo approccio non mi sembra invece così rilevante nel mondo scolastico, dove i discenti stanno ancora formando le loro competenze di base. Per poter criticare bisogna prima di tutto sapere e saper fare.

Bisogna poi distinguere tra i diversi ruoli per la fruizione dell’IA nella scuola: studenti, docenti, personale amministrativo. Le ultime due categorie possono usare questi strumenti per essere aiutati nello svolgimento di attività ripetitive (facendo attenzione agli aspetti relativi alla privacy dei dati ad essi forniti), laddove per gli studenti l’esercizio, anche ripetuto, delle funzioni cognitive non può essere evitato (mediante l’uso di questi strumenti) pena l’inevitabile carenza che ne conseguirebbe per lo sviluppo delle loro competenze. Questo elemento viene troppo spesso dimenticato, laddove un’esperienza educativa plurisecolare ci ricorda che non solo le capacità fisiche ma anche quelle intellettuali hanno necessità di esercizio costante e ripetuto per poter essere sviluppate.

Inoltre, è necessario differenziare tra uso della tecnologia e formazione sui suoi princìpi scientifici: si tratta di una distinzione troppo spesso ignorata. Gli strumenti dell’IA, pur potendo essere enormemente utili nel lavoro cognitivo razionale, cioè quello che a partire da elementi oggettivi consente di produrre nuovi dati logicamente consistenti con quelli di partenza e conseguenti da essi (qualcosa che – più in generale – fanno tutti i sistemi informatici, le “macchine cognitive” di cui ho parlato nel mio libro “La rivoluzione informatica”), hanno dei meccanismi di funzionamento abbastanza complessi che, per poter essere compresi, richiedono di essere introdotti solo in presenza degli adeguati prerequisiti matematici e scientifici che normalmente la scuola non fornisce.

Infatti, in Italia siamo ancora in ritardo sulle competenze scientifiche di base necessarie per poter affrontare con successo la transizione digitale (su questo tema invito a consultare gli atti del convegno svolto il 19 ottobre u.s. presso l’Accademia dei Lincei in tema di insegnamento dell’informatica nella scuola), come raccomandato ad Aprile 2023 della Commissione Europea di aprile 2023, COM(2023) 206 final, che ha esortato tutti gli stati membri a inserire un’istruzione di alta qualità sull’informatica fin dall’inizio dell’istruzione obbligatoria. Il grande pubblico non ha ancora capito cos’è davvero l’informatica, la disciplina scientifica alla base del mondo digitale. L’IA è un settore molto specialistico dell’informatica e se, come per molti altri settori dell’informatica, gli strumenti che esso produce sono utilizzabili anche dall’uomo comune, una comprensione dei suoi meccanismi di funzionamento deve essere basata su conoscenze di base di informatica che al momento le persone comuni non posseggono. Invece, è come se cercassimo di spiegare il calcolo differenziale e integrale a chi non ha mai studiato matematica nella scuola.

Infine, ma non meno importante, bisogna valutare rischi e benefici dell’inserimento degli strumenti dell’IA nella scuola. Essi possono apportare vantaggi, per alcune tipologie di utenti, riducendo la fatica legata ad attività cognitivo-razionali di tipo ripetitivo, ma i possibili vantaggi vanno valutati alla luce anche dei potenziali effetti negativi: riduzione della privacy, diffusione di disinformazioni, generazione di testi scorretti perché basati esclusivamente sulla statistica (le cosiddette allucinazioni – ne ho parlato qua), consumo energetico e relativo impatto ambientale (una query fatta ad uno strumento basato sull’IA ha un costo decine di volte superiore a quello di una query fatta ad un normale motore di ricerca), disumanizzazione del rapporto docente-studente in cui la componente relazionale è un aspetto essenziale.

Gli strumenti di IA possono infatti portare a una maggiore produttività per i docenti, se attraverso di essi riescono a ridurre il tempo dedicato alle attività ripetitive consentendo quindi loro di dedicarsi maggiormente alla cura degli studenti maggiormente bisognosi. Tra queste attività di routine ricordiamo, ad esempio: generazione di testi di esercizi e di esame, generazione di presentazioni a partire da testi (sommarizzazione), generazione di testi a partire da indici fini, fornire spiegazioni a richieste di chiarimenti semplici, etc. Ovviamente, è fondamentale essere sempre consapevoli che hanno dei margini di errore che richiedono di controllare sempre quanto da essi prodotto (e, quindi, di conoscere bene l’argomento che viene trattato) e che la responsabilità ultima è sempre della persona.

In generale, invece, il loro uso non sorvegliato da parte degli studenti per l’attività scolastica è da evitare. Alcuni, ad esempio, hanno suggerito che essi potrebbero usarli a casa per ottenere una prima valutazione dei loro compiti. Un po’ bizzarra, come idea, visto che a questo punto potrebbero poi anche usarli per produrre i compiti stessi! Ma soprattutto, alla luce delle possibili allucinazioni in cui questi strumenti incorrono, sono proprio gli studenti che più hanno bisogno di questa funzione quelli che meno sono in grado di rendersi conto di eventuali errori da essi commessi. Ovviamente gli studenti avranno comunque accesso ad essi attraverso i loro smartphone, e quindi bisognerà resistere a tentazioni proibizionistiche in favore di un’opera di informazione e diffusione di conoscenza, condotta – ad esempio – attraverso l’uso collettivo e la discussione critica nella classe. D’altro canto, è questa probabilmente è una buona notizia, il fatto che attraverso di essi sia possibile a chiunque produrre un testo scritto di buon livello, implicherà un ritorno e una maggiore presenza di rapporti umani diretti e dialogo orale.

Per alcuni indirizzi di scuola, penso in particolare agli istituti tecnici per l’informatica, andranno adeguati i curricoli (e sviluppato il necessario aggiornamento professionale per i docenti) per inserire un’adeguata formazione scientifica e tecnologica su questo settore, che influenzerà in modo significativo il mondo del lavoro nel prossimo futuro. Dato che chi sceglie questo indirizzo tecnico è generalmente orientato a entrare, al suo completamento, direttamente nel mercato del lavoro, è giusto che la preparazione in quest’ambito divenga parte della loro formazione.

Per concludere, sarà fondamentale che gli strumenti di IA usati nel mondo della scuola siano controllati/vigilati dal settore pubblico, onde evitare i rischi connessi a realizzazioni esclusivamente commerciali, che non hanno controlli indipendenti su come sono stati realizzati, con quali dati sono stati addestrati, a quali verifiche di sicurezza sono stati sottoposti, come usano e manipolano i dati forniti, in quali possibili discriminazioni legate al genere o ad altre diversità possono incorrere. Sono tutti aspetti che hanno un elevato impatto sociale e che per questo motivo richiedono il massimo livello di attenzione. Va anche ricordato che si tratta di una tecnologia ancora in fase sperimentale e che ogni nostra interazione con essa è un contributo al suo sviluppo fornito del tutto gratuitamente. Sarebbe accettabile solo per uno strumento posseduto dalla collettività e i cui miglioramenti vanno comunque a vantaggio di tutti.

Circa vent’anni anni dopo l’arrivo delle consolle di videogiochi e quindici anni dopo la diffusione degli smartphone in Italia, la Commissione Parlamentare citata in apertura concludeva la sua indagine con queste parole: «Ci sono i danni fisici ... E ci sono i danni psicologici ... Ma a preoccupare di più è la progressiva perdita di facoltà mentali essenziali, le facoltà che per millenni hanno rappresentato quella che sommariamente chiamiamo intelligenza: la capacità di concentrazione, la memoria, lo spirito critico, l’adattabilità, la capacità dialettica... Sono gli effetti che l’uso, che nella maggior parte dei casi non può che degenerare in abuso, di smartphone e video-giochi produce sui più giovani ». Non vorrei che tra altrettanto tempo una nuova Commisione Parlamentare arrivasse alle stesse (forse più) terribili conclusioni in riferimento all’uso degli strumenti dell’Intelligenza Artificiale.

Il futuro dei nostri figli è troppo importante per sacrificarlo sull’altare della produttività e del progresso tecnologico.

--
Versione originale pubblicata su "StartMAG" il 19 novembre 2023.