Un voto può essere recuperato. Un giudizio di un insegnante può cambiare. Una difficoltà in matematica a dodici anni non determina necessariamente ciò che quello stesso ragazzo sarà capace di fare a sedici. La scuola, almeno nella sua funzione educativa più autentica, dovrebbe lasciare sempre aperta la possibilità di cambiare.
Con l’intelligenza artificiale, però, questa certezza rischia di diventare meno solida.
La nuova frontiera dell’AI applicata all’istruzione non riguarda infatti soltanto ChatGPT, i compiti svolti con un chatbot o gli strumenti utilizzati dai docenti per preparare una lezione. Esiste un livello molto più profondo: sistemi capaci di raccogliere continuamente informazioni sugli studenti, analizzare comportamenti, tempi di risposta, errori, progressi e difficoltà, fino a costruire veri e propri profili digitali dell’apprendimento.
È qui che si apre una questione destinata a diventare centrale nei prossimi anni: cosa succede quando un algoritmo non si limita più ad aiutare uno studente, ma comincia a definirlo?
L’articolo pubblicato da Agenda Digitale pone correttamente il problema della profilazione cognitiva: la digitalizzazione permette ormai di osservare non soltanto i risultati scolastici, ma anche il modo in cui uno studente apprende. Una trasformazione potenzialmente utile, ma che introduce rischi nuovi rispetto alla scuola tradizionale.
Dalla pagella al profilo digitale permanente
Per decenni la scuola ha raccolto un numero relativamente limitato di informazioni: voti, assenze, verifiche, giudizi, note disciplinari.
Oggi una piattaforma digitale può registrare molto di più.
Può sapere quanto tempo uno studente impiega per rispondere a una domanda, quante volte ripete un esercizio, quali contenuti abbandona, in quali fasce orarie studia, quali errori commette più frequentemente e quali attività sembrano metterlo maggiormente in difficoltà.
A questi dati possono aggiungersi inferenze prodotte dagli algoritmi.
Ed è proprio la parola inferenza a essere decisiva.
Un sistema di intelligenza artificiale non registra necessariamente soltanto un fatto. Può cercare di interpretarlo.
Uno studente risponde lentamente? Potrebbe essere classificato come poco sicuro.
Commette ripetutamente uno stesso errore? Il sistema potrebbe individuare una debolezza cognitiva.
Interrompe spesso un esercizio? Potrebbe essere considerato poco motivato.
Ma tra un dato osservato e una caratteristica personale esiste una distanza enorme.
Un ragazzo può essere stanco, distratto, preoccupato, avere una giornata negativa oppure semplicemente non aver compreso quella specifica lezione.
L’algoritmo, invece, tende per sua natura a cercare regolarità.
Ed è proprio qui che una fotografia temporanea rischia di trasformarsi in un’identità.
Il vero pericolo non è l’errore dell’AI, ma ciò che accade dopo
Quando discutiamo di intelligenza artificiale, ci concentriamo spesso sull’accuratezza.
Quanto sbaglia l’algoritmo?
È una domanda importante, ma non sufficiente.
Il problema più serio potrebbe infatti verificarsi quando una valutazione algoritmica, corretta o sbagliata che sia, entra stabilmente nei processi decisionali.
Immaginiamo che un sistema classifichi uno studente come appartenente a una categoria di apprendimento “debole”. Successivamente, un’altra piattaforma utilizza quel dato per suggerire esercizi più semplici. Un terzo sistema lo considera nella valutazione del rendimento. Un software di orientamento potrebbe infine suggerire determinati percorsi scolastici anziché altri.
Un’ipotesi algoritmica iniziale rischierebbe così di trasformarsi progressivamente in una profezia che si autoavvera.
Il sistema pensa che uno studente abbia capacità inferiori, gli propone attività meno complesse, lo studente riceve meno stimoli e alla fine i risultati sembrano confermare la previsione iniziale.
Non sarebbe più soltanto personalizzazione dell’apprendimento.
Sarebbe condizionamento dell’apprendimento.
L’AI può personalizzare la scuola, ma anche restringere le possibilità
Sarebbe sbagliato trasformare questa discussione in un processo contro l’intelligenza artificiale.
Le opportunità sono enormi.
Un sistema ben progettato può individuare tempestivamente difficoltà che un docente, con venticinque studenti davanti, potrebbe non cogliere immediatamente. Può proporre esercizi personalizzati, adattare il livello delle attività, aiutare uno studente con bisogni specifici e fornire agli insegnanti informazioni preziose.
Le stesse Linee guida italiane sull’intelligenza artificiale nella scuola riconoscono il potenziale dell’AI nel miglioramento dei processi educativi, organizzativi e di apprendimento, ma insistono sull’adozione responsabile, sulla tutela dei minori e sulla supervisione umana.
Il punto, quindi, non è decidere se utilizzare l’AI.
La domanda corretta è un’altra: quanto potere siamo disposti ad attribuirle?
Un sistema che suggerisce un esercizio è molto diverso da un sistema che determina quale livello scolastico sia appropriato per una persona.
Un software che aiuta il docente a individuare una difficoltà è diverso da quello che assegna automaticamente uno studente a una determinata categoria.
La tecnologia può supportare il giudizio umano.
Non dovrebbe cristallizzarlo.
L’Europa considera alcuni sistemi educativi ad alto rischio
Questa distinzione non è soltanto teorica.
L’AI Act europeo dedica particolare attenzione all’impiego dell’intelligenza artificiale nell’istruzione.
Il regolamento considera ad alto rischio determinati sistemi utilizzati, per esempio, per decidere l’accesso o l’ammissione a percorsi educativi, valutare i risultati dell’apprendimento o determinare il livello di istruzione più appropriato per una persona.
La motivazione è significativa: queste tecnologie possono incidere direttamente sul percorso educativo e professionale di un individuo e, conseguentemente, sulle sue future opportunità.
C’è poi un elemento ancora più rilevante.
L’AI Act stabilisce che un sistema ricompreso nelle categorie dell’Allegato III che effettua profilazione delle persone deve essere considerato ad alto rischio.
Non è un dettaglio giuridico.
È il riconoscimento normativo di un principio fondamentale: classificare una persona attraverso un algoritmo può avere conseguenze molto più profonde rispetto all’esecuzione di una semplice attività automatizzata.
Quando quella persona è un minorenne, la cautela dovrebbe essere ancora maggiore.
I dati degli studenti possono raccontare più di quanto immaginiamo
Esiste poi un’altra questione, spesso sottovalutata.
La profilazione può produrre informazioni che lo studente non ha mai fornito direttamente.
Partendo da comportamenti apparentemente banali, un algoritmo potrebbe tentare di inferire caratteristiche personali, fragilità, inclinazioni o condizioni particolari.
Le autorità europee per la protezione dei dati considerano particolarmente delicato il trattamento dei dati dei minori attraverso profilazione e decisioni automatizzate. L’EDPB sottolinea inoltre che anche informazioni sensibili possono essere derivate o inferite attraverso attività di profilazione.
Questo cambia radicalmente il concetto tradizionale di privacy.
La domanda non è più soltanto:
“Quali dati sto fornendo?”
Diventa:
“Quali informazioni su di me può dedurre il sistema partendo dai dati che sto fornendo?”
È una differenza enorme.
Chi corregge un algoritmo quando sbaglia uno studente?
La scuola vive anche di errori.
Un ragazzo può sbagliare una verifica, cambiare metodo di studio, scoprire improvvisamente una materia che fino al giorno prima detestava.
La crescita stessa è una successione di trasformazioni.
Un sistema algoritmico, invece, potrebbe conservare traccia di quelle difficoltà molto più a lungo.
Da qui nasce una questione che dovrebbe diventare centrale nella governance dell’AI scolastica: il diritto a non essere prigionieri del proprio passato digitale.
Un profilo dovrebbe avere una durata?
Dovrebbe essere aggiornato?
Dovrebbe essere cancellato?
Uno studente e la sua famiglia dovrebbero poter conoscere quali caratteristiche vengono attribuite dall’algoritmo?
E soprattutto: dovrebbero poterle contestare?
La risposta dovrebbe essere sì.
Trasparenza, possibilità di rettifica e intervento umano non possono essere elementi accessori quando una tecnologia incide sul percorso educativo di un minorenne.
Il docente non può diventare il terminale dell’algoritmo
Esiste infine un rischio meno evidente ma altrettanto importante: l’automation bias, la tendenza delle persone ad attribuire maggiore credibilità a una valutazione prodotta da una macchina.
Se un software segnala che uno studente è “a rischio”, quanti docenti riusciranno a ignorare completamente quell’indicazione?
Probabilmente pochi.
Anche quando formalmente la decisione finale rimane umana, il suggerimento dell’algoritmo può esercitare un’influenza sostanziale.
La supervisione umana, quindi, non può significare semplicemente mettere una persona alla fine del processo perché prema “conferma”.
Un docente deve comprendere almeno in termini essenziali perché un sistema ha formulato una determinata indicazione, quali dati sono stati utilizzati e quali limiti possiede il modello.
Altrimenti non abbiamo realmente un essere umano che controlla l’intelligenza artificiale.
Abbiamo un essere umano che ratifica ciò che l’intelligenza artificiale ha deciso.
La scuola dell’AI avrà bisogno di una nuova alfabetizzazione
Il tema diventerà ancora più urgente perché l’intelligenza artificiale è già entrata nella vita quotidiana degli studenti.
Una recente indagine citata da Orizzonte Scuola indica che l’89% degli studenti delle superiori utilizza strumenti di intelligenza artificiale nello studio e che una quota consistente lo fa quotidianamente.
Di fronte a questa diffusione, vietare semplicemente l’AI sarebbe irrealistico.
Serve invece una nuova forma di alfabetizzazione.
Gli studenti dovrebbero imparare non soltanto a usare un chatbot, ma a comprendere che dietro un algoritmo esistono dati, criteri di classificazione, probabilità ed errori.
Dovrebbero sapere che un output non è necessariamente una verità.
E dovrebbero imparare una delle competenze più importanti del prossimo decennio: contestare criticamente una decisione algoritmica.
L’AI literacy non riguarda quindi soltanto il modo in cui si scrive un prompt.
Riguarda la capacità di capire quando un sistema tecnologico sta esercitando potere su di noi.
Una scuola che conosce meglio gli studenti non deve imprigionarli nei dati
L’intelligenza artificiale promette una scuola capace di conoscere meglio ogni studente.
È una promessa potente.
Ma proprio per questo richiede una cautela enorme.
Perché esiste una linea sottile tra conoscere uno studente e definirlo.
Tra personalizzare un percorso e predeterminarlo.
Tra individuare una difficoltà e trasformarla in un’etichetta.
La scuola dovrebbe essere probabilmente l’ultimo luogo nel quale permettere a un algoritmo di pronunciare sentenze definitive sulle persone.
Uno studente di dieci, dodici o sedici anni non è la somma dei dati prodotti nell’ultimo semestre. È qualcosa di molto più imprevedibile: una persona che sta ancora cambiando.
Forse la domanda decisiva sull’intelligenza artificiale nella scuola non sarà quindi quanto accuratamente riuscirà a prevedere il futuro di uno studente.
Sarà se saremo ancora capaci di lasciargli il diritto di smentire quella previsione.
