Intelligenza Artificiale a scuola: un framework aperto per progettare e valutare l'IA educativa
Il 29 giugno il Consiglio UE ha adottato il Digital Omnibus, posticipando al 2027-2028 gli obblighi più onerosi sui sistemi di intelligenza artificiale ad alto rischio. Il rinvio non tocca i divieti in vigore né gli obblighi di trasparenza, e non tocca la responsabilità delle scuole. Quando un istituto scolastico introduce l'IA nella didattica, la prima domanda non dovrebbe essere quale piattaforma acquistare, ma quale problema educativo intenda risolvere.
La protezione dei dati offre un metodo. Il GDPR richiede che le finalità del trattamento siano definite prima della raccolta e che siano usati solo i dati necessari. Con l'IA a scuola dovrebbe valere una disciplina analoga: prima di esporre studenti e docenti a un sistema, occorre definire e documentare il beneficio educativo atteso.
"Personalizzare l'apprendimento" o "innovare la didattica" non sono finalità verificabili. Una scuola dovrebbe indicare se intende ridurre un ostacolo di accessibilità, migliorare la comprensione di un testo o sostenere l'autoregolazione nello studio, con una situazione di partenza, indicatori osservabili e un termine per valutare il risultato. Senza questa catena logica non si può giudicare se i dati richiesti siano necessari, se il rischio sia proporzionato o se esista un'alternativa meno invasiva.
Il recente intervento del Garante sugli istituti salesiani mostra la concretezza del problema. L'Autorità ha chiesto quali valutazioni fossero state svolte prima dell'avvio, quali dati venissero trattati, quali fornitori fossero coinvolti e se fosse stata effettuata una valutazione d'impatto. Ma per rispondere in modo sostanziale bisogna spiegare quale beneficio giustifichi quel trattamento.
Una scheda di pre-adozione potrebbe precedere la scelta dello strumento e affiancare la DPIA. Dovrebbe rispondere almeno a cinque domande:
- Quale problema deve risolvere l'IA?
- Quale miglioramento misurabile ci si attende?
- Quali dati sono indispensabili, dove transitano e per quanto tempo sono conservati?
- Esiste una soluzione meno invasiva, anche non basata sull'IA?
- Quali risultati o criticità determineranno prosecuzione, modifica o interruzione del progetto?
Per Data Protection Officer e consulenti privacy il vantaggio è immediato: il metodo li coinvolge a monte, quando si definiscono le condizioni per adottare l'IA, anziché alla verifica di una tecnologia già scelta.
Non spetta al DPO stabilire l'obiettivo pedagogico, ma aiutare l'istituto a tradurlo in finalità del trattamento, dati necessari, alternative, garanzie e criteri di interruzione.
La protezione dei dati diventa così parte della progettazione, evitando che la valutazione d’impatto (DPIA) giustifichi a posteriori una decisione già presa. E costringe il fornitore a dimostrare il rapporto tra funzioni offerte, dati richiesti e risultato educativo promesso. Non basta che il sistema produca risposte corrette: occorre osservare il processo con cui lo studente vi arriva.
È il principio su cui sto sviluppando un framework aperto per progettare e valutare l'IA educativa, in open science con licenza Creative Commons Attribution 4.0 (CC BY 4.0): può essere condiviso, adattato e implementato liberamente su architetture differenti, con il solo obbligo di citare l'autore. Il framework rende osservabili l'obiettivo didattico, l'intervento dell'IA, le evidenze prodotte dallo studente e gli effetti sulla sua autonomia cognitiva: rende cioè il beneficio documentabile, non asserito - lo stesso principio di responsabilizzazione che il GDPR chiede per i dati.
L'apertura del modello non è solo una scelta distributiva. Ad avviso di chi scrive, i criteri per stabilire se un sistema è efficace e cognitivamente sicuro non dovrebbero definirli i produttori, né essere reinventati da ogni istituto: dovrebbero emergere da un confronto pubblico e multidisciplinare, promosso a livello europeo.
Così come la privacy by design incorpora la protezione dei dati fin dalla progettazione, nella scuola dovrebbe affiancarsi una “cognitive safety by design”: sistemi pensati fin dall'origine non solo per proteggere i dati degli studenti, ma per evitare che l'IA sostituisca il loro ragionamento, ne riduca l'autonomia o trasformi il supporto in dipendenza.
Il framework e la documentazione sono in accesso aperto. È pubblicato per essere letto, criticato, sperimentato e migliorato: la valutazione dell'IA educativa dovrebbe diventare un metodo pubblico e verificabile, non una promessa affidata a chi fornisce la tecnologia.
