Si impara da chi merita fiducia. Anche dall’AI?

di Francesco Casetti, Yale University

Autore: Francesco Casetti, Sterling Professor of Humanities and Film and Media Studies, Yale University

Strumento di cura e insieme fonte d’ansia: l’Intelligenza Artificiale rispecchia una società in cui sollievo e angoscia si scambiano le parti. In un contesto educativo, dove si impara soltanto da chi è degno di fiducia, questa ambiguità pesa doppio: rischia di tagliare fuori docenti e relazioni a favore di agenti tecnologici. Francesco Casetti (Yale) chiede alle aziende un’AI che pretenda meno e si dichiari di più: meno arrogante, più trasparente.

Il rapido successo dell’Intelligenza Artificiale è stato accompagnato da due atteggiamenti contrapposti. Per un verso questo successo ha favorito il crescere di grandi aspettative; l’AI è stata vista come qualcosa in grado di semplificare le nostre vite, di alleviarne i pesi, e di offrirci motivi di comfort. Del resto, la maggioranza delle applicazioni usate dal pubblico promettono proprio questo: di assisterci nell’esecuzione dei nostri doveri, di risolvere le situazioni di crisi, e di farci sentire meno soli. I vecchi media promettevano qualcosa di diverso; essi favorivano forme di disciplina (penso al cinema e alla trasformazione di una folla inquieta e informe in una audience capace di autoregolarsi) o sviluppavano forme di controllo (penso alla televisione, la cui audience viene immediatamente misurata e seguita, e la cui tecnologia è alla base delle telecamere di controllo). L’AI al contrario cerca di rassicurarci raccogliendo le nostre richieste e fornendoci continue soluzioni; è uno strumento di cura, nel doppio senso di attenzione e sollievo. In questo senso essa è specchio di una società come quella attuale che mette minor enfasi nelle regole e nella sorveglianza e più enfasi invece sul benessere e la sicurezza dei cittadini – appunto, una società della cura, piuttosto che di disciplina e di controllo. Per un altro verso, invece, il successo dell’AI ha favorito il crescere dell’ansia. Come possiamo prendere per buone le sue risposte, visto che essa sembra voler far felici gli utenti piuttosto che dire loro la verità? Come possiamo affidarci a uno strumento che costantemente finge di essere umano, mentre obbedisce a un algoritmo astratto? Come possiamo prendere sul serio le grandi aziende che stanno dietro all’AI, il cui vero interesse è aumentare i profitti? Le “allucinazioni” dell’AI, i suoi “agenti”, e i suoi creatori spesso appaiono motivi di imbarazzo piuttosto che di orgoglio. Del resto, si assiste chi è a disagio, non chi sta bene, e dunque non è strano che continue attese di aiuto e permanente senso di delusione vadano assieme. L’AI mischia perfettamente i due stati d’animo: rispecchia una società in cui cura e angoscia si scambiano costantemente le parti.

L’ambiguità dell’AI pesa parecchio quando viene inserita in un contesto educativo. Infatti, essa mette in gioco non solo le diseguaglianze legate alla possibilità o meno di accedere a una tecnologia, ma anche i diversi atteggiamenti da prendere rispetto alla tecnologia stessa. Oltre alle risorse economiche, al livello di literacy, e alle infrastrutture tecniche che consentono a qualcuno di diventare utente di un mezzo di diffusione della conoscenza, l’AI sottolinea anche il ruolo cruciale svolto dalla maniera in cui ci si dispone di fronte a un mezzo, in particolare se si è pronti ad accettarlo e usarlo per il meglio oppure se si diffida di esso e lo si lascia da parte. Questa connessione tra AI e fiducia merita di essere indagata a fondo, anche perché alla fine si riverbera su tutto il processo educativo e le sue componenti. Di chi mi posso fidare? E quanto mi posso fidare? In ogni trasmissione della conoscenza queste domande si affacciano inevitabilmente, al punto da sancire o meno il successo stesso della trasmissione. Senza fiducia reciproca, non c’è vera comunicazione. Se poi in questo scenario si inserisce anche uno strumento come l’AI, le domande si moltiplicano. Chi e come ha istruito ChatGPT o Claude – giusto per fare due esempi? E dunque che tipo di risposta i due modelli mi possono dare? Quando questa risposta mi può essere veramente d’aiuto? Infine, c’è un criterio morale o solo un principio di efficienza che guida l’azione dei due modelli?

L’ambiguità dell’AI si fa già sentire in molte situazioni quotidiane. Penso a coloro che, avendo un problema medico, interrogano un’app prima o dopo una visita del loro dottore, lasciando quest’ultimo basito per questo conflitto di competenze, ma anche se stessi nel dubbio di aver trovato una risposta veramente adatta al proprio caso. Ma penso anche alle app che organizzano una giornata di lavoro o un viaggio di piacere, sollevando l’utente dalla fatica di una pianificazione, ma anche ignorandone le intime ragioni – per cui spesso la giornata apparirà persa, e il viaggio insoddisfacente. In un contesto pedagogico, pensiamo a uno studente che si fa aiutare dall’AI, apparentemente migliorando le proprie prestazioni ma finendo per perdere alcune delle abilità sviluppate in precedenza. O pensiamo a uno studente che controlla online, grazie all’AI, quanto il professore dice, non solo mettendo così in dubbio l’autorevolezza dell’insegnante, ma anche disgiungendo ciò che impara dalla situazione concreta, interpersonale, in cui la trasmissione del sapere avviene, e dunque rendendo questo sapere del tutto astratto, lontano dal vissuto in cui dovrebbe essere calato.

In questi ultimi due casi, ancor più che nei precedenti, la fiducia nel mezzo è cruciale, anche perché si collega a un sistema di autorità come quello dell’AI che rischia di tagliar fuori agenti umani a favore di agenti tecnologici. Tuttavia il compito di un processo educativo è proprio quello di creare fiducia non solo tra gli individui coinvolti, ma anche rispetto ai mezzi impiegati. Insegnare coinvolge contenuti, ma anche relazioni – relazioni interpersonali, e relazioni con gli strumenti che si usano. Ora, la fiducia è eminentemente relazionale: ci si fida di qualcuno che ci sta accanto, e ci si fida di qualcosa che ci aiuta ad agire, al punto di umanizzarlo un po’. È proprio in quanto relazionale che la fiducia permea il processo educativo. Si impara da coloro di cui ci fidiamo, ci si fida di coloro che vogliono imparare, e infine si impara a fidarsi. Il cuore del processo pedagogico sta proprio qui.

Per questo bisognerebbe chiedere all’AI di essere onesta – di pretendere meno, e di dichiararsi di più. Alcune delle aziende high-tech che stanno sviluppando l’AI provano a farlo, attraverso forme di comunicazione meno pretenziose, un’attenzione verso l’opinione pubblica e non solo verso gli investitori, e documenti di sottoscrizione (i cosiddetti Terms of Use) più dettagliati. Altre azioni, come l’intenzione di Anthropic recentemente annunciata di escludere gli utenti che durante le loro conversazioni online con i cosiddetti “agenti” si comportano in modo abusivo e aggressivo, servono sia a rafforzare l’idea che chi ti sta parlando non è un algoritmo, ma una persona che merita rispetto, sia a rafforzare la fiducia nei confronti di chi ti offre un servizio. Ma altro si può ancora fare. Un’AI meno arrogante e più trasparente sarebbe una bellissima notizia.

Temi
Correlati
Studiare non basta: il nodo dell’apprendimento in Africa
Istruzione in Asia: il divario si sposta sulla qualità
Dalla scuola al lavoro: dove nasce il nuovo divario In sintesi:
Tra guerra e innovazione: la frattura educativa del Medio Oriente
In Sud America il luogo in cui nasci decide ancora quanto impari
Non più solo “accesso”: la battaglia globale per la qualità dell’istruzione
Dalla famiglia alla scuola: come si riproduce la disuguaglianza In sintesi: