Mi sembra che stia accadendo qualcosa di curioso nel nostro rapporto con l’intelligenza artificiale. Più questi strumenti diventano efficaci, più tendiamo a fidarci delle loro risposte. Fin qui nulla di strano. Il problema nasce quando la fiducia si trasforma progressivamente in qualcosa di diverso: una sorta di fede nell’IA, nella sua capacità di sapere, spiegare e giudicare praticamente tutto.
Non è difficile capire perché. Interroghiamo ChatGPT, Gemini o altri sistemi su questioni anche molto complesse e riceviamo risposte immediate, ben costruite e spesso corrette. Dopo un po’ smettiamo persino di chiederci da dove arrivino quelle informazioni. La risposta diventa essa stessa la fonte. E quando qualcosa non ci convince, magari chiediamo alla stessa intelligenza artificiale di verificare quello che ci ha appena detto. Come se fosse sufficiente interrogare nuovamente l’oracolo per ottenere una conferma indipendente.
Me ne accorgo anche in una situazione molto più quotidiana. Ogni tanto, parlando con mia figlia, mi rendo conto che il livello di fiducia che ripone nelle risposte di ChatGPT è persino superiore a quello che ripone in ciò che le dico io. E la cosa, lo ammetto, mi fa sorridere, ma anche riflettere. Non è tanto una questione di autorità paterna, che peraltro è sempre stata discutibile, quanto del fatto che una risposta prodotta da una macchina sembra talvolta godere di una presunzione di attendibilità che noi esseri umani non abbiamo più. Come se l’assenza apparente di opinioni personali, interessi o pregiudizi rendesse automaticamente quella risposta più oggettiva.
Gli esempi non mancano. Sono ormai diversi i casi in cui alcuni avvocati hanno presentato davanti ai tribunali sentenze inesistenti, generate dall’intelligenza artificiale, senza preoccuparsi di verificarne l’autenticità. E non parliamo di studenti alle prime armi, ma di professionisti che dovrebbero conoscere perfettamente l’importanza delle fonti e della loro attendibilità. Il problema, dunque, non riguarda soltanto gli errori dell’IA, ma soprattutto la nostra disponibilità ad accettarne le risposte senza sottoporle a un controllo critico.
Naturalmente non penso che dovremmo diffidare sistematicamente dell’intelligenza artificiale. Sarebbe una posizione poco ragionevole, oltre che inutile. Io stesso utilizzo quotidianamente questi strumenti e continuo a considerarli una delle innovazioni più straordinarie degli ultimi decenni. Ma proprio utilizzandoli mi rendo conto di quanto sia facile passare dall’assistenza alla delega. Prima deleghiamo alcune operazioni, poi la ricerca delle informazioni e infine, quasi senza accorgercene, anche una parte del nostro giudizio.
La vera novità, forse, non è che le macchine possano sbagliare, ma che possano indurci a rinunciare alla verifica proprio perché funzionano così bene. E questo mi sembra particolarmente significativo per la scuola, l’università e la ricerca, dove il risultato conta, naturalmente, ma dovrebbe contare altrettanto il percorso attraverso il quale ci arriviamo.
Parlare di una nuova religione è evidentemente una provocazione. Ma non del tutto infondata. Abbiamo creato qualcosa che sembra rispondere a ogni domanda, che parla con sicurezza, che dispone di una conoscenza apparentemente illimitata e il cui funzionamento rimane sostanzialmente incomprensibile alla maggior parte delle persone. Non sorprende che si sviluppi una forma di affidamento quasi incondizionato.
Eppure, tra fidarsi di uno strumento e credere in uno strumento c’è una differenza enorme. La fiducia dovrebbe poter essere messa alla prova. La fede, per sua natura, può sopravvivere anche alla mancanza di prove.
Il rischio, insomma, non è tanto che l’intelligenza artificiale diventi una nuova divinità. È che siamo noi a trasformarla in un oracolo, dimenticando che il pensiero critico non consiste semplicemente nel trovare risposte, ma anche e soprattutto nel saperle mettere in discussione.
E forse il vero paradosso è proprio questo: abbiamo costruito uno strumento straordinario per ampliare le nostre capacità intellettuali, ma rischiamo di utilizzarlo per esercitarle sempre meno.