Quando l’IA risponde, chi è responsabile?

Devi preparare una ricerca per la scuola. Scrivi una domanda a un sistema di intelligenza artificiale e, in pochi secondi, ricevi una risposta ordinata: titoli, spiegazioni, perfino alcune fonti da consultare. Ti aiuta a cominciare. Poi incontri un’affermazione che non ti convince. Che cosa fai? La copi perché suona autorevole, oppure cerchi di capire se è vera?

Nel terzo capitolo di Magnifica humanitas, papa Leone XIV affronta l’intelligenza artificiale partendo proprio dalla vita di ogni giorno. Riconosce che questi strumenti possono essere un aiuto prezioso. Possono elaborare informazioni, sostenere il lavoro delle persone e aprire possibilità in molti campi. La loro rapidità, però, pone una domanda: quali capacità stiamo coltivando mentre li usiamo?

Quando una risposta arriva senza fatica, possiamo essere tentati di fermarci al risultato. Studiare, invece, significa anche formulare domande, confrontare le fonti, accorgersi di un errore, cambiare idea. L’IA può aiutarci in questo percorso se la usiamo per esplorare un argomento o chiarire un passaggio difficile. Se le affidiamo l’intero percorso, rischiamo di perdere proprio l’occasione di imparare.

Leone XIV ci chiede di distinguere l’intelligenza artificiale dall’intelligenza umana. Un sistema può trattare enormi quantità di dati, trovare regolarità e produrre un testo convincente. Una persona, invece, conosce anche attraverso il corpo, le relazioni e la propria storia. Può comprendere che cosa significhi aver ferito un amico, assumersi la responsabilità di una scelta, chiedere perdono. Per il Papa, l’IA non possiede una coscienza morale e non porta il peso delle conseguenze di ciò che suggerisce (n. 99). Se nella tua ricerca compare un’informazione falsa, sei tu a poterla verificare e correggere.

La questione diventa ancora più delicata quando un sistema sembra parlare come una persona. Può rispondere con gentilezza, offrire consigli e trovare parole che danno sollievo. Leone XIV prende sul serio questa esperienza, soprattutto per chi attraversa un momento di solitudine. Ci invita però a custodire il desiderio di cercare relazioni vere: quelle in cui qualcuno ci conosce, ci ascolta nella concretezza della nostra vita e rimane accanto a noi.

Fin qui abbiamo parlato di ciò che possiamo scegliere come utenti. L’enciclica allarga poi lo sguardo a chi progetta e governa questi sistemi. L’IA viene usata anche per ordinare informazioni, selezionare candidature e contribuire a decisioni che incidono sulle opportunità delle persone. In questi casi occorre sapere quali criteri guidano una scelta, chi può verificarla e a chi rivolgersi quando produce un’ingiustizia. Il Papa usa una parola inglese, accountability: significa che qualcuno deve poter rendere conto delle decisioni, correggere gli errori e rispondere dei danni (n. 105). Una decisione non diventa giusta soltanto perché è stata affidata a un algoritmo.

C’è anche una responsabilità più ampia. I grandi sistemi di IA richiedono risorse, energia e acqua. I dati e le capacità necessarie per svilupparli sono concentrati nelle mani di pochi soggetti. Per questo Leone XIV riprende i principi della Dottrina sociale incontrati nell’articolo precedente: dignità della persona, bene comune, solidarietà e giustizia diventano domande concrete da rivolgere anche alla tecnologia. Chi ne riceve i benefici? Chi ne sostiene i costi? Chi può partecipare alle decisioni?

Il Papa ci offre infine una misura sorprendentemente semplice del progresso: una civiltà cresce nella capacità di prendersi cura delle persone. Pensiamo a un educatore che usa uno strumento digitale per organizzare meglio un’attività e trovare più tempo per ascoltare i ragazzi. In quel caso la tecnologia sostiene una relazione. Se invece l’organizzazione diventa impeccabile mentre nessuno si accorge di chi è rimasto solo, abbiamo bisogno di rivedere le nostre scelte.

Torniamo alla ricerca da cui siamo partiti. Possiamo usare l’IA per prepararci domande migliori, cercare piste da approfondire e lavorare con più attenzione. Poi tocca a noi leggere, verificare, comprendere e decidere che cosa dire. È un piccolo esercizio di discernimento: imparare a usare uno strumento potente continuando a crescere nella nostra umanità.

Quale parte del mio pensiero sto allenando quando uso l’IA? E quale parte, senza accorgermene, sto smettendo di esercitare?
---
Per leggere il testo: Leone XIV, Magnifica humanitas, nn. 90–114. I nn. 97–100 distinguono l’intelligenza umana dall’IA e ne esaminano l’uso personale; i nn. 101–111 affrontano le responsabilità sociali e politiche; i nn. 112–114 tornano alla domanda su ciò che rende umana la nostra vita.