VITERBO – L’intelligenza artificiale può sbagliare anche quando risponde con sicurezza. Eppure basta una spiegazione ordinata, un tono convincente e qualche dettaglio preciso per farci abbassare la guardia. La fiducia nei chatbot nasce anche dalla questa facilità con cui scambiamo una risposta ben scritta per una risposta verificata. Chi usa questi strumenti per lavorare conosce il vantaggio: una bozza pronta, un documento riassunto, un passaggio difficile spiegato in pochi secondi. Il problema nasce quando la comodità prende il posto del controllo. L’IA ha già imparato una specialità molto umana: avere torto con un’ottima impaginazione.

Perché l’IA inventa informazioni I modelli linguistici generano testi sulla base di regolarità apprese durante l’addestramento e delle informazioni disponibili nel contesto. La produzione di una frase plausibile, però, non garantisce che il suo contenuto sia vero. Anche un sistema collegato al web può interpretare male una fonte o attribuirle qualcosa che non dice. Questi errori vengono spesso chiamati “allucinazioni”: nomi, date, citazioni o riferimenti inesistenti presentati come attendibili. Il NIST, l’istituto statunitense che si occupa di standard e tecnologia, include questo fenomeno tra i rischi dell’IA generativa. A renderlo insidioso è la possibilità che l’errore arrivi accompagnato da spiegazioni e riferimenti apparentemente credibili. Una citazione tra virgolette può sembrare una prova, ma occorre ritrovarla nel documento originale. Un collegamento può esistere senza confermare la frase che dovrebbe sostenere. La presenza di una fonte e la sua pertinenza sono due controlli distinti.

Cosa sappiamo sulla fiducia nei chatbot Una ricerca di Microsoft Research e Carnegie Mellon University, presentata alla conferenza CHI 2025, ha raccolto le esperienze di 319 lavoratori che usano l’IA generativa. Una maggiore fiducia nello strumento risultava associata a un minore esercizio del pensiero critico dichiarato dai partecipanti. Il limite va chiarito: si tratta di un’indagine basata su esperienze riferite, non della dimostrazione che usare un chatbot riduca l’intelligenza. Lo studio segnala piuttosto come possa cambiare l’impegno richiesto: meno tempo nella produzione, più attenzione alla verifica e all’inserimento dei risultati nel proprio lavoro. È un passaggio concreto. Se chiediamo il riassunto di una relazione, dobbiamo controllare che conservi le cautele dell’autore. Trasformare “potrebbe accadere” in “accadrà” richiede poche lettere, ma cambia il senso della notizia.

Come verificare le risposte dell’intelligenza artificiale Prima di utilizzare un risultato, conviene individuare gli elementi controllabili: cifre, nomi, date e affermazioni attribuite a qualcuno. Poi bisogna aprire le fonti originali, verificarne l’aggiornamento e confrontarle con ciò che il sistema ha scritto. Chiedere al chatbot “sei sicuro?” può aiutare a far emergere un dubbio, ma non costituisce una verifica indipendente. Sarebbe come chiedere all’oste se il vino è buono. La domanda da fare, allora, è un’altra: “Come posso controllarlo?”. Qui comincia il lavoro di chi usa l’intelligenza artificiale: risalire ai documenti, confrontare le informazioni, riconoscere ciò che resta incerto. Una risposta merita fiducia quando regge alla verifica.

Alessia Latini