Se chiedi a un’intelligenza artificiale se una risposta è corretta, quasi sempre otterrai un’affermazione sicura. L’AI non si ferma a dubitare né dice “forse dovrei controllare”: restituisce una risposta con la stessa fluidità con cui potrebbe produrne una completamente diversa.
Nel 2023, due avvocati newyorkesi lo hanno scoperto nel modo peggiore. Avevano usato ChatGPT per preparare un atto legale e citato sei precedenti giudiziari che lo strumento aveva completamente inventato. Quando i colleghi della controparte non riuscirono a trovare quelle sentenze, gli avvocati chiesero direttamente allo stesso ChatGPT se i casi fossero reali: lo strumento confermò. Il giudice federale sanzionò i legali, sottolineando che nessuno aveva verificato le citazioni con una fonte terza affidabile prima di depositarle in tribunale. Non era un problema di accesso allo strumento sbagliato: chiunque avesse aperto Westlaw o anche solo Google Scholar per un controllo incrociato se ne sarebbe accorto in due minuti.
Il vero collo di bottiglia
Nelle aziende che stanno adottando la GenAI la conversazione si concentra quasi sempre su una abilitazione tecnica: come si scrive un prompt efficace, quali funzionalità attivare o come integrare lo strumento nei flussi di lavoro.
Manca però un pezzo più sottile: sapere quando un output merita fiducia e quando invece va rimesso in discussione. Il concetto ha un nome preciso, in letteratura si chiama “calibrated trust” e non è recente.
Il modello di riferimento è quello proposto nel 2004 dai ricercatori John D. Lee e Katrina See, che per primi hanno individuato due concetti opposti nella fiducia verso un sistema automatico: il sottoutilizzo, quando si ignora un aiuto affidabile solo perché è artificiale, e il sovrautilizzo, quando si accetta un output senza metterlo in discussione anche quando l'affidabilità reale del sistema non lo giustifica. Il calibrated trust invece è quel tipo di fiducia che tiene il passo con le capacità reali dello strumento, non con la sicurezza con cui le presenta.
La competenza che serve davvero
Imparare quando fidarsi dell'output dell'AI, e quando invece metterlo in discussione, significa allenarsi continuamente a porsi domande, anche scomode. Perché questa valutazione non riguarda solo la tecnologia, ma chiama in causa il pensiero critico, la comprensione del contesto e, non ultimo, l'onestà nel riconoscere i propri punti ciechi.
Un modello può essere addestrato a citare le fonti o a segnalare la propria incertezza, ma la decisione finale su quanto fidarsi resta una responsabilità puramente umana, che va allenata e coltivata.
Una ricerca pubblicata a inizio 2025 da Microsoft Research e Carnegie Mellon University, condotta su knowledge worker che usano strumenti di AIGen almeno una volta a settimana, ha messo in evidenza esattamente questo meccanismo.
Gli autori hanno trovato una correlazione chiara: più un professionista si fida della capacità dell'AI di svolgere un compito, meno attiva il proprio pensiero critico su quel compito. Chi invece ha più fiducia nelle proprie competenze tende a mettere in discussione l'output con più frequenza, verificandolo, integrandolo e correggendolo prima di considerarlo definitivo. In altre parole, il calibrated trust non è il risultato di un atteggiamento di sfiducia verso l'AI, ma della sicurezza che deriva dalla propria esperienza e competenza. Chi conosce meglio il contesto e padroneggia maggiormente la materia è anche chi sa valutare con maggiore precisione quando fidarsi dell'AI e quando metterne in discussione le risposte.
Il caso citato in apertura è l'esempio limite di cosa succede quando la competenza manca del tutto. Ma il meccanismo che ha portato due avvocati a fidarsi ciecamente di un output AI è lo stesso, su scala minore, che porta chiunque di noi a copiare un dato, una cifra o un'affermazione generata dall'AI senza controllarla, semplicemente perché suona plausibile.
Perché conviene parlarne adesso
Le organizzazioni che stanno investendo meglio nell'AI generativa sono quelle che hanno iniziato a costruire, tra le persone, un vocabolario condiviso per parlare di rischio e affidabilità. Sanno ad esempio distinguere un'attività a basso rischio, dove l'AI può correre da sola, da una ad alto rischio, dove serve supervisione. E questa distinzione nasce dalla pratica, dagli errori fatti e da una cultura aziendale che permette di dire "non mi fido di questo output" senza sentirsi in difetto rispetto a chi invece lo usa con disinvoltura.
L'AI non avrà mai dubbi. Sta a chi la usa costruire il criterio che decide quando prenderla sul serio e quando no. Ed è un lavoro che comincia dalle persone e dalla cultura del lavoro, prima ancora che dagli strumenti.
.png)
