Carlo Nardello, Vicepresidente di Comtel, sui limiti degli LLM: se l’IA potesse dire “non lo so”

“Papà: l’uomo che ha la risposta per ogni domanda. Chiedi a mamma”. Partendo da questa affermazione in merito alla Festa del Papà, il Vicepresidente di Comtel Carlo Nardello ha posto una riflessione su un aspetto dell’IA, tecnologia che interpelliamo quotidianamente. ““Chiedi a mamma” non è pigrizia, o almeno non solo. È il riconoscimento esplicito di un limite. È la consapevolezza che la conoscenza è distribuita, che nessuno possiede tutto, e che indirizzare qualcuno verso la fonte giusta vale infinitamente più di qualunque risposta approssimativa data al volo per non fare brutta figura”, si legge in un articolo del Vicepresidente.

Da questo assunto nasce la metafora con l’IA e i sistemi tecnologicamente all’avanguardia a cui ci rivolgiamo ogni giorno e che tendono ad avere, per loro stessa natura, la risposta pronta, non delegano mai. “Non dicono “non lo so”. Rispondono sempre, anche quando sarebbe più utile fermarsi, ammettere l’incertezza, indicare una fonte migliore”, ha affermato il Vicepresidente di Comtel. Il loro compito è fornire una risposta e soddisfare l’utente, sono progettate per completare un task, fornendo soluzioni e responsi plausibili anziché lasciare uno spazio vuoto.

Carlo Nardello fa riferimento al termine “hallucination” per spiegare questo fenomeno. Ovvero, “un sistema che preferisce inventare dettagli piuttosto che sospendere il giudizio”. Le “allucinazioni” dell’IA, quindi, non sono percezioni sensoriali false che si manifestano senza stimoli esterni, bensì risposte errate, inventate o equivoche generate dagli LLM, che però sembrano verosimili.

Se da un lato l’Intelligenza Artificiale è un’innovazione tecnologica incredibile, con capacità di elaborazione, sintesi e connessione in costante evoluzione, dall’altro questo sistema “ha ancora un debito da saldare con la realtà — ha concluso il Vicepresidente di Comtel — e quel debito, per paradosso, si chiama umiltà”.

Concludendo la sua riflessione con una provocazione, Nardello si domanda “se uno dei prossimi aggiornamenti significativi non dovrebbe includere proprio quella frase. Piccola, umilissima, efficace. “Non lo so. Chiedi a qualcuno che ne sa più di me””.