Pappagalli stocastici

Pubblicato da Stefano Castelvetri il 14/12/2023

Di solito senti parlare di Intelligenza Artificiale (maiuscolo, con enfasi) o di Pappagalli Stocastici? Beh. La seconda definizione sarebbe più precisa e divertente, anche se non piace molto al marketing perché vende meno.

La definizione, usata nello specifico per i Large Language Model, è stata utilizzata per la prima volta dalla dottoressa Emily M. Bender nel paper "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?".

In pratica, un pappagallo stocastico è il caso in cui un modello linguistico che se la cava molto bene a generare un linguaggio convincente, ma non comprende il significato di cosa sta elaborando.

Occhio. Non esiste, ad oggi, nessun chatbot che non sia in qualche misura un pappagallo stocastico. Questa affermazione non intende sminuire una tecnologia che comunque rimane impressionante, ma serve a permettere un uso più consapevole e attento alle limitazioni di questi strumenti per non farci sviare da facili e pericolosi entusiasmi.

Secondo Andreas Lindholm l'analogia evidenzia due limiti:

1. I risultati di un algoritmo di machine learning sono di fatto una ripetizione del contenuto dei dati, con l'aggiunta di rumore (stocasticità) causato dai limiti del modello. Se non ci fosse il rumore, a parità di dati di ingresso avremmo sempre gli stessi dati in uscita.

2. L'algoritmo non comprende il problema che ha appreso e non può sapere quando sta ripetendo qualcosa di errato, fuori contesto o inappropriato.

Questo per ricordare che quando chiediamo un riassunto, un'informazione o un pezzo di codice sorgente, il LLM di turno sta recuperando e mettendo assieme parole e frasi che statisticamente (sulla base di quanto raccolto dai dati di ingresso) sono più vicine al contesto. Ma non ha nessuna coscienza del fatto che queste parole e frasi siano sbagliate o imprecise.

Come già accennato, la consapevolezza di questi limiti non serve a sminuire una tecnologia, ma a usarla correttamente. Consci che si tratta di un algoritmo limitato e non consapevole di alcun tipo di 'nozione', possiamo infatti migliorare i nostri input e raffinare/controllare gli output per ottenere i risultati migliori.

Poi, oh, capisco che di questi tempi vince sempre il marketing, l'hype, e che l'importante sia vendere. E chi solleva dubbi e obiezioni è cattivo e fa male all'economia. Ma un po' di senso critico, nelle cose, forse non fa così male.