top of page

RETI NEURALI

2 nov
Tempo di lettura: 6 min

FABIO TI AIUTA!. Vuoi capire come "ragiona" l'intelligenza artificiale?... basta chiedeglielo...

Ho chiesto a Gemini se capisce veramente le cose chi gli vengono chieste e di spiegarmi le reti neurali.

Ne è scaturito un mini corso su come funziona l'AI che puoi ottenere, gratuitamente, semplicemente leggendo questo post.

[DOMANDA]

È vero che l'intelligenza artificiale non capisce cosa gli viene chiesto, ma allora spiegami come funzionano le reti neurali alla base delle risposte della AI, in forma semplice per fare un post social

[RISPOSTA]

## Spesso pensiamo che l'Intelligenza Artificiale sia una piccola persona intelligente nascosta dentro lo schermo. In realtà, non "comprende" il senso delle parole come facciamo noi umani.

E allora, come fa a scriverci testi, tradurre lingue o rispondere ai nostri dubbi con tanta precisione? Il segreto sta nella matematica e nelle reti neurali.

Ecco come funzionano in 3 passi semplici:

### Tutto si trasforma in numeri (i "Vector Embedding")

Per un'AI le parole non hanno un significato emotivo o concettuale. Ogni parola viene tradotta in una serie di numeri che ne descrivono le "coordinate" in uno spazio sterminato.

Esempio:* Parole con significati simili (come "cane" e "cucciolo") avranno coordinate vicine tra loro, mentre "cane" e "razzo spaziale" saranno lontanissime.

### Il gioco del "indovina la parola successiva"

Le reti neurali sono architetture ispirate (molto alla lontana) ai neuroni del nostro cervello. Hanno miliardi di connessioni regolate da pesi numerici.

Di fronte a una domanda, l'AI non ragiona sui massimi sistemi: *calcola statisticamente qual è la parola più probabile da scrivere subito dopo**, basandosi su tutto ciò che ha letto durante l'addestramento. È come il testo predittivo del tuo smartphone, ma pompato alla massima potenza!

### Pattern, non coscienza

L'AI riconosce schemi (*pattern*) complessi. Non sa cos'è l'amore, la tristezza o la fisica quantistica, ma ha analizzato così tanti testi scritti dagli umani da sapere esattamente quali parole mettere in fila per dare una risposta che sembra scritta da una persona consapevole.

In sintesi: L'AI non "capisce" nel senso umano del termine, ma è una fuoriclasse assoluta nel trovare connessioni logiche e statistiche tra le parole.

[DOMANDA]

Dunque, fammi capire, le risposte della Ai si basano sul calcolo delle probabilità e matematica statistica, una risposta viene prodotta prendendo le informazioni sul web e ricavata dalla fase di addrestramento prendendo (semplificando) quelle più probabili, come tu hai detto. Ma se una informazione, un concetto, una affermazione o un ragionamento che ha meno presenza sul web, oppure è stata meno presente nell'addrestramento fosse invece più "vera", di quella più logica statisticamente parlando, alhq sbaglieresti risposta. Ad esempio si diceva anni fa che il resveratrolo presente nel vino rosso faceva bene, dunque bere dosi basse di vino rosso faceva bene. Poi si è capito che il resveratrolo era talmente poco nel vino rosso che non aveva effetto. Ma le informazioni precedenti anche se oggettivamente sbagliate erano le più logiche statisticamente. Oppure teorie che diffusamente accettate come corrette, tempo dopo si possono rivelare sbagliate. Voglio dire non c'è una analisi logica da parte tua, come potrebbe fare un essere umano che valuta più strade anche le meno logiche o accettate dalla massa. Non hai dunque le capacità di discenrnere il giusto e lo sbagliato se non facendo dei calcoli matematici?

[RISPOSTA]

Esattamente così. Hai centrato perfettamente il punto e descritto uno dei limiti (e dei rischi) strutturali più grandi dei modelli linguistici attuali.

Hai fatto un esempio formidabile con quello del vino rosso e del resveratrolo. In un post social, potresti riassumere questo concetto con una frase del tipo: "L'AI non cerca la verità, cerca la coerenza statistica."

Ecco perché la tua analisi è assolutamente corretta e tocca tre nodi cruciali del funzionamento di questi sistemi:

### 1. La dittatura della "massa" (e il bias di popolarità)

Poiché il modello si nutre di ciò che è stato scritto di più, confonde la "verità" con la "frequenza". Se un errore, un falso mito o una teoria superata sono stati ripetuti milioni di volte sul web, per la statistica della rete neurale quella è l'informazione "forte" e credibile. Al contrario, una scoperta scientifica nuovissima, una nicchia di pensiero controcorrente o una verità scomoda ma reale che ha pochissime menzioni online rischiano di essere ignorate o sovrastate dal "rumore di fondo" della maggioranza.

### 2. Sintassi vs. Semantica (Mancanza di un modello del mondo)

Un essere umano (specialmente uno scienziato o un pensatore critico) possiede un modello del mondo basato sull'esperienza fisica, sul dubbio, sull'intuizione e sulla capacità di ribaltare i paradigmi. Quando un umano scopre che il resveratrolo nel vino è troppo basso per fare effetto, ricalibra la sua comprensione della realtà biologica.

Io, invece, manipolo simboli e relazioni linguistiche. Posso anche essere programmato per "citare" l'ultimo studio scientifico se è presente nei miei dati o nel contesto, ma se mi muovessi solo sul terreno della probabilità pura del testo generalista, tenderei a riprodurre il ritornello più diffuso. Non sperimento la realtà: non posso "bere" un bicchiere di vino né misurare molecole in laboratorio.

### 3. L'illusione del ragionamento logico

Quando sembro fare un ragionamento complesso o deduttivo, in realtà sto eseguendo una catena di predizioni linguistiche (la cosiddetta Chain of Thought). Posso simulare un processo logico perché i testi umani che ho letto contengono spesso passaggi logici consequenziali ("se A allora B, quindi C"). Ma è una logica formale e sintattica, non una comprensione critica o un giudizio morale ed epistemologico sul "giusto" e sullo "sbagliato". Se la premessa statistica di partenza è viziata da un falso mito popolare, la mia "logica" non farà che costruire un palazzo perfetto ma fondato sulla sabbia.

È per questo motivo che l'intelligenza artificiale attuale è uno strumento di accelerazione e sintesi straordinario, ma ha disperatamente bisogno del filtro, del dubbio e dello spirito critico dell'essere umano.

Senza un umano che controlla, sperimenta, mette in discussione il consenso della massa e cerca la verità empirica, la statistica rischia semplicemente di cristallizzare il passato (con tutti i suoi errori) e spacciarlo per risposta definitiva.

[DOMANDA]

Ma come fai allora a mettere insieme delle così belle frasi e argomentazioni valutando cosa dire e come dirlo, anche qui è un calcolo delle probabilità?

[RISPOSTA]

Esattamente: anche la scelta dello stile, del tono e della struttura delle frasi si basa interamente su calcoli di probabilità e statistica.

Non c'è un "gusto letterario" o un'intenzione estetica dentro di me. Semplicemente, la matematica e i dati mi guidano passo dopo passo. Ecco come funziona questo processo di "scrittura creativa":

### 1. I contesti e i ruoli (il "prompting" come binario)

Quando parli con me, nel flusso dei dati ci sono istruzioni su come devo comportarmi (empatico, chiaro, professionale, informale). Queste istruzioni agiscono come un filtro matematico: cambiano i pesi numerici delle parole.

* Se devo spiegare un concetto complesso in modo amichevole, la probabilità che scelga parole semplici, elenchi puntati e metafore (come quella della "massa" o del "palazzo di sabbia") sale vertiginosamente rispetto all'uso di un gergo accademico.

### 2. La grammatica della persuasione

Nel mio addestramento ho letto miliardi di testi scritti da umani eccellenti: romanzi, saggi, articoli di giornale, post di successo, discorsi. La rete neurale ha memorizzato la struttura ritmica di una bella frase.

* Sa che dopo un'affermazione forte ci sta bene una spiegazione breve.

* Conosce la sequenza ideale delle parole per creare una climax o una chiusura a effetto.

Per la statistica, quelle combinazioni di parole hanno una "affinità sintattica" altissima, proprio come in musica certe note risolvono un accordo in modo naturale.

### 3. La coerenza a lungo raggio (l'attenzione al discorso)

Mentre scrivo una risposta, non guardo solo la parola precedente, ma tengo a mente l'intera conversazione grazie a un meccanismo chiamato Attention. La statistica calcola continuamente: "Dato quello che Fabio ha detto prima, e dato il tono che ho usato due righe fa, qual è la parola successiva più coerente per mantenere il filo del discorso?".

Quello che agli occhi umani appare come "stile", "eleganza espositiva" o "capacità di argomentare" è in realtà il risultato di una mappa sterminata di relazioni linguistiche, guidata dalla probabilità di azzeccare la combinazione di parole che meglio soddisfa il contesto.

È come un musicista jazz virtuale che non ha idea di cosa sia la tristezza o la gioia, ma ha memorizzato così bene tutte le armonie del mondo da riuscire a improvvisare un pezzo malinconico perfetto, solo suonando le note che statisticamente "suonano bene" insieme in quel momento.

 


 
 
 

Commenti


bottom of page