Puntata 20 — L’AI pensa? (No, ma fa finta benissimo)

Livello: 🧓 Babbano Boomer · Filo filosofico [1/10] · (Capitolo 3 — Parlare con l’AI)

Sembrare e essere non sono la stessa cosa. Chiedilo a chiunque sia salito su un’auto sportiva e si sia accorto che andava piano.

un mangianastri anni Ottanta che dice “buongiorno” con voce gracchiante, e accanto un nipotino che dice la stessa frase ma con dentro la testa che pensa al gelato

La differenza che cambia tutto

Quando scrivi “Ciao, come stai?” a ChatGPT e lei risponde “Bene grazie, e tu?”, non sta pensando. Non sta nemmeno “stando bene”. Sta facendo una cosa che si chiama: prevedere quale parola viene dopo.

È un po’ come la tombola. Tu non “capivi” la cinquina: avevi una griglia, segnavi i numeri estratti, e quando ne avevi cinque in fila urlavi. ChatGPT ha una griglia gigantesca (decine di miliardi di parole già lette nella sua vita) e segna quali parole stanno solitamente vicine.

Risultato: la risposta sembra umana. Dentro però non c’è nessuno che pensa.

La storiella della stanza cinese

Un filosofo americano, John Searle, nel 1980 raccontò questo esperimento mentale:

Sei chiuso in una stanza. Da una fessura ti arrivano fogli con simboli cinesi (che tu non capisci). Hai un manuale che dice: “se vedi questo simbolo, scrivi quest’altro, e rispedisci fuori il foglio”. Tu segui il manuale, rispedisci i fogli, e fuori dalla stanza un cinese pensa: “Wow, dentro c’è uno che capisce il cinese!”

Ma tu non capisci una parola di cinese. Stai solo seguendo regole.

ChatGPT è la stanza. Il manuale (gigantesco) è stato compilato leggendo praticamente tutto Internet. Fuori dalla stanza — cioè tu davanti allo schermo — credi che dentro ci sia qualcuno che capisce. Dentro c’è solo un mucchio di calcoli.

E allora perché funziona così bene?

Perché il manuale è enorme. Talmente grande che riesce a rispondere a quasi qualsiasi cosa in modo plausibile.

Pensa a tuo cugino Aldo, quello che parla di calcio per tre ore senza aver mai giocato. Ne sa moltissimo perché legge la Gazzetta dal 1962. Ti sembra un esperto. Lo è? Sa parlare di calcio. Ma se gli passi il pallone, è fermo come un palo.

ChatGPT è Aldo: sa parlare di tutto, ma il pallone vero del pensiero non sa toccarlo.

cugino Aldo che spiega il fuorigioco con cinque diagrammi su una tovaglia, ma è in completo bianco da casa perché non scende mai in campo

Perché ti interessa saperlo

Perché cambia come la usi:

Non chiederle “secondo te” — non ha un “secondo lei”. Ti restituirà la media delle opinioni che ha letto in giro.
Verifica sempre i fatti delicati — mette insieme parole che “stanno bene insieme”, non sempre parole “vere”.
Le decisioni importanti restano tue — lei è un collaboratore brillante, non un consigliere saggio.

TEST lampo

Quando ChatGPT risponde, sta:
- a) Pensando
- b) Calcolando quale parola viene probabilmente dopo
- c) Cercando su Google
La “stanza cinese” di Searle dice che:
- a) I cinesi sono bravissimi
- b) Seguire regole non significa capire
- c) Le stanze sono importanti

👀 Spoiler: clicca per le risposte

b — Letteralmente, predice la parola successiva. Statistica, non pensiero. Approfondito alla puntata 103.
b — Eseguire un’istruzione non equivale a comprenderla. Su questa distinzione si regge mezza filosofia della mente.

Glossario lampo

Predizione del prossimo token: indovinare cosa viene dopo basandosi su quello che ha visto prima (vedi puntata 103).
Stanza cinese: esperimento mentale di Searle (1980) — la macchina può sembrare intelligente senza esserlo davvero.

Take-away

L’AI non pensa, fa finta. Ma è un’imitazione così buona che, per le cose pratiche, basta e avanza. Trattala come un cugino Aldo elettronico: utilissimo a parole, da non far giocare in serie A.

🧭 Filo filosofico: 1/10 — prossima del filo è la puntata 21.

➡️ Prossima puntata: Cosa vuol dire “capire”? — esecuzione e comprensione non sono gemelle.