🧓 Boomer Cap. 1 · Benvenuti nel club

Puntata 007

Puntata 7 — Cosa l’AI NON sa fare (ancora)

Livello: 🧓 Babbano Boomer · Capitolo 1 · Benvenuti nel club

Aspettative realistiche prima del primo “ciao”. Cosa non chiederle e perché.

un robottino con le manine spalancate e didascalia “scusa, non posso”, attorniato da nuvolette: “meteo di domani”, “l’indirizzo di tua cugina”, “il segreto della felicità”

Le cose che l’AI non sa fare bene (ancora)

1. Sapere il presente

ChatGPT, Claude e altri modelli sono stati addestrati con dati fino a una certa data — si chiama cut-off date, “data di taglio”. Chiedere “qual è il prezzo della benzina oggi?” spesso non funziona, perché il modello non ha accesso al mondo in tempo reale.

Eccezione. Alcune versioni (ChatGPT con web, Gemini, Perplexity) possono cercare su internet. Cerca l’icona della “lente” o l’opzione “Web search” nelle impostazioni.

2. Prevedere il futuro

L’AI non è un oracolo. Può fare stime basate su trend passati (“il PIL crescerà dell’1.2%”), ma non predice il vincitore della prossima partita né i numeri del lotto.

Chi te lo promette ti sta truffando.

3. Ricordare le conversazioni precedenti

Di default, ogni nuova chat parte da zero. ChatGPT non ricorda che ieri gli avevi parlato di tua nipote (a meno che la funzione “Memory” sia attiva — e anche lì memorizza riassunti, non tutto).

Conseguenza pratica. Non aspettarti continuità tra una chat e l’altra. Se serve, ricapitola.

4. Capire davvero

L’AI imita la comprensione, non comprende. Sembra paradossale, ma è cruciale. Per questo a volte:

  • Si inventa fatti con la stessa sicurezza con cui dice cose vere (allucinazione, vedremo).
  • Sbaglia su calcoli banali (anche se sta migliorando).
  • Cade in tranelli logici dove un bambino di 5 anni non cadrebbe.

5. Provare emozioni

Quando ti scrive “mi dispiace per la tua perdita”, non gli dispiace davvero. Sa solo che quella è la risposta giusta in quel contesto. Stesso copione per “sono felice di aiutarti”.

Non è cattiveria, è natura. Come quando un termostato “decide” che fa freddo: non sente freddo, misura un numero.

6. Sapere cose sul tuo presente

Non sa chi sei (a meno che non te lo presenti). Non sa che hai 67 anni, vivi a Bergamo e hai un cane di nome Pongo. Tutto quello che sa di te in una chat è quello che gli hai detto tu in quella chat.

7. Essere sempre coerente

Chiedi la stessa cosa due volte, magari ottieni due risposte leggermente diverse. Non perché ti prende in giro: per come funziona internamente, c’è sempre un pizzico di “caso” nelle risposte (la temperatura, la vediamo nel Livello 2).

8. Sostituire un professionista

  • L’AI non è un medico. Può aiutarti a capire un referto, ma non a curarti.
  • L’AI non è un avvocato. Può tradurti un contratto, ma non firmarlo per te.
  • L’AI non è uno psicologo. Può ascoltare ma non curare un disagio serio.

Pensala come un amico molto informato che però non ha responsabilità professionale. Usala come prima bozza, non come decisione finale.

9. Non avere pregiudizi (bias)

I dati su cui è stata addestrata vengono dal mondo reale. E il mondo reale ha pregiudizi. L’AI li riflette — a volte amplificandoli (uomini-medici, donne-infermiere, eccetera). Sta migliorando, ma il problema resta.

Le cose che l’AI invece sa fare molto bene

(Per non lasciarti scoraggiato.) Riassumere, tradurre, riscrivere, fare brainstorming, spiegare concetti complicati a vari livelli, scrivere bozze, organizzare informazioni, suggerire opzioni. Su queste cose è davvero molto utile.

TEST lampo

  1. ChatGPT può dirti l’orario del prossimo treno per Bergamo?
  2. L’AI ricorda quello che le hai detto una settimana fa?
  3. Quando l’AI scrive “sono felice di aiutarti” è felice davvero?
  4. L’AI può sostituire una visita medica?
  5. Hai chiesto la stessa cosa due volte e ti ha risposto in modo diverso. È un bug?
👀 Spoiler: clicca per le risposte
  1. Solo se ha un tool di ricerca attivo. Senza, no.
  2. In generale no. A meno che la funzione “Memory” sia attiva, e anche lì memorizza riassunti, non tutto.
  3. No — segue un copione statistico. La “felicità” non è prevista nell’hardware.
  4. No, mai. Può aiutare a capire ma non a diagnosticare.
  5. No, è normale. È un parametro chiamato temperatura: la vediamo nel Livello 2.

Glossario lampo

  • Cut-off date = data fino alla quale l’AI è stata addestrata. Tutto dopo, non lo sa.
  • Allucinazione = quando l’AI inventa con sicurezza cose false. Ne incontrerai parecchie.

Take-away

L’AI sa fare molte cose ma non tutte. Trattala come uno stagista molto bravo: utilissimo, ma verifica sempre prima di firmare.

➡️ Prossima puntata (test di capitolo): Quanto ne sai? — 10 domande di ripasso.