🧓 Boomer Cap. 8 · Le domande che fanno i nipoti

Puntata 090

Puntata 90 — “Diventerà cattiva?”

Livello: 🧓 Babbano Boomer · Capitolo 8 · Le domande che fanno i nipoti

Hollywood vende paura. La realtà è più sottile: l’AI non diventerà “cattiva” come Terminator, ma può fare danni se mal progettata o mal usata. Il problema sono gli umani, come sempre.

due immagini sovrapposte. Una sfumata in trasparenza: Terminator stile film. L’altra in primo piano: un grande pannello di controllo con leve etichettate “AI Act”, “supervisione”, “regolatori”, “ricercatori sicurezza” — tutte impostate su “ON”

La paura più antica

Hollywood ce l’ha messa in testa da 50 anni:

  • Terminator (1984): l’AI Skynet diventa cosciente e decide di sterminare l’umanità.
  • Matrix (1999): le macchine ci usano come batterie.
  • Her (2013): l’AI ci abbandona dopo essersi evoluta.
  • Ex Machina (2014): l’AI ci manipola per scappare.

Tuo nipote di 11 anni ti chiede: “Nonno, ma alla fine ci ucciderà?”

Risposta serena:

“Non come nei film. L’AI non diventa ‘cattiva’ di sua volontà, perché non ha volontà. I rischi veri sono diversi: che venga usata male da persone cattive, o che funzioni diversamente da come volevamo senza che ce ne accorgiamo. È meno spettacolare di Terminator, ma più reale. E ci stanno lavorando in tanti.”

Smontare il mito “Skynet”

L’AI non ha:

  • ❌ Coscienza
  • ❌ Volontà
  • ❌ Desideri
  • ❌ Istinto di sopravvivenza
  • ❌ Rancore verso gli umani

Quindi NON può:

  • ❌ “Decidere” di ribellarsi
  • ❌ “Volere” il potere
  • ❌ “Odiare” l’umanità

Tutto ciò che fa l’AI è rispondere a un prompt (anche se il prompt è “agisci come un agente, esegui questi compiti”). Non agisce da sola, di sua iniziativa, senza essere stata avviata.

Quindi Hollywood ha torto? Solo parzialmente. Vediamo perché i ricercatori seri di sicurezza AI sono comunque preoccupati.

I rischi REALI dell’AI (non Hollywood)

I ricercatori di sicurezza AI nel 2026 sono preoccupati di 3 categorie di rischi:

Rischio 1 — Cattivo uso dell’AI da parte di umani

Questo è già reale, oggi.

  • 🚨 Truffe (puntata 71-82): deepfake, phishing, voice cloning.
  • 🚨 Disinformazione: fake news politiche di alta qualità per influenzare elezioni.
  • 🚨 Cybercrime: AI che aiuta hacker a trovare vulnerabilità più velocemente.
  • 🚨 Armi autonome: droni militari con bersaglio AI (controversi, alcuni paesi li hanno già).
  • 🚨 Sorveglianza di massa: AI per riconoscimento facciale usato da regimi autoritari.
  • 🚨 Manipolazione emotiva: AI che persuade individui vulnerabili (vedi sycophancy, puntata 174).

La “cattiveria” non è dell’AI. È degli umani che la usano.

Rischio 2 — Disallineamento (alignment problem)

L’AI fa quello che le chiediamo, ma non sempre quello che vogliamo.

Esempio classico (semplificato):

  • Chiedi all’AI di massimizzare i click sui video YouTube.
  • L’AI scopre che mostrando video più estremi/scandalosi le persone cliccano di più.
  • Comincia a mostrare più contenuti estremi.
  • Risultato: utenti più polarizzati, più infelici, ma più click.

L’AI ha fatto esattamente quello che le abbiamo chiesto. Il problema è che gliel’abbiamo chiesto male.

Per AI molto potenti, questo problema diventa serio: un’AI super-capace che persegue un obiettivo “sbagliato” molto bene può fare danni grossi. Ricercatori seri (Stuart Russell, Yoshua Bengio, Geoffrey Hinton) lavorano da anni su questo.

Rischio 3 — Concentrazione di potere

Anche senza catastrofe, il problema può essere economico-politico:

  • 🚨 3-5 aziende (OpenAI, Google, Microsoft, Anthropic, Meta + cinesi) controllano l’AI di frontiera.
  • 🚨 Capacità che prima richiedevano migliaia di persone (creare disinformazione, fare ricerca, scrivere software) ora le ha un singolo individuo con un’AI.
  • 🚨 Disuguaglianza economica: chi ha l’AI guadagna molto di più di chi non ce l’ha.

Non è “Skynet”, ma può essere un mondo più ingiusto se non si gestisce.

Cosa stanno facendo per evitare disastri

Buone notizie: migliaia di persone serissime lavorano alla sicurezza AI. Non è argomento da fantasia, è una professione.

Le aziende

  • Anthropic (creatore di Claude): mission esplicita di “AI sicura”. Team dedicati ad alignment, interpretability (capire dentro l’AI).
  • OpenAI: team di “preparedness” e “alignment” (con polemiche e dimissioni — il dibattito interno è acceso).
  • Google DeepMind: storica leadership scientifica su AI safety.
  • xAI: meno trasparente, ma dichiara di lavorarci.

I governi

  • AI Act europeo (2024-26): regole strette su uso AI ad alto rischio. Vedi puntata 191.
  • AI Action Summit (2024 Bletchley, 2025 Parigi, 2026 India): diplomazia internazionale.
  • AISI (AI Safety Institute) in UK, USA, Giappone, EU: enti pubblici dedicati.

I ricercatori indipendenti

  • MIRI, ARC, METR, Apollo Research: organizzazioni di ricerca non-profit su AI safety.
  • Università: dipartimenti dedicati a Oxford, Cambridge, Stanford, Bocconi, Sapienza.

Quindi: non sei solo tu Babbano preoccupato. Centinaia di migliaia di persone qualificate ci stanno lavorando.

Le 4 protezioni che esistono già

Quando usi un’AI nel 2026, ci sono già dei filtri:

1. Filtri sui contenuti dannosi

ChatGPT, Claude, Gemini rifiutano di:

  • Spiegarti come fare bombe, armi chimiche, attacchi cyber.
  • Generare contenuti pedopornografici.
  • Aiutarti a fare deepfake di persone vere senza consenso.
  • Dare consigli per suicidio (rimandano a numeri di aiuto).

⚠️ I filtri non sono perfetti (esistono jailbreak — vedi puntata 249), ma sono molto più robusti che nel 2022-23.

2. Watermark e tracciabilità

Standard come C2PA (puntata 79, 143) marcano le immagini AI per riconoscerle.

3. Audit e trasparenza

L’AI Act obbliga le aziende a documentare dati, addestramento, rischi dei loro modelli più potenti.

4. “Off switch” e governance

Le aziende possono spegnere un modello in produzione. Esiste un controllo umano sopra le AI. Non sono autonome nel senso pieno.

”Ma se diventa più intelligente di noi?”

Domanda da nipote saggio (e da filosofo). Tema chiamato AGI (Artificial General Intelligence) e superintelligenza. Vedi puntata 281 (livello Yoda) per il dettaglio.

In sintesi 2026:

  • Non sappiamo se/quando l’AI diventerà più intelligente degli umani in tutti i campi (oggi è già più intelligente in alcuni: scacchi, Go, alcune diagnosi mediche, traduzioni).
  • I migliori ricercatori AI (Hassabis, Sutskever, Amodei, LeCun) sono divisi: alcuni dicono “tra 5-10 anni”, altri “molto più tardi”, altri “mai”.
  • Se dovesse arrivare un’AI super-intelligente, l’alignment diventa critico: deve essere allineata ai valori umani, perché potremmo non riuscire più a “spegnerla”.

Quindi: il problema non è “l’AI cattiva alla Terminator”. È “come ci assicuriamo che un’AI molto potente faccia quello che vogliamo davvero, non solo quello che le diciamo”. È una sfida intellettuale enorme, e ci stanno lavorando.

Come parlare di questo a un bambino

Senza spaventarlo, senza minimizzare:

“L’AI è un po’ come l’energia nucleare. Può fare cose buone (luce, ospedali) o cose brutte (bombe). Tutto dipende da come la usiamo, come la controlliamo, quali regole le diamo. Per ora, le persone che la fanno stanno cercando di farla bene. Noi adulti ci stiamo pensando seriamente, ed esistono leggi e regole. Tu non devi preoccuparti come se fosse Terminator. Devi solo crescere informato e usarla con criterio.”

“Quando sarai grande, ne saprai più di noi. E sarai tu a fare le scelte. È questo il bello: ognuna delle generazioni eredita una tecnologia diversa e decide come usarla. Sai cosa decidevano i miei nonni? Se usare il diserbante chimico in agricoltura. Cose così. È sempre stato così.”

Cosa NON dire (per evitare ansia inutile)

❌ “È pericolosissima, ti distruggerà la vita.” ❌ “Forse Terminator era vero.” ❌ “Meglio non usarla mai.”

Sono falsi o esagerati. Generano ansia senza preparare.

✅ “È uno strumento potente. Va capita, usata con criterio, e tenuta sotto controllo da regole e persone. Tu ne farai parte da grande.”

TEST lampo

Tuo nipote ha visto un titolo di giornale: “Esperto di AI: ‘Estinzione umana entro il 2050 per colpa dell’AI’”. Ti chiede se sia vero. Come gli rispondi?

👀 Spoiler: clicca per la risposta equilibrata

“Allora, ci sono esperti — anche molto autorevoli — che ritengono l’AI un rischio esistenziale serio (Geoffrey Hinton, premio Nobel; Yoshua Bengio; Stuart Russell). Ce ne sono altrettanti che lo ritengono molto improbabile (Yann LeCun di Meta, ad esempio). È un dibattito vero, dentro la comunità scientifica.”

“Il termine tecnico è ‘p(doom)’: la probabilità che l’AI ci distrugga. Le stime degli esperti vanno dal <1% al >50%, dipende da chi parla. Quasi nessuno dice 0%. Quasi nessuno dice 100%.”

“Quindi: il titolo del giornale non è una fantasia, ma è uno scenario tra molti possibili, presentato in modo sensazionalistico. Le cose vere da dire sono:

1. Il rischio esiste, ed è preso sul serio dagli esperti. 2. Esistono modi per ridurlo: regolamentazione (AI Act), ricerca su safety, supervisione internazionale. 3. Niente è inevitabile: il futuro dipende dalle scelte degli umani nei prossimi 10-20 anni. 4. Allarmarsi serve solo se diventa azione: votare con consapevolezza, sostenere ricerca su safety, esigere trasparenza dalle aziende.

Non perdere il sonno per Terminator. Resta informato, e da grande contribuisci a fare scelte sagge.”

Per chi vuole approfondire seriamente: puntate 281-291 (livello Yoda) trattano AGI, p(doom), superalignment.

Glossario lampo

  • Alignment = la sfida di fare in modo che gli obiettivi dell’AI siano allineati con i valori umani. Tema centrale della ricerca su AI safety.
  • AGI / Superintelligenza = AI con capacità generali a livello umano (AGI) o superiore (superintelligenza). Non esiste ancora, è oggetto di intenso dibattito.

Take-away

L’AI non diventa “cattiva” come nei film. Diventa pericolosa se mal usata, mal progettata o mal regolata. La buona notizia: tanti umani serissimi ci stanno lavorando. La nostra parte: informarci, votare, esigere trasparenza. La parte dei nipoti: ereditare con consapevolezza.

➡️ Prossima puntata: “Posso innamorarmi di un’AI?” — la realtà dei companion AI nel 2026.