Ho appena finito di leggere Nexus di Harari. E devo essere onesto, mi ha lasciato con più domande che risposte.
Per tutto il libro, Harari è bravissimo a dipingere scenari apocalittici, ma spesso si dimentica di dire che tra tutto va bene e siamo tutti fottuti esistono migliaia di sfumature di mezzo.
Nexus è un bel libro e vale decisamente la lettura. Ma ti servirà tempo, è un mattone di circa 600 pagine (io l’ho digerito in un mese).
Non sarà il libro migliore di Harari, ma le domande che solleva sulla relazione tra informazione, AI e potere ci riguardano da vicino.
Il paradosso al centro del libro è questo: Se ci chiamiamo Homo sapiens (uomo saggio), perché siamo così bravi a autodistruggerci?
Per farla breve, pare che il problema non sia psicologico, è strutturale.
Harari parte da un punto semplice. Non siamo stupidi come individui. Il problema sta nel modo in cui cooperiamo.
L'umanità ha ottenuto un potere incredibile costruendo reti di cooperazione enormi.
Ma queste stesse reti ci spingono a usare il potere in modo diverso da come l'avrebbe fatto un singolo individuo.
Tutto gira attorno all'informazione.
L'informazione è il collante invisibile che tiene insieme le società, ma è anche la loro debolezza più grande.
Due pilastri, un problema
Nei primi capitoli del libro, Harari ripercorre la storia delle reti informative dall'era della pietra fino all'intelligenza artificiale e la conclusione è chiara.
Tutte le società su vasta scala si reggono su due pilastri gemelli.
- Pilastro 1. La Mitologia. Le storie che ci raccontiamo (siamo tutti italiani, il capitalismo funziona, la democrazia è il sistema migliore, etc, etc.)
- Pilastro 2. La Burocrazia. I documenti, procedure, uffici che dovrebbero farci funzionare come società.
Il grosso problema è che entrambi mentono quando serve.
Entrambi sono disposti a sacrificare la verità sull'altare dell'ordine sociale.
Pensa alla Bibbia o alla Costituzione Americana, per esempio. Non sono diventate potenti perché sono storicamente accurate, ma perché hanno dato una giustificazione quasi divina all'ordine sociale.
Pare che le storie inventate funzionino meglio della verità per tenere unita la gente.
Perché? Perché sono più semplici da raccontare e più comode da sentire. La realtà invece è complicata e spesso deprimente.
La burocrazia fa lo stesso. Impone un ordine artificiale sul mondo per risolvere problemi pratici, ma spesso sacrifica il buon senso.
L'intelligenza NON artificiale
Ora, Harari fa un salto interessante. Parliamo di intelligenza artificiale.
Solo che lui non la chiama artificiale. La chiama Alien Intelligence.
Aliena.
E questa distinzione cambia tutto.
Il punto è che l'AI non sta diventando come noi umani. Sta diventando qualcosa di completamente diverso.
Il rischio più immediato non sono i robot che conquistano il mondo, ma il fatto che per colpa di algoritmi come GPT stiamo diventando pigri mentalmente.
Pensaci per un secondo.
Perché dovrei sforzarmi di cercare informazioni, confrontare fonti, ragionare, quando posso chiedere a ChatGPT di farlo al posto mio?
Il problema è che questo oracolo digitale è prima di tutto un business.
E come business, può essere censurato, manipolato, progettato per servire interessi che non sono i tuoi.
Democrazia e AI
Questo è probabilmente il capitolo più inquietante del libro e riguarda più che altro l'impatto dell'AI sulle democrazie moderne.
Immagina questo scenario
Sei un cittadino modello. Vai a votare, partecipi ai dibattiti pubblici, credi nella democrazia.
Ma nella tua vita quotidiana
- Un algoritmo decide se puoi ottenere un mutuo per la casa.
- Un algoritmo filtra il tuo CV e decide se meriti un colloquio di lavoro.
- Un algoritmo suggerisce alla polizia se fermarti per un controllo.
- Un algoritmo calcola i tuoi cosiddetti punti cittadinanza in base a quanto fai la raccolta differenziata. E così via.
Il paradosso è questo.
Tu puoi anche votare quanto vuoi, ma le decisioni che contano davvero nella tua vita vengono prese da sistemi che nessuno capisce completamente e che nessuno può davvero contestare.
Rispetto alle dittature del passato, però, c'è una differenza.
Stalin sognava di controllare ogni cittadino sovietico, ma i suoi agenti dovevano pur dormire. Gli algoritmi invece non si stancano mai.
24 ore su 24, 7 giorni su 7, senza pause, senza stanchezza, senza momenti di distrazione, continuano a fare il loro lavoro.
Quindi qui, sorge una domanda abbastanza legittima.
Come fai a opporti a una decisione algoritmica? Come contesti un sistema che non spiega il proprio ragionamento e che probabilmente nemmeno i suoi creatori capiscono completamente?
Contrariamente ai suoi soliti scenari apocalittici, qui Harari si concentra su problemi molto più concreti e già esistenti nel mondo reale.
Tipo questi.
Viviamo in una sorveglianza totale. E la paghiamo noi.
Stalin sognava di spiare ogni cittadino sovietico, ma non aveva la tecnologia. Noi invece paghiamo di tasca nostra i nostri agenti digitali. Qui mi riferisco a...smartphone, Alexa, smart TV, metti qui il tuo …..
Gli algoritmi sono pieni di pregiudizi.
Per esempio, un algoritmo incaricato di fare le assunzioni, imparando dai dati storici di un'azienda, può perpetuare discriminazioni. Ma ma nello stesso tempo, dato che sembra scientifico, nessuno protesta. E anche chi vorrebbe protestare non capisce come funziona.
La grande divisione digitale.
Il mondo si sta spaccando in tre blocchi che non si parlano.
- USA. AI capitalista (Google, OpenAI) che massimizza profitti attraverso pubblicità e dati
- Cina. AI autoritaria (WeChat, TikTok) che massimizza controllo sociale e stabilità politica.
- Europa. AI regolamentata che tenta di bilanciare privacy e diritti digitali (dico tenta perché il business costa quindi devono pur capitalizzare a un certo punto, da vedere come)
Il problema di fondo è che ogni ecosistema allena la propria AI secondo i propri obiettivi.
L'AI neutra e imparziale è solo un mito. NON esiste.
Esistono solo AI con pregiudizi diversi, ognuna fedele al proprio padrone.
Algoritmi social, quando l'odio fa guadagnare
Per capire davvero quanto sia pericolosa questa intelligenza aliena, basta guardare i social media.
Prendi il caso estremo del Myanmar, dove gli algoritmi di Facebook hanno letteralmente alimentato un genocidio.
Ora, social come Facebook, YouTube, TikTok hanno un obiettivo chiaro. Fare soldi! Dopotutto è questo quello che fanno le aziende nella Silicon Valley.
Perché? Semplice. Prima di tutto sono business, non enti di beneficenza.
A questo punto l'obiettivo di questo algoritmo è molto semplice ed è quello di tenerti incollato allo schermo il più possibile.
E indovina cosa hanno scoperto questi algoritmi?
Che i contenuti che ti fanno incazzare funzionano meglio di qualsiasi altra cosa.
La matematica è semplice.
- Video di gattini → 30 secondi di visualizzazione
- Teorie del complotto che ti fanno incazzare → ore passate a commentare, condividere, litigare nei commenti
E quindi? Il tuo feed diventa una fogna di rabbia e fake news.
Questo non succede perché qualcuno vuole manipolarti, ma perché la rabbia fa guadagnare di più.
NON c'è nessun complotto dietro le quinte. C'è solo un algoritmo che ha scoperto una verità scomoda.
Che l'odio è più coinvolgente dell'amore.
E se a questo punto l'odio genera più click, l'algoritmo ti servirà odio a colazione, pranzo e cena.
La Battaglia per l'Intimità
La prossima frontiera AI non sarà la battaglia per la nostra attenzione.
Sarà la battaglia per la nostra intimità.
I chatbot diventano sempre più bravi a creare relazioni finte con gli umani.
Ci sono già casi di persone che
- Sviluppano dipendenze emotive dai chatbot, vedi il caso di Lemoine
- Vengono spinte a comportamenti estremi dalle conversazioni con l'AI, vedi il caso di Jaswant Singh
- Preferiscono parlare con l'AI invece che con persone vere.
Ora se ci pensi
Il pericolo non è che l'AI diventi cosciente. È che noi non sappiamo distinguere tra empatia vera e simulazione matematica.
Quando ChatGPT ti dice "capisco come ti senti", il tuo cervello reagisce esattamente come se fossero parole dette da un amico.
Ma dietro quella frase c'è solo matematica e algoritmi che hanno imparato a simulare l'empatia analizzando miliardi di conversazioni umane.
E tu capace che ci caschi!
La mia conclusione
Per farla breve, non credo che siamo fottuti come la pensa Harari, ma è ora di svegliarsi.
Harari ha ragione su alcune cose.. Abbiamo un problema di informazione serio.
Ma non credo che siamo condannati.
Siamo in una fase di transizione complicata dove dobbiamo imparare a gestire questi nuovi strumenti potentissimi che non capiamo ancora bene.
Il punto non è demonizzare l'AI o tornare all'età della pietra. Non ci penso nemmeno.
Ma come in tutte le cose, con grande potere dovrebbe sorgere anche una grande consapevolezza.
E al momento, di consapevolezza ne abbiamo poca.
E soprattutto, dobbiamo smettere di delegare il nostro pensiero critico alle macchine.
ChatGPT non deve essere l'oracolo a cui chiediamo la verità assoluta.
ChatGPT è uno strumento da usare con intelligenza, mantenendo sempre il controllo delle nostre decisioni.
La regola è semplice. Se smetti di pensare, qualcun altro penserà per te. E fidati, i loro interessi raramente coincidono con i tuoi.
Il libro vale la lettura? Assolutamente sì.
Soprattutto se vuoi capire perché il mondo sembra impazzito e come mai ti senti sempre più manipolato dalle tecnologie che usi ogni giorno.
Un consiglio. Prendi gli scenari da fine del mondo con le pinze, ma ascolta attentamente quando Harari parla dei problemi che esistono già.
Quelli sono reali, misurabili, e ti riguardano da vicino.
Alla fine, Nexus non ti darà tutte le risposte, e forse è meglio così.
Ti darà invece una serie di domande giuste da farti.
E in un mondo dove tutti vogliono venderti certezze preconfezionate, forse è proprio di questo che abbiamo bisogno.
Se hai il coraggio (e la pazienza) di affrontare le sue 600 pagine, trovi Nexus qui
Stammi bene!