#170 "IA, il futuro è arrivato"

1) Ray Kurzweil parla da decenni di Singolarità, il momento in cui le macchine supereranno gli umani quanto a intelligenza. Gli davamo del pazzo. Non più 2) Neal Stephenson 3) Jaron Lanier

ARTICOLI. LIBRI. VIDEO. PODCAST. LIVE. BIO.

Ray Kurzweil (Foto: Tony Luong/The New York Times)

Prologo

Se qualcuno preferisse ascoltare Lo stato delle cose, invece di leggerlo, può farlo. Basta scaricare la app Substack e farsela declamare dalla voce sintetica. Può essere utile in viaggio o mentre si fa altro.

SEGNATEVI L’ANNO DEL SORPASSO: 2045

Nel numero speciale di fine anno ho intervistato Ray Kurzweil, il gran popolarizzatore del concetto di Singolarità. L’incipit:

Oggi nessuno si meraviglia più se l’intelligenza artificiale crea una canzone alla maniera del musicista che volete voi. Nel 1963, l’anno di Surfin’ U.S.A. dei Beach Boys, era invece una novità confinante con la magia. Tuttavia fu proprio in quell’anno che Ray Kurzweil, pianista figlio d’arte, creò un programma del genere. Che, analizzando brani di famosi compositori, era in grado di produrne altri nella medesima vena. Fu la prima di una serie di invenzioni. La più rilevante delle quali mi sembra il riconoscimento ottico di caratteri. Ovvero un dispositivo che, appunto, riconosceva e digitalizzava il testo da una pagina scritta. Divenuto poi la base di una macchina di lettura che, una volta decifrate le parole, le faceva pronunciare da una voce sintetizzata, anch’essa farina del sacco kurweiliano. E fu così che, almeno limitatamente allo scritto tipografico, i ciechi riacquistarono la vista. Se anche uno, in una vita di lavoro, si fosse fermato a questo miracolo, sarebbe un risultato di assoluto rispetto. Invece Kurzweil ha continuato a inventare (sintetizzatori musicali, scanner piano, etc), pensare e costruire il futuro. Fino a saldare il suo nome col concetto di Singolarità, che necessita di una breve glossa etimologica. In matematica allude al punto in cui una funzione, dopo essere cresciuta sempre di più, diventa infinita. In fisica a quel “luogo” dei buchi neri in cui la gravità diventa così forte da schiacciare tutto ciò che si trova al loro interno. Per quanto riguarda la tecnologia, infine, indicherebbe il momento in cui l’intelligenza artificiale, di miglioramento in miglioramento, diverrà così performante da superare quella umana, con esiti imprevedibili per l’umanità. Nel bene o nel male è sempre un punto di non ritorno. Nella sua carriera Kurzweil ha ricevuto la Medaglia nazionale per la tecnologia e l’innovazione, massima onorificenza, dal presidente Clinton. È stato “ingegnere capo” da Google. E, siccome crede fermamente che anche la morte sia solo un problema in attesa di soluzione, si dichiara transumanista. Il che vale a dire, in pratica, che ingurgitando un centinaio di pillole al giorno, a settantasei anni appare in gran forma. Tant’è che, essendo più impegnato che mai, su La Singolarità è più vicina (Apogeo), ci è toccato intervistarlo via email.
Ero tra quelli che, di fronte alla fissazione di una possibile data per l’avvento della Singolarità, alzava le spalle. La formidabile accelerazione dell’IA generativa mi ha portato a riconsiderare. Più in generale, si sente vendicato dalla storia?
«Dopo aver lavorato nel campo dell’IA per sessantun’anni, più a lungo di chiunque altro vivente, è gratificante vedere l’IA al centro della conversazione globale. Ho iniziato a monitorare la potenza di calcolo nel 1983. Fu allora che scoprii che la tecnologia dell’informazione stava avanzando in modo esponenziale. Un celebre grafico tiene traccia della quantità di potenza di calcolo che è possibile ottenere per un dollaro, corretto per l’inflazione. Nonostante guerre mondiali e depressioni economiche cresce secondo una scala logaritmica dal 1939 a oggi. Allora il primo computer eseguiva 0,000007 calcoli al secondo per dollaro. Oggi, l’ultimo chip Nvidia B200 ne esegue 500 miliardi. Ciò rappresenta un aumento di 75 mila miliardi di volte della quantità di calcolo che si ottiene per la stessa quantità di denaro».
Cosa ne deriva?
«Partendo da questa constatazione nel 1999 ho previsto, in The Age of Spiritual Machines, che i computer avrebbero raggiunto l’intelligenza a livello umano entro il 2029. Previsione accolta con grande scetticismo e allarme. La Stanford University, per discuterla, tenne una conferenza dove l’80 per cento degli esperti pensava che di anni ce ne sarebbero voluti cento. Oggi, il consenso scientifico è in linea con la mia previsione. Anzi, alcuni dicono che potrebbe accadere prima. È gratificante».
Nel 2029 ci raggiungerebbero per poi superarci nel 2045. Perché non ha aggiornato la stima dalla prima formulazione di diciannove anni fa?
«Perché tra le due date assisteremo al pieno sbocciare della rivoluzione biotecnologica. In altre parole, la nanotecnologia ci consentirà di collegare il nostro cervello al cloud, espandere la nostra intelligenza di un milione di volte e sbloccare nuovi livelli di coscienza che oggi sono inimmaginabili. Sarà allora che raggiungeremo la Singolarità».

IL METAVERSO, IN ORIGINE, ERA UN’ALTRA COSA

Sempre a proposito di profeti qualche anno fa sono andato a Seattle per intervistare Neal Stephenson, l’inventore del termine “metaverso”. L’intervista iniziava così:

SEATTLE. L'uomo che vede il futuro ha un pizzetto bianco, un doppiopetto blu e un anello di argento, oltre a un borsello per portafogli e cellulare che indossa a bandoliera sotto il giaccone. Neal Stephenson ha studiato fisica, deviato su geografia, imparato a programmare da solo sui manuali, giacché Youtube e i suoi tutorial sarebbero arrivati solo una ventina d'anni dopo. Nel '92 fu mandato il primo sms («Merry Christmas»), il web emetteva vagiti ma lui, in Snow Crash, immaginava – nell'ordine – una specie di codice Qr, una versione di Google Earth, il riconoscimento facciale, i gigacapitalisti che avrebbero puntato sullo spazio, i rider che portavano la pizza guidati dagli algoritmi e, soprattutto, il metaverso di cui tutti parlano senza sapere esattamente perché. Non una cosa simile, ma esattamente un universo alternativo con quel nome, un doppio digitale del mondo analogico in cui le persone interagiscono tramite alter ego (anche avatar, in questa accezione, è una sua trovata). Nel '99, in Cryptonomicon, parlava di criptovalute (il primo bitcoin sarà coniato dieci anni dopo). L'anno scorso negli Stati Uniti è uscito Termination Shock in cui torna al vecchio amore dell'emergenza climatica, la nostra inestricabile distopia quotidiana. Dove un miliardario, che come tipo umano assomiglia a Elon Musk, si mette in testa di risolvere il problema per fatti suoi è si inventa un enorme cannone che, sparando zolfo nell'atmosfera, dovrebbe creare una specie di pellicola gassosa che rifrange i raggi solari, raffreddando il pianeta. Il titolo si riferisce al tragico contraccolpo che potremmo subire se, a un certo punto, per i più svariati motivi, la pratica fosse interrotta. Ah, nel suo futuro prossimo il Texas è anche invaso dai cinghiali (ma questo, visto da Roma, è già il passato). Trattasi di volumone, come vari suoi altri che pure son finiti tra le letture di Obama e Gates, pieno di conoscenza approfondita, nozioni arcane, fattoidi, digressioni sapienziali che si ricompongono un attimo prima di diventare snervanti. Come ha notato un recensore, «non vuole solo raccontarti una storia: vuole istruirti». La migliore definizione del funzionamento della sua capoccia viene invece dal critico del New York Times: «Un intelletto speculativo poliedrico, un cervello collisore di adroni», come l'acceleratore di particelle che al Cern ha consentito la rilevazione del bosone di Higgs. È stato gentilissimo e puntuale al secondo. L'unico mistero è perché non abbia voluto incontrarci a casa sua piuttosto che nella hall di questo anodino albergo, con tanto di inestirpabile colonna sonora di Frank Sinatra. Ho insistito. Si è irrigidito. Quella che segue è la sintesi dell'incontro reso possibile dalla mia capitolazione.
Come le venne l'idea del metaverso in un libro in cui hacker trafficano file infetti che mandano in tilt i computer e friggono i cervelli di chi li maneggia?
«Era la fine degli anni 80. L'internet come la conosciamo era di là da venire. Provai a immaginare un ambiente virtuale in cui le persone potessero interagire l'una con l'altra. Il termine divenne popolare tra i tecnologi. E ora che governano il mondo, alcuni stanno provando a creare qualcosa del genere. La fattibilità la si deve soprattutto all'industria dei videogiochi che ha creato le grafiche e la possibilità di giocare online a distanza. Quindi metaverso è diventato sinonimo di prodotti che non esistono ancora ma dovrebbero esistere presto e sui quali Big tech spera che la gente spenderà soldi. Dal momento che le possibilità di ciò che si può fare nei confini degli attuali schermi si stanno assottigliando».
Ha detto di essere stato influenzato anche dalle Human Interface Guidelines di Apple: in che senso?
«Nel senso che quel manuale prevedeva una coerenza generale, estetica e funzionale, all'interno dell'ambiente Macintosh. Le applicazioni potevano anche essere create da aziende diverse, ma l'esperienza dentro al computer doveva restare la stessa. Io volevo lo stesso per il mio metaverso. Se uno, per dire, nella vita vera era alto un metro e ottanta anche il suo avatar doveva rispecchiare quelle dimensioni e non essere alto 200 metri altrimenti tutto sarebbe diventato estremamente caotico».
Questa coerenza, oggi, pretenderebbe che le aziende che lavorano al metaverso si mettessero d'accordo sugli standard da adottare. Ma dubito che Facebook (oggi Meta) discuta con Amazon o Microsoft sulla forma che dovranno avere i rispettivi ambienti perché ognuno vuole realizzare – e guadagnare con – il suo, no?
«Oltre ai nomi che cita aggiungerei almeno le piattaforme di videogiochi Roblox, Minecraft, Fortnite. La mia idea prevedeva che si potesse passare da un metaverso all'altro. La fortuna del web l'ha fatta proprio il fatto che Microsoft e Apple restavano avversari ma condividevano l'html, il codice con cui erano costruiti i rispettivi siti. Tra i quali ci si poteva spostare con un singolo clic. Il web era, è un ambiente in cui le distanze sono azzerate mentre nel mio metaverso erano ristabilite. Come nella vita vera la desiderabilità di un quartiere derivava dalla vicinanza al centro. Per spostarsi da una parte o dall'altra i recapitator, ovvero gli attuali rider, facevano fatica. Non ho idea di come Zuckerberg voglia comportarsi a riguardo».
Nell'attuale confusione definitoria c'è chi fa un tutt'uno tra metaverso e il quasi altrettanto vago web3. A quest'ultimo proposito lei che idea se n'è fatto?
«Il web 1, delle origini, si limitava a far visualizzare pagine web. Il web 2 ha permesso agli utenti di crearle, quelle pagine, approfittando del loro lavoro gratis. Il web 3, con gli Nft e altri modi per monetizzare, promette di ricompensarli economicamente. Se così fosse non sarebbe sbagliato. Il mio amico Jaron Lanier è stato tra i primi a denunciare lo sfruttamento e ha proposto il "mid", una valuta digitale per retribuire chi crea contenuti».

COSÌ INTERNET HA UCCISO LA CLASSE MEDIA

Dieci anni fa sono andato in California a intervistare Jaron Lanier, uno dei padri della realtà virtuale, che avvertiva degli effetti collaterali (ormai sempre più evidenti) della rivoluzione digitale. Un estratto:

Berkeley. La stanza dove lavora è un antro platonico. Per arrivarci bisogna superare canyon di libri e oggetti per terra. Ma il massimo livello di entropia si raggiunge varcando la porta. Un grande computer su un lato e, subito dietro la sedia, una selva di strumenti musicali: chitarre di ogni genere ed epoca, mandole, sitar, arpe, tamburi, cembali, appoggiati o appesi al soffitto basso, insonorizzato con una gomma nera. Al riparo di questo buio microcosmo domestico Jaron Lanier ha a lungo creduto, restando nella metafora, alle ombre riflesse sullo schermo. All’opinione diffusa, che da pioniere della realtà virtuale ha contribuito a creare, secondo la quale internet fosse la soluzione di tutti i mali. La garanzia autoevidente che le magnifiche sorti progredivano. Poi però ha assistito all’implosione dell’industria musicale («Vale un quarto di quanto valeva solo pochi anni fa. Presto varrà un decimo»). Ha visto sale di registrazione chiudere, sostituite da app fai da te. E guardato con sgomento assottigliarsi le royalty di gruppi che prima ci campavano. Dice: «Si salvano giusto le star. E i liutai, perché non sono sostituibili dalle macchine». Un mondo senza rock è triste, ma funziona ancora. Però a quel punto lui ha distolto lo sguardo dal monitor e ha deciso di guardare alle cose così come appaiono alla luce del sole. Arrendendosi a una realtà diversa da quella che gli era piaciuto immaginare. Giganti della new economy che impiegano un millesimo dei dipendenti della old economy. Negozi che muoiono, asfaltati da Amazon e le sue sorelle. Lavoratori che assistono all’inabissamento dei loro salari, prima parametrati ai cinesi, ora al software. Conclusione (sofferta e provvisoria): «Per quanto mi faccia male dirlo, potremo anche sopravvivere distruggendo solo la classe media composta da musicisti, giornalisti e fotografi. Ciò che non è sostenibile è la distruzione di quella che lavora nei trasporti, nella manifattura, nel settore energetico, nell’educazione e nella sanità, oltre che come impiegati. E una tale distruzione accadrà, a meno che le idee dominanti sull’economia dell’informazione non facciano dei passi avanti». Fine dell’innocenza.

La reazione immediata a questo atto d’accusa è una scrollata di spalle: è il progresso, bellezza! Nella prima rivoluzione industriale i telai hanno fatto fuori gli operai tessili, oggi i computer rimpiazzano professionisti d’ogni ordine e grado. Ma ci sono differenze sostanziali. Quando si è passati dalla carrozza all’auto c’era sempre un uomo al volante, mentre l’imminente driverless car farà a meno anche di lui. Prima i robot alleviavano il lavoro pesante dei colletti blu, ora l’algoritmo rende superfluo quello leggero e creativo dei colletti bianchi. E poi, fino a una certa data, più efficienza (dovuta largamente all’automazione) significava un’economia più florida. Magari uno perdeva il posto in manifattura e ne trovava un altro nei servizi. Neppure quelli sono più un rifugio. Un dato da mandare a memoria: dal dopoguerra al 2000 produttività e occupazione crescono di pari passo. Dopo, la seconda curva si affloscia perché le macchine corrono troppo in fretta, hanno bisogno di meno uomini e questi non ce la fanno ad acquisire le competenze per star loro dietro. È il Grande Disaccoppiamento di cui parlano Erik Brynjolfsson e Andrew McAfee, due professori del Mit, in The Second Machine Age. Il Pil complessivo cresce, il salario medio no. Carl Benedikt Frey e Michael Osborne, docenti a Oxford, hanno calcolato che il 47 per cento dei mestieri attuali negli Stati Uniti è a rischio estinzione per l’informatizzazione. Lo strappo è violento e rapido. Lanier è tra i primi a infrangere il tabù per cui internet e benessere economico coinciderebbero per definizione. Nel 2011, con You’re Not a gadget: a Manifesto, sostiene che il web 2.0, quello in cui i consumatori diventano anche produttori di informazioni – status di Facebook, foto su Instagram, opinioni su Twitter – è un truffa. Perché noi lavoriamo, gratis, a condividere mici, baci coi fidanzati e spiritosaggini, ma a guadagnarci è Zuckerberg. Nel 2013 Lanier torna sul tema con Who Owns the Future, tradotto in La dignità digitale al tempo di internet (il Saggiatore). È la critica più ampia, di lunga gittata e convincente. Di uno insospettabile, che era nel pacchetto di mischia dei padri nella rete («Resto in buoni rapporti con tutti: Jobs era un amico, Bezos lo è, Gates mi ha anche offerto il mio attuale lavoro. Ma quando scrivevo che l’online avrebbe liberato la musica, mi sbagliavo di grosso»). Che non si sogna neppure di mettersi di traverso alla tecnologia, convinto che, come ha creato il problema, saprà anche risolverlo («Internet in sé è fantastica. Questa internet ha ucciso la classe media»). Poi è uscito Average Is Over in cui l’economista Tyler Cowen immagina un mondo in cui solo un’élite sopravviverà (e prospererà) allo tsunami tecnologico. E infine The Zero Marginal Cost Society in cui il futurologo Jeremy Rifkin tratteggia un domani-quasi-oggi in cui, grazie o per colpa dell’automazione, il prezzo delle merci crollerà sempre di più, e con esse i salari di chi le produceva. Ma torniamo al nostro uomo, matematico, programmatore, polistrumentista, ai suoi dreadlocks inestricabili, alle sue magliette nere extralarge e ai suoi sandali, nella casetta incastonata sulle colline di Berkeley.

Quella che lui denuncia è la «frode contabile di massa» che fa finta che i social network, o i big data di cui tanto si parla, si producano per partenogenesi informatica. «E invece ogni tessera di quel caos di informazioni che Google organizza è prodotta da esseri umani. Sempre. La domanda piuttosto è: quel contributo è messo a bilancio e dunque valorizzato adeguatamente? La risposta è no. E nel frattempo Google diventa sempre più ricco e noi che lo alimentiamo sempre più poveri. Fermiamoci! Pretendiamo che un po’ di quel valore ci sia riconosciuto». Principio sacrosanto, ma dall’applicazione complessa. Procediamo per gradi. Perché non si tratta di un’espropriazione forzosa, quanto di un esercito di volenterosi carnefici che si consegna allo sfruttamento digitale altrui. La parola chiave è schizofrenia. «Ci piace la musica gratis, ma poi gridiamo allo scandalo per l’orchestrale nostro amico che non ha più fondi. Ci eccitiamo per i prezzi online stracciati, e poi piangiamo per l’ennesima serranda abbassata. Ci piacciono anche le notizie a costo zero, e poi rimpiangiamo i bei tempi in cui i giornali erano in salute. Siamo felicissimi dei nostri (apparenti) buoni affari, ma alla fine ci renderemo conto che stiamo dilapidando il nostro valore». Sdoppiamento raccontato benissimo anche da Robert Reich, l’ex ministro del lavoro di Clinton, in Supercapitalismo dove spiega che, da cittadini, vorremmo salari equi ma da consumatori li barattiamo volentieri con sconti estremi. Come se le due cose non fossero correlate.

Dunque, a partire dall’industria musicale, Lanier allarga la rassegna. Il suo esempio più macroscopico riguarda la fotografia. Dice: «Al suo apice Kodak valeva 28 miliardi di dollari e impiegava 140 mila persone. Instagram, che risponde alla medesima esigenza di condividere foto, aveva 13 dipendenti quando è stata venduta per 1 miliardo. Ma non è stata valutata così tanto perché quei tredici sono straordinari. Il suo valore nasce invece da milioni di utenti che contribuiscono al network senza essere pagati». Negli anni 80 General Motors impiegava 350 mila persone, oggi Facebook meno di 7000. E così via. È un’ingenuità credere che i restanti si siano tutti riciclati come web designer. Il grosso si è semplicemente volatilizzato. Il 60 per cento dei posti persi nella recessione, ha calcolato la Federal Reserve di San Francisco, erano della classe media. Thomas Cook, la leggendaria catena di agenzie di viaggio britanniche, ha annunciato che ne chiuderà 195 licenziando 2500 dipendenti. Ha resistito a tutto, per 172 anni, ma non all’impetuosa crescita di Expedia, Orbitz e simili. Per tacere dei libri. A New York le librerie indipendenti sono state prima decimate dalla grandi catene, tipo Borders e Barnes&Noble. Ora le catene sono fatte fuori da Amazon. Chiuso per Kindle è l’emblematico titolo del saggio di Massimiliano Timpano e Pier Francesco Leofreddi, due librai romani in difficoltà. Nelle settimane scorse a Torino hanno annunciato il forfait cinque importanti librerie del centro. Amazon si può permettere gli sconti che fa per le sue enormi economie di scala e per un flusso di cassa che gli permette di andare avanti con margini bassissimi, nel frattempo schedando il cliente meglio di chiunque altro, per poi vendergli di tutto. Così, se l’anno scorso era il nono più grande venditore del mondo, diventerà il secondo entro il 2018, stimano gli analisti di Kantar Retail. Lanier lo definisce – come Google e Apple – un «server sirena», ovvero gruppi di computer connessi in rete che attraggono grandi numeri di utenti, accumulando e analizzando dati dettagliatissimi sui comportamenti online, senza però riconoscere loro alcun valore economico.

Epilogo

A Gaza i bambini che sopravvivono alle bombe israeliane muoiono per il freddo. Come questa neonata assiderata.