In ricordo di Vernor Vinge: un’intervista del 2008 sulla Singolarità Tecnologica

Nella nostra conversazione, Vernor ha spiegato che la singolarità ruota attorno alla creazione di entità più intelligenti degli esseri umani, che potrebbero portare a un futuro che diventa difficile da comprendere per noi. Il rapido progresso inintelligibile era stato immaginato dal matematico John von Neumann ancora prima, negli anni ’40.

Vernor ha riconosciuto le sfide nel rappresentare scenari post-singolarità nella sua scrittura, poiché l'”orizzonte degli eventi” della singolarità suggerisce l’impossibilità di vedere oltre. Tuttavia, ha anche notato che se la transizione verso la singolarità richiede anni, le azioni dell’umanità potrebbero svolgere un ruolo significativo nel plasmare il risultato. Ha proposto che durante questo periodo, gli esseri umani potrebbero beneficiare dell’amplificazione dell’intelligenza o dei miglioramenti biomedici, potenzialmente permettendoci di comprendere e partecipare meglio alla transizione.

Abbiamo anche toccato il concetto di singolarità a “decollo rapido”, in cui l’emergere della superintelligenza avviene rapidamente, forse nel corso di un centinaio di ore. Sebbene trovasse questa idea inquietante e la riconoscesse come un’opinione di minoranza tra i suoi pari, Vernor ha sostenuto che non era del tutto implausibile. Ha tracciato un’analogia con l’ascesa degli esseri umani all’interno del regno animale, suggerendo che per gli altri animali, gli esseri umani potrebbero essere sembrati inspiegabilmente adattabili e capaci di imporre un rapido cambiamento.

Vernor e io eravamo d’accordo che è fondamentale per i tecnologi comunicare efficacemente i potenziali impatti dell’intelligenza artificiale ai responsabili politici e al pubblico. Non farlo potrebbe portare a tentativi fuorvianti di sopprimere la ricerca, che potrebbero solo spingere lo sviluppo in domini meno controllabili. Vernor ha sostenuto che l’approccio più prudente è coinvolgere la saggezza collettiva dell’umanità nell’affrontare le sfide poste dalla singolarità. Questa sfida è ancora aperta mentre scrivo 16 anni dopo, e più urgente che mai.

L’eredità di Vernor serve come un promemoria dell’importanza di un discorso ponderato e inclusivo sulla traiettoria delle tecnologie trasformative. Spronati dal suo ricordo, dobbiamo sforzarci di creare un futuro che vada a beneficio di tutta l’umanità, mentre esploriamo nuovi territori di intelligenza e capacità.

Trascrizione revisionata

David: Volevo ricordare ai nostri ascoltatori il tuo articolo seminale con la NASA di 15 anni fa, che è stato uno dei primi a reintrodurre il concetto di singolarità tecnologica. Originariamente, era un concetto dello spazio, sviluppato da von Neumann e Ulam negli anni ’40, ma tu sei stato certamente colui che lo ha portato a un pubblico più vasto e lo ha formulato in modo più preciso. Raccontaci un po’ cosa è successo negli ultimi 15 anni. Come ti senti riguardo al fatto che il concetto sia stato esplorato dagli specialisti?

Vernor: Mi sembra che i progressi nella direzione della singolarità siano andati avanti senza troppe grandi sorprese. Una differenza, anche se si applica al caso di von Neumann, è la questione di cosa lo sta rendendo possibile. Per me, la singolarità si riduce a creare o diventare cose che sono più intelligenti degli esseri umani. Questo è il fondamentale punto cruciale. Se ciò non accade, allora la visione di von Neumann di un progresso così veloce che le persone non riescono a capirlo probabilmente non si verificherà.

David: C’è stato qualche progresso tra gli specialisti che studiano il concetto in profondità, come te, nel tentativo di rappresentare scenari post-singolari. L’interpretazione dell’orizzonte degli eventi della singolarità dice che non puoi guardare oltre, ma il tuo lavoro come scrittore di fantascienza è falsificare quella visione e comunque provare a vedere l’umanità che vive in un mondo post-singolare.

Vernor: Probabilmente sono più fortemente dalla parte dell’orizzonte degli eventi e dell’impossibilità di vedere oltre rispetto alla maggior parte delle persone. L’analogia è tra noi e il resto del regno animale. Un pesce rosso non potrebbe capire cosa stiamo facendo qui questo pomeriggio con questa intervista. D’altra parte, soprattutto se la transizione richiede anni, è chiaro che ciò che l’umanità sta facendo è importante nell’influenzare il risultato, sperabilmente in modi benefici. Se ci vuole molto tempo perché accada, gli esseri umani dell’epoca probabilmente trarranno beneficio dalla tecnologia che arriverà. La loro intelligenza sarà migliorata, sia dall’amplificazione dell’intelligenza che dai progressi biomedici.

Quindi, anche se posso avere ragione riguardo alle affermazioni di inintelligibilità e all’orizzonte degli eventi, su come le cose più intelligenti di noi siano oltre la nostra comprensione, questo potrebbe essere un punto discutibile se, mentre ci andiamo, diventiamo noi stessi più intelligenti. Nel 1982, ero a una conferenza sull’IA alla Carnegie Mellon e ho usato il termine “singolarità” in un panel. Stavo parlando con Hans Moravec, che ho incontrato per la prima volta in quell’occasione. Lui sapeva già tutto questo, ma ha detto: “Sono d’accordo con tutto quello che stai dicendo, tranne che non userei il termine ‘singolarità’ per questo”. Ha spiegato che se sei uno dei partecipanti, questa non sarà una transizione inintelligibile; sarà una transizione bella e fluida. Ha detto: “Ho intenzione di cavalcare quella curva, e per me sarà abbastanza chiaro cosa sta succedendo”.

David: La velocità del cambiamento, le derivate prima e seconda di quella curva, sono importanti non solo per i tecnologi ma per la società in generale. L’adattabilità degli esseri umani è finita, quindi più veloce è il cambiamento, più difficile è per noi continuare a cavalcare la curva, come ha detto Hans. Mi chiedo se tu abbia un’opinione riguardo all’adozione del concetto di singolarità o di cambiamento accelerato da parte della società in generale, da parte dei non tecnologi, degli educatori e dei politici, e se lo abbiano compreso del tutto.

Vernor: Non penso che abbia avuto un impatto cosciente in modo particolare. Se un tale riconoscimento cosciente diventi abbastanza importante dipende anche da quanto velocemente accade. Più velocemente accade, più a disagio mi sento. Si potrebbero immaginare situazioni in cui cambiamenti immensi vengono assorbiti da un segmento della società che poi si allontana dal resto. Questo è molto inquietante, anche se non necessariamente un disastro, poiché le persone che stanno diventando più intelligenti e le loro macchine che stanno diventando più intelligenti sarebbero probabilmente più benigne della maggior parte delle fazioni d’élite del passato. Tuttavia, l’esperienza è inquietante per me.

La versione estrema, quella che io chiamo decollo duro, in cui tutto accade in circa cento ore o giù di lì, mi sembra molto spaventosa. Tuttavia, ragionando per analogia, non considero questo implausibile come fanno alcune persone. La maggior parte dei miei amici che parlano della singolarità considerano questo terribilmente improbabile e incredibile che possa accadere così velocemente. Io certamente non sto sostenendo che debba accadere così velocemente. Trovo questa particolare possibilità molto spaventosa.

La cosa che ha una certa plausibilità per me è l’analogia con l’evento più recente paragonabile alla singolarità, che è stato l’ascesa degli esseri umani all’interno del regno animale. Dal punto di vista degli animali locali, penso che gli esseri umani sembrassero preternaturalmente adattabili e preternaturalmente veloci nel portare cambiamenti nell’ambiente. Non sto parlando di esseri umani del XX o XXI secolo, ma piuttosto di esseri umani del paleolitico.

David: Con l’invenzione dell’agricoltura e dopo, è passato un tempo che dal punto di vista biologico è solo un battito di ciglia. Gli animali non avevano alcuna possibilità di adattarsi.

Vernor: Anche prima dell’invenzione dell’agricoltura, il modo in cui gli esseri umani imparavano a cacciare mostrava un’estrema adattabilità. La natura può adattare le creature a cacciare altre creature, ma ci vuole molto più tempo perché si basa sulla selezione naturale e sull’evoluzione.

Ragionando per analogia, si potrebbe ipotizzare che qualcosa di più intelligente di noi avrebbe un’accelerazione equivalente. C’è un piccolo supporto per questo quando si guardano i cambiamenti di rete e i cambiamenti di rete di comunicazione. Ti ricordi gli studi sul worm Slammer?

Penso che abbiano concluso che era passato dall’iniziazione alla saturazione dei bersagli accessibili in tutto il mondo in circa 20 minuti.

Quindi, si può immaginare che se ci fosse un substrato di rete a ciò che stava accadendo, una volta ottenuta l’intelligenza superumana, si otterrebbe un rapido bootstrap. Non sarebbe una lenta evoluzione di decenni verso il cambiamento, ma qualcosa che accadrebbe in un pomeriggio. Non sto dicendo che sarà così. Sto solo dicendo che un decollo duro è immaginabile, e sembra che non sarebbe attraente. Sembra che sarebbe uno dei modi più pericolosi in cui questo tipo di cosa potrebbe accadere.

David: Prima ho menzionato educatori e politici, la ragione per cui penso che sia responsabilità dei tecnologi inquadrare e formulare le sfide in un modo che i politici possano capire e su cui possano agire in modo desiderabile è perché abbiamo visto nel recente passato cosa succede quando questo non va in quel modo. Gli alimenti geneticamente modificati in Europa e la ricerca sulle cellule staminali negli Stati Uniti hanno mostrato quanto possa essere dannoso un intervento politico relativamente maldestro. Non ferma il progresso; devia solo il progresso verso ambienti meno controllabili, e arriva comunque alla tua porta anche se presumibilmente non lo vuoi.

Le IA e le AGI sono i soggetti fondamentali della singolarità tecnologica, ma non penso che stiamo facendo un lavoro abbastanza buono nello spiegare la loro natura potenziale e i modi in cui potrebbero influenzare il mondo. Ti aspetti che ci possa essere una reazione contro la ricerca sull’IA se mostrasse progressi? Dati gli esempi che ho fatto, questo la renderebbe più pericolosa? Massimizzerebbe gli esiti negativi invece di massimizzare quelli positivi?

Vernor: Penso che le reazioni contro qualsiasi tecnologia siano sempre possibili. Le reazioni di soppressione di successo sono quasi sempre impossibili. Il risultato della soppressione, penso, è di solito del tipo che hai descritto. Significa che la tecnologia è confinata a certe categorie di élite o ai militari. Significa anche che la pianificazione fatta riguardo al progresso è confinata a esperti auto-nominati che spesso sono auto-selezionati per incompetenza.

Una cosa che mi rende esitante a parlare di pianificazione è che non sappiamo quali siano le cose più pericolose. Sappiamo tutti che ci sono cose che potrebbero essere estremamente pericolose, ma non siamo nella posizione di visualizzare la rete di causa ed effetto che determina cosa è pericoloso quando. Questo potrebbe ridurre alcune persone all’inazione tremante, mentre fa diventare altre fanatici soppressori.

Penso che l’approccio più sano e corretto sia essere il più inclusivi possibile nel portare l’esperienza e la saggezza di tutta l’umanità in questioni come questa. Ciò che sta accadendo in modo molto naturale con Internet lo fa. Se si guarda il mondo nel suo insieme, abbiamo sei miliardi di persone, con centinaia di milioni di persone connesse. Di queste, quasi tutte sono persone di buona volontà. Molte di loro sono altamente intelligenti e istruite. Nel loro insieme, sono una massa di saggezza e intelligenza maggiore di qualsiasi élite, anche élite che sono davvero élite perché sono intelligenti. Ciò che è là fuori con il web supera questo in ampiezza e intelligenza.

Penso che sia su questo che dovremmo dipendere. Il web e Internet lo stanno fornendo per noi. Anche Adam Smith e i mercati liberi giocano un ruolo in questo perché è un modo in cui le persone votano con le proprie risorse su ciò che pensano sia giusto. Il mondo è un posto molto pericoloso, ma i pericoli non sono solo tecnologici; sono umani. Si tratta del fatto che l’universo nel suo insieme è un posto molto pericoloso. Questo non cambia nulla di tutto ciò, ma penso che sia il modo in cui possiamo avere la migliore possibilità di superarlo.