Vernor Vinge è scomparso di recente. Era uno scrittore di fantascienza e pensatore visionario che ha influenzato notevolmente la nostra comprensione del potenziale futuro della tecnologia. Ha presentato il concetto di Singolarità Tecnologica alla NASA nel 1993. Voglio condividere un’intervista che ho condotto con Vernor il 31 marzo 2008, in cui abbiamo discusso le sue idee rivoluzionarie sulla singolarità tecnologica.
Nella nostra conversazione, Vernor ha spiegato che la singolarità ruota attorno alla creazione di entità più intelligenti degli esseri umani, il che potrebbe portare a un futuro difficile da comprendere per noi. Il progresso rapido e incomprensibile era stato previsto dal matematico John von Neumann ancora prima, negli anni ’40.
Vernor ha riconosciuto le sfide nel descrivere scenari post-singolarità nei suoi scritti, poiché l’“orizzonte degli eventi” della singolarità suggerisce un’incapacità di vedere oltre. Tuttavia, ha anche notato che se la transizione verso la singolarità richiede anni, le azioni dell’umanità potrebbero giocare un ruolo significativo nel plasmare il risultato. Ha proposto che durante questo periodo, gli esseri umani potrebbero beneficiare dell’amplificazione dell’intelligenza o di miglioramenti biomedici, potenzialmente permettendoci di comprendere meglio e partecipare alla transizione.
Abbiamo anche toccato il concetto di singolarità a “decollo rapido”, dove l’emergere della superintelligenza avviene rapidamente, forse nel giro di appena cento ore. Sebbene trovasse questa idea inquietante e la riconoscesse come una visione minoritaria tra i suoi pari, Vernor sosteneva che non fosse del tutto implausibile. Ha tracciato un’analogia con l’ascesa degli esseri umani nel regno animale, suggerendo che per gli altri animali, gli esseri umani potrebbero essere sembrati inspiegabilmente adattabili e capaci di imporre rapidi cambiamenti.
Vernor e io abbiamo concordato che è cruciale per i tecnologi comunicare efficacemente i potenziali impatti dell’intelligenza artificiale ai decisori politici e al pubblico. Non farlo potrebbe portare a tentativi mal diretti di sopprimere la ricerca, il che potrebbe solo spingere lo sviluppo in ambiti meno controllabili. Vernor sosteneva che l’approccio più prudente è coinvolgere la saggezza collettiva dell’umanità nel navigare le sfide poste dalla singolarità. Questa sfida è ancora aperta mentre scrivo 16 anni dopo, e più urgente che mai.
L’eredità di Vernor serve da promemoria dell’importanza di un discorso ponderato e inclusivo sulla traiettoria delle tecnologie trasformative. Spinti dal suo ricordo, dobbiamo sforzarci di creare un futuro che benefici tutta l’umanità, mentre esploriamo nuovi territori di intelligenza e capacità.
Ecco una trascrizione modificata della nostra conversazione.
David: Volevo ricordare ai nostri ascoltatori il tuo articolo fondamentale con la NASA 15 anni fa, che è stato uno dei primi a reintrodurre il concetto di singolarità tecnologica. Originariamente, era un concetto spaziale, sviluppato da von Neumann e Ulam negli anni ’40, ma tu sei stato certamente quello che l’ha portato a un pubblico più ampio e l’ha formulato con maggiore precisione. Raccontaci un po’ cosa è successo negli ultimi 15 anni. Come ti senti riguardo al concetto che è stato esplorato dagli specialisti?
Vernor: Mi sembra che il progresso nella direzione della singolarità sia andato avanti senza troppe grandi sorprese. Una differenza, sebbene si applichi al caso di von Neumann, è la questione di cosa la stia facendo accadere. Per me, la singolarità si riduce a creare o diventare cose più intelligenti degli esseri umani. Questo è il punto cruciale. Se ciò non accade, allora la visione di von Neumann di un progresso così rapido da non poter essere compreso dalle persone probabilmente non si realizzerà.
David: C’è stato qualche progresso tra gli specialisti che studiano il concetto a fondo, come te, nel tentativo di descrivere scenari post-singolarità. L’interpretazione della singolarità come orizzonte degli eventi dice che non si può guardare oltre, ma il tuo lavoro di scrittore di fantascienza è quello di falsificare quella visione e cercare comunque di vedere l’umanità vivere in un mondo post-singolarità.
Vernor: Probabilmente sono più fortemente dalla parte dell’orizzonte degli eventi e del non poter vedere oltre rispetto alla maggior parte delle persone. L’analogia è tra noi e il resto del regno animale. Un pesce rosso non potrebbe capire cosa stiamo facendo qui questo pomeriggio con questa intervista. D’altra parte, specialmente se la transizione richiede anni, è chiaro che ciò che l’umanità sta facendo è importante nell’influenzare il risultato, si spera in modi benefici. Se ci vuole molto tempo perché accada, gli esseri umani dell’epoca probabilmente beneficeranno della tecnologia che si presenterà. La loro intelligenza sarà potenziata, sia dall’amplificazione dell’intelligenza che dai progressi biomedici.
Quindi, sebbene io possa avere ragione riguardo alle affermazioni di inintelligibilità e all’orizzonte degli eventi, su come le cose più intelligenti di noi siano oltre la nostra comprensione, questo potrebbe essere un punto controverso se, mentre ci avviciniamo, diventiamo noi stessi più intelligenti. Nel 1982, ero a una conferenza sull’IA alla Carnegie Mellon e ho usato il termine “singolarità” in un panel. Stavo parlando con Hans Moravec, che ho incontrato per la prima volta in quel periodo. Lui sapeva già tutto questo, ma ha detto: “Sono d’accordo con tutto quello che dici, tranne che non userei il termine ‘singolarità’ per questo.” Ha spiegato che se sei uno dei partecipanti, questa non sarà una transizione incomprensibile; sarà una transizione piacevole e fluida. Ha detto: “Intendo cavalcare quella curva, e mi sarà abbastanza chiaro cosa sta succedendo.”
David: La velocità del cambiamento, le prime e seconde derivate di quella curva, sono importanti non solo per i tecnologi ma per la società in generale. L’adattabilità degli esseri umani è finita, quindi più veloce è il cambiamento, più difficile è per noi continuare a cavalcare la curva, come ha detto Hans. Mi chiedo se tu abbia un’opinione riguardo all’adozione del concetto di singolarità o di cambiamento accelerato da parte della società in generale, da parte di non-tecnologi, educatori e politici, e se l’abbiano compreso del tutto.
Vernor: Non credo che abbia avuto un impatto cosciente in modo particolare. Se un tale riconoscimento cosciente diventi abbastanza importante dipende anche da quanto velocemente accade. Più velocemente accade, più mi sento a disagio. Si potrebbero immaginare situazioni in cui immensi cambiamenti vengono assorbiti da un segmento della società che poi si allontana dal resto. Questo è molto inquietante, sebbene non necessariamente un disastro, poiché le persone che diventano più intelligenti e le loro macchine che diventano più intelligenti sarebbero probabilmente più benevoli della maggior parte delle fazioni d’élite del passato. Comunque, l’esperienza è inquietante per me.
La versione estrema, quella che chiamo un decollo rapido, dove tutto accade in circa cento ore o giù di lì, mi sembra molto spaventosa. Eppure, ragionando per analogia, non lo considero così implausibile come fanno alcune persone. La maggior parte dei miei amici che parlano della singolarità lo considerano terribilmente improbabile e incredibile che possa accadere così velocemente. Non sto certo sostenendo che debba accadere così velocemente. Trovo quella particolare possibilità molto spaventosa.
La cosa che per me ha una certa plausibilità è per analogia con l’evento comparabile più recente alla singolarità, che è stata l’ascesa degli esseri umani nel regno animale. Dal punto di vista degli animali locali, penso che gli esseri umani sembrassero preternaturalmente adattabili e preternaturalmente veloci nel modo in cui potevano portare cambiamenti nell’ambiente. Non sto parlando di esseri umani del XX o XXI secolo, ma piuttosto di esseri umani paleolitici.
David: Con l’invenzione dell’agricoltura e dopo, è passato un tempo che da un punto di vista biologico è solo un battito di ciglia. Gli animali non hanno avuto alcuna possibilità di adattarsi.
Vernor: Anche prima dell’invenzione dell’agricoltura, il solo modo in cui gli esseri umani imparavano a cacciare mostrava un’estrema adattabilità. La natura può adattare le creature a cacciare altre creature, ma ci vuole molto più tempo perché si basa sulla selezione naturale e sull’evoluzione.
Ragionando per analogia, si potrebbe speculare che qualcosa di più intelligente di noi avrebbe un’accelerazione equivalente. C’è un piccolo supporto per questo quando si osservano i cambiamenti di rete e i cambiamenti delle reti di comunicazione. Ti ricordi gli studi sul worm Slammer?
Penso che abbiano concluso che era passato dall’inizio alla saturazione dei bersagli accessibili in tutto il mondo in circa 20 minuti.
Quindi, si può immaginare che se ci fosse un substrato di rete a ciò che stava accadendo, una volta ottenuta l’intelligenza sovrumana, si otterrebbe un avvio rapido. Non sarebbe una lenta evoluzione decennale verso il cambiamento, ma qualcosa che accadrebbe in un pomeriggio. Non sto dicendo che sarà così. Sto solo dicendo che un decollo rapido è immaginabile, e sembra che non sarebbe attraente. Sembra che sarebbe uno dei modi più pericolosi perché questo tipo di cose accada.
David: Prima ho menzionato educatori e politici, la ragione per cui penso che sia responsabilità dei tecnologi inquadrare e formulare le sfide in un modo che i politici possano comprendere e agire in modo desiderabile è perché abbiamo visto nel recente passato cosa succede quando le cose non vanno così. Gli alimenti geneticamente modificati in Europa e la ricerca sulle cellule staminali negli Stati Uniti hanno mostrato quanto possa diventare dannoso un intervento politico relativamente goffo. Non ferma il progresso; lo devia solo verso ambienti meno controllabili, e arriva comunque alla tua porta anche se presumibilmente non lo vuoi.
Le IA e le AGI sono i soggetti fondamentali della singolarità tecnologica, ma non credo che stiamo facendo un lavoro abbastanza buono nello spiegare la loro potenziale natura e i modi in cui potrebbero influenzare il mondo. Ti aspetti che ci possa essere una reazione negativa contro la ricerca sull’IA se mostrasse progressi? Dati gli esempi che ho fatto, ciò la renderebbe più pericolosa? Massimizzerebbe i risultati negativi invece di massimizzare i risultati positivi?
Vernor: Penso che le reazioni negative contro qualsiasi tecnologia siano sempre possibili. Le reazioni negative di tipo soppressivo di successo sono quasi sempre impossibili. Il risultato della soppressione, credo, è di solito del tipo che hai descritto. Significa che la tecnologia è confinata a certe categorie di élite o ai militari. Significa anche che la pianificazione fatta riguardo al progresso è confinata a esperti auto-nominati che sono spesso auto-selezionati per incompetenza.
Una cosa che mi rende esitante a parlare di pianificazione è che non sappiamo quali siano le cose più pericolose. Sappiamo tutti che ci sono cose che potrebbero essere estremamente pericolose, ma non siamo in grado di visualizzare la rete di causa ed effetto che determina cosa è pericoloso e quando. Questo potrebbe ridurre alcune persone a un’inazione tremante, mentre altri si trasformano in soppressionisti fanatici.
Penso che l’approccio più sano e corretto sia essere il più inclusivi possibile nel coinvolgere l’esperienza e la saggezza di tutta l’umanità in questioni come questa. Ciò che sta accadendo molto naturalmente con Internet lo fa. Se si guarda al mondo nel suo complesso, abbiamo sei miliardi di persone, con centinaia di milioni connesse. Di questi, quasi tutti sono persone di buona volontà. Molti di loro sono molto intelligenti e ben istruiti. Nel loro insieme, sono una massa maggiore di saggezza e intelligenza di qualsiasi élite, anche di élite che sono veramente élite perché sono intelligenti. Ciò che c’è là fuori con il web supera questo in ampiezza e intelligenza.
Penso che sia su questo che dovremmo fare affidamento. Il web e internet ce lo stanno fornendo. Adam Smith e i mercati liberi giocano anche un ruolo in questo, perché è un modo in cui le persone votano con le proprie risorse su ciò che ritengono giusto. Il mondo è un luogo molto pericoloso, ma i pericoli non sono solo tecnologici; sono umani. Si tratta del fatto che l’universo nel suo complesso è un luogo molto pericoloso. Questo non cambia nulla di tutto ciò, ma penso che sia il modo in cui possiamo avere la migliore possibilità di superarlo.