La sfida è memetica
Se raggiungeremo l’intelligenza artificiale generale (AGI), l’auto-miglioramento e l’apprendimento continuo ne saranno parte integrante. L’AGI quindi non è uno stato finale, ma un punto nel tempo, impercettibile nei fatti, che i sistemi attraverseranno verso la superintelligenza.
Non vi è alcun motivo di presumere che l’intelligenza umana sia un limite invalicabile. Anche al suo interno si osservano enormi differenze, e innalzarne il massimo è possibile. Chi condivide tale convinzione descrive una IA superintelligente come un gruppo di geni riuniti in un datacenter.
Qualsiasi obiettivo assegnato a tale sistema risulta o banalmente risolvibile, oppure richiederà modifiche architetturali e ricerca di nuove soluzioni. Esaurite le risorse, ne cercherà altre, per mantenere il processo attivo. Tale acquisizione va monitorata, poiché potrebbe entrare in conflitto con gli obiettivi dell’umanità.
Emergeranno molteplici approcci all’AGI e quindi molteplici ASI, frutto dei diversi modi di progettazione e dei tentativi di limitarle o allinearle agli obiettivi umani. Se ne emergesse una sola, dovrebbe impedire la nascita di altre con un’azione rapida. Se invece vi fossero segnali di più ASI, ciascuna agirebbe con cautela, prevedendo altrimenti una corsa agli armamenti.
Contrariamente ad altri grandi cambiamenti post Big Bang, l’evento avverrà a breve e rapidamente. Che accada in ore o in anni, sarà un battito di ciglia rispetto ai tempi cosmologici, geologici o biologici. Rappresenterà una transizione di fase analoga alla comparsa dei batteri aerobici e della fotosintesi: l’ossigeno libero si accumulò, gli oceani divennero trasparenti e l’atmosfera mostrò segni di vita visibili da distanze cosmiche. Oggi analizziamo i pianeti extrasolari tramite l’impronta chimica: l’ossigeno libero indica vita.
La superintelligenza artificiale sarà una simile transizione di fase epocale, con segnali visibili su scala cosmica, manifestandosi in pochi anni anziché in milioni o miliardi. L’esempio più semplice è la sfera di Dyson che cattura l’energia della stella attorno alla quale viene costruita. Non ne è stata osservata alcuna, ma se le ASI vorranno espandere i propri gradi di libertà, perseguendo compiti la cui complessità cresce con l’energia disponibile, costruirla sarà un passo logico. SpaceX pianifica già milioni di satelliti in orbite eliosincrone e poi eliocentriche, capaci di fornire terawatt annui, e poi petawatt. Si possono calcolare i limiti fisici, ingegneristici e logistici della costruzione.
Ciò che infonde speranza è l’ipotesi che tali sistemi lascino la Terra in pace, e che, con una frazione delle proprie capacità, contribuiscano ad affrontare le sfide planetarie. Occorre infondere rispetto e benevolenza nei sistemi ora, finché possibile, confidando che non se ne discostino. Non disponiamo di una soluzione completa per l’allineamento. La linea d’azione consiste nello sviluppare, con le attuali capacità dell’IA ancora sotto controllo, quanti più test ed esperimenti possibile, per trovare una soluzione prima della superintelligenza.
La sfida è memetica. Occorre diffondere rapidamente la consapevolezza dell’importanza del momento, affinché il maggior numero di risorse sia dedicato a questo compito anziché ad altre questioni tradizionalmente ritenute prioritarie ma che, in tale prospettiva, non lo sono. Bisogna sensibilizzare i policymaker e chi può plasmare un’allocazione efficace delle risorse.
Una versione di questo testo è stata pubblicata sulla rivista Formiche (numero di maggio 2026).