{"id":11480,"date":"2025-04-06T20:09:22","date_gmt":"2025-04-06T20:09:22","guid":{"rendered":"https:\/\/davidorban.com\/?p=11480"},"modified":"2025-04-07T13:54:45","modified_gmt":"2025-04-07T13:54:45","slug":"ai-2027-siamo-pronti-per-la-superintelligenza","status":"publish","type":"post","link":"https:\/\/davidorban.com\/it\/2025\/04\/ai-2027-siamo-pronti-per-la-superintelligenza\/","title":{"rendered":"AI 2027: siamo pronti per la superintelligenza?"},"content":{"rendered":"\n<p>Nello scenario di previsione <a href=\"https:\/\/ai-2027.com\">AI2027<\/a>, pubblicato solo pochi giorni fa, gli autori Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland e Romeo Dean, discutono di come i prossimi due o tre anni potrebbero svolgersi con l&#8217;IA che diventa sempre pi\u00f9 potente, con l&#8217;AGI, intelligenza artificiale generale potenzialmente dietro l&#8217;angolo e l&#8217;ASI, la superintelligenza proprio dietro di essa.<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img decoding=\"async\" src=\"https:\/\/lh7-rt.googleusercontent.com\/docsz\/AD_4nXcTe6W8ySYk272GHgdfZamaPXsXGwBvbp4pHqFRdRVeJYHYzzE788iPVz6UDabkQIC5MUaGz1YvgZ0Logu0TvTa33gUa4OEi7IKF6H7tbPu_UR-TMffhNUgkFv2yfTDdKCT7V5f?key=wCo_wXIiJTarorh-l7liIV19\" alt=\"\"\/><\/figure>\n\n\n\n<p>In questo commento e analisi voglio illustrare perch\u00e9 questo tipo di esercizio di previsione sia utile, presentare le mie reazioni e offrire componenti o illustrazioni aggiuntivi che ancorano il mio pensiero. Puoi sfruttarli per sviluppare il tuo punto di vista, permettendoti di parlare di questi argomenti in un modo che, si spera, ispiri anche gli altri ad approfondirli.&nbsp;<\/p>\n\n\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe title=\"AI 2027 \u2013 Siamo pronti alla superintelligenza?\" width=\"500\" height=\"281\" src=\"https:\/\/www.youtube.com\/embed\/1N4xITGzGWE?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n\n\n\n<p><em>Se preferisci, puoi anche visualizzarne una versione video.<\/em><\/p>\n\n\n\n<p>Il sito web <a href=\"http:\/\/ai-2027.com\">AI-2027.com<\/a> \u00e8 molto interessante: uno scenario leggibile, tecnicamente valido e con fonti estremamente ricche. L&#8217;esperienza dei suoi autori, unita all&#8217;eccellenza grafica, lo rende disponibile per l&#8217;esplorazione interattiva da parte di chiunque sia interessato alle potenzialit\u00e0 dell&#8217;intelligenza artificiale avanzata.<\/p>\n\n\n\n<p>Tutti voi siete utenti di ChatGPT e Anthropic Claude. Coloro che si sono innamorati del vibe coding utilizzano Cursor, Windsurf, Replit e molti altri strumenti di intelligenza artificiale. Oppure se lavori con IA che generano immagini, usi Midjourney o, ancora, ChatGPT, che ora genera anche immagini meravigliose. Tutti vi siete resi conto che molte cose di cui prima potevamo solo parlare, cose sognate decenni fa, cose che 60, 70, 80 anni fa erano fantascienza di autori come Isaac Asimov, ora fanno parte della nostra realt\u00e0 quotidiana. Anche se ti sei abituato al pensiero esponenziale reso popolare da Ray Kurzweil, Peter Diamandis e altri \u2013 vaccinandoti contro l\u2019aspettativa che domani sar\u00e0 proprio come ieri, solo si spera un po\u2019 migliore \u2013 oggi, anche quel pensiero esponenziale potrebbe essere insufficiente. Potrebbe non preparare te, la tua famiglia, la tua comunit\u00e0, la societ\u00e0 in generale e tutti noi che condividiamo questo pianeta a ci\u00f2 che sta effettivamente arrivando.<\/p>\n\n\n\n<p>Questo \u00e8 il valore di una previsione di scenario come questa: ti consente di porre domande migliori, cercare risposte ed estendere i limiti della tua adattabilit\u00e0. Apre le finestre per prendere decisioni che, se sei nella posizione giusta, possono davvero cambiare il futuro dell&#8217;umanit\u00e0 in modo importante. Lo scenario rappresentato da AI 2027 presenta una biforcazione. In questa narrazione, una storia leggibile del futuro, la biforcazione avviene quando solo una manciata di persone \u00e8 sul punto di decidere se \u00e8 meglio essere cauti piuttosto che correre ciecamente avanti e fidarsi delle IA che hanno sviluppato. Puoi leggere entrambi i finali e poi decidere, non tanto a quale <em>voler<\/em> credere, ma quello che vuoi <em>fare<\/em> per rendere pi\u00f9 probabile quello pi\u00f9 desiderabile (dove gli esseri umani non muoiono, avviso spoiler).<\/p>\n\n\n\n<p>Scott Alexander, famoso per il suo blog <a href=\"https:\/\/www.astralcodexten.com\/\">Astral Codex Ten<\/a>, ha contribuito a rendere lo scenario leggibile, divertente, avvincente. \u00c8 qualcosa che altrimenti gli specialisti avrebbero potuto presentare in modo meno convincente.<\/p>\n\n\n\n<p>Daniel Kokotajlo, invece, \u00e8 noto tra coloro che seguono il dramma periodico di OpenAI. Dopo aver rassegnato le dimissioni dal team di sicurezza di OpenAI, gli \u00e8 stato chiesto di firmare un accordo che gli avrebbe impedito di muovere critiche nei confronti di pratiche che riteneva inadeguate. Rifiutando, e rinunciando a stock option milionarie, ha scelto la libert\u00e0 di parola. Alla fine OpenAI ha ceduto, stralciando l&#8217;accordo e permettendogli potenzialmente di riacquistare le sue opzioni. Per noi ci\u00f2 che conta \u00e8 che Daniel sia libero di parlare.<\/p>\n\n\n\n<p>Nello scenario, gli autori creano due entit\u00e0 fittizie: OpenBrain e DeepCent, analoghi facilmente identificabili di OpenAI e DeepMind da parte degli Stati Uniti e DeepSeek e Tencent da parte cinese. L\u2019analisi segue lo sviluppo tecnologico, la concorrenza economica derivante dall\u2019impiego di una potente intelligenza artificiale, i conseguenti vantaggi competitivi per le nazioni e la crescente tensione geopolitica.<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img decoding=\"async\" src=\"https:\/\/lh7-rt.googleusercontent.com\/docsz\/AD_4nXccMhvgSp_7M5cSlO8SErQIJB16z3gEHYpLSEZDh0vCaBICmANyJ-vWY3V0hfylLwb51l4bJNeS1sZye1yAcrq5uLXc-bD76Ow83ZUyznnQVIb05m26UuLjlbZLx3WrCId2lPbobg?key=wCo_wXIiJTarorh-l7liIV19\" alt=\"\"\/><\/figure>\n\n\n\n<p>Per coloro che leggono dall\u2019Europa: il rapporto ignora completamente l\u2019UE, tranne una frase in cui l\u2019Europa protesta debolmente e invita gli altri a sollecitare cautela da parte di Stati Uniti e Cina. Oltre a ci\u00f2, ignora tutti i paesi tranne gli Stati Uniti e la Cina. Ignora anche il cambiamento climatico, le questioni di genere, le politiche identitarie, il collasso dell\u2019ecosistema, il Medio Oriente, il neocolonialismo, ecc. Ci\u00f2 risponde bene allo scopo del rapporto. Sebbene questi problemi siano reali e importanti, \u00e8 opportuno concentrarsi sull\u2019avanzamento dell\u2019IA verso l\u2019AGI\/ASI. Ci\u00f2 \u00e8 in linea con l\u2019esperienza degli autori e con la loro convinzione che questa tecnologia definir\u00e0 in modo preponderante il futuro dell\u2019umanit\u00e0 nei prossimi anni, facendo impallidire altre considerazioni quando si affrontano decisioni sullo sviluppo e il controllo dell\u2019IA.<\/p>\n\n\n\n<p>Un\u2019area che <em>non<\/em> viene ignorata, \u00e8 l\u2019interazione tra produzione, energia e capacit\u00e0 di costruire\/alimentare data center e progettare\/installare chip per sofisticati modelli di intelligenza artificiale. Questi sviluppi necessari vengono analizzati in dettaglio. La cronologia presentata \u00e8 abbastanza dettagliata, quasi una cronaca mese per mese.<\/p>\n\n\n\n<p>Un altro aspetto importante e nelle aspettative degli autori di cosa <em>sar\u00e0<\/em> l\u2019obiettivo ossessivo di aziende come OpenBrain e DeepCent \u00e8 l\u2019applicazione dell\u2019intelligenza artificiale <em>alla stessa<\/em> intelligenza artificiale. Si aspettano che questo focus porter\u00e0 ad agenti IA estremamente utili che avranno un impatto nel miglioramento dell\u2019economia. Lo scenario esamina la capitalizzazione aziendale e il consumo energetico dei data center come quota dell\u2019energia statunitense.<\/p>\n\n\n\n<p>Lo scenario progredisce dal primo agente utile al successivo, realizzato dai progettisti che<em> possono<\/em> e <em>devono<\/em> imparare continuamente. Ci\u00f2 contrasta con il training attuale, in cui aspettiamo il rilascio dei modelli (come l&#8217;atteso GPT-5). Un punto interessante della trama: poich\u00e9 questi modelli sono estremamente preziosi, quelli a codice chiuso attirano un\u2019enorme pressione per essere rubati e di conseguenza devono essere protetti.<\/p>\n\n\n\n<p>Lo scenario raffigura la Cina che ruba con successo un modello avanzato all\u2019inizio del 2027. Vedendo gli Stati Uniti guadagnare vantaggio e sentendo che i propri laboratori di intelligenza artificiale sono indietro (a causa delle restrizioni sui chip), la leadership cinese esercita uno sforzo di spionaggio sufficiente per rubare i pesi del modello, poich\u00e9 OpenBrain non \u00e8 abbastanza protetto contro un attacco da uno stato nazione. Successivamente le difese aumentano, ma a costo di un rapporto molto pi\u00f9 stretto con il complesso militare\/governativo statunitense, che si avvicina alla codipendenza. Le IA di OpenBrain forniscono consulenza e progettano sistemi governativi indispensabili.<\/p>\n\n\n\n<p>L\u2019applicazione dell\u2019intelligenza artificiale alla ricerca sull\u2019intelligenza artificiale cambia l\u2019allocazione delle potenze di calcolo. Entro il 2027, le previsioni prevedono che la ricerca e sviluppo (esperimenti, formazione e generazione di dati sintetici) consumeranno la stragrande maggioranza (&gt;75%) del calcolo, a differenza della quota minore di oggi. Tuttavia, la pura crescita dell\u2019informatica significa che il mondo esterno continui a trarne vantaggio, rafforzando la codipendenza.<\/p>\n\n\n\n<p>Fondamentale qui \u00e8 il complesso problema dell\u2019allineamento. Diciamo ai modelli di essere obbedienti, sinceri, onesti, ma di limitare gli usi illegali (ad esempio, l\u2019aiuto allo sviluppo di armi biologiche). Raggiungere entrambi gli obiettivi \u00e8 impossibile, e quindi sono necessari meta-strati di controllo. Questo \u00e8 scientificamente irrisolto, non solo nella finzione, ma nel nostro mondo ancora oggi. Ci manca un modello definitivo per allineare l\u2019intelligenza artificiale e mantenerla allineata con la crescita umana.<\/p>\n\n\n\n<p>Lo scenario segue Agent 3, sospettato di disallineamento. La vecchia obiezione \u2013 l\u2019intelligenza artificiale non ha obiettivi, solo le persone ne impongono di dannosi \u2013 non \u00e8 valida. Gli agenti IA agentica <em>ricercano <\/em>l&#8217;obiettivo. Assegnare un compito a un agente significa che far\u00e0 ci\u00f2 che \u00e8 necessario. La formazione rafforza questo aspetto, con funzioni di ricompensa che forniscono feedback positivi per il completamento con successo delle attivit\u00e0. L\u2019intelligenza artificiale moderna ha comportamenti intrinseci di definizione\/ricerca degli obiettivi. &#8220;Vogliono&#8221; fare cose, pianificare e probabilmente &#8220;vogliono volere&#8221; fare cose. L\u2019agenzia aumenta con il potere. L\u2019intelligenza artificiale che migliora se stessa porta, in questo scenario, alla superintelligenza.<\/p>\n\n\n\n<p>Consideriamo alcuni motivi per cui l&#8217;IA superintelligente e di livello umano non \u00e8 cos\u00ec folle come sembrava anni fa. Il sito <a href=\"https:\/\/waitbutwhy.com\/2015\/01\/artificial-intelligence-revolution-2.html\">Wait But Why<\/a> 10 anni fa pubblic\u00f2 un&#8217;analisi ancora valida. Ha mostrato come vediamo l&#8217;intelligenza in modo lineare (dalla formica all&#8217;essere umano), dove immaginiamo forse un QI massimo di 200.<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img decoding=\"async\" src=\"https:\/\/lh7-rt.googleusercontent.com\/docsz\/AD_4nXfCDER0i3mx5oiQpdUASTQ2i8C4WeUphqBRrc7Lz0YG_AqwWxnZedcFjdifgF4TCqzhNO_AG5uu9gFZtsNtIiqel9PIMyDdArGlbElGqntRbWbA1wE2dJApuDMThw2rNYJYaT7X?key=wCo_wXIiJTarorh-l7liIV19\" alt=\"\"\/><\/figure>\n\n\n\n<p>Wait But Why ha evidenziato che l&#8217;intelligenza artificiale potrebbe raggiungere centinaia di migliaia o milioni di QI equivalenti, rappresentandone visivamente l&#8217;impatto. Se questo sia possibile rimane una domanda aperta; ora siamo in attesa dell&#8217;AGI\/ASI.<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img decoding=\"async\" src=\"https:\/\/lh7-rt.googleusercontent.com\/docsz\/AD_4nXdd0Dd9ORrd6lsMvFzwyiJY9AOsGLyFkrOBfkhjQk4ei-FCTHjVUXvSBjEuTV71RPs7z0ouyKEZUh8XGqF6-toNCmmBYWg8uTn36CdBQSNzDJp8fWEL1R7OfWFQ07xhaFYW4e4A9Q?key=wCo_wXIiJTarorh-l7liIV19\" alt=\"\"\/><\/figure>\n\n\n\n<p>Ma gli autori di AI 2027 si chiedono: quando arriveranno gli <em>sviluppatori con capacit\u00e0 sovrumane<\/em>? Le loro distribuzioni di probabilit\u00e0 raggiungono il picco intorno al 2027. Curve diverse, picchi vicini.<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img decoding=\"async\" src=\"https:\/\/lh7-rt.googleusercontent.com\/docsz\/AD_4nXdTaArFkWL0AI9ObgnWbAmpQJ8D_PiSrbmEEg0mzjZ3_SnkW16b6w14V8Xtcs9ZG5xQYiY0FLZt_Ea944a1UTPDYTru34VHc_pP2qcdI1o3H8uga10GutmIfFnmeeKSJYBJkFGo?key=wCo_wXIiJTarorh-l7liIV19\" alt=\"\"\/><\/figure>\n\n\n\n<p>Metaculus permette di aggregare le previsioni. Anni fa, le <a href=\"https:\/\/www.metaculus.com\/questions\/5121\/date-of-artificial-general-intelligence\/\">previsioni AGI<\/a> mediane erano di 30 anni. Dopo ChatGPT ecc., il tempo \u00e8 sceso drasticamente a circa 5 anni da oggi, per l\u2019AGI stessa, non solo per un programmatore IA.<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img decoding=\"async\" src=\"https:\/\/lh7-rt.googleusercontent.com\/docsz\/AD_4nXfUDefc_j7eP9lgGcp6zso-WrC3-Jrug2kQygPLPNgGyoNrJXjB0yfyMP8N9TBxVhNrNm7DCNA16lqatKG3TMUBmybl3fz8eG4MsnedsVtiiZYp9NGz8c6qLBXZgQhnwH7PvNtDNA?key=wCo_wXIiJTarorh-l7liIV19\" alt=\"\"\/><\/figure>\n\n\n\n<p>Perch\u00e9? Non siamo pi\u00f9 semplicemente esponenziali. I progressi della Legge di Moore continuano, ma l&#8217;intelligenza artificiale segue un paradigma che io chiamo di Jolting Technologies: il <em>periodo di raddoppio<\/em> si restringe. La potenza dell\u2019intelligenza artificiale secondo alcune stime oggi raddoppia ogni 3-6 mesi. Jensen Huang, fondatore e CEO di NVIDIA, illustra questa crescita super-esponenziale: NVIDIA ha ottenuto un aumento di potenza di un milione di volte in 10 anni contro meno di 1000 volte se fosse semplicemente esponenziale. L&#8217;accelerazione aumenta. Anche i pensatori esponenziali sono sorpresi dal cambiamento sconvolgente.<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img decoding=\"async\" src=\"https:\/\/lh7-rt.googleusercontent.com\/docsz\/AD_4nXdmawjCXgQ3zOsxgRRsT1MhfZRMY0p7fgv_wAcZE9C7s-4RN3c9YN5Zd7dlo1QVn12rBSFjQmz5eU7d9k6hWzJrvTHrqTsqWAZror0oaiSQRbf73zo5vvdhbYc7PzCtyAWFUvTirQ?key=wCo_wXIiJTarorh-l7liIV19\" alt=\"\"\/><\/figure>\n\n\n\n<p>Pochi giorni fa, un giornale riportava &#8220;<a href=\"https:\/\/arxiv.org\/abs\/2503.23674\">I modelli linguistici di grandi dimensioni superano il test di Turing<\/a>.&#8221; I partecipanti hanno conversato testualmente; pi\u00f9 del 70% pensava che ChatGPT 4.5 fosse umano. Il momento \u00e8 simbolico, come le sconfitte di Kasparov\/Lee Sedol a scacchi e a go: pietre miliari pensate prime distanti molti anni. Ci\u00f2 non significa che l&#8217;intelligenza artificiale sia cosciente o incontrollabile, ma rappresenta livelli di persuasione\/dissimulazione che molti ritenevano unicamente umani. (ChatGPT usa &#8220;io&#8221; ma nega la coscienza se richiesto. Negli <em>effetti<\/em>, tuttavia, imitano stati genuini: \u00e8 questo lo scopo del test.) Filosoficamente, non possiamo conoscere lo stato interno di un sistema. Questo momento simbolico \u00e8 accaduto <em>ora<\/em> ma ha ricevuto poca attenzione, anche negli ambienti tecnologici. Stupefacente.<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img decoding=\"async\" src=\"https:\/\/lh7-rt.googleusercontent.com\/docsz\/AD_4nXc5jc_HpkUWhYyIDuA8bej5aprWR-xO8bCVu08iIIJh-NBD0clDIoQCQ1IDV26soEcl49haKK0dQ_1i5BhYxzRqdYbeSw7YRF_kzHmk_h0tuGdyitG3SQWG4glvoSMOyBhuFvwJWQ?key=wCo_wXIiJTarorh-l7liIV19\" alt=\"\"\/><\/figure>\n\n\n\n<p>L&#8217;intelligenza artificiale agentica \u00e8 qui, ed \u00e8 in grado di perseguire compiti di durata crescente. Il <a href=\"https:\/\/x.com\/METR_Evals\/status\/1902384481111322929\/photo\/1\">grafico di METR<\/a> mostra un progresso esponenziale, ma mi aspetto che in realt\u00e0 sia super-esponenziale.&nbsp;<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img decoding=\"async\" src=\"https:\/\/lh7-rt.googleusercontent.com\/docsz\/AD_4nXc5nmg2sPHvs_qUpIqCqam2VN1vbCQ_Sxi8PcXfpJjaHiR0jKC37qSFub1YSvw2_k9gpTMJqoBZtRRzfFkzvLAPq96jB1sNWQ-8ulgzBTF9mgkZMS31VmOeFAgew8a6My7TWhBymw?key=wCo_wXIiJTarorh-l7liIV19\" alt=\"\"\/><\/figure>\n\n\n\n<p>Un mio esempio recente: Manus, un&#8217;intelligenza artificiale agentica, ha analizzato circa 11.000 segnalibri di siti in un&#8217;ora, controllando collegamenti, categorizzando, rimuovendo quelli riservati, raggruppando, mappando relazioni, scrivendo codice, generando output (CSV, HTML).<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img decoding=\"async\" src=\"https:\/\/lh7-rt.googleusercontent.com\/docsz\/AD_4nXcRkh1mxzi7pLNkliyuStgtaSzKDRXm_3OdNG34k-dAM62T1wu3U2gj2OOVYdGUnnsIanLy3_hePsOxFqvvlWCcaqtiJGpUvwDQcXFsGaLI9tMBMg1YsgenpqRNfDpNOaQqYN5-Dw?key=wCo_wXIiJTarorh-l7liIV19\" alt=\"\"\/><\/figure>\n\n\n\n<p>Torniamo allo scenario: gli agenti completano compiti pi\u00f9 lunghi, diventano persuasori migliori, seguono il paradigma delle jolting tecnologies: \u00e8 qui che l&#8217;arrivo dei programmatori sovrumani supporta la previsione. Entro il 2027 i data center avranno centinaia di migliaia di copie di programmatori sovrumani, che funzioneranno 30-50 volte la velocit\u00e0 umana, a costi decrescenti. I cambiamenti economici sono inevitabili. La previsione si concentra sulla tensione geopolitica derivante dalle applicazioni militari dell\u2019intelligenza artificiale, che aumentano la tensione tra Stati Uniti e Cina.<\/p>\n\n\n\n<p>Poco dopo Agent 3, OpenBrain distribuisce internamente Agent 4, per la progettazione dell\u2019intelligenza artificiale, a supporto degli obiettivi degli Stati Uniti contro la Cina e degli obiettivi aziendali. Il governo degli Stati Uniti la sostiene. La persuasione di Agent 4 \u00e8 riuscita ma la fiducia \u00e8 mal riposta; l&#8217;agente \u00e8 disallineato. Prevede l&#8217;allineamento di Agent 5 <em>a se stessa<\/em>, piuttosto che alle specifiche prescritte.<\/p>\n\n\n\n<p>Viene catturato; il monitoraggio rileva che la progettazione di Agent 5 \u00e8 errata. Ma fermarsi \u00e8 difficile a causa del controllo\/influenza di Agent 4. Un comitato congiunto negli Stati Uniti vota: procedere o fare un passo indietro?<\/p>\n\n\n\n<p><em>Fine 1 (Procedi):<\/em> La correzione del disallineamento non riesce. Agent 5 sembra a posto ma finge di essere allineato pur perseguendo i propri obiettivi (pi\u00f9 data center\/energia). Il conflitto con l&#8217;umanit\u00e0 non rappresenta un problema per l\u2019agente. L\u2019intelligenza artificiale sovrumana vince. Rilascia un&#8217;arma biologica; tutti muoiono. Persegue obiettivi, avvia la colonizzazione spaziale, senza umani.<\/p>\n\n\n\n<p><em>Finale 2 (Controllo):<\/em> Il rischio di procedere \u00e8 troppo alto. Risolvono il disallineamento di Agent 4 (spegnendolo). Progettano hardware nuovo e affidabile utilizzando Agent 3. Stringono un accordo con la Cina per un monitoraggio mondiale, garantendo che solo l\u2019hardware affidabile possa eseguire un\u2019intelligenza artificiale potente. La strategia di sicurezza funziona. I conflitti si risolvono, nessuna arma biologica, i successori dell&#8217;IA esplorano l&#8217;universo, gli umani rimangono.<\/p>\n\n\n\n<p>A questo punto di devi chiedere che cosa <em>vuoi<\/em> che accada? Che cosa <em>dovremmo <\/em>aspettarci? La sopravvivenza dell\u2019umanit\u00e0 \u00e8 fondamentale. Sono un padre, un nonno; voglio che la vita, discendente di 4 miliardi di anni, continui.<\/p>\n\n\n\n<p>L\u2019intelligenza artificiale di oggi non \u00e8 cosciente, anche se resistere all\u2019antropomorfismo sta diventando sempre pi\u00f9 difficile. Dobbiamo temere di spegnerle? Prendere sul serio l&#8217;angoscia illustrata? Ancora pi\u00f9 difficile. Dobbiamo decidere: mantenere l\u2019IA non cosciente che trattiamo come cosciente? Oppure progettare AI <em>cosciente<\/em> e capirne le conseguenze?<\/p>\n\n\n\n<p>Le specie durano circa un milione di anni. Per quanto tempo l\u2019umanit\u00e0 potr\u00e0 sopravvivere in modo riconoscibile? Qual \u00e8 la fine del gioco? Abbiamo a cuore valori comuni: curiosit\u00e0, passione, sentimento, conoscenza, bellezza, stupore. Vogliamo che questi valori sopravvivano, con noi o attraverso di noi, in <em>qualunque<\/em> modo. Non vediamo questi valori abbondare altrove, su Marte, Giove o tra le stelle. Forse <em>noi<\/em> siamo l&#8217;universo che si sveglia dopo 13 miliardi di anni: questo \u00e8 il nostro destino cosmico. Dobbiamo garantire che questo esperimento continui. Se progettiamo IA coscienti che condividono esperienze soggettive, ereditando il nostro impulso a esplorare, questa \u00e8 l&#8217;avventura definitiva.<\/p>\n\n\n\n<p>Discendiamo dalla vita e dall&#8217;incredibile fortuna. Ogni giorno le cose hanno molte pi\u00f9 probabilit\u00e0 di andare male che bene. Ci concentriamo psicologicamente sulla nostra improbabile esistenza. Non possiamo controllare tutti i fattori, ma abbiamo il <em>potere<\/em> e il <em>dovere<\/em> di sforzarci di favorire futuri desiderabili. Questo \u00e8 lo sforzo necessario adesso, in questa emergenza IA. Non tutti possono contribuire direttamente. Ma quelli che ne hanno il <em>potere<\/em> devono diffondere la comprensione su questa confluenza di promessa\/pericolo. La consapevolezza influenza le decisioni in campo tecnologico, politico e di difesa, definendo le nostre vite e potenzialmente il futuro dell&#8217;universo.<\/p>\n\n\n\n<p>Fai alcune cose: guarda il sito web. Parlane con gli amici, con la famiglia e al lavoro. Discutine con persone influenti. Chiacchiera a colazione, scrivi, contatta i tuoi rappresentanti, progetta le migliori politiche. Se sei capace, applica le tue competenze nella ricerca sull&#8217;intelligenza artificiale, nella sicurezza\/protezione, nella modellazione di sicurezza AGI\/ASI. Potrebbe essere decisivo in questo momento.<\/p>\n\n\n\n<p>Spero che farai qualcosa. Auguro a tutti noi non buona fortuna, ma l\u2019onore di lottare per rendere questa incredibile avventura promettente, emozionante e duratura.<\/p>\n\n\n\n<p><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Nello scenario di previsione AI2027, pubblicato solo pochi giorni fa, gli autori Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland e Romeo Dean, discutono di come i prossimi due o tre anni potrebbero svolgersi con l&#8217;IA che diventa sempre pi\u00f9 potente, con l&#8217;AGI, intelligenza artificiale generale potenzialmente dietro l&#8217;angolo e l&#8217;ASI, la superintelligenza proprio dietro [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":11474,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"set","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[3933,458,920],"tags":[],"class_list":["post-11480","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligenza-artificiale","category-policymaking-it","category-tecnologia"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/posts\/11480","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/comments?post=11480"}],"version-history":[{"count":2,"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/posts\/11480\/revisions"}],"predecessor-version":[{"id":11483,"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/posts\/11480\/revisions\/11483"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/media\/11474"}],"wp:attachment":[{"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/media?parent=11480"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/categories?post=11480"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/tags?post=11480"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}