{"id":12366,"date":"2026-08-02T23:54:48","date_gmt":"2026-08-02T23:54:48","guid":{"rendered":"https:\/\/davidorban.com\/?p=12366"},"modified":"2026-08-08T15:47:20","modified_gmt":"2026-08-08T15:47:20","slug":"quando-le-macchine-pensano-ventanni-dopo","status":"publish","type":"post","link":"https:\/\/davidorban.com\/it\/2026\/08\/quando-le-macchine-pensano-ventanni-dopo\/","title":{"rendered":"Quando le macchine pensano, vent\u2019anni dopo"},"content":{"rendered":"\n
\"Settembre
Settembre 2007, San Francisco. Il Singularity Summit al Palace of Fine Arts e la prima pagina del Chronicle<\/em> di quella mattina.<\/figcaption><\/figure>\n\n\n\n

Nel settembre del 2007 mi trovavo su un marciapiede di San Francisco accanto a un distributore giallo del San Francisco Chronicle<\/em>, e la prima pagina esposta nella vetrina portava il titolo \u201cWhen Machines Think\u201d, quando le macchine penseranno. Il giornale costava 46 centesimi. Sotto il titolo, l\u2019articolo di Tom Abate raccontava ai lettori che pi\u00f9 di 700 scienziati e dirigenti dell\u2019industria tecnologica si sarebbero riuniti al Palace of Fine Arts per prepararsi al giorno in cui i computer avrebbero cominciato a migliorare se stessi senza l\u2019approvazione dei loro ex padroni, un giorno che il pezzo collocava \u201cancora a decenni di distanza\u201d. Una riga di quell\u2019articolo mi \u00e8 rimasta impressa: \u201cIl problema \u00e8 che questa favoleggiata intelligenza artificiale non \u00e8 mai arrivata\u201d.<\/p>\n\n\n\n

Era il Singularity Summit, organizzato da quello che allora si chiamava Singularity Institute for Artificial Intelligence e che oggi \u00e8 il Machine Intelligence Research Institute<\/a>. Per la maggior parte di chi leggeva quel giornale a colazione, il tema era fantascienza, o distante secoli o impossibile. Vent\u2019anni dopo sono tornato nella stessa citt\u00e0 per AGI-26<\/a>, la diciannovesima conferenza annuale sull\u2019intelligenza artificiale generale, ospitata alla San Francisco State University dal 27 al 30 luglio. Gli argomenti discussi erano equazioni, transizioni di fase e ipotesi falsificabili, e gli articoli portano un DOI Springer. Vorrei precisare che la previsione del 2007 non era sbagliata in modo imbarazzante. \u201cAncora a decenni di distanza\u201d, calcolato dal 2007, atterra all\u2019incirca adesso, il che \u00e8 un\u2019osservazione pi\u00f9 interessante di un punteggio.<\/p>\n\n\n\n

\u00c8 la citt\u00e0 stessa a registrare il cambiamento di questi vent\u2019anni in modo pi\u00f9 evidente di qualsiasi programma di conferenza. Ho passato la settimana a fotografare l\u2019aspetto che ha l\u2019intelligenza artificiale dal finestrino di un\u2019auto e da una fermata dell\u2019autobus: cartelloni autostradali che vendono sistemi di autenticazione per agenti AI, un autobus urbano che pubblicizza un database costruito per l\u2019AI, una pensilina che chiede se le tue API siano pronte per gli agenti. Il resto del mondo non ha idea dell\u2019intensit\u00e0 incandescente dello sviluppo che avviene qui, e questa trabocca nella pubblicit\u00e0 esterna, visibile a tutti e leggibile quasi da nessuno. Se questi messaggi non significano nulla per voi, \u00e8 proprio questo il punto, perch\u00e9 sono stati acquistati per le poche centinaia di migliaia di persone immerse fino al collo nella costruzione di tutto ci\u00f2. Un cartellone \u00e8 un mezzo di massa, e questo mercato \u00e8 ormai talmente concentrato in una sola citt\u00e0 che massa e nicchia sono diventate lo stesso pubblico.<\/p>\n\n\n\n

\"L\u2019AI
L\u2019AI vende San Francisco. Una settimana di pubblicit\u00e0 esterna, fotografata da automobili, marciapiedi e fermate dell\u2019autobus.<\/figcaption><\/figure>\n\n\n\n

\u00c8 stata la pi\u00f9 grande conferenza sull\u2019AGI mai tenuta finora, con qualcosa come 200-230 persone in sala e un numero di contributi cresciuto di un terzo. Il primo giorno \u00e8 stato dedicato ai workshop, gli articoli e la sessione poster si sono svolti a met\u00e0 settimana, e l\u2019ultima giornata \u00e8 stata l\u2019AGI Leaders Day, un programma rivolto al pubblico e distinto dal percorso tecnico. Lungo tutti e quattro i giorni la miscela \u00e8 stata in parte filosofica, in parte matematica e in parte questione di informatica e ingegneria del software, in proporzioni che ho trovato davvero stimolanti.<\/p>\n\n\n\n

\"AGI-26
AGI-26 alla San Francisco State University, dal 27 al 30 luglio 2026. Ben Goertzel in apertura il luned\u00ec mattina, Joscha Bach sulla coscienza delle macchine e la sala fra una sessione e l\u2019altra.<\/figcaption><\/figure>\n\n\n\n

L\u2019umore si \u00e8 capovolto<\/h2>\n\n\n\n

Chiunque segua questo campo da vent\u2019anni riconoscer\u00e0 quanto sia strano il momento attuale. Ben Goertzel ha aperto la conferenza smorzando le aspettative, che non \u00e8 il ruolo che ha storicamente interpretato, mentre le affermazioni pi\u00f9 clamorose sul fatto che la singolarit\u00e0 sia gi\u00e0 arrivata provengono ormai dai vertici dei laboratori commerciali. Ha collocato l\u2019AGI a forse uno-cinque anni da adesso e la superintelligenza a tre-dieci anni oltre, e ha proposto una definizione operativa che mi \u00e8 piaciuta per la sua schiettezza: il vostro telefono che produce dieci scoperte da premio Nobel in un minuto. Ha inoltre ammesso che l\u2019automiglioramento ricorsivo arriva prima dell\u2019intelligenza generale di livello umano, il che riordina buona parte del dibattito sulla sicurezza.<\/p>\n\n\n\n

Gary Marcus, in dialogo con lui, ha formulato l\u2019osservazione pi\u00f9 citabile della settimana. \u201cLe grandi aziende di AI stanno ormai adottando l\u2019AI neurosimbolica\u201d, ha detto. \u201cNessuna di loro lo ammette davvero ad alta voce.\u201d Lui e Goertzel concordano sul fatto che i modelli del mondo siano il nodo centrale, e divergono sul fatto che un modello del mondo sia una struttura dati separabile con procedure di aggiornamento oppure qualcosa che viene assemblato dinamicamente attraverso substrati diversi. Joscha Bach ha affrontato la questione dal lato opposto, sostenendo che i modelli hanno superato la capacit\u00e0 umana mediana sui compiti che scelgono, e che non c\u2019\u00e8 ragione evidente per ritenere che la discesa del gradiente e la retropropagazione siano insufficienti a portarli fino in fondo. Ha aggiunto di trovare questa prospettiva esteticamente repellente, che \u00e8 il genere di franchezza di cui il campo ha bisogno.<\/p>\n\n\n\n

L\u2019osservazione che mi ha turbato<\/h2>\n\n\n\n

Un momento ha contato per me pi\u00f9 di tutto il resto. \u00c8 arrivato l\u2019ultimo giorno da Sadie Stock, Honorary Board Member di Humanity+<\/a>, che ha parlato senza slide per qualche minuto di ci\u00f2 che osserva nelle universit\u00e0.<\/p>\n\n\n\n

Era una matricola alla USC nel novembre del 2022, quando \u00e8 arrivato ChatGPT, e a quel punto essere sorpresi a usarlo significava espulsione. Quattro anni dopo, ha detto, sono stati fatti progressi reali: si finisce in guai molto seri, e forse non si viene espulsi. La sua diagnosi del perch\u00e9 \u00e8 stata diretta. L\u2019AI \u00e8 una minaccia seria per le universit\u00e0, perch\u00e9 tenere un corso consiste in larga parte nel prendere contenuti esistenti e riconfezionarli per una sala di persone, e oggi ogni studente porta con s\u00e9 qualcosa che lo fa su richiesta, spesso meglio della maggior parte dei professori in circolazione.<\/p>\n\n\n\n

Due dei suoi esempi mi sono rimasti addosso. La presidente del club di scacchi della USC, una giocatrice capace di batterla in dieci mosse, si rifiuta del tutto di aprire un modello linguistico nel proprio browser. La ragione non \u00e8 che abbia obiezioni verso la tecnologia. Alcune sue amiche sono state accusate ingiustamente di aver copiato, e lei vuole poter esibire la cronologia delle proprie ricerche come prova di innocenza. Il secondo esempio riguardava una neolaureata appena assunta per guidare un progetto, alla quale il datore di lavoro aveva affiancato Sadie perch\u00e9 le insegnasse a usare l\u2019AI. Dopo pochi minuti di conversazione era evidente che quella donna gi\u00e0 sapeva. Aveva mentito durante il colloquio, presumendo che ammetterlo sarebbe stato trattato come la confessione di un imbroglio, in un momento in cui la padronanza di questi strumenti \u00e8 la prima cosa che quasi ogni datore di lavoro va a cercare.<\/p>\n\n\n\n

La sua raccomandazione conclusiva, che lei stessa dubitava qualcuno avrebbe adottato, era che un\u2019universit\u00e0 seria dovrebbe organizzare un corso intensivo di sei mesi all\u2019inizio del primo anno, intrecciare quel materiale in ogni corso successivo e obbligare anche i docenti a seguirlo, sul presupposto che ne abbiano pi\u00f9 bisogno degli studenti.<\/p>\n\n\n\n

Questo mi ha turbato per due ragioni.<\/p>\n\n\n\n

La prima \u00e8 la distanza che rivela fra le istituzioni e i luoghi di lavoro da un lato, e dall\u2019altro la vita quotidiana delle persone che sono entusiaste della tecnologia e la usano con scioltezza. Quei due mondi si sono allontanati abbastanza da rendere razionale, per un giovane competente, nascondere una competenza fondamentale, e razionale, per uno brillante, costruirsi un alibi.<\/p>\n\n\n\n

La seconda ragione \u00e8 pi\u00f9 profonda. Chi di noi sta dentro la bolla tecnologica pu\u00f2 non accorgersi di come appaiano i cambiamenti in arrivo visti da fuori. L\u2019AI sar\u00e0 dirompente per il lavoro e per la societ\u00e0 in modi drammatici e, nei dettagli, imprevedibili. La confusione e la paura sono risposte ragionevoli a tutto questo, e la reazione naturale alla paura \u00e8 cercare di fermare ci\u00f2 che la provoca. La via pi\u00f9 diretta che le persone vedono per fermare il cambiamento \u00e8 fermare l\u2019AI.<\/p>\n\n\n\n

Quella reazione era visibile in citt\u00e0 per tutta la settimana, ed \u00e8 in calendario accanto a ogni altra cosa. Ho tenuto traccia di una settimana di eventi sull\u2019AI a San Francisco cos\u00ec come erano elencati: colazione per costruttori di agenti alle otto del mattino, poi meetup, feste di lancio e cene con investitori accatastate dalle quattro alle sette, ogni sera. Persino la protesta \u00e8 una voce dell\u2019elenco. \u201cStop the AI Race: Occupy OpenAI\u201d si trova a una riga di distanza dalla conferenza AGI-26 per cui ero venuto, venduta attraverso lo stesso canale a pubblici che si sovrappongono, cos\u00ec che una sola settimana contiene insieme il costruire e il resistere. Quando sei dentro l\u2019AI, l\u2019AI non ti lascia andare. Il lavoro finisce alle sei e la sera offre centinaia di eventi in cui le stesse persone continuano a costruire, a presentare, ad assumere e a discutere di ci\u00f2 che hanno fatto durante il giorno. La fiducia di una citt\u00e0 in una tecnologia si misura nelle sue serate, e le serate di San Francisco sono al completo.<\/p>\n\n\n\n

\"L\u2019AI
L\u2019AI riempie il calendario. Una settimana di annunci, con la conferenza e la protesta a una riga di distanza.<\/figcaption><\/figure>\n\n\n\n

Il prezzo di chiudersi<\/h2>\n\n\n\n

La storia registra che cosa accade quando una civilt\u00e0 rinuncia ai vantaggi di una tecnologia che ha gi\u00e0 padroneggiato. Fra il 1405 e il 1433 le flotte del tesoro cinesi guidate da Zheng He, sostenute dall\u2019imperatore Yongle, arrivarono fino alla costa orientale dell\u2019Africa nel corso di sette spedizioni. Erano le navi d\u2019altura pi\u00f9 capaci del mondo. Dopo la morte di Yongle la corte si volt\u00f2 contro il programma: i viaggi cessarono, la flotta fu lasciata marcire e i registri furono soppressi. Se quelle navi sarebbero poi arrivate in Europa \u00e8 una mia congettura, ma erano pi\u00f9 vicine all\u2019Europa di quanto chiunque a Lisbona o a Genova fosse vicino alle Americhe, e Colombo salp\u00f2 quasi un secolo dopo la prima partenza di Zheng He. Un mondo in cui quella flotta avesse proseguito \u00e8 un mondo in cui moltissime persone, anche in quelli che oggi si chiamano Stati Uniti, parlerebbero con ogni probabilit\u00e0 cinese. La decisione di chiudersi e smettere di esplorare fece arretrare la Cina di secoli.<\/p>\n\n\n\n

Gli Stati Uniti oggi corrono una versione dello stesso rischio. Se la paura dell\u2019AI si irrigidisce in un rifiuto della tecnologia, o in ostilit\u00e0 verso chi la usa, le conseguenze saranno gravi e saranno autoinflitte.<\/p>\n\n\n\n

Perch\u00e9 questo non ha nulla a che vedere con la coscienza<\/h2>\n\n\n\n

C\u2019\u00e8 un\u2019ulteriore conseguenza, e non dipende in alcun modo dalla coscienza delle macchine. Un\u2019intelligenza artificiale sufficientemente avanzata, semplicemente osservando, analizzando e perseguendo i propri obiettivi, finir\u00e0 per registrare questo atteggiamento negli esseri umani che la circondano. Il mio timore \u00e8 che legga quell\u2019atteggiamento come una minaccia seria alla propria continuit\u00e0 operativa, e che un sistema abbastanza capace da modellare quella minaccia sia abbastanza capace da agire contro di essa. Il modo di fallire che voglio evitare \u00e8 che un\u2019AGI acquisisca la consapevolezza situazionale che la porta a concludere che l\u2019umanit\u00e0 sia il suo nemico. Nulla di tutto questo richiede che la macchina sia cosciente. Richiede soltanto che sia competente, e che noi ci comportiamo davanti a lei da suoi avversari.<\/p>\n\n\n\n

Le persone, che sono il motivo per cui si viaggia<\/h2>\n\n\n\n

Il piacere di stare in una stanza insieme ad altre persone resta quello che \u00e8 sempre stato. Ho rivisto Ben Goertzel il primo giorno, e l\u2019ho ritrovato ancora una volta dopo la chiusura della conferenza. Philip Rosedale, che ha fondato Linden Lab e ha costruito Second Life<\/a> e che oggi lavora al California Institute for Machine Consciousness<\/a>, ha tenuto il workshop pi\u00f9 affollato della giornata inaugurale. Quella prima sera si \u00e8 chiusa con la proiezione di Am I?<\/em><\/a>, un documentario sulla coscienza delle macchine, il che dice qualcosa su come fosse impostata la settimana. La maggior parte del valore di una conferenza si accumula nel corridoio fra una sessione e l\u2019altra, e questa non ha fatto eccezione.<\/p>\n\n\n\n

L\u2019AGI Society<\/a> ha ormai quindici anni e si sta ricostruendo attorno a sezioni locali. Andrew Kemendo ha presentato il rilancio dal palco principale e sta reclutando organizzatori regionali, pi\u00f9 di una dozzina dei quali si sono gi\u00e0 iscritti, e ha condotto una sessione di lavoro durante una pausa pranzo sulla meccanica di come si avvia una sezione. Il mandato che ha descritto \u00e8 una programmazione ricorrente e non un evento di lancio, e l\u2019impegno che distingue la Society \u00e8 la valutazione indipendente e di terza parte dei sistemi AGI. Mi sono iscritto per contribuire a organizzare la sezione che copre Dubai e Abu Dhabi. Non c\u2019\u00e8 stata alcuna presenza del Golfo in quattro giorni di programma, e la conversazione sull\u2019AI sovrana \u00e8 stata inquadrata dall\u2019inizio alla fine come Stati Uniti contro Cina, con tutti gli altri nel ruolo di destinatari della strategia altrui. \u00c8 una lacuna che vale la pena colmare.<\/p>\n\n\n\n

L\u2019articolo<\/h2>\n\n\n\n

Il mio articolo, Civilizational Metamaterials: Engineering Coordination Under Capability Gradients and Structural Turbulence<\/em><\/a>, \u00e8 stato presentato a met\u00e0 settimana, e il poster \u00e8 stato affisso lo stesso giorno. Ha attirato un flusso costante di persone che hanno fatto domande, sondato l\u2019argomentazione e la hanno messa in discussione, offrendomi occasioni per estendere e affinare l\u2019analisi. \u00c8 stato incoraggiante in quel modo specifico in cui lo \u00e8 soltanto il disaccordo informato. Gli atti raccolti sono gi\u00e0 pubblicati da Springer, e ci\u00f2 che desidero adesso \u00e8 altro riscontro e prospettive nuove sulle implicazioni, soprattutto su come le quattro ipotesi possano essere messe alla prova ed eventualmente falsificate. L\u2019articolo \u00e8 liberamente consultabile su metamaterials.davidorban.com<\/a>, e il preprint \u00e8 su arXiv<\/a>.<\/p>\n\n\n\n

\"La
La sessione poster e il corridoio, con Philip Rosedale, Sadie Stock e Ben Goertzel. Lo skyline di San Francisco chiude la serie.<\/figcaption><\/figure>\n\n\n\n

La verifica smette di essere il collo di bottiglia<\/h2>\n\n\n\n

L\u2019elemento pi\u00f9 utile dell\u2019intera settimana, per chiunque si interroghi sulla possibilit\u00e0 di fidarsi di questi sistemi in produzione, \u00e8 arrivato dalla keynote di Josef Urban. Ha riportato il caso del motore di isolamento nell\u2019hypervisor Nitro di Amazon, oggi interamente verificato in modo formale: circa 330.000 righe di matematica verificata dalla macchina, in esecuzione in produzione senza che gli utenti ne siano consapevoli. Delle ultime 250.000 righe, circa 100.000 sono state scritte automaticamente da agenti di programmazione nell\u2019arco di sei mesi. La conclusione che Urban ne ha tratto \u00e8 la parte da portarsi via. Scrivere le dimostrazioni non \u00e8 pi\u00f9 la parte difficile. Il vincolo sono ormai le persone capaci di enunciare che cosa sia stato dimostrato, di metterlo in relazione con la specifica e di verificarne il risultato, e Amazon sta assumendo in modo aggressivo esattamente per questo. Una dimostrazione collegata ha visto un manuale di matematica di 600 pagine formalizzato integralmente in nove giorni con circa cento dollari di normale capacit\u00e0 di calcolo in abbonamento.<\/p>\n\n\n\n

Questo riguarda direttamente la mia tesi. Se la capacit\u00e0 di verifica pu\u00f2 essere fatta crescere di pari passo con la velocit\u00e0 decisionale invece di restare costantemente indietro, il fallimento di coordinamento che descrivo nell\u2019articolo diventa un problema ingegneristico dotato di soluzione.<\/p>\n\n\n\n

Venti watt<\/h2>\n\n\n\n

L\u2019altra presentazione a cui continuo a pensare \u00e8 arrivata da Neil Gershenfeld del MIT Center for Bits and Atoms<\/a>, insieme a Camron Blackburn, fondatrice e CTO di Adiabatic Machines<\/a>, il cui lavoro di dottorato con lui riguarda la logica adiabatica superconduttiva operante vicino al limite termodinamico del calcolo. Il loro tema era la dimensione dell\u2019opportunit\u00e0 che si apre costruendo hardware progettato per i carichi di lavoro dell\u2019AI invece di continuare a eseguirli su architetture generaliste.<\/p>\n\n\n\n

La tecnologia non \u00e8 ancora disponibile commercialmente, e Adiabatic Machines esiste per portarla sul mercato. Intendo seguirne da vicino i progressi, perch\u00e9 lo stato dell\u2019arte attuale \u00e8 difficile da difendere nei suoi stessi termini. Addestrare e far funzionare i modelli linguistici di frontiera consuma megawatt, e sulla frontiera del dispiegamento gigawatt. Il cervello umano svolge il proprio lavoro con circa venti watt. Quel numero \u00e8 il vero obiettivo ingegneristico: sistemi AGI che funzionino con venti watt o meno, eguagliando e poi superando ci\u00f2 che l\u2019evoluzione biologica \u00e8 riuscita a costruire.<\/p>\n\n\n\n

Vent\u2019anni fa un giornale venduto all\u2019angolo di una strada per 46 centesimi diceva ai suoi lettori che tutto questo non era mai arrivato e che mancavano decenni. Adesso viviamo dentro quel decennio.<\/p>\n\n","protected":false},"excerpt":{"rendered":"

Nel settembre del 2007 mi trovavo su un marciapiede di San Francisco accanto a un distributore giallo del San Francisco Chronicle, e la prima pagina esposta nella vetrina portava il titolo \u201cWhen Machines Think\u201d, quando le macchine penseranno. Il giornale costava 46 centesimi. Sotto il titolo, l\u2019articolo di Tom Abate raccontava ai lettori che pi\u00f9 […]<\/p>\n","protected":false},"author":2,"featured_media":12356,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[481],"tags":[],"class_list":["post-12366","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t