L\u2019errore \u00e8 pensare che sia una questione di intelligenza<\/h2>\n
Quasi ogni conversazione pubblica sul rischio dell\u2019IA riguarda la capacit\u00e0<\/em>: il modello sar\u00e0 troppo intelligente, troppo autonomo, troppo difficile da controllare? Quell\u2019inquadratura distoglie lo sguardo dal punto di massima pressione. Il vincolo determinante \u00e8 un rapporto: la velocit\u00e0 con cui l\u2019IA pu\u00f2 produrre cose che sembrano<\/em> legittime, divisa per la velocit\u00e0 con cui un essere umano pu\u00f2 confermare se lo sono. Il primo numero corre in avanti mentre il secondo resta piatto, perch\u00e9 l\u2019attenzione umana \u00e8 limitata e nessuno pu\u00f2 assumere verificatori alla velocit\u00e0 con cui un\u2019IA scrive bozze. Il divario tra i due \u00e8 il punto in cui le istituzioni si rompono. Commissioni di valutazione, autorit\u00e0 di regolazione, riviste scientifiche, enti di certificazione, revisione del codice, uffici brevetti: ovunque un piccolo numero di verificatori umani fosse calibrato su un flusso di richieste pi\u00f9 lento e pi\u00f9 affidabile, la stessa dinamica \u00e8 ora in corso. Le decisioni dell\u2019IA arrivano pi\u00f9 veloci delle nostre conferme, e la conferma, pi\u00f9 dell\u2019intelligenza, \u00e8 la risorsa scarsa.<\/p>\n Il titolo dell\u2019articolo indica la via d\u2019uscita. Gli ingegneri costruiscono metamateriali<\/em>: sostanze le cui propriet\u00e0 straordinarie derivano da come sono strutturate piuttosto che da ci\u00f2 di cui sono fatte. Disponete materia ordinaria nel giusto schema microscopico e otterrete comportamenti che nessun materiale naturale possiede: piegare la luce all\u2019indietro, assorbire frequenze specifiche, restare rigidi in una direzione e flessibili in un\u2019altra. Il potere sta nella struttura. Le istituzioni funzionano allo stesso modo. Quanto bene un gruppo di lavoro, un\u2019azienda o un\u2019intera civilt\u00e0 regge sotto pressione \u00e8 una propriet\u00e0 del suo progetto: i suoi protocolli, i suoi incentivi, il modo in cui l\u2019informazione si muove e viene controllata a ogni passaggio. Cambiate la struttura e cambierete ci\u00f2 a cui l\u2019istituzione pu\u00f2 sopravvivere. Questa reimpostazione regge l\u2019intero argomento. Porta la governance fuori dal regno delle lamentazioni e delle opinioni e la trasforma in un problema di progettazione<\/strong>, qualcosa che si pu\u00f2 modellare, misurare e migliorare. L\u2019articolo rende questa intuizione precisa e verificabile.<\/p>\n Quando si trasforma l\u2019intuizione in un modello vero, emerge qualcosa di genuinamente non ovvio. Ci sono due leve che si possono azionare per impedire a un sistema inondato di precipitare nel caos:<\/p>\n L\u2019aspettativa sarebbe che ciascuna aiuti un poco, ed entrambe aiutino di pi\u00f9. Il modello mostra qualcosa di pi\u00f9 strano. Azionate una sola leva e il sistema collassa comunque: una provenienza migliore senza controlli fallisce, e controlli diligenti senza sapere da dove viene nulla falliscono ugualmente. Azionate entrambe insieme e il sistema si capovolge, dall\u2019amplificare ogni errore in una cascata al guarire da s\u00e9. I due effetti si moltiplicano invece di sommarsi, e la soglia tra collasso e stabilit\u00e0 si pu\u00f2 attraversare solo muovendo le due leve insieme. \u00c8 l\u2019immagine sulla copertina dell\u2019articolo, e porta con s\u00e9 il risultato. Da un lato, un reticolo blu ordinato che assorbe gli urti; dall\u2019altro, frammenti arancioni turbolenti che volano via: lo stesso materiale che si comporta in due modi opposti a causa della sua struttura, e solo uno dei due sopravvive alla pressione. L\u2019immagine \u00e8 il risultato.<\/p>\n Una reimpostazione vale qualcosa solo se la realt\u00e0 pu\u00f2 risponderle. Perci\u00f2 il quadro teorico formula quattro previsioni specifiche che potrebbero falsificarlo<\/strong>, e arriva con un vero esperimento di 12 settimane<\/strong> da condurre, per esempio, dentro una commissione pubblica di valutazione dei finanziamenti: confrontare una commissione che opera con la struttura riprogettata con una che opera come al solito, e misurare se gli errori smettono di propagarsi nel modo previsto dal modello. Se le previsioni falliscono, il quadro \u00e8 sbagliato e si butta via, che \u00e8 esattamente lo scopo delle previsioni. Se reggono, la governance smette di essere una questione di gusto e diventa una disciplina ingegneristica, qualcosa che progettiamo, strumentiamo e regoliamo deliberatamente, come gi\u00e0 facciamo con i ponti, i chip e gli aeromobili. Abbiamo passato un decennio a discutere di quanto l\u2019IA diventer\u00e0 intelligente, e quasi nessun tempo a progettare le istituzioni che devono assorbirne la produzione. Quell\u2019asimmetria \u00e8 l\u2019emergenza, ed \u00e8 quella su cui possiamo fare qualcosa finch\u00e9 c\u2019\u00e8 ancora tempo perch\u00e9 conti. Niente di tutto questo \u00e8 astratto, per me. I miei agenti IA rispondono gi\u00e0 oggi a email pubbliche sotto un equilibrio di congelamento deliberato: ogni risposta che preparano attende la mia revisione personale prima di essere inviata. Ai volumi di oggi \u00e8 il punto di partenza corretto. Man mano che il loro numero e la loro posta crescono, questo diventa l\u2019ufficio permessi di questo saggio, con me nel ruolo dell\u2019impiegato allo sportello. In un prossimo articolo mostrer\u00f2 come stiamo progettando l\u2019uscita con le leve dell\u2019articolo stesso: classi di provenienza per le risposte, verifica automatica a ogni passo, e un\u2019autonomia guadagnata, misurata e revocabile.<\/p>\n Presenter\u00f2 Civilizational Metamaterials<\/em> alla conferenza AGI-26<\/a> di San Francisco, dal 27 al 30 luglio, e sar\u00e0 incluso negli atti pubblicati da Springer. Il testo completo, una versione interattiva, il codice open source e tutte le figure sono disponibili su metamaterials.davidorban.com<\/a><\/strong><\/p>\n L\u2019IA avanzata decide pi\u00f9 in fretta di quanto possiamo verificare, finch\u00e9 tutto si congela in silenzio Immaginate un ufficio pubblico che riceveva 200 domande di permesso all\u2019anno. Un esperto impiegava circa una settimana per esaminarne una a fondo: leggerla, controllare le affermazioni, approfondire i punti dubbi, firmare. Il sistema funzionava. La coda si smaltiva. Lo […]<\/p>\n","protected":false},"author":2,"featured_media":12338,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[481,728],"tags":[],"class_list":["post-12113","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","category-generale"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\tLa governance \u00e8 un materiale che si pu\u00f2 progettare<\/h2>\n
Il risultato sorprendente: le due leve funzionano solo insieme<\/h2>\n
\n
Costruito per poter essere smentito<\/h2>\n
\n![\"Civilizational](\"https:\/\/davidorban.com\/wp-content\/uploads\/2026\/05\/cm-cover.jpg\")
<\/a><\/figure>\n
\n","protected":false},"excerpt":{"rendered":"