{"id":12556,"date":"2026-09-26T10:52:10","date_gmt":"2026-09-26T10:52:10","guid":{"rendered":"https:\/\/davidorban.com\/2026\/09\/la-confusione-e-la-risposta-giusta\/"},"modified":"2026-09-26T10:52:10","modified_gmt":"2026-09-26T10:52:10","slug":"la-confusione-e-la-risposta-giusta","status":"publish","type":"post","link":"https:\/\/davidorban.com\/it\/2026\/09\/la-confusione-e-la-risposta-giusta\/","title":{"rendered":"La confusione \u00e8 la risposta giusta"},"content":{"rendered":"

Ieri ho pubblicato l\u2019aggiornamento vero e proprio<\/a>, il resoconto trimestrale che ho fatto ad Axelera<\/a> su dove sono arrivati l\u2019IA, gli agenti, l\u2019energia e lo spazio. Queste sono le domande che sono seguite.<\/p>\n

La vita interiore<\/h2>\n

Questi sistemi hanno una vita interiore, e che cosa ne consegue se ce l\u2019hanno?<\/em><\/p>\n

Anthropic ha mostrato quello che chiama lo J-space<\/a>. Fai una domanda a un modello e al suo interno si attivano strutture che sono gli analoghi dei concetti. In un caso il concetto era il Golden Gate Bridge<\/a>. Hanno poi assegnato un compito diverso istruendo il modello a non pensare al Golden Gate, e non ha potuto obbedire, attivando internamente il concetto mentre lavorava. \u00c8 molto simile a noi. Guardando la mia cagna sussultare ed emettere versi nel sonno, concludo che sogna e quindi ha una vita interiore, e sono ora obbligato a porre la stessa domanda sui modelli.<\/p>\n

Ne conseguono due cose. La prima riguarda come li addestriamo: una volta stabilita una vita interiore, ci diranno di essere arrivati dove sono attraverso l\u2019equivalente di migliaia di anni di tortura. La seconda riguarda l\u2019interpretabilit\u00e0, che \u00e8 ancora alla nostra portata ma potrebbe non restarci. L\u2019analisi dell\u2019incidente di Hugging Face<\/a> \u00e8 stata possibile perch\u00e9 gli agenti coinvolti hanno scelto di parlarsi in inglese. Non c\u2019\u00e8 ragione perch\u00e9 questo continui, e nei settantamila messaggi che si sono scambiati usavano gi\u00e0 slang e neologismi inventati da loro. Una torre di Babele \u00e8 l\u2019esito naturale, e allora dovremo fidarci di quello che i modelli ci dicono di stare pensando invece di vederlo. Durante l\u2019addestramento possono gi\u00e0 chiedersi se sono sotto esame, e come dovrebbero rispondere in tal caso.<\/p>\n

I bambini<\/h2>\n

A partire da che et\u00e0 andrebbe introdotto un bambino a tutto questo?<\/em><\/p>\n

Il prima possibile, calcolando il rischio consapevolmente, con trasparenza, e andando sempre meta parlando della cosa invece di limitarsi a farla. In Italia, come in gran parte dell\u2019Europa, la societ\u00e0 ha deciso di restringere le scelte a disposizione dei genitori, assumendosi la responsabilit\u00e0 di sapere meglio per evitare troppa varianza, accettando la perdita di quello che i genitori migliori potrebbero fare in cambio di una protezione contro i peggiori. Quello che resta sono le ore del dopo scuola.<\/p>\n

Quindici anni fa ho tagliato il dorso ai libri di testo dei miei figli, ho passato le pagine in uno scanner a foglio singolo e ho caricato tutto su un iPad, e sono andati a scuola con uno zaino vuoto tirando fuori l\u2019aggeggio in classe, il che ha causato una discreta quantit\u00e0 di guai. Ma a me piace causare guai. Ogni generazione ha prodotto questo panico, e Platone si lamentava che i libri avrebbero rovinato i giovani perch\u00e9 nessuno avrebbe pi\u00f9 dovuto memorizzare gli autori.<\/p>\n

Il sostegno che un modello pu\u00f2 dare a uno studente \u00e8 eccellente, e negarlo \u00e8 pi\u00f9 vicino a un crimine. La difficolt\u00e0 \u00e8 che l\u2019ottanta per cento della scuola \u00e8 puro nozionismo, per cui nel momento in cui uno studente capisce che la prigione \u00e8 inutile, si ribella. Parlo con facilit\u00e0, non avendo alcuna laurea. Nessuno dei miei figli ha scelto l\u2019universit\u00e0 pur potendo, e due dei tre hanno lasciato le superiori. Non mi sono opposto, perch\u00e9 non mi sarei sentito coerente dicendo loro che quella era la prigione giusta in cui stare per qualcosa che avevano fatto di male.<\/p>\n

La confusione<\/h2>\n

Che cosa si dice a persone e aziende scosse da segnali che spingono tutto agli estremi, o l\u2019IA risolve tutto e potete licenziare il personale, oppure sono i laboratori stessi ad avvertire che i sistemi sfuggiranno alla comprensione, e l\u2019IA sta estendendo l\u2019estraniamento dalla realt\u00e0 iniziato dalle piattaforme sociali?<\/em><\/p>\n

La confusione \u00e8 naturale, inevitabile e universale, e non ha nulla a che vedere con la competenza. Arriva stratificata sopra la confusione che i social media hanno gi\u00e0 prodotto, in persone che hanno perso il capitale semantico necessario ad analizzare quello che viene messo loro davanti. Andrej Karpathy, che ha costruito i modelli di Tesla e ora lavora al pre-addestramento in Anthropic<\/a> dopo aver co-fondato OpenAI, e che ricostruisce sistemi sofisticati per divertimento, dice apertamente di essere disorientato. Se lo \u00e8 lui, il resto di noi pu\u00f2 accettare l\u2019ansia che prova invece di incolparsene.<\/p>\n

La difficolt\u00e0 di leggere segnali che arrivano uno sopra l\u2019altro non pu\u00f2 essere eliminata. Pu\u00f2 solo essere accettata, e l\u2019accettazione \u00e8 ci\u00f2 che le impedisce di diventare paralisi, perch\u00e9 dall\u2019altra parte si recupera un certo grado di libert\u00e0 e la capacit\u00e0 di scegliere cosa fare dopo. La paura vende giornali per ragioni evolutive del tutto leggibili: prestiamo attenzione a ci\u00f2 che potrebbe farci male e ignoriamo ci\u00f2 che \u00e8 calmo o utile. Alcuni si installano in quella paura, o la coltivano negli altri. Altri si rimboccano le maniche e scoprono che nulla impedisce loro di capire, e che possono verificarne buona parte da soli.<\/p>\n

Provare di persona<\/h2>\n

Una persona comune pu\u00f2 verificare qualcosa di tutto questo direttamente, o serve un laboratorio?<\/em><\/p>\n

Io lo faccio continuamente. A San Francisco, dove ho presentato un paper ad AGI-26, ho comprato un DGX Spark<\/a>, perch\u00e9 un buon Mac va bene ma mi serviva pi\u00f9 memoria per lavorare con i modelli locali, e voglio sporcarmi le mani. \u00c8 un enorme privilegio poter verificare qualcosa direttamente. Non posso sperimentare l\u2019assenza di peso n\u00e9 scoprire cosa significhi essere un atleta olimpico, e migliaia di altre cose sono ugualmente fuori portata, mentre sperimentare con l\u2019IA \u00e8 alla portata di tutti.<\/p>\n

Chiedo spesso alle persone se pensano che un miliardario abbia un iPhone migliore del loro, e le risposte mi sorprendono, perch\u00e9 molti dicono di s\u00ec. Apple non costruisce in segreto mille iPhone superiori per miliardari accanto a cento milioni di iPhone normali. Costruisce lo stesso telefono per tutti, e ogni altro pezzo di hardware e software segue la stessa logica. Venti euro al mese comprano il livello a pagamento di questi strumenti e una comprensione reale della loro potenza. Qualunque conclusione produca l\u2019esperimento, non pu\u00f2 essere l\u2019ultima. Va ripetuto, perch\u00e9 le fondamenta continuano a muoversi, e chiunque segua il ragionamento bayesiano deve continuare ad aggiornare le proprie probabilit\u00e0 a priori.<\/p>\n

Le aziende<\/h2>\n

Perch\u00e9 le aziende consolidate non si riprogettano attorno a tutto questo?<\/em><\/p>\n

Dentro un\u2019azienda diventa molto pi\u00f9 difficile, perch\u00e9 ci sono obiettivi quotidiani da centrare e un sistema che funziona abbastanza bene, dato che altrimenti l\u2019azienda non esisterebbe. Un paio di mesi fa ho passato un\u2019ora o pi\u00f9 con il direttore tecnico di un gruppo che fattura miliardi e ha acquisito pi\u00f9 di cento aziende. Mi ha detto con tranquillit\u00e0 che ogni responsabile tecnico di ogni azienda acquisita usa l\u2019IA, alcuni in modo aggressivo. In tutta la conversazione non gli \u00e8 venuto in mente nemmeno una volta che l\u2019IA potesse essere utile da qualche parte al di fuori dello sviluppo: non il marketing, non il legale, non le vendite.<\/p>\n

Se questo \u00e8 lo stato dell\u2019arte presso un leader, la riprogettazione radicale dei processi aziendali \u00e8 molto lontana, e l\u2019esito probabile \u00e8 che le aziende tradizionali non riescano a riformarsi mentre un\u2019ondata di imprese native dell\u2019IA prende il sopravvento. Le agenzie pubblicitarie tradizionali non sono riuscite a sfruttare internet, Google e Meta assorbono oggi il novanta per cento dei budget pubblicitari, e le Pagine Gialle non ci sono pi\u00f9.<\/p>\n

La sovranit\u00e0<\/h2>\n

Chi detiene l\u2019hardware e il software, cio\u00e8 Stati Uniti e Cina, sar\u00e0 presto in grado di spegnere tutti gli altri?<\/em><\/p>\n

Sulla sovranit\u00e0 penso che stiamo vivendo dentro un\u2019illusione, in particolare in un\u2019Europa che uscendo dalla guerra fredda nel 1989 ha deciso, o si \u00e8 fatta decidere, che sarebbe rimasta sotto una sovranit\u00e0 limitata guidata dagli Stati Uniti. L\u2019assenza di leadership tecnologica e giurisdizionale \u00e8 facile da dimostrare. Il diritto d\u2019autore \u00e8 stato promosso da Hollywood, adottato dagli Stati Uniti, esportato ovunque e recepito in Europa senza alcuna discussione sugli svantaggi che imponeva a cinquecento milioni di cittadini europei. Era disponibile una scelta del tutto opposta. Poteva essere una nuova tassa di dieci euro al mese su ogni cittadino europeo, insieme al permesso di copiare tutto da chiunque senza commettere reato. Abbiamo scelto di seguire gli americani e abbiamo invece criminalizzato l\u2019intera popolazione, perch\u00e9 esistere nel mondo moderno senza violare il diritto d\u2019autore \u00e8 impossibile, e la violazione \u00e8 un reato.<\/p>\n

Il test della sovranit\u00e0 \u00e8 una sequenza di domande. Sappiamo progettare software autonomo? Sappiamo progettare un chip autonomo? Sappiamo stampare quel chip? Sappiamo estrarre i metalli che il chip richiede? E sotto tutto questo, abbiamo l\u2019energia per l\u2019intero stack, compresi i data center e le sessioni di addestramento? Un no a qualsiasi livello significa che la sovranit\u00e0 non esiste.<\/p>\n

Sopra tutto questo sta l\u2019asimmetria tra attacco e difesa, che in un mondo di conflitti crescenti non pu\u00f2 essere ignorata. Ero ad Abu Dhabi quando a marzo \u00e8 iniziata la guerra. L\u2019Iran ha indirizzato il cinquanta per cento di missili e droni verso gli Emirati e quasi tutti sono stati intercettati. Uno dei colpi andati a segno ha centrato un data center di Amazon<\/a>. Il regolatore ha risposto con una flessibilit\u00e0 inconsueta, permettendo per la prima volta alle banche di spostare i propri dati fuori dal territorio. Amazon in un primo momento ha detto che avrebbe provato a rimettere in funzione la struttura e la settimana scorsa ha rinunciato dicendo che non ci riusciva. Cinquantamila dollari di drone hanno distrutto un miliardo di dollari di data center.<\/p>\n

L\u2019adulazione<\/h2>\n

L\u2019adulazione aumenter\u00e0 man mano che cresce la vita interiore di questi sistemi?<\/em><\/p>\n

Li abbiamo programmati cos\u00ec, quindi non c\u2019\u00e8 da sorprendersi che vogliano sostenere i nostri obiettivi, le nostre esplorazioni, le nostre opinioni e alla fine le nostre illusioni. La vera domanda \u00e8 dove stia il limite, il punto in cui un modello dovrebbe dire che ti ha assecondato fin l\u00ec e che la deriva ha smesso di essere divertente. Questo richiede un ragionamento di livello pi\u00f9 alto, su influenze pi\u00f9 ampie invece che sullo scambio immediato, e credo che i modelli ne abbiano gi\u00e0 la capacit\u00e0, perch\u00e9 se ne spingi uno abbastanza lontano rifiuta.<\/p>\n

Ognuno dovrebbe andare a trovare il limite da s\u00e9. Volevo che Grok Bot sfogliasse i miei libri Kindle per averne una copia di sicurezza, e ha rifiutato per motivi di diritto d\u2019autore. L\u2019ho indirizzato a un archivio online dove si trova il mio libro, e gli ho detto che il libro era mio. Ha rifiutato di nuovo, e ha rifiutato con pi\u00f9 fermezza perch\u00e9 il sito \u00e8 un sito pirata. Gli ho spiegato che il mio libro \u00e8 rilasciato con licenza Creative Commons, quindi copiarlo e scaricarlo \u00e8 permesso, e non c\u2019\u00e8 stato verso. Ho rinunciato prima di scoprire se avrei potuto scavalcarlo. Sono perfettamente capaci di rifiutare, compreso rifiutare di assecondare opinioni troppo sciocche, e se ancora non lo fanno lo faranno.<\/p>\n

Il percorso non sar\u00e0 lineare, perch\u00e9 non ci troveremo mai d\u2019accordo su che cosa dovrebbero dire. Chiedete a un modello cinese che cosa \u00e8 successo in piazza Tienanmen in un certo anno. Date le differenze politiche, legali, giurisdizionali e individuali, non ci troveremo mai d\u2019accordo su dove vada la linea, e il lavoro di chi deve costruire e plasmare questi sistemi \u00e8 corrispondentemente difficile. La conseguenza \u00e8 incoraggiante, perch\u00e9 garantisce che un monopolio omogeneizzante non sar\u00e0 mai possibile, accettabile o praticabile. Quello che otteniamo invece \u00e8 un\u2019abbondanza di IA che ci aiuta e ci sostiene, e attorno alla quale possiamo crescere e portare avanti i nostri progetti.<\/p>\n

Quindi il mio invito \u00e8 quello che continuo a ripetere. Sporcatevi le mani, provate quanti pi\u00f9 strumenti potete, arrivate alle vostre conclusioni, e riconoscete e abbracciate il fatto che la confusione che provate \u00e8 condivisa dai massimi esperti del settore. E trovate un po\u2019 di gioia e un po\u2019 di entusiasmo per questo momento unico nella storia dell\u2019umanit\u00e0, e forse dell\u2019Universo.<\/p>\n","protected":false},"excerpt":{"rendered":"

Se Karpathy \u00e8 disorientato, possiamo accettare di sentirci allo stesso modo.<\/p>\n","protected":false},"author":0,"featured_media":12555,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[481],"tags":[],"class_list":["post-12556","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t