{"id":12588,"date":"2026-10-16T16:12:21","date_gmt":"2026-10-16T16:12:21","guid":{"rendered":"https:\/\/davidorban.com\/2026\/10\/verifica-piu-economica-fiducia-piu-preziosa\/"},"modified":"2026-10-16T16:12:21","modified_gmt":"2026-10-16T16:12:21","slug":"verifica-piu-economica-fiducia-piu-preziosa","status":"publish","type":"post","link":"https:\/\/davidorban.com\/it\/2026\/10\/verifica-piu-economica-fiducia-piu-preziosa\/","title":{"rendered":"Verifica pi\u00f9 economica, fiducia pi\u00f9 preziosa"},"content":{"rendered":"

Nelle ultime settimane ho scritto del rischio tra ghiaccio e gas<\/a> e del perch\u00e9 ogni progetto ha ancora bisogno di acquirenti<\/a>. Entrambi i testi trattavano di ci\u00f2 che possiamo misurare. Questo riguarda la parte di ogni decisione che non possiamo misurare, e ci\u00f2 su cui ci basiamo per agire comunque.<\/p>\n

Iniziare e rilasciare<\/h2>\n

Per molte persone ci sono due momenti, nella vita di un progetto, particolarmente difficili. Il primo \u00e8 iniziare. Il secondo \u00e8 rilasciarlo, che \u00e8 diverso dal costruirlo. Costruire \u00e8 un’attivit\u00e0 intima: \u00e8 indulgente, e segue il tuo ritmo e i tuoi vincoli. Rilasciare significa affrontare il mondo a qualunque stadio il progetto sia arrivato, uno stadio che sar\u00e0 immancabilmente imperfetto, e il mondo non mancher\u00e0 di fartelo notare con zelo. \u00c8 anche necessario, perch\u00e9 solo il mondo pu\u00f2 darti utenti, riscontri, critiche e, nel caso di un progetto open source, contributi che puoi poi adottare e incorporare.<\/p>\n

Entrambi i momenti sono un incontro tra un dentro e un fuori. Lo \u00e8 anche il momento in cui due persone decidono di lavorare insieme. In ciascuno di essi possiamo valutare tutti i fattori misurabili, cio\u00e8 quello che ho chiamato rischio: un modello della realt\u00e0, una previsione delle sue conseguenze e un confronto con ci\u00f2 che accade. \u00c8 importante e non \u00e8 sufficiente, perch\u00e9 ci saranno sempre cose che non possiamo modellare o non possiamo misurare. Dobbiamo comunque agire, e innescare lo slancio che costruire e rilasciare richiedono.<\/p>\n

La fiducia \u00e8 il salto<\/h2>\n

Il divario tra il rischio misurabile e le componenti imponderabili di una decisione \u00e8 colmato dalla fiducia. Senza di essa saremmo soli, che l’organizzazione che stiamo costruendo sia fatta di due persone o di migliaia, e non sarebbe affatto altrettanto divertente.<\/p>\n

La fiducia conta soprattutto nel primissimo momento, prima che esista un qualsiasi precedente su cui basarsi. Io sono una di quelle persone che all’inizio ripongono deliberatamente nell’altro pi\u00f9 fiducia di quanta sarebbe necessaria, o persino ragionevole. Lo faccio perch\u00e9 il primo atto di fiducia d\u00e0 forma a tutto ci\u00f2 che segue, e una fiducia generosa all’inizio rende il lavoro comune pi\u00f9 fluido e pi\u00f9 rapido. Poi il ciclo si mette in moto: ci apriamo, verifichiamo le conseguenze, chiudiamo il ciclo e lo riapriamo. Ogni ciclo completato conferma la fiducia o la revoca. Questo accade ogni giorno a ogni scala, tra due fondatori, all’interno delle grandi aziende e tra le nazioni, mentre competono e cooperano.<\/p>\n

La fiducia pu\u00f2 anche essere mal riposta, in due modi diversi. Gli interessi possono divergere, e una parte pu\u00f2 cercare di catturare tutto il valore, possibilmente senza che le altre se ne accorgano. Oppure pu\u00f2 non esserci alcuna malizia, solo errori o incompetenza, e l’altra parte semplicemente non riesce a consegnare quanto concordato. Ognuno di noi li ha sperimentati entrambi.<\/p>\n

Che cosa cambia l’IA<\/h2>\n

Per come la vedo io, l’IA rende la verifica economica. Abbassa radicalmente il costo di misurare a posteriori che cosa \u00e8 successo, e quindi di stabilire se un dato atto di fiducia era ben riposto. Ci\u00f2 che si pu\u00f2 controllare ha sempre meno bisogno di fiducia. Ci\u00f2 che resta, e che diventa pi\u00f9 scarso e pi\u00f9 prezioso di prima, \u00e8 tutto quello che non possiamo controllare: l’intenzione dell’altra parte e il suo comportamento futuro. La fiducia serve per meno cose, e ciascuna di esse conta di pi\u00f9.<\/p>\n

Gli stessi strumenti di IA, usati in modo improprio, contraffanno i segnali su cui ci basiamo per decidere di chi fidarci, da un documento falsificato in una transazione fino a identit\u00e0 false, valori falsi e intenzioni false. Ricevo un messaggio come questo almeno un paio di volte al mese: *Ciao pap\u00e0, questo \u00e8 il mio nuovo numero, ho perso il telefono, mi servono urgentemente mille euro, per favore mandameli.* Una persona impreparata pu\u00f2 farsi prendere dal panico al punto da cascarci. Una pi\u00f9 preparata si prende un momento, si chiede quanto sia probabile e verifica, con qualcosa che il truffatore non pu\u00f2 sapere oppure, in aggiunta, attraverso un secondo canale.<\/p>\n

Il canale aggiuntivo \u00e8 proprio ci\u00f2 che quest’anno ha ceduto su una scala molto pi\u00f9 grande. Fideuram, la divisione di private banking di Intesa Sanpaolo, ha perso 95 milioni di euro<\/a> dopo che il suo presidente aveva ricevuto un messaggio WhatsApp che sembrava provenire dall’amministratore delegato del gruppo, seguito da una telefonata in cui la voce di un avvocato di primo piano, clonata con l’IA, confermava l’istruzione. I bonifici sono andati soprattutto verso conti in Cina e a Hong Kong. Ne sono stati recuperati circa 53 milioni, e ne mancano ancora circa 36. Il canale di conferma era stato contraffatto insieme al primo. Man mano che la fiducia diventa pi\u00f9 preziosa, gli errori nei nostri rapporti di fiducia pi\u00f9 preziosi diventano pi\u00f9 costosi, e dovremo usare la stessa IA per proteggerli.<\/p>\n

Quando gli strumenti della fiducia la riducono<\/h2>\n

Da agosto l’articolo 50 dell’AI Act europeo impone ai fornitori di contrassegnare i contenuti generati dall’IA, e il 5 ottobre OpenAI ha annunciato<\/a> che aggiunger\u00e0 filigrane invisibili ai testi di ChatGPT nell’Unione europea, unendosi a Google e Anthropic, che gi\u00e0 contrassegnano i propri. Molte persone ne sono contrariate, e capisco perch\u00e9. Si sentono tracciate ed etichettate, e ritengono che i loro contenuti siano loro, a prescindere dagli strumenti usati per produrli.<\/p>\n

I legislatori volevano impedire i falsi generati dall’IA. Quello che stanno facendo, invece, \u00e8 inquinare l’ambiente informativo con un’etichetta che non pu\u00f2 essere universale. Io faccio tutto con l’IA, quindi per me l’etichetta \u00e8 meritatissima e non sorprende nessuno che mi conosca. Molti altri verranno colti di sorpresa, in un momento in cui un gruppo polarizzato vede l’IA come positiva e un gruppo ampio la vede come negativa. Le soluzioni pensate per impedire che l’IA riduca la fiducia, paradossalmente, la stanno riducendo, e avremo bisogno di qualcosa che raggiunga meglio il loro obiettivo.<\/p>\n

La pressione non potr\u00e0 che crescere. I modelli video sanno gi\u00e0 generare un personaggio umano capace di conversare che molti non riescono a distinguere da una persona nel corso di una breve chiamata, e presto la chiamata durer\u00e0 un’ora. O accettiamo che molte delle persone che incontriamo in video saranno IA, oppure troviamo modi per riconoscere chi \u00e8 umano, e a quel punto ciascuno di noi decider\u00e0 se fidarsi delle IA meno che degli esseri umani, altrettanto o, per alcuni, di pi\u00f9.<\/p>\n

Contratti, piattaforme e agenti<\/h2>\n

Una persona che partecipava alla nostra conversazione, e che in passato amministrava contratti, ha descritto la parte pi\u00f9 difficile di quel lavoro: convincere i colleghi a fidarsi di lui, assicurandosi per\u00f2 che insieme alle carte non gli consegnassero anche la propria autonomia decisionale. Dicevano che lui aveva letto il contratto e che lo aveva letto anche l’IA, quindi dovevano essere a posto. La sua risposta era che il proprio accordo dovevano comunque leggerlo loro.<\/p>\n

Sono d’accordo che la decisione debba restare all’essere umano. Aggiungerei che i contratti sono quasi universalmente un abuso della fiducia necessaria per sottoscriverli. Non conosco una sola persona che legga una polizza assicurativa, un contratto di conto corrente o un mutuo dall’inizio alla fine, clausole in piccolo comprese, e non ho mai incontrato un impiegato di banca che dicesse: si prenda tre ore, signore, io aspetto. Ti fanno passare con un cenno e ti dicono di non preoccuparti. In questo caso l’IA riequilibra il rapporto. Per quanti errori possa fare analizzando un contratto di mutuo, quegli errori sono irrilevanti rispetto alla totale ignoranza delle clausole che comporta firmare alla cieca. Affida ogni accordo alla tua IA e chiedile se contiene qualcosa di strano, se qualcosa dovrebbe preoccuparti e che cosa dovresti contestare. Spesso qualcosa ci sar\u00e0.<\/p>\n

Conta anche quale IA interroghi. I modelli sono addestrati e istruiti in modo diverso, e pi\u00f9 i tuoi strumenti e i tuoi agenti sanno di te, meglio ti servono. \u00c8 una ragione per esportare ci\u00f2 che hai dato loro, periodicamente e con la massima granularit\u00e0 disponibile, sia per verificarne la coerenza sia per poter passare a un altro strumento senza ricominciare da zero. Sono piuttosto ossessivo nell’esportare i miei dati da ogni piattaforma, perch\u00e9 non credo che le piattaforme meritino la nostra fiducia. Forniscono valore, e tengono pi\u00f9 a se stesse che a qualsiasi singolo utente.<\/p>\n

Mi piacerebbe sapere che cosa pensano di noi le piattaforme. Sospetto che gli esseri umani le terrorizzino un po’. Vogliamo usarle senza vincoli, per qualsiasi scopo o idea ci venga in mente, e allo stesso tempo vogliamo che fermino i comportamenti criminali, che \u00e8 la richiesta opposta. Il rapporto era complesso gi\u00e0 quando le piattaforme erano passive. Ora che ogni piattaforma sta diventando agentica, sar\u00e0 pi\u00f9 difficile da decifrare da entrambe le parti: per noi, capire in che tipo di rapporto ci troviamo, e per loro, comprendere il comportamento umano ancora pi\u00f9 a fondo.<\/p>\n

Fidarsi della fabbrica<\/h2>\n

La stessa domanda ritorna, pi\u00f9 acuta, quando gli agenti il lavoro lo svolgono invece di leggerlo. Un team con cui lavoro sta sperimentando una fabbrica del software: agenti che prendono un compito, scrivono il codice, aprono una pull request, la testano e la integrano. Con regole rigide, l’agente ha rifiutato ogni singola pull request, quelle corrette insieme a quelle difettose, e continuava a chiedere la revisione di un essere umano. Con regole pi\u00f9 permissive le ha accettate quasi tutte. Nessuna delle due impostazioni \u00e8 fiducia. Chiedere a un essere umano di leggere il codice perch\u00e9 l’agente si senta abbastanza sicuro da integrarlo riporterebbe esattamente il collo di bottiglia che la fabbrica esiste per eliminare. La risposta migliore \u00e8 un ulteriore livello di controllo: i test verificano il codice, e un verificatore controlla se la decisione di accettare o rifiutare era corretta, rimandando indietro il lavoro quando non lo era.<\/p>\n

Ci\u00f2 che decidiamo di tenere per noi segue la linea tra ci\u00f2 che si pu\u00f2 controllare e ci\u00f2 che non si pu\u00f2. Un bug significa che un utente non riesce a fare qualcosa che si aspettava di poter fare, quindi l’aspettativa esiste gi\u00e0, la correzione pu\u00f2 essere verificata rispetto a essa e la fabbrica pu\u00f2 gestirla da sola. Una richiesta di funzionalit\u00e0 chiede qualcosa che nessuno si aspettava, e accettarla cambia la direzione del prodotto. Chi ama un’interfaccia affollata continuer\u00e0 a chiedere di riportare ogni opzione nella pagina principale, e chi \u00e8 responsabile del design deve essere libero di dire di no. L’intenzione resta agli esseri umani.<\/p>\n

Che cosa succede quando la fabbrica commette un errore abbastanza grave da farci perdere fiducia in essa, e da costringerci a rimettere in discussione tutto ci\u00f2 che ha fatto? La fiducia era necessaria fin dall’inizio proprio perch\u00e9 c’erano cose che non avevamo previsto e non potevamo modellare. Quando emerge un errore sistematico, lo analizziamo, evitiamo che si ripeta e miglioriamo il nostro modello del rischio, sapendo che non abbiamo eliminato il bisogno di fiducia, l’abbiamo solo spinto pi\u00f9 in l\u00e0. \u00c8 la stessa cosa che fanno due persone quando smettono di discutere ogni clausola, firmano l’accordo e cominciano a lavorare insieme, per scoprire se la loro fiducia era ben riposta. Non vedo alcuna versione del futuro in cui decidiamo che gli ultimi dieci anni di fiducia crescente nell’IA siano stati un errore e costruiamo il mondo senza di essa.<\/p>\n

Chi \u00e8 pi\u00f9 avanti nello sviluppo dell’IA procede lungo lo stesso percorso, con cautela. Ad agosto Anthropic ha riferito<\/a> che Claude guida il 26% del proprio lavoro di ricerca e sviluppo sull’IA, rispetto a meno dell’1% di febbraio, mentre nessuna parte di quel lavoro si svolge in modo completamente autonomo. In Anthropic sono ancora gli esseri umani a decidere che cosa valga la pena fare. Ogni ciclo completato amplia ci\u00f2 che si affida agli agenti, e l’ultima cosa che verr\u00e0 loro affidata \u00e8 la scelta del lavoro stesso.<\/p>\n

Il bisogno di fiducia \u00e8 destinato a restare<\/h2>\n

Gli aggressori conoscono il ciclo della fiducia bene quanto chiunque altro. Un articolo di Microsoft Research<\/a> ha sostenuto che le famose email truffa sono rozze di proposito: l’inglese stentato filtra tutti coloro che pi\u00f9 avanti smaschererebbero la truffa, cos\u00ec che rispondano solo i bersagli pi\u00f9 promettenti. Le operazioni sofisticate, comprese quelle che collocano lavoratori nordcoreani in impieghi occidentali sotto false identit\u00e0, sono pazienti. Completano il primo ciclo di fiducia, accettano responsabilit\u00e0 crescenti man mano che l’organizzazione gliele concede, e solo allora alzano la posta.<\/p>\n

Niente di tutto questo rende il salto facoltativo. \u00c8 matematicamente garantito che i nostri modelli lasceranno sempre fuori cose che non possiamo misurare, e se vogliamo agire e creare dovremo fare un atto di fede. Di recente mi ha colpito un’osservazione sulle elezioni democratiche: la parte che perde consegna il potere a coloro che fino al giorno prima erano i suoi nemici, confidando di non essere uccisa, che i suoi diritti e le sue propriet\u00e0 saranno rispettati e che fra qualche anno potr\u00e0 ricandidarsi e vincere. Giudicato con il metro di rapporti di potere pi\u00f9 antichi e meno illuminati, sembra quasi assurdo. \u00c8 un ciclo di fiducia che un’intera societ\u00e0 accetta di percorrere, ancora e ancora.<\/p>\n

Dobbiamo quindi essere creativi e inventivi riguardo alla fiducia, e usarla ogni giorno in ci\u00f2 che crea la societ\u00e0 di oggi, perch\u00e9 resti parte della societ\u00e0 di domani. Una comunit\u00e0 \u00e8 uno dei luoghi in cui esercitarla. Il nostro gruppo di Ikigai Collective<\/a> percorre quel ciclo ogni gioved\u00ec: le persone si aprono, ripongono fiducia le une nelle altre e tornano la settimana successiva per vedere se ha retto.<\/p>\n","protected":false},"excerpt":{"rendered":"

L’IA abbassa il costo di controllare che cosa \u00e8 successo, e sposta il valore della fiducia sull’intenzione e sul comportamento futuro<\/p>\n","protected":false},"author":2,"featured_media":12587,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[481],"tags":[],"class_list":["post-12588","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t