Il rischio tra ghiaccio e gas

Nelle ultime due settimane ho scritto che la confusione è la risposta giusta a quello che sta succedendo nell’IA, e che possiamo prepararci generando noi stessi un po’ di caos che scegliamo noi. Il primo era una condizione che arriva da fuori, il secondo un allenamento che organizziamo apposta. Entrambi portano alla stessa domanda, cioè a che cosa serva tutta quella preparazione. La mia risposta è il rischio: come lo capiamo, quanto possiamo permettercene, e come cambia la sua forma man mano che l’IA diventa più potente.

Che cos’è il rischio

Vedo il rischio come la misura di quanto imperfettamente prevediamo il futuro. Se potessimo prevedere esattamente che cosa segue da un dato insieme di condizioni iniziali, nessun evento futuro comporterebbe alcun rischio. Non possiamo, e così ogni azione che compiamo ha conseguenze che anticipiamo solo in parte. L’insieme cumulativo delle conseguenze che divergono da quello che ci aspettavamo è ciò che chiamiamo rischio.

Esistono interi settori per misurare quella divergenza e darle un prezzo. La finanza guadagna buona parte del suo denaro dalle asimmetrie nel modo in cui le parti di una transazione comprendono il rischio. Le assicurazioni vendono protezione contro di esso, e gli assicuratori a loro volta comprano protezione per sé dai riassicuratori, che assorbono il rischio che il settore assicurativo vuole collocare.

Quando l’imprevedibilità cresce, la pressione risale quella catena. La Florida lo mostra con chiarezza. Quindici assicuratori immobiliari sono falliti nello stato dal 2020, molti dei quali incapaci di trovare abbastanza riassicurazione per coprire i sinistri che una cattiva stagione degli uragani porterebbe. Se possiedi un appartamento in un palazzo su una spiaggia di Miami, assicurarlo è diventato più difficile, e la compagnia che ha emesso la tua polizza potrebbe essere la prossima a fallire. Quest’anno alcuni riassicuratori sono tornati nello stato, a prezzi che riflettono quello che hanno imparato.

Niente di tutto questo è nuovo. Quello che l’IA cambia è la forma della distribuzione, perché sta spostando il rischio in due direzioni contemporaneamente.

Il rischio reso piccolo

Nelle nostre vite individuali, gli strumenti oggi disponibili, usati in modo appropriato, possono ridurre il rischio di avviare qualcosa in una misura che non ha precedenti. Prototipazione, ricerche di mercato, test con i clienti, strategia di go-to-market, branding, assistenza clienti, gestione dei fornitori e della catena di approvvigionamento: ogni aspetto di un’impresa di qualsiasi dimensione può essere compreso, strutturato e delegato ad agenti di IA, in modo sempre più efficace e a un costo che continua a scendere.

La settimana scorsa ho descritto come la responsabilità limitata abbia reso il fallimento sopportabile per le persone comuni. L’IA fa qualcosa di simile con il costo del tentativo stesso. Chi non avrebbe mai osato può provare, fallire senza esserne schiacciato, e riprovare, finché scopre in che cosa è bravo, di che cosa il mondo ha bisogno da lui e per che cosa qualcuno è disposto a pagare. È la ricerca che portiamo avanti ogni settimana con Ikigai Collective, ed è aperta a molte più persone di prima, almeno nei paesi che lo consentono.

Il fondatore solitario, fino a poco tempo fa un’eccezione, diventa una scelta del tutto normale. Vorrai comunque lavorare con altri, per la gioia e l’entusiasmo di costruire qualcosa insieme, ma li cercherai perché lo desideri e non perché il lavoro non si possa fare senza di loro. È una libertà nuova, e le scelte fatte liberamente tendono a giovare a tutti quelli che vi prendono parte.

Il valore di ciò che hai già scritto

Un amico di Dubai che questa settimana ha partecipato per la prima volta alla nostra Lab Night di Ikigai ha detto la stessa cosa da un’altra angolazione. Ha dato in pasto ai suoi agenti vent’anni di email: soggiorni in hotel, voli, abbonamenti, ricevute rimaste nella sua casella senza alcun valore. Da quell’archivio soltanto hanno imparato le sue abitudini abbastanza bene da ordinargli la spesa senza che lui intervenisse. La sua preoccupazione è il rovescio di quella comodità. Più metti in un agente, più quello capisce di te, e lui vuole un formato aperto per conservare quella conoscenza da una piattaforma all’altra, in modo che un bot costruito oggi possa essere consultato ancora dai suoi figli tra qualche decennio.

Il mercato ha già dato un prezzo ad archivi come il suo. Ad agosto, dopo che Spirit Airlines aveva cessato le attività, Google ha pagato 10 milioni di dollari per i suoi dati interni a un’asta fallimentare: circa 100 milioni di email, 500 milioni di messaggi Teams e decenni di documenti e codice, con un altro offerente subito dietro a 7,5 milioni. Un archivio individuale vale molto meno, e io non venderei il mio alla cieca. Il prezzo ci dice comunque qualcosa sul valore della traccia più minuziosa di una vita o di un’azienda, e siamo noi quelli nella posizione migliore per usare la nostra.

Il rischio che nessuno sa misurare

All’altro estremo, gli stessi strumenti sono abbastanza potenti da poter essere usati in modi difficili da controllare. Ad oggi non esiste una soluzione ingegneristica o scientifica al controllo affidabile dell’IA, che sia guidata da esseri umani o che agisca di propria iniziativa dopo che le è stata indicata una direzione. Senza una soluzione del genere ci troviamo davanti a una categoria di rischio che non si può misurare affatto, perché non esiste alcuna previsione rispetto a cui misurare la divergenza.

Viviamo tra questi due estremi: un mondo in cui il rischio di provarci non è mai stato così piccolo, e uno in cui il rischio dell’intero sistema non è mai stato così difficile da stimare.

Il costo di rifiutare il rischio

Davanti a quell’incertezza, molte istituzioni scelgono di fermarsi. In Europa ho visto progetti di IA funzionanti finire nel cassetto in attesa delle regole dell’AI Act per i sistemi ad alto rischio, che comprendono qualsiasi cosa venga usata per gestire i lavoratori. Quelle regole dovevano applicarsi dal 2 agosto 2026. A luglio il Digital Omnibus è entrato in vigore e le ha spostate al 2 dicembre 2027. I progetti congelati per evitare una scadenza ora aspettano sedici mesi in più una regola che potrebbe cambiare di nuovo.

L’abitudine va più a fondo della regolamentazione. Una decina di anni fa il responsabile delle risorse umane di una delle più grandi banche italiane mi disse che un terzo dei suoi oltre 100.000 dipendenti avrebbe potuto restare a casa il giorno dopo e la banca avrebbe funzionato meglio, perché tanti di loro passavano il tempo a giustificare la propria esistenza con un lavoro di cui nessuno aveva bisogno. Non potevano farlo, mi disse, per via della coesione e della pace sociale che la banca doveva mantenere. Quella scelta esprime una sfiducia nell’iniziativa individuale, nella capacità e nel desiderio delle persone di crescere, e lascia molte di loro convinte di essere utili quando sono pagate per sottrarre valore.

Il contrasto con quello che ho sentito questa settimana ad Abu Dhabi non potrebbe essere più netto. Il Regulations Lab degli Emirati Arabi Uniti, istituito da una legge federale nel 2018, concede una licenza temporanea ai progetti che la legislazione vigente vieta o non contempla, come i veicoli a guida autonoma. Le domande vengono esaminate in poche settimane. Il titolare della licenza opera a condizioni concordate per un periodo che va da sei mesi a un anno e condivide quello che impara, e il governo scrive le leggi a partire da quell’esperienza condivisa. Uno dei settori in cui si sperimenta è il governo stesso. Questo conta in un paese che si è impegnato a far funzionare metà dei propri settori, servizi e operazioni di governo con l’IA agentica entro due anni. Il settore privato avrà bisogno di agenti propri, capaci di dialogare e di concludere transazioni con quelli del governo, e quelle regole verranno scritte a partire da prove raccolte insieme.

Tra ghiaccio e gas

C’è un’analogia di cui non ho ancora misurato fino in fondo la profondità. La vita esiste tra due estremi. Da una parte c’è l’ordine gelido e cristallino della roccia e del ghiaccio, dove la materia lascia scorrere il tempo, solida, affidabile e immutabile, ignara di tutto ciò che va oltre quello che è. Dall’altra c’è il caos vorticoso di un gas caldo, dove nessuna struttura regge a lungo. Da un punto di vista termodinamico, la vita si è evoluta nell’intervallo tra nessun cambiamento e troppo cambiamento.

L’IA ci costringe a mantenere, a ogni costo, traiettorie nello stesso intervallo. Dobbiamo continuare a evolverci al suo interno, usando i nuovi strumenti per rendere i nostri rischi abbastanza piccoli da poterli correre e facendo ogni sforzo per mantenere gestibili i rischi sistemici, così che gli strumenti servano i nostri scopi. Sarà difficile, complicato e turbolento. Sono convinto che ci riusciremo, perché non esiste alternativa: il futuro è ciò che abbracciamo, progettiamo e costruiamo, e per definizione questo comprende il nostro successo.

Il mio primo intervento pubblico sulla singolarità tecnologica risale a vent’anni fa, proprio in questo mese, a Milano. Poche persone in sala credevano che sarebbe arrivata nel corso della loro vita. Il nostro amico di Dubai ci ha raccontato di aver seguito a lungo il mio lavoro senza crederci nemmeno lui, finché l’arrivo di ChatGPT ha reso impossibile dubitarne. Non abbiamo più bisogno di discutere se il cambiamento arriverà. Il compito adesso è aiutare gli altri a trovare il proprio posto nell’intervallo, parlandone e invitandoli a unirsi a noi.