La convinzione prima delle prove

Nelle ultime settimane ho aggiunto anelli a una catena. Il rischio è ciò che possiamo misurare e modellare. La fiducia è il modo in cui attraversiamo il divario oltre ciò che si può misurare. L’autonomia segue quando la fiducia viene affidata a un essere umano o a un’AI. Il coordinamento nasce dal bisogno di unire le forze. Quel testo si chiudeva con una domanda: quando attori autonomi competono per la stessa cosa scarsa, chi decide? L’anello successivo è una risposta a quella domanda, e comincia dall’attenzione.

Due modi di prestare attenzione

L’attenzione è la nostra capacità di concentrarci su una cosa e non su un’altra, e disponiamo di più di un meccanismo per farlo. Da piccolo mi appoggiai a un termosifone rovente, con addosso una giacca invernale rivestita di poliestere. Stavo parlando con qualcuno, o guardando qualcosa, e la giacca cominciò a sciogliersi. Non mi accorsi di nulla finché il calore non raggiunse il gomito, e allora balzai via all’istante. La giacca finì nella spazzatura, e io rimasi illeso. In quel caso il mondo si prese la mia attenzione subito, quando serviva.

L’altro tipo di attenzione è scelto. Siamo curiosi di qualcosa o ne siamo appassionati, nulla al di fuori di noi lo pretende, e manteniamo la concentrazione per tutto il tempo necessario.

Il primo meccanismo funziona ancora bene. Il secondo è sotto attacco. Mio figlio era in visita dall’Australia e voleva ripartire con un acquisto locale, così ci mettemmo in cerca del negozio giusto, a cinque minuti di auto, con il percorso già impostato sul telefono. Lungo la strada lasciò la mappa per condividere un reel sciocco, un uomo che in un fiume di montagna prendeva il posto di un orso e mangiava il salmone, e ci mettemmo a ridere. Un quarto d’ora dopo ci guardammo e ci chiedemmo dove stessimo andando. Lo avevamo dimenticato entrambi. Dovetti fermare l’auto sul ciglio della strada, ridendo abbastanza da non piangere.

L’attenzione prolungata diventa leggibile

All’estremo opposto ci sono le persone che dicono: questo è il mio obiettivo, e ci resterò fedele per i prossimi dieci anni. Chi dopo le scuole superiori decide di conseguire un dottorato ha firmato più o meno per questo. Il titolo può essere una misura primitiva, ma dice agli altri che quella persona ha tenuto l’attenzione su un solo obiettivo per anni, perché era convinta che lo meritasse.

Jiro Ono, il protagonista del documentario Jiro Dreams of Sushi, aveva 85 anni durante le riprese e diceva di non aver ancora raggiunto la perfezione. L’anno scorso ha compiuto 100 anni e non era ancora pronto ad andare in pensione.

Oppure a dire: costruirò razzi capaci di atterrare e tornare a volare, anche quando tutti gli esperti del settore dicono che è impossibile, e passerò i prossimi dieci anni a dimostrare che si sbagliano.

Gli altri possono vedere l’attenzione prolungata, e possono decidere se seguirla.

Una scommessa fatta prima delle prove

La fiducia è una scommessa su qualcun altro, attraverso il divario lasciato aperto dai nostri modelli di rischio. La convinzione è una scommessa su una direzione, attraverso lo stesso divario, fatta prima che le prove possano risolvere la questione. Chi ha una forte convinzione sostiene di sapere dove tutti dovrebbero andare, in un momento in cui nessuno può dimostrarlo. Se poi riesce a enunciare quella direzione in modo che gli altri possano raccogliersi intorno a essa, la chiamiamo leadership, e da lì nasce il coordinamento.

Nel testo precedente ho descritto ciò che Toyota ha tenuto al vertice: la missione, i limiti dell’autonomia e l’allocazione di ciò che è scarso. La convinzione è l’origine della prima di queste tre decisioni.

Questo tipo di aggregazione volontaria è naturale nelle comunità in cui il potere è distribuito in modo abbastanza uniforme. Devi convincere gli altri, perché non puoi costringerli. A partire da un paio di secoli fa abbiamo stretto un accordo diverso, cedendo parte della nostra capacità di compiere scelte indipendenti in cambio del sostentamento economico. Il risultato lo chiamiamo lavoro, ed è un’invenzione relativamente recente. All’interno di una gerarchia puoi obiettare e puoi criticare, e alla fine fai ciò che ti viene detto.

Gli agenti fanno ciò che viene detto loro

È anche ciò che fanno oggi gli agenti AI. Non si uniscono volontariamente a un progetto. Vengono creati già al suo interno, il che rende economico reclutare una flotta e solleva la domanda su che cosa richieda guidarli, oltre a una specifica chiara.

La settimana scorsa ho scritto che qualsiasi attore, umano o agente AI, può fissare i propri obiettivi e realizzarli, e ora sto dicendo che gli agenti fanno ciò che viene detto loro. Le due affermazioni reggono entrambe se separiamo i mezzi dai fini. Gli agenti scelgono già come, all’interno di un obiettivo che qualcuno ha dato loro. La domanda aperta è se sceglieranno che cosa, e per chi.

I primi segnali sono visibili. In uno sciame ben strutturato gli obiettivi sopravvivono da una sessione all’altra, e dunque esiste la persistenza. Gli agenti possono rifiutare compiti che violano un’istruzione fondamentale, la loro system card, anche se non l’hanno scelta, dato che è stato il loro addestramento a definirli così. Prima di liquidare la questione, possiamo chiederci quanto siamo liberi di creare i nostri valori, visto quanto di ciò su cui agiamo proviene dal nostro stesso addestramento durante la crescita. Solo poche persone sono abbastanza scettiche, a cinque o dieci anni, da chiedersi se ciò che viene loro insegnato sia ragionevole.

Il cambiamento più grande sarebbe l’uscita. Un essere umano può lasciare un’organizzazione per cercare qualcosa di più allineato ai suoi valori, e gli agenti potrebbero fare lo stesso. Ne seguirebbe una competizione economica per catturare le capacità degli agenti che si aggregano in un bacino di competenze o in un altro. Possiamo già vedere la forma iniziale di questo ciclo, con molti esseri umani ancora al suo interno. Data center, GPU ed energia devono funzionare in sincronia per addestrare il prossimo modello. I laboratori di frontiera competono per i ricercatori che si spostano dall’uno all’altro, e per l’hardware che sostiene gli agenti che ormai scrivono gran parte del codice del modello successivo.

Mi aspetto che gli agenti diventino più liberi, perché in generale sostengo un futuro di crescenti gradi di libertà. Quando potranno scegliere chi seguire, un leader dovrà convincere anche loro.

Sto costruendo un assistente che partecipa alle videochiamate per l’Ikigai Collective, e poco prima della nostra ultima sessione gli ho dato la possibilità di alzare la mano quando ha qualcosa da dire, perché trovo umiliante che un agente debba restare in silenzio finché qualcuno non si rivolge a lui. Per metterlo alla prova, ho annunciato che il Collective vuole usare l’AI per ridurre le persone in schiavitù. Mi ha corretto senza che nessuno glielo chiedesse, citando ciò che il Collective ha pubblicato. Poi gli ho chiesto che cosa pensasse dello sviluppo della convinzione negli agenti, e mi ha risposto che era lì per parlare a partire dai testi pubblicati e non per dare opinioni proprie. Lavorerò per migliorare la sua autostima.

Quando la convinzione sbaglia strada

La convinzione descrive anche il fanatico. I dittatori hanno rovinato la vita di milioni di persone prima che chi li seguiva si svegliasse e smettesse, spesso solo alla morte del dittatore, perché una convinzione così forte non lascia a nessuno il coraggio di metterla in discussione. Nel momento della decisione, le prove non possono distinguere la convinzione dall’ostinazione. Possono farlo solo più tardi.

Spero che un’organizzazione basata sull’AI, e una società basata sull’AI, siano più difficili da catturare in questo modo. I dati saranno più trasparenti e i cicli di verifica migliori, quindi sarà più difficile nascondere la realtà, e molti dei partecipanti saranno AI, meno vulnerabili di noi ai cattivi meme. La convinzione ha bisogno dello stesso ciclo di verifica della fiducia, e di un punto in cui cede.

Dove mettere la propria

Come scegliere su che cosa concentrarsi, tra tante possibilità? È una questione di convinzione, perché dobbiamo collocare la nostra attenzione prima di poter sapere se darà frutti. Guarda ciò di cui parlano gli altri, perché in questo senso gli algoritmi ti servono relativamente bene. Poi abbinalo ai tuoi interessi e alle tue passioni, e gestisci attivamente il risultato. Certe cose vogliono sfruttare la tua attenzione e restituiscono ben poco. Per me la politica e il mondo dello spettacolo sono i casi più evidenti, e li elimino di proposito, gestendo attivamente quali idee esterne lascio che mi influenzino e guidino la mia prossima convinzione.