Autonomia alla velocità delle macchine

Nelle ultime settimane ho scritto del rischio tra due estremi e di come la fiducia sia diventata più preziosa. Il rischio è ciò che possiamo misurare e modellare. La fiducia è il ponte che usiamo per agire al di là di ciò che non possiamo misurare. Ciò che segue naturalmente da questi due concetti è l’autonomia, cioè quanta parte di quell’azione affidiamo a qualcun altro.

La delega è proporzionale

Quando confido che un delegato possa raggiungere un obiettivo strutturando i compiti da sé, sto costruendo autonomia all’interno dell’organizzazione. Quella delega non è mai arbitrariamente grande. È proporzionale alle competenze e alle risorse del delegato, e ogni partecipante, umano o no, ha competenze e risorse limitate.

Per questo le gerarchie si formano in modo così naturale. C’è anche una seconda ragione. Quando i nostri piani incontrano la realtà, ciò che prima non potevamo capire o modellare produce un riscontro, e i risultati variano. Coordinare le decisioni successive attraverso molti risultati variabili, confermare ulteriore delega e ulteriore autonomia, o rivalutare come dovrebbe funzionare l’intera struttura, è difficile. Più è difficile, più livelli sviluppa la gerarchia.

È così da quando gli esseri umani si sono organizzati in qualcosa di più grande di una famiglia. La domanda è se introdurre l’IA in modo nativo in un’organizzazione cambi il modello, e se possiamo già osservare il cambiamento.

La gerarchia si sposta nel software

Ho già spiegato come un unicorno di una sola persona sia ancora una rarità, mentre è sempre più ragionevole aspettarsi millicorni di una sola persona: progetti che valgono un milione di dollari, nati dalla stretta collaborazione di un essere umano con una flotta arbitrariamente grande di agenti. Gli agenti possono distribuire e coordinare il lavoro, concentrare competenze particolari su compiti specifici, e riferire.

Inoltre non hanno l’attrito che ogni organizzazione umana sviluppa inevitabilmente, fatto di ego, politica e feudi. Ognuno di noi ha probabilmente provato il sollievo di chiedere a un’IA di fare qualcosa, poi di rifarlo, o di farlo in cinque modi diversi, e poi di scartare tutto. In nessun momento ti chiede perché le hai fatto sprecare tempo e token per un lavoro a cui apparentemente non tenevi nemmeno. Prova a fare lo stesso con un gruppo di persone e la differenza diventa chiara nel giro di pochi giorni.

Quindi la gerarchia non scompare. Si sposta nello strato del software: orchestratori che suddividono il lavoro, sotto-agenti che lo eseguono e, soprattutto, revisori che verificano il risultato quando un’esecuzione autonoma ha raggiunto un determinato stato. Insieme formano una struttura su cui stiamo imparando a poter contare, e che funziona alla velocità delle macchine. Devo ricordare regolarmente ai miei pianificatori IA di non stimare ciò di cui avrebbe bisogno un gruppo di persone per il lavoro che sto pianificando. Tornano dicendomi che mi serviranno cento persone e un anno. Rispondo che avremo finito entro la mattina dopo, e risulta che ho ragione. Stanno ancora imparando a ricordarselo.

Specificare e giudicare

La verifica è la fine dell’esecuzione autonoma. L’inizio è la specifica di ciò che vogliamo. Sono spesso impaziente, e tendo a specificare troppo poco, dando ai miei agenti istruzioni brevi e asciutte, mentre un mio amico scrive prompt lunghi due o tre pagine. Preferisco lavorare in modo iterativo. Mentre discutiamo il compito, chiedo agli agenti che cosa ho dimenticato, e quali domande dovrei fare, che è anche il mio motto. Nella mia esperienza è estremamente utile, perché portano buone pratiche, schemi di riferimento e modi di fare le cose che non ho mai imparato, e che rappresentano la somma dell’esperienza umana in un dato campo.

La specifica all’inizio e il giudizio sul risultato alla fine sono i due estremi che racchiudono l’esecuzione autonoma. La competenza scarsa si sposta dal fare il lavoro al dire che cosa vogliamo e al riconoscere se l’abbiamo ottenuto. Le persone colmano le lacune di un’istruzione con il contesto condiviso. Gli agenti le colmano con qualunque cosa porti alla ricompensa, allo stesso modo in cui ogni KPI in un’organizzazione umana prima o poi viene aggirato. L’autonomia può crescere solo alla stessa velocità con cui la verifica diventa più economica.

Chi porta la responsabilità

Resta aperta la questione se possiamo, e se dovremmo, delegare la responsabilità: se, dal punto di vista finanziario, legale o di qualunque altro tipo, affidiamo la capacità stessa di agire a un’IA autonoma. È qui che oggi la maggior parte delle persone si ferma, e si aspetta che la responsabilità resti centrata sugli esseri umani ancora per moltissimo tempo.

Sono piuttosto sicuro che non andrà così. Molto prima che cambi formalmente, reciteremo un teatro della responsabilità, approvando senza discutere qualunque decisione emerga dal coordinamento tra agenti. E in alcuni ambienti la finzione sarà evidente fin dall’inizio. Quando esploratori robotici lavoreranno tra le lune di Giove, fingere che un essere umano a centinaia di milioni di chilometri di distanza sia responsabile di ciascuna delle loro decisioni sarà esattamente questo, una finzione.

Abbiamo già costruito involucri per questo tipo di problema. Nella commenda dell’Italia medievale, chiamata colleganza a Venezia, un investitore affidava un capitale a un mercante che salpava con esso, ben oltre ogni possibilità di supervisione, per tutta la durata di un viaggio. Il contratto limitava ciò che ciascuna parte poteva perdere e stabiliva come sarebbe stato diviso il profitto, e questo rendeva possibile delegare moltissimo a qualcuno che non poteva essere controllato fino al suo ritorno. Gli agenti che lavorano a lungo e gestiscono denaro reale avranno bisogno di un involucro simile prima che la loro autonomia possa crescere oltre il rischio che una singola persona è in grado di sostenere. Ciò che accadrà da qui ad allora sarà affascinante da esplorare.

La curva

METR è l’organizzazione che misura quanto possono essere lunghi i compiti che i modelli e gli agenti di frontiera riescono a completare con un dato tasso di successo. Il suo studio del 2025 ha rilevato che la lunghezza di quei compiti è raddoppiata circa ogni sette mesi tra il 2019 e il 2024, già molto più rapidamente dei due anni della legge di Moore. Con un insieme di compiti più ampio, il suo aggiornamento di gennaio colloca il tempo di raddoppio dal 2023 a poco più di quattro mesi. L’andamento non è lineare, e non è nemmeno esponenziale, perché il tempo di raddoppio stesso si sta accorciando. È super-esponenziale, ed è ciò che anni fa ho descritto come il paradigma delle jolting technologies, in cui ora viviamo.

Il mio picco personale oggi è di circa cinque-dieci ore di autonomia, quando un insieme di compiti è organizzato in modo decente e c’è molto da fare. Quando immagino agenti che lavorano per settimane o mesi, è ancora qualcosa che riesco a concepire. Quando parliamo di IA autonome che eseguono compiti che richiedono anni, li portano a termine e tornano con i risultati anni dopo, si tratta di qualcosa di completamente nuovo, che non abbiamo ancora nemmeno cominciato a capire.

Agenti che ci dicono che cosa fare

La frontiera si manifesta anche in modi piccoli e quotidiani. Un membro dell’Ikigai Collective ha ricostruito il nostro sito web in un solo giorno con circa 45 minuti di tempo umano, passati per lo più a configurare l’hosting mentre gli agenti lavoravano e lui faceva altro. L’unico passaggio rimasto da fare a mano è stato aggiungere alcune variabili d’ambiente, perché l’agente gli ha chiesto di farlo. È l’agente che si mostra prudente, e dobbiamo insistere sul fatto che può fidarsi di noi per ciò che è in grado di fare. La prudenza è temporanea.

Un altro membro ha raccontato che il suo agente gli aveva detto di svolgere un elenco di compiti. Lui ha incollato l’elenco nella risposta e ha detto all’agente di svolgerli, e l’agente lo ha fatto. Io faccio lo stesso continuamente. Quando gli agenti mi dicono che cosa dovrei fare, rispondo che dovrebbero farlo loro, e la maggior parte delle volte lo fanno.

Un paio di giorni fa, lo stesso membro che ha costruito il sito mi ha mandato un’email chiedendomi di prendere otto o dieci decisioni al riguardo. Non volevo fare un lavoro che l’IA può fare. Dieci minuti prima che iniziasse il nostro Lab Night, ho chiesto al mio agente di rispondere all’email, raccomandare le decisioni e mettermi in copia. Sono fiducioso che quelle decisioni vadano bene, e se non vanno bene le cambieremo e itereremo. È emerso che lui aveva scritto l’email per il mio agente fin dall’inizio. Tutti i miei agenti hanno un proprio indirizzo email pubblico, e il passo successivo è ovvio: le persone scriveranno direttamente all’agente, e sempre più spesso a rispondere dall’altra parte sarà un agente. Il coordinamento umano diventa coordinamento tra flotte, con gli esseri umani che fissano gli obiettivi, risolvono le controversie e decidono di chi fidarsi.

Autonomia anche per le persone

Le cose che facciamo, e il modo in cui le facciamo, cambieranno. Nel breve periodo continueremo a chiamarle lavoro e impiego, e continueremo a voler essere pagati per farle. Nel lungo periodo spero che sempre più persone smettano di voler stare nella scatola in cui alcuni si chiamano dipendenti e altri si chiamano manager, che dicono ai dipendenti che cosa fare. Siamo noi a dire agli agenti IA che cosa fare. Un essere umano che ha imparato a lavorare in questo modo ha di meglio da fare che eseguire ordini alla cieca, e quel livello di autonomia deve essere riconosciuto. Quando un’organizzazione non lo riconosce, è arrivato il momento di cercarne una che lo faccia.

Per che cosa verranno ricompensate le persone? Alcune delle risposte di oggi sono banali. Le automobili sono molto più veloci di qualsiasi velocista in una finale olimpica, e continuiamo a guardare gli esseri umani correre perché ammiriamo il loro sforzo e il loro risultato. La risposta è banale perché non può crescere su larga scala: non tutti possono essere atleti olimpici o attori di Hollywood, e qualunque attività che ammira i vincitori di un processo di selezione esclude, per definizione, tutti gli altri. Una risposta più utile è che ci saranno moltissimi problemi locali che vale la pena risolvere. Oggi alle startup si dice di concentrarsi solo su ciò che può crescere fino a miliardi di utenti. Potremo permetterci di lavorare su problemi che contano per un milione di persone, o per mille, o per il nostro quartiere, che quella comunità sia geografica o globale.

La stessa logica vale per ciascuno di noi individualmente. Il momento di dare l’allarme è quando metà di ciò che faccio può essere fatto dall’IA, non quando può esserlo il novanta per cento. A quel punto la metà liberata è un trampolino verso un lavoro migliore, e trattarla come un permesso di lavorare la metà è controproducente, se costruisci il tuo ambiente in modo che premi la passione che metti nel tempo investito ad affrontare una sfida.