L’urbanistica della mia architettura di agenti IA

Con gli agenti IA che acquisiscono rapidamente nuove capacità, ho creato un sistema che trovo molto utile. Ne trovate la descrizione su ai.davidorban.com.

Un insieme di agenti persistenti lavora senza sosta, ciascuno con la propria identità, la propria casella di posta e i propri compiti permanenti. Un unico gateway sta davanti ai modelli che utilizzano, così che instradamento, ripieghi e telemetria dei costi siano un problema solo invece di uno per agente. Dex è il livello operativo e di memoria: contiene progetti, persone, impegni e anni di appunti e trascrizioni, richiamati per significato invece che per parola chiave. Si basa su un fork del progetto open source Dex. Il Model Context Protocol collega tutto questo a calendari, posta, documenti e diverse decine di altri strumenti attraverso un unico standard aperto, il che trasforma una nuova capacità in una questione di collegamento.

L’animazione degli agenti e delle loro relazioni è una metafora utile dell’urbanistica. Come si raggruppano per funzione, come l’informazione scorre tra loro. Man mano che il loro numero cresce di ordini di grandezza, cosa che mi aspetto nel corso dei prossimi mesi, nuove relazioni e strutture emergenti diventeranno visibili, ed estenderanno la metafora.

Due degli agenti sono rivolti al pubblico, e sono governati in modi opposti.

R. David Orban è il mio gemello digitale. Risponde a partire da una base di conoscenza del mio lavoro pubblicato: oltre 500 articoli del blog, più di 300 interventi registrati, dodicimila post su X e il testo del mio libro Something New. Milleduecento file, circa 1,7 milioni di parole. Quando il corpus non contiene una risposta, il gemello dice che non mi ha trovato ad affrontare l’argomento e si ferma lì. Quei rifiuti vengono raccolti, raggruppati per tema una volta alla settimana, e diventano una coda di cose su cui non ho mai scritto ma che interessano alla mia comunità, e mi lasciano decidere cosa trattare in seguito, arricchendo il mio pensiero.

Fino alla settimana scorsa il gemello teneva conversazioni solo sul web, cosa che potete ancora fare, dalla home page del mio sito o da una pagina dedicata su twin.davidorban.com. Ma ora ha anche una casella di posta, [email protected]. Potete scrivergli, e risponderà nel giro di pochi minuti. Io ricevo una copia di ogni scambio, e questo è tutto il mio coinvolgimento.

Anche Dex ha una casella di posta, [email protected], e funziona al contrario. Dex legge quello che arriva e prepara una risposta, e la risposta aspetta finché non l’ho letta. Nulla esce da quell’account, e nessuna azione al di fuori di esso, senza che io lo dica in un passaggio separato.

L’asimmetria è deliberata e non riguarda la fiducia nei due modelli, che sono in gran parte lo stesso modello. Deriva da ciò che ciascun agente può raggiungere. Il gemello può affermare solo ciò che riesce a recuperare da un corpo fisso di testo pubblicato, quindi il peggior esito di una email ostile è una risposta sbagliata o inutile inviata a chi l’ha scritta. Dex sta sul calendario, sui documenti, sui file, quindi il peggior esito di una email ostile è un’azione compiuta a mio nome. Il primo rischio è limitato per costruzione. Il secondo è limitato solo da una persona che lo guarda.

È anche l’argomento di un articolo che ho pubblicato quest’estate, il che lo rende una prova utile per capire se l’argomento regge al contatto con la mia stessa infrastruttura. Civilizational Metamaterials propone che la governance sia trattata come una disciplina ingegneristica con delle quantità dentro, invece che come una disciplina normativa, e offre una legge costitutiva per il coordinamento:

R_eff = β · (1 − ρ) · (1 − τ) · (1 − γρτ)

β è il fattore di ramificazione delle decisioni, ρ è la fedeltà della provenienza, τ è il tasso al quale gli output vengono verificati, e γ cattura quanto provenienza e verifica intercettino gli stessi errori. Il modello prevede una transizione netta tra un regime che si auto-ripara e uno che si auto-destabilizza. Il contenuto pratico è che provenienza e verifica sono sostituibili entro un certo intervallo: se alzate l’una potete abbassare l’altra senza superare la soglia.

Le due caselle di posta sono quella sostituzione, costruita. Il gemello è un meccanismo di provenienza vincolata al contesto nella tassonomia dell’articolo, e il suo ρ è alto perché è strutturalmente incapace di parlare senza una fonte, il che rende difendibile farlo funzionare con τ vicino a zero. Dex ha l’interfaccia ampia, quindi il suo ρ rispetto a testo in arrivo arbitrario è basso e il suo τ deve essere vicino a uno. Stesso operatore, stessa settimana, due impostazioni, e l’impostazione scelta a partire da ciò che ciascun agente può raggiungere invece che da quanta fiducia gli accordo.

La forma generale della regola è che l’autonomia di un agente dovrebbe essere fissata dalla provenienza di ciò che può dire e dalla portata di ciò che può fare, e che entrambe sono proprietà che si progettano.

Il sistema è descritto su ai.davidorban.com.