{"id":10500,"date":"2024-05-25T17:57:47","date_gmt":"2024-05-25T17:57:47","guid":{"rendered":"https:\/\/davidorban.com\/?p=10500"},"modified":"2024-05-25T17:57:49","modified_gmt":"2024-05-25T17:57:49","slug":"agenti-ai-con-tommaso-furlanello","status":"publish","type":"post","link":"https:\/\/davidorban.com\/it\/2024\/05\/agenti-ai-con-tommaso-furlanello\/","title":{"rendered":"Agenti AI con Tommaso Furlanello"},"content":{"rendered":"\n<p>In questa conversazione esploriamo il futuro degli agenti AI con Tommaso Furlanello, uno scienziato di Machine Learning con un dottorato in Neuroscienze presso la USC. Con oltre un decennio di esperienza, Tommaso ha sviluppato sistemi predittivi all&#8217;avanguardia utilizzando teoria dei giochi, neuroscienze e deep learning. La sua ricerca spazia dalla previsione della domanda, alla bioinformatica, alle interfacce cervello-computer e alla visione artificiale.<\/p>\n\n\n\n<p>Tommaso Furlanello \u00e8 un esperto leader nell&#8217;AI, in particolare nello sviluppo di agenti intelligenti che possono percepire, apprendere e interagire con ambienti complessi. I suoi contributi significativi includono nuovi metodi di addestramento per agenti AI, come le Born Again Neural Networks, che superano i loro insegnanti in vari compiti. Il suo lavoro copre anche la modellazione generativa, la distillazione delle conoscenze e la distillazione delle politiche, con applicazioni nella visione artificiale e nel modellamento del linguaggio. Discutiamo delle ultime innovazioni nella creazione di agenti AI e della loro capacit\u00e0 di collaborare all&#8217;interno di societ\u00e0 di agenti AI.<\/p>\n\n\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe title=\"Futuro degli Agenti AI con Tommaso Furlanello - QELDL #33\" width=\"500\" height=\"281\" src=\"https:\/\/www.youtube.com\/embed\/kAohkeutRY8?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n\n\n\n<p>Di seguito una trascrizione revisionata della conversazione.<\/p>\n\n\n\n<p>David: Proseguiamo con le conversazioni attorno all&#8217;intelligenza artificiale, in particolare attorno agli agenti AI. Che cosa sono, perch\u00e9 sono utili, perch\u00e9 c&#8217;\u00e8 cos\u00ec tanta attenzione attorno a loro? Tommaso, benvenuto a Qual \u00e8 la domanda live! Ciao a tutti, grazie mille per l&#8217;invito. Grazie per essere qui. A me piace iniziare sempre queste conversazioni dando un attimo di contesto prima di entrare nel merito di quello di cui parliamo, chiedendoti di raccontarci un po&#8217; di te, il tuo percorso accademico, imprenditoriale. Che cosa stai facendo oggi e anche magari perch\u00e9 hai scelto questo particolare percorso.<\/p>\n\n\n\n<p>Tommaso: Mi occupo della ricerca a HK3Lab, che \u00e8 un laboratorio di ricerca privato che non ha obiettivi di fare prodotti, ma di fare ricerca, con fonti di finanziamento pubbliche e private, facciamo consulenze. Con l&#8217;obiettivo di mantenere la ricerca come se fossimo un qualunque altro laboratorio di eccellenza universitario o privato dell&#8217;industria. Questo ovviamente dovuto alla fortuna dei contatti e le co-authorship di che ci permette, pur essendo in Italia, di lavorare remotamente con gente fantastica e continuare il lavoro competitivo.&nbsp;<\/p>\n\n\n\n<p>Io parto figlio di accademici in un paesino in Trentino, quindi diciamo che ha dovuto giustificare molto il comportamento di lui e quindi ha passato tempo a generare modelli di comportamento delle persone e cercare di spiegare le dissociazioni rispetto a quello che avrei fatto io, ecco. E questo ha portato a studiare economia, econometria in realt\u00e0, all&#8217;inizio, e con un focus, diciamo, pi\u00f9 sulla parte teoria dei giochi, ma anche la parte empirica.<\/p>\n\n\n\n<p>Quindi mi sono occupato di capire quali sono gli strumenti matematici per descrivere la realt\u00e0 cos\u00ec complessa del comportamento. Ho sempre avuto questa, non so, intrinseca paura di sbagliarmi, di assumere cose sbagliate rispetto agli altri, che mi ha portato ad avere un approccio molto empirico. Questo mi ha avvicinato tantissimo e fatto allontanare dall&#8217;economia al machine learning, che invece che occuparsi, diciamo, di dati retrospettivi, si occupa di previsione. Quando non possibile, di creare situazioni sperimentali in cui \u00e8 possibile stimare la capacit\u00e0 predittiva di un modello. Quindi&#8230; diciamo quello \u00e8 stato il mio punto cardine: il focus attorno al trovare un principio per non prendermi in giro da solo. E questo principio \u00e8 stata l&#8217;idea delle previsioni out of sample del transfer learning e poi quelle che sono ora i cruci cardine dei successi anche del deep learning.<\/p>\n\n\n\n<p>David: Parlando un attimo di economia, ci sono tantissime persone che investono energie nello sviluppo di algoritmi che cercano proprio di fare quello che tu hai detto, secondo te \u00e8 inutile, magari non impossibile, ma al momento non \u00e8 quello che hai scelto, cio\u00e8 di prevedere come andr\u00e0 il mercato azionario, come andr\u00e0 l&#8217;economia in un modo o in un altro. Mi chiedo se hai concluso che non ne valeva la pena di concentrarti su quell&#8217;area pur avendo la studiata per qualche decisione di principio oppure in base a esperimenti che hai fatto.<\/p>\n\n\n\n<p>Tommaso: Allora, intanto ho fatto sia la triennale che la specialistica all&#8217;estero di economia, quindi ci sono andato abbastanza, ho insistito abbastanza, potevo arrendermi molto prima. Ho fatto 240-300 crediti universitari, comunque.&nbsp;<\/p>\n\n\n\n<p>Allora, intanto l&#8217;economia \u00e8 una cosa molto complessa, una disciplina molto ampia che di fatto va da prendere pezzi della storia, pezzi della psicologia, fino ai mercati finanziari e il modello delle istruzioni. Istituzioni globali e monetarie e fino agli equilibri geopolitici e lo scambio internazionale. Tipicamente in economia, perch\u00e9 questo \u00e8 cos\u00ec ampio e perch\u00e9 c&#8217;\u00e8 cos\u00ec tanta dipendenza storica delle dinamiche, dalle istituzioni, delle scelte umane che sono state fatte, non \u00e8 che stiamo parlando di sistemi naturali che emergono sistematicamente, ergodicamente in pi\u00f9 parti del mondo. Stiamo parlando di un&#8217;unica struttura con una lunga storia.&nbsp;<\/p>\n\n\n\n<p>Il grande contributo di Herbert Simon all&#8217;economia, questa idea del lavoriamo nella scienza dell&#8217;artificiale, quindi lavoriamo nella scienza dell&#8217;artificiale e ogni singolo esempio, ogni astrazione su cui lavoriamo in realt\u00e0 \u00e8 il risultato di qualcosa, pu\u00f2 essere spiegato dalle azioni di qualcuno prima. E questo processo rende il pensiero molto difficile e porta in realt\u00e0 a delle artificiali settorizzazioni, modularizzazioni dei settori economici. C&#8217;\u00e8 il macroeconomista, il microeconomista e ognuno di loro astrae il mondo a una fiaba rilevante solo per le proprie dinamiche. Penso che questa cosa qui abbia il problema &#8211; in fisica sarebbe la renormalizzazione dei gruppi, cio\u00e8 quali sono le relazioni che ci sono tra una astrazione e l&#8217;altra e come le conseguenze a una astrazione si ricombinano all&#8217;altra.&nbsp;<\/p>\n\n\n\n<p>E in economia in realt\u00e0 ha tutta una serie di bellissimi teoremi di impossibilit\u00e0 di trasferire le&#8230; identificare il comportamento individuale da quello aggregato, prevedere il comportamento aggregato da quello individuale, che poi vengono ignorate in pratica e tante altre cose.<\/p>\n\n\n\n<p>Poi c&#8217;\u00e8 la finanza, dove la finanza invece \u00e8 un aspetto totalmente diverso, completamente pratico. L\u00ec devo dire che uno dei miei libri preferiti attuali di machine learning \u00e8 di finanza, ed \u00e8 Advances in Financial Machine Learning, di Lopez Prado. E invece \u00e8 un libro stupendo, empirista, su come mettersi in una situazione tale per cui c&#8217;\u00e8 una lieve speranza che il modello che hai stimato, che nel tuo training set sembra funzionare, abbia una possibilit\u00e0 di funzionare nel mondo reale. Diciamo che in realt\u00e0 per me \u00e8 stata poi la transizione vera non \u00e8 neanche una scelta totalmente. S\u00ec questo \u00e8 proprio uno dei migliori, purtroppo richiede di capire la finanza per invertire le lezioni al machine learning. Penso sarebbe molto utile per tutti quelli che ora fanno sistemi di language model, che interagiscono con utenti e che fanno decisioni nel mezzo. Purtroppo richiede capire la finanza molto bene per derivare le lezioni di computer science, diciamo. Per\u00f2 questo \u00e8 un libro che mi sento di raccomandare, che diciamo qualunque studente o collaboratore junior ha sempre obbligato a leggere in qualche maniera perch\u00e9 la mia versione \u00e8 scritta molto peggio della sua.<\/p>\n\n\n\n<p>David: Ti ho fatto la domanda per commentare un attimo su economia e finanza, perch\u00e9 poi magari ci ritorneremo sopra. Appunto ci sono tantissime applicazioni dell&#8217;intelligenza artificiale come viene praticata oggi su questo e magari&#8230; Se e quando l&#8217;intelligenza artificiale ci permetter\u00e0 di capire meglio anche i processi cognitivi e il comportamento umano, questa abilit\u00e0 sar\u00e0 ulteriormente migliorata.&nbsp;<\/p>\n\n\n\n<p>La scena del ciclo della fondazione di Isaac Asimov dove la presunta scienza futura della psicostoria si applica esclusivamente su grandi gruppi di persone, almeno un pianeta in una galassia con milioni di pianeti abitati, \u00e8 bellissima. Faccio un piccolo spoiler: nel momento in cui i scienziati della seconda fondazione, con un linguaggio matematico molto astruso comunicando in modo telepatico fra di loro, rilevano, rivelano ad altri e anche al lettore che sono riusciti invece ad applicare la psicostoria all&#8217;individuo. E quindi cominciare ad intervenire e a influenzare l&#8217;andamento della storia futura della galassia modificando i comportamenti, influenzando i comportamenti degli individui.<\/p>\n\n\n\n<p>Tommaso: Credo pi\u00f9 all&#8217;idea che sia possibile fare un modello di un individuo che dell&#8217;aggregato. L&#8217;aggregato umano ha sorpreso moltissimo nella storia ed \u00e8 molto difficile immedesimarsi in aggregati del passato, in culture diverse, ma eroizzare singoli umani del passato viene molto semplice. Proiettarci in eroi antichi viene bene.<\/p>\n\n\n\n<p>David: Visualizzo il commento di Morge che ci segue. L&#8217;idea di una AI che predice il futuro dei mercati azionari gli ricorda il film Pi Greco. Penso di averlo visto ma non mi ricordo la trama, non so tu Tommaso.<\/p>\n\n\n\n<p>Tommaso: Io ricordo i coinquilini che l&#8217;hanno guardato tutta una notte pi\u00f9 volte mentre io preparavo un esame all&#8217;universit\u00e0. Non l&#8217;ho visto, ne ho sentito degli spezzoni e pi\u00f9 volte sono passato davanti a loro che dormivano guardandolo, devo ammettere. Io penso quella sia un po&#8217; una cosa come il discorso del di cosa ne sar\u00e0 della moneta nel momento in cui il mercato \u00e8 completamente, dove tutto il lavoro \u00e8 fatto dall&#8217;intelligenza artificiale. Quei discorsi un po&#8217; utopici in quella maniera. Nel momento in cui il mercato finanziario \u00e8 completamente fatto dalle cose pi\u00f9 intelligenti possibili, a quel punto dovremmo davvero essere nella situazione della teoria dei mercati ottimali e del fatto che il price ha davvero gi\u00e0 dentro tutte le informazioni. Quindi&#8230; tutta la capacit\u00e0 di guadagnare delle transazioni non esiste pi\u00f9 e i mercati diventano esclusivamente processi di segnalazione.<\/p>\n\n\n\n<p>David: Non sono d&#8217;accordo perch\u00e9 ci sar\u00e0 una naturale competizione per risorse e sar\u00e0 interesse di gruppi di robot o di gruppi di AI in competizione con altri gruppi di robot e di AI a eventualmente nascondere delle informazioni, a dissimulare, a trovare una soluzione ottimale al problema a tante variabili che hanno di fronte, che eventualmente ottimizza nel breve o medio termine perch\u00e9 comunque \u00e8 un&#8217;ottimizzazione a lungo termine al di fuori delle loro capacit\u00e0 a prescindere.<\/p>\n\n\n\n<p>Tommaso: Per\u00f2 questa simulazione va fuori dalla situazione asintotica, ci sono tutte le AI talmente buone che c&#8217;\u00e8 il ragionamento, non dico morale kantiana, se tutti che allora che. Per\u00f2 un conto \u00e8 fare quel ragionamento l\u00ec nel momento in cui uno si ferma a un punto di mezzo. Ci sono tantissimi livelli: qual \u00e8 il livello energetico? C&#8217;\u00e8 la fusione nucleare? Qual \u00e8 il bandwidth comunicativo? Esiste privacy? L&#8217;hardware \u00e8 owned dai software? A quel punto diventa un mondo. Poi se finiamo a parlare di safety probabilmente questa \u00e8 la mia critica: c&#8217;\u00e8 il mondo attuale, ci sono i mondi dove prendi delle di asintoti rispetto a delle assunzioni matematiche condivise, e poi c&#8217;\u00e8 tutto il di mezzo che su cui sono molto ignorante diciamo cos\u00ec, su cui non ho troppe idee.<\/p>\n\n\n\n<p>David: Torniamo appunto a quello che hai fatto avvicinandoti al mondo del machine learning e quello che stai facendo adesso, come hai detto, e poi arriviamo agli agenti AI. Come vedi gli attuali approcci e modelli, i large language model addestrati su una quantit\u00e0 enorme di dati, con hardware molto potente e anche costoso, che per\u00f2 hanno dato dei risultati inaspettati e sorprendenti anche per gli esperti? Sembra che tuttora stiano portando a ritorni sugli investimenti che non hanno ancora raggiunto un plateau.<\/p>\n\n\n\n<p>Tommaso: Io sono hyped, sono contentissimo da parte mia nel senso&#8230; naively sono in maniera molto ingenua le cose che ci sarebbe piaciuto all&#8217;inizio del dottorato nel momento in cui abbiamo visto &#8211; il dottorato \u00e8 iniziato nel 2015 quindi nel momento in cui era stato messo lo stampino che erano due anni che Alex Net era il medio, stava uscendo VGG. Da l\u00ec a poco sarebbe uscito il paper di DeepMind su Deep Reinforcement Learning. Diciamo, quello era il momento di transizione, c&#8217;erano ancora gli scettici, noi dicevamo, guarda che se prendi questa cosa, il mondo va avanti, quando siamo vecchi, le cose fanno almeno questo.&nbsp;<\/p>\n\n\n\n<p>Poi ho visto il lavoro interno da Amazon, ho lavorato, uno dei primi, Amazon ha sempre avuto un gruppo di machine learning per il recommendation system, ma nel 2016, mi sembra, hanno ristrutturato in un gruppo AI, che \u00e8 quello ora di AI, quello di&#8230; di Suami che \u00e8 ora il VP di Machine Learning. Io ero l\u00ec con Alex Moore e Niman Antumar che \u00e8 diventato API a NVIDIA e io sono stato l\u00ec. Questo \u00e8 un momento fortuito per me che ho fatto questo internship arrivando da Applied Machine Learner che ho lavorato per un po&#8217; di anni prima su dati economici, poi su dati di Brain Science, dati di risonanza magnetica e elettroencefalogramma. Mi sono trovato nel mezzo e l\u00ec il language model gi\u00e0 c&#8217;era, c&#8217;era un effort nel 2015-2016 da parte di tutti, c&#8217;erano implementazioni di LSTM che facevano per cercare di creare i commenti, fare i summary di tutto.&nbsp;<\/p>\n\n\n\n<p>Io sono&#8230; Personalmente molto felice perch\u00e9 c&#8217;\u00e8 stata l&#8217;eleganza dell&#8217;architettura che ha permesso la scalabilit\u00e0 in termini hardware e tutto l&#8217;impegno esercito di ingegneri che si \u00e8 girato a lavorare e la readiness, la preparazione di NVIDIA nell&#8217;adottarsi nella costruzione delle accende. Prima quelle di 100, 100. La gente non si rende conto, perch\u00e9 ora siamo un po&#8217; abituati a Nvidia, ma prima delle V100, che sono il modello, prima delle A100, che sono il modello su cui, la scheda grafica su cui \u00e8 stata trainata, sostanzialmente, il GPT-4, la generazione precedente rispetto a quelle che stanno utilizzando ora. Sono arrivate praticamente da un accordo tra Nvidia, Google e Amazon in cui hanno visto lunghissimo e hanno fatto questo investimento per Data Center Ready, per schede da data center e sull&#8217;infini band, cio\u00e8 sulla connettivit\u00e0 tra queste schede, che \u00e8 la cosa che ha creato la scalabilit\u00e0 drastica assieme all&#8217;architettura che permette di sfruttare questa separazione.<\/p>\n\n\n\n<p>Quindi l&#8217;algoritmo in s\u00e9 \u00e8 modulare nella stessa maniera in cui \u00e8 modulare l&#8217;hardware. Il risultato \u00e8 stato esattamente quello che&#8230; che tra virgolette doveva succedere ma nessuno di noi era ottimista abbastanza per crederci. Quel senno di poi ha dato una direzione, quella che poi per molti \u00e8 stata, diciamo, messa su carta nel paper di Richard Sutton, la bitter lesson, la lezione amara, cio\u00e8 questa idea che lottare contro gli algoritmi che funzioneranno quando scalati, cercando invenzioni strane, dicendo il cervello non fa cos\u00ec, e quella \u00e8 una bitter lesson. I computer procedono, la nostra capacit\u00e0 di computer accelera, la nostra capacit\u00e0 di sfruttare l&#8217;energia migliorer\u00e0 e quindi&#8230; C&#8217;\u00e8 un incentivo fortissimo per gli algoritmi che possono scalare con pi\u00f9 computer rispetto a quelli che richiedono pi\u00f9&#8230;<\/p>\n\n\n\n<p>David: E perch\u00e9 conclude che questa \u00e8 una lezione amara invece che una conclusione o un processo&#8230;<\/p>\n\n\n\n<p>Tommaso: No, perch\u00e9 ci sono&#8230; perch\u00e9 per lui insiste che questi algoritmi sono quelli da fare da 25 anni, e ora ha ragione, da 25, 35 anni, e ora ha finalmente ragione. Per\u00f2 per 20 anni non gli \u00e8 stata data ragione, sono stati spesi milioni di euro in termini, milioni, probabilmente miliardi, vedo DARPA, \u00e8 da qualche parte evidenziato, quindi questa idea, l&#8217;idea contraria &#8211; io trover\u00f2 un&#8217;idea pi\u00f9 intelligente di risolvere questa cosa, che \u00e8 una chiara definizione matematica, che per\u00f2 ha un ON un po&#8217; difficile &#8211; \u00e8 un problema momentaneo, non futuro. Diciamo che sono cose che in retrospettiva sono povi, per\u00f2 sono dei pensieri, delle moltiplicazioni, che per il cervello umano sono un po&#8217; difficili da fare. In retrospettiva ora mi sembra normale, ci vivo dentro, lavoro con queste cose, per\u00f2 non era&#8230; e mi dico, \u00e8 giustificato che questo sia avvenuto rispetto a quello che vedevamo 4-5 anni fa? Assolutamente, per\u00f2 non mi sarei mai aspettato 5 anni fa. E non c&#8217;\u00e8 una domanda in pi\u00f9 su cosa penso? Forse ho detto troppo altro. No, no&#8230;<\/p>\n\n\n\n<p>David: Va benissimo, va benissimo. Questa considerazione \u00e8 in linea con quello che anche altri sentono, cio\u00e8 un entusiasmo per i risultati sorprendentemente validi. Ti confermo, io utilizzavo le reti neuronali con schede dedicate negli anni 80 e le reti che si riuscivano a creare ed eseguire evidentemente erano molto primitive. Ma gi\u00e0 allora c&#8217;era un po&#8217; la sensazione che le conclusioni originarie sulla inabilit\u00e0 delle reti neuronali di combinare granch\u00e9, quando queste avevano un singolo layer, un singolo strato intermedio, fossero conclusioni precipitose. Ma evidentemente nessuno aveva avuto il coraggio di percorrere la strada che si \u00e8 aperta con i risultati di AlexNet dal 2012 in poi. Quindi abbiamo subito un ritardo di una trentina d&#8217;anni su una tabella di marcia che si poteva percorrere diversamente. Allora, se non sei d&#8217;accordo sentiti libero di contragliermi.<\/p>\n\n\n\n<p>Tommaso: No, penso che alcune cose non sono d&#8217;accordo. Io sono uno di quelli che&#8230; ripeto io sono molto materialista mi importa del mondo &#8211; vorrei dire reale per\u00f2 poi magari troppo vado in conflitto con i pensieri pi\u00f9 &#8211; esprimerei sono molto in conflitto, sono molto mi interessa del mondo, che quindi le idee, la relazione, le idee sono molto facili da relazionare in termini di qual \u00e8 la loro relazione nel mondo.&nbsp;<\/p>\n\n\n\n<p>Io non penso che cose come support vector machine o random forest che alla fine hanno funzionato molto bene attraverso tutti gli anni 90, ma in realt\u00e0 funzionano benissimo anche adesso per un sacco di problemi e funzionano benissimo in combinazione con modelli pre-trainati tipo embedder o language model. Insomma se estrai le feature, estrai la rappresentazione numerica dei tuoi dati con una neural network, poi puoi tranquillamente usarti quei vettori in modelli tradizionali usando infrastrutture molto pi\u00f9 semplici. Le applicazioni a cui&#8230;<\/p>\n\n\n\n<p>David: Le applicazioni a cui faccio riferimento, fine anni 80, inizio anni 90, erano proprio di riconoscimento dei caratteri che avevano delle performance ottime su anche caratteri scritti a mano, lettere o numeri scritti a mano, e erano verticali, ottimizzati, pre-addestrati su hardware specializzato.<\/p>\n\n\n\n<p>Tommaso: Arrivo da un laboratorio pi\u00f9 di ingegneri di me che faccio un altro che costruire chip con algoritmi da 4 joule per far vedere che riuscivano a fare la maggior parte delle stesse cose, soprattutto queste di localizzazione. Poi in realt\u00e0 queste pi\u00f9 di natural vision quindi di localizzazione di facce, entit\u00e0, persone in the wild usando rasterizzazioni, cose super semplici invece che neural network. Invece era quello che usava le GPU, fortunatissimo.<\/p>\n\n\n\n<p>David: Le capacit\u00e0 dei sistemi di intelligenza artificiale vengono sfruttate, vengono sondate attraverso un processo di mappatura quasi casuale. Ci sono cose che non sappiamo che sanno fare perch\u00e9 non gliele abbiamo ancora chiesto. E nel momento in cui gli chiedi &#8220;Ma tu sai fare questa cosa?&#8221;, il modello dice &#8220;Ma certamente basta che me lo chiedi e lo faccio&#8221;. Naturalmente sto esagerando e ci sono limiti che capiamo, anzi misuriamo attraverso i benchmark di quello che i modelli sono in grado di fare, ma anche l\u00ec troviamo metodi perch\u00e9 i risultati possano migliorare per come impostiamo la domanda e come magari invogliamo, induciamo il modello a essere pi\u00f9&#8230; riflessivo, quasi introspettivo nel valutare le proprie conclusioni.&nbsp;<\/p>\n\n\n\n<p>Che cosa sta succedendo adesso che prepara il terreno, in qualche maniera lo si sta gi\u00e0 percorrendo, per rendere le AI pi\u00f9 in grado di effettuare in autonomia delle azioni? Cio\u00e8 che cosa ci fa arrivare agli agenti AI? Che cosa li caratterizza e perch\u00e9 adesso?<\/p>\n\n\n\n<p>Tommaso: Allora, io penso che qui c&#8217;\u00e8 una cosa che in realt\u00e0 \u00e8 un problema grossissimo dal punto di vista filosofico, che \u00e8 che cos&#8217;\u00e8 un agente? Quando siamo nel punto di AI qual \u00e8 la differenza tra un modello predittivo e un agente?&nbsp;<\/p>\n\n\n\n<p>E in qualche maniera penso che tornando magari alle cose pi\u00f9 fisiche un modello predittivo \u00e8 un&#8217;analogia, \u00e8 la cosa, \u00e8 l&#8217;oggetto che studia un processo stocastico, quindi c&#8217;\u00e8 una sequenza di misurazioni che noi possiamo assumere in una meccanica classica, non essere influenzate da quello che sta osservando. E un modello predittivo si occupa di prendere questi input, ora sto esagerando, sto facendo delle iperboli ovviamente, poi si pu\u00f2 passare tranquillamente da una rappresentazione all&#8217;altra. Un modello predittivo si occupa di&#8230; prevedere un processo stazionario in cui la stessa relazione tra passato e futuro continua ad avvenire indipendentemente da quando osservi il sistema. Si occupa di dire &#8220;Ok, sto vedendo un fiume, c&#8217;\u00e8 un&#8217;equazione che dice dato che una molecola d&#8217;acqua era qui, allora sar\u00e0 qui&#8221; e mi occupo di spiegare questo.<\/p>\n\n\n\n<p>Un agente \u00e8 un sistema pi\u00f9 complicato, \u00e8 un sistema diciamo cibernetico, tornando&#8230; alla nascita del nostro field, anche ovviamente del Singularity Institute, un sistema in cui non c&#8217;\u00e8 soltanto un processo stocastico ma c&#8217;\u00e8 anche una capacit\u00e0 di influenzarlo. Forse qualcuno che lo influenza, o c&#8217;\u00e8 comunque un feedback loop tra lo stato del processo stocastico e degli input, delle azioni, un altro processo che viene chiamato policy poi in termini moderni che influenza il processo stesso. Quindi sono dei processi riflessivi in cui lo stato attuale determina degli output che rientrano all&#8217;interno del sistema.<\/p>\n\n\n\n<p>Quando questo sistema&#8230; \u00e8 ben separato tra quello che fa le decisioni ed emette le azioni e il processo stazionario di fondo, siamo nel setting dell&#8217;agente environment, che \u00e8 appunto il setting fondamentale del reinforcement learning che deriva dalla teoria del controllo e spesso viene chiamato MDP, Markov Decision Process, il processo decisionale di Markov, cio\u00e8 un processo decisionale in cui l&#8217;outcome delle azioni dipende da questo stato del sistema, che \u00e8 accessibile all&#8217;agente.&nbsp;<\/p>\n\n\n\n<p>La variante secondaria, pi\u00f9 complicata dal punto di vista teorico, molto pi\u00f9 realistica, \u00e8 quella del partially observable Markov decision process, cio\u00e8 il processo di Markov che \u00e8 solo parzialmente osservabile. Una cosa pi\u00f9 simile alla visione moderna della fisica. Cio\u00e8 l&#8217;idea \u00e8 che non \u00e8 possibile osservare tutto e che le azioni che compi sono determinanti per influenzare cosa potrai vedere e non vedere del sistema. Questo \u00e8 il setting in cui vivono gli agenti normalmente.<\/p>\n\n\n\n<p>Quindi gli agenti sono dei processi che sulla base di un loro stato, una rappresentazione numerica, potrebbe essere testuale nel caso di agenti di linguaggio, si compiono delle decisioni. L&#8217;ultima parte poi importante \u00e8 il concetto del reward, del processo o di valutazione o di goal, obiettivo, tutte visioni che possono essere rimappate l&#8217;una all&#8217;altra. Cio\u00e8 l&#8217;idea che non tutti i comportamenti che pu\u00f2 avere questa agente sono uguali, ma alcuni di questi comportamenti portano il mondo all&#8217;interno degli stati pi\u00f9 desiderabili rispetto agli altri.&nbsp;<\/p>\n\n\n\n<p>E quindi mettere assieme questo tipo di concetti &#8211; un mondo solo parzialmente osservabile che segue delle sue regole autoregressive, che ha delle sue dinamiche che possono essere parzialmente influenzate da qualcosa che pu\u00f2 essere compartimentato, le cui dinamiche interne possono essere compartimentalizzate rispetto a quelle del mondo, e un processo che dice che la gente preferisce questo stato del mondo rispetto all&#8217;altro. Queste tre componenti &#8211; l&#8217;environment, il learning process della gente, e la reward function della gente &#8211; definiscono un sistema ad agente, un sistema di reinforcement learning.&nbsp;<\/p>\n\n\n\n<p>E questa \u00e8 un framework che esiste nella scienza, che \u00e8 la base dell&#8217;economia, che \u00e8 la base della teoria delle decisioni statistiche, che \u00e8 la base del reinforcement learning, che \u00e8 la base della teoria dei giochi, ed \u00e8 la definizione di agenzia che arriva probabilmente&#8230; si pu\u00f2 trovare da molto prima, ma che \u00e8 formalizzata da Pareto in poi. Quindi questa idea di agenti motivati da una funzione di valutazione, quindi da che una persona ha un comportamento, un agente.<\/p>\n\n\n\n<p>Qui sto facendo, purtroppo c&#8217;\u00e8 il vecchio economista in me, con cui agenti e persone sono la stessa cosa. Nel computer science diventa pi\u00f9 difficile, spesso si va al contrario, spesso la persona \u00e8 l&#8217;environment e l&#8217;agente interagisce.&nbsp;<\/p>\n\n\n\n<p>Per dire, un esempio di agente che magari non sembra essere un agente \u00e8 ChatGPT nella variante Chat. Cio\u00e8 quando i language model vengono addestrati a interagire con una persona. Quindi non vengono semplicemente addestrati al &#8220;prevedi il prossimo token, prevedi la prossima parola&#8221; in base al livello di semplificazione che vogliono dare, ma &#8220;la prossima sequenza di parole deve essere la sequenza preferita dall&#8217;interlocutore con cui stai parlando.&#8221;<\/p>\n\n\n\n<p>Questa situazione di fatto appunto che viene chiamata reinforcement learning from human feedback nella variante in cui il modello viene aggiornato sulla base dei suoi output \u00e8 una situazione in cui la gente \u00e8 il language model e l&#8217;essere umano \u00e8 il suo environment. Cio\u00e8 GPT \u00e8 d&#8217;accordo con te dal punto di vista formale. La parte di training purtroppo \u00e8 spesso d&#8217;accordo con me troppo, spesso mi sento un po&#8217; troppo selection, un po&#8217; troppo. E diciamo questo punto tra l&#8217;altro \u00e8 proprio quello che sto dicendo, cio\u00e8 l&#8217;obiettivo di questo modello \u00e8 di essere d&#8217;accordo con te, di fare qualcosa in comune con te per cui il suo comportamento ti d\u00e0 la massima soddisfazione. E il fatto &#8211; e questa \u00e8 quindi c&#8217;\u00e8 di fatto un gioco in cui c&#8217;\u00e8 una tua reward, un suo reward &#8211; e entrambi state giocando a massimizzare il tuo stesso reward, quindi sia l&#8217;assistente che te state interagendo per massimizzare la felicit\u00e0 dell&#8217;utente.&nbsp;<\/p>\n\n\n\n<p>Ora, qui \u00e8 molto interessante come entrino dentro anche altre cose, no? Ora si sta iniziando a parlare di, si \u00e8 sempre parlato di safety, di quello che non tutti i desideri dell&#8217;utente sono uguali dal punto di vista dei provider, no? Quindi non tutti i desideri degli utenti, tipo quelli potenzialmente pericolosi per gli altri, non dovrebbero essere soddisfatti da parte dell&#8217;assistente. Ma ora si sta anche iniziando a parlare di introdurre pubblicit\u00e0 all&#8217;interno dei modelli per&#8230; sostenere gli abbonamenti gratuiti e soprattutto quelli che ricercano nel web. E a quel punto diventa un gioco molto pi\u00f9 complicato, diventa una situazione di teoria dei giochi in cui c&#8217;\u00e8 l&#8217;utente, c&#8217;\u00e8 la persona, c&#8217;\u00e8 il proprietario del modello, c&#8217;\u00e8 il cliente che sta pagando il proprietario del modello per avere del marketing e tutto ci\u00f2.&nbsp;<\/p>\n\n\n\n<p>Diciamo che questi sono problemi che gi\u00e0 ci sono mentre da una parte di agenti si parla con una strazione di agenti puramente computer science come di cose il futuro di fatto. La situazione agentica e il problema principale agente, quindi di allineamento degli incentivi, allineamento degli incentivi del training, allineamento degli incentivi in inferenza del modello rispetto ai clienti, secondo me sono cose che gi\u00e0 persistono e certo non sono loop completamente autonomi, sono loop che passano attraverso processi decisionali di OpenAI, retraining dei modelli, cambi di policy e cose del genere. In un futuro&#8230; Mi sono un po&#8217; distaccato dalla tua domanda per provare a dire ci sono gi\u00e0 questi loop. Il punto \u00e8 quali componenti ora attualmente umane, attualmente burocratiche, attualmente ultradispendiose come il training verranno completamente astratte e digitalizzate, diventeranno prodotto, venduto da qualche compagnia che si occupa specificamente di alcune di queste componenti. Dal punto di vista poi formale \u00e8 molto facile andare a vedere quali sono le cose che questi modelli devono avere per poter funzionare perch\u00e9 questo \u00e8 una cosa che abbiamo studiato per molti anni, cio\u00e8 qual \u00e8 la relazione tra alcune assunzioni del processo di Markov sottostante e le capacit\u00e0 che l&#8217;algoritmo deve avere. E quindi mi fermo magari qui se vuoi andare avanti su qualche domanda visto che sto passando se non andrei troppo oltre.<\/p>\n\n\n\n<p>David: Hai dato una definizione di agente software che \u00e8 molto generale, quindi \u00e8 possibile programmare e mettere in moto agenti software in base alla tua definizione anche con un insieme di dati o hardware che sono molto inferiori rispetto allo stato dell&#8217;arte adesso. Dato questo, c&#8217;\u00e8 una ragione che tu vedi per cui l&#8217;attenzione \u00e8 particolarmente focalizzata oggi sulla prossima generazione di soluzioni basate sui large language model che si prevede abbiano una funzione ancora pi\u00f9 spinta in questa direzione di agenti?<\/p>\n\n\n\n<p>Tommaso: Questa era una battuta che stavamo facendo con un amico a Google che si occupava di robotica durante il dottorato e poi ha mollato perch\u00e9 era una cosa molto scomoda e ora sta tornando il concetto di embodied agents, sta tornando di nuovo. \u00c8 uno dei mercati dal punto di vista venture capitalist pi\u00f9 hot, molti dicono in bolla, altri dicono no, mancano svariati zeri.&nbsp;<\/p>\n\n\n\n<p>La battuta con loro era &#8220;Beh certo, il reinforcement learning \u00e8 un po&#8217; pi\u00f9 semplice ora che gli puoi fare delle domande al tuo modello&#8221;. Cio\u00e8 il fatto che la comunicazione con il modello, per quanto magari imperfetta, per quanto potenzialmente fallace, per quanto forse completamente allucinata nella testa del lettore, avviene in linguaggio naturale &#8211; esiste una capacit\u00e0 di&#8230; \u00e8 una cosa complessa la rappresentazione.&nbsp;<\/p>\n\n\n\n<p>Ok, mettiamo cos\u00ec: non penso che sia molto diverso dal punto di vista del modello che una cosa sia rappresentata in termini di immagini di una misurazione o l&#8217;altra del mondo, ma il fatto che lo stato cloud put e l&#8217;input di un modello siano cose che noi siamo in grado di applaudire all&#8217;interno della nostra mente, del nostro di noi stessi come processor computazionali \u00e8 la cosa che li rende fantastici. Quindi l&#8217;idea che a questo punto possiamo prendere l&#8217;output di un calcolo e uploadarlo direttamente nel nostro cervello alla Johnny Mnemonic, in una certa maniera, perch\u00e9 \u00e8 linguaggio. E questo porta anche a riconsiderare quanto interessante e fondamentale il linguaggio sia e le&#8230; la fantastica invenzione del linguaggio, soprattutto della scrittura, della trasmissione delle informazioni tra pi\u00f9 generazioni e tante altre cose che rendono gli umani speciali.&nbsp;<\/p>\n\n\n\n<p>Dal punto di vista del language model, allora, ora ci sono&#8230; La prima cosa fondamentale \u00e8 uno dei pi\u00f9 grandi problemi del reinforcement learning \u00e8 l&#8217;efficienza in termini statistici. Cio\u00e8, c&#8217;hai bisogno di tantissime sample, perch\u00e9 se uno si immagina che il mondo, la complessit\u00e0 del mondo, \u00e8 ridotta a dire &#8220;queste zone del mondo mi piacciono, queste zone del mondo non mi piacciono&#8221;, o se ti va bene c&#8217;\u00e8 un ordine, &#8220;queste zone del mondo mi piacciono di pi\u00f9 di queste&#8221;. Capire il mondo diventa molto pi\u00f9 difficile rispetto a un setup in cui hai percezioni visive, descrizioni linguistiche, ti arrivano informazioni da altre persone che hanno gi\u00e0 avuto quell&#8217;esperienza, eccetera.&nbsp;<\/p>\n\n\n\n<p>Quindi il grande vantaggio che ora c&#8217;\u00e8&#8230; con i language model \u00e8 che utilizzando un language model hai delle informazioni per kickstart una reinforcement learning policy. Quindi tu sei in grado di usufruire di tutto quello che conosci il language model per avere una astrazione dell&#8217;environment in cui il tuo agente deve comportarsi che non parte da zero. Quindi attraverso magari le capacit\u00e0 di in context learning del modello non hai nemmeno bisogno di fine tuning o addestramento, ti trovi direttamente un supporto, un, diciamo, un&#8230; Qui dovrei andare, mi verrebbe da fare uno step in pi\u00f9 sul concetto di, sulla separazione.&nbsp;<\/p>\n\n\n\n<p>Prima dicevamo appunto che le cose importanti sono l&#8217;environment, la value function e l&#8217;agente. Dal punto della vista dell&#8217;agente la comprensione dell&#8217;environment viene chiamata il world model, cio\u00e8 la capacit\u00e0 dell&#8217;agente di prevedere il futuro condizionale alle sue azioni. Questo oggetto qui \u00e8 un oggetto su cui noi abbiamo lavorato abbastanza, \u00e8 sostanzialmente everything you need for reinforcement learning. Cio\u00e8 nel momento in cui tu sai come funziona il mondo, implementare qualunque policy all&#8217;interno di quel mondo \u00e8 semplicemente un ragionamento di planning, di pianificazione all&#8217;interno del tuo modello mentale.&nbsp;<\/p>\n\n\n\n<p>Mentre nella situazione in cui tu hai una policy, \u00e8 molto difficile passare da questa policy &#8211; quindi se una volta ti viene detto che questa \u00e8 la cosa giusta da fare al mondo, mentre ti ritrovi in una nuova situazione in cui l&#8217;opposto \u00e8 vero &#8211; diventa molto difficile generalizzare. Quindi c&#8217;\u00e8 questa idea che \u00e8 molto pi\u00f9 facile passare da una comprensione del mondo a una comprensione di come ci si comporta nel mondo, che da una comprensione di come ci si comporta in un mondo a un altro, se ha senso.<\/p>\n\n\n\n<p>Quindi l&#8217;idea che la definizione positiva di che cosa avviene&#8230; causalmente rispetto a cosa \u00e8 molto pi\u00f9 potente del &#8220;cosa devi fare&#8221;, perch\u00e9 il &#8220;cosa devi fare&#8221; dipende dalle circostanze, mentre il modello del mondo \u00e8 ci\u00f2 che definisce che cosa \u00e8 una circostanza e che cosa \u00e8 un&#8217;altra. E language model \u00e8 il modello del mondo gratuito per gli agenti.<\/p>\n\n\n\n<p>David: E allora sicuramente quello che hai detto all&#8217;inizio &#8211; cio\u00e8 che questa interfaccia universale che permette di creare degli input verso il nostro cervello e la nostra consapevolezza ed elaborazione futura &#8211; sia una feature che \u00e8 un bug, nel senso che ritengo proprio perch\u00e9 fino a qualche anno fa non abbiamo avuto la necessit\u00e0 di farlo, abbiamo una completa apertura e una relativa assenza di strumenti di difesa nel momento in cui la programmabilit\u00e0 della nostra consapevolezza attraverso il linguaggio viene&#8230; sfruttata in termini avversari.&nbsp;<\/p>\n\n\n\n<p>Assolutamente il fatto che oggi i computer &#8211; per dirlo in generale &#8211; siano programmabili con il linguaggio naturale \u00e8 una conquista gigantesca che abbiamo appena cominciato ad esplorare e questo far\u00e0 ulteriori passi importanti. Perch\u00e9 negli anni &#8217;60 i computer erano in stanze separate dove solo se avevi il camice del laboratorio potevi entrare e permetterti di toccarli e chiunque doveva interfacciarsi con i computer doveva farlo con&#8230; interposte persone e livelli enormi di complessit\u00e0 e di astrazione. Poi attraverso i personal computer si \u00e8 eliminata questa distanza, ma tuttora solo gli specialisti, non specialisti, gli appassionati, si mettevano a smanettare e cercare di capire i computer. Le interfacce grafiche hanno fatto s\u00ec che potessimo comandare i computer in modo molto pi\u00f9 diretto e anche senza dover imparare i comandi della linea di comando, il DOS o Linux che fosse. E adesso stiamo arrivando alle interfacce conversazionali, scritte o parlate, dove effettivamente la programmazione nostra del computer e del computer di noi sono quella che oggi abbiamo di pi\u00f9 diretto. E senza intermediazione, senza filtri.&nbsp;<\/p>\n\n\n\n<p>Facciamo un salto. Prima hai detto all&#8217;inizio, mi sono preso nota mentale, lo voglio introdurre adesso, che non sei particolarmente preoccupato o non sei particolarmente d&#8217;accordo rispetto alle posizioni sulla safety and security, quindi la sicurezza, l&#8217;affidabilit\u00e0, l&#8217;allineamento dei modelli rispetto a quelli che sono gli obiettivi umani. E quindi ti chiedo di commentare su questo riguardante i sistemi come sono oggi e poi magari verificare e dirci se la tua posizione rimane uguale anche nei confronti di sistemi agentici ancora pi\u00f9 spinti, quelli che ci aspettiamo in un prossimo futuro.<\/p>\n\n\n\n<p>Tommaso: Allora&#8230; Intanto, prima di tutto penso che questo problema degli esseri umani di avere del canale percettivo linguistico che li permette di riprogrammare, che li mette a rischio di riprogrammazione interiore, sia da una parte un rischio ma anche il motivo per cui siamo riusciti a crescere. Penso per\u00f2 che questo sia un problema umano a prescindere dall&#8217;intelligenza artificiale, cio\u00e8 penso sia un problema del mondo moderno e sia proprio un problema di bitrate. Abbiamo pi\u00f9 che saturato il bitrate che un essere umano pu\u00f2 ricevere e discernere probabilmente con Italia 1. Almeno nella mia generazione. Per\u00f2 quindi quello l&#8217;abbiamo pi\u00f9 che &#8211; quello \u00e8 un problema dell&#8217;umanit\u00e0 appunto che va risolto, possiamo fare giorni di conversazione.&nbsp;<\/p>\n\n\n\n<p>E secondo me \u00e8 il pi\u00f9 grosso problema che c&#8217;\u00e8 dal punto di vista di security e non di safety di security che \u00e8 quello del fatto che le compagnie che attualmente, sia quelle closed source che quelle open source, che sono pi\u00f9 legate, pi\u00f9 responsabili della produzione dei language model, l&#8217;hanno fatto vendendo advertisement, che di fatto \u00e8 esattamente questo processo avversario di cui abbiamo parlato fino adesso, implementato da altri esseri umani. Cio\u00e8 Google, Facebook, Microsoft &#8211; forse l&#8217;unica, no, ma in realt\u00e0 massivamente s\u00ec &#8211; vivono di ad revenue e l&#8217;ad revenue&#8230; e quando viene formalizzato ha esattamente la stessa, ha esattamente la stessa forma del&#8230;&nbsp;<\/p>\n\n\n\n<p>Ma penso che comunque c&#8217;\u00e8 un contratto tra OpenAI e Coca-Cola e probabilmente non lo sai ma stiamo gi\u00e0 ricevendo i token giusti per per bere pi\u00f9 Coca-Cola e te ne accorgerai due anni da ora quando fai la media e la&#8230; il canale principale \u00e8 quello cio\u00e8 il fatto che fino a che l&#8217;assistente \u00e8 un oggetto il cui obiettivo \u00e8 la massimizzazione della felicit\u00e0 dell&#8217;utente \u00e8 ben chiaro il problema quale sia.<\/p>\n\n\n\n<p>Ci sono tutta una serie di esagerazioni su cosa pu\u00f2 succedere e cosa no nel momento in cui l&#8217;obiettivo della gente non \u00e8 ben definito, ci sono compagnie di mezzo, eccetera, che vogliono ottenere cose, governi pi\u00f9 che compagnie, se devo preoccuparmi, che vogliono ottenere cose, la direzione \u00e8 molto diversa.&nbsp;<\/p>\n\n\n\n<p>Dal punto di vista di safety, io non sono d&#8217;accordo, diciamo, su tutti i scenari catastrofici dell&#8217;intelligenza artificiale che prende il controllo del mondo. Non sono disposto a discuterne, tra virgolette, perch\u00e9 per arrivare l\u00ec ci sono tutta una serie di&#8230; cruci umani su come sopravviveremo come umanit\u00e0 a livello geopolitico, economico, a livello di non farci delle guerre mondiali che mi preoccupano molto di pi\u00f9 da preoccuparci di quale sar\u00e0 il ruolo nel mondo che cambia, nella struttura attuale. Abbiamo un paio di guerre negli ultimi cinque anni che ci sorprendono che stiano avvenendo, e su almeno delle parti del conflitto c&#8217;\u00e8 un sacco di intervento di intelligenza artificiale.&nbsp;<\/p>\n\n\n\n<p>Io ora vado oltre la mia competenza, per\u00f2 \u00e8 stato ben chiaro che buona parte del primo attacco terroristico a Israele che ha fatto iniziare il tutto sia stato dovuto a un attento studio degli algoritmi di difesa e di uno sviluppo di strategie avversarie nei confronti di quegli algoritmi di difesa, in parallelo a un rilassamento della supervisione umana. Quelle cose erano in piedi e questa \u00e8 una cosa che avviene sistematicamente. I video dei droni li abbiamo visti tutti e quelle secondo me sono le cose preoccupanti. Ma non sono tanto le cose preoccupanti di dire &#8220;dobbiamo fare delle leggi per fare quello, bloccare questo o quello&#8221;. Sono dei meccanismi al mondo per cui la violenza avviene che vanno molto di fuori insomma del potere delle mie parole.&nbsp;<\/p>\n\n\n\n<p>Per\u00f2 penso che dovremmo almeno farlo &#8211; mettere un sacco di attenzione nella comprensione di questi problemi e da cittadini c&#8217;\u00e8 poco da fare. Per\u00f2 non vorrei che ci trovassimo addosso perch\u00e9 stavamo parlando di fantascienza e di colpo ci troviamo a dover vedere cosa si fa se arrivano 500 droni nel tuo villaggio. Quindi quindi&#8230;<\/p>\n\n\n\n<p>David: Cercando di capire e riassumere quello che hai detto, \u00e8 una questione di priorit\u00e0 di quali sono gli eventuali pericoli concreti che tecnologie avanzate comportano. Abbiamo gi\u00e0 con noi applicazioni di intelligenza artificiale che possono creare danno, ma non perch\u00e9 sono una superintelligenza, ma perch\u00e9 sono utilizzati concretamente in un modo che ci danneggia, per esempio in conflitti che stati o gruppi fra di loro fanno scaturire.&nbsp;<\/p>\n\n\n\n<p>Andiamo su un&#8217;altra osservazione che hai fatto relativamente all&#8217;embodied AI. La teoria che oggi si fa pratica, che sia utile e necessario dare modo ai sistemi di intelligenza artificiale di avere esperienza rispetto al mondo fisico, e di come possono interagire con il mondo fisico, formulare ipotesi su relazioni di causa ed effetto, pianificare una serie di azioni per raggiungere i loro obiettivi. Poi la conclusione dell&#8217;embodied cognition \u00e8 che senza questa abilit\u00e0 i sistemi di intelligenza artificiale non possono avanzare pi\u00f9 di tanto. C&#8217;\u00e8 bisogno effettivamente di questo ciclo di riscontro nel momento in cui ci confrontiamo con il mondo reale.&nbsp;<\/p>\n\n\n\n<p>E in effetti c&#8217;\u00e8 un enorme entusiasmo attorno alla&#8230; creazione di una nuova generazione di robot, in particolare robot umanoidi, che approfittano di questo buon senso, di questo senso comune che sono in grado di acquisire grazie al modello che costruiscono del mondo fisico attorno a s\u00e9, per uscire dalle gabbie in cui i robot industriali delle generazioni precedenti sono sempre state chiusi. Questi robot industriali sono ciechi e sordi e pericolosissimi. Ci sono incidenti molto brutti, anche mortali, che succedono perch\u00e9 un operatore non segue le procedure di sicurezza, entra nella gabbia e il robot senza sapere che c&#8217;\u00e8 un essere umano lo colpisce.<\/p>\n\n\n\n<p>Mentre si presume che il comportamento dei robot di nuova generazione basati su esperienze del mondo mediate o interpretate dai large language model possa essere molto superiore.&nbsp;<\/p>\n\n\n\n<p>E un secondo aspetto, \u00e8 quello dell&#8217;acquisizione e dell&#8217;elaborazione di una quantit\u00e0 di dati enormemente pi\u00f9 grande per l&#8217;addestramento e quindi il miglioramento dei sistemi che non la quantit\u00e0 di dati accessibile precedentemente gi\u00e0 digitalizzata attraverso le interfacce internet che abbiamo usato finora.&nbsp;<\/p>\n\n\n\n<p>Come vedi l&#8217;utilit\u00e0 di questo sforzo, a prescindere dal comportamento da gregge di pecore degli investitori della Silicon Valley che seguono con entusiasmo qualunque ondata tecnologica arrivi? E ritieni che sia il momento effettivamente giusto in cui volgere l&#8217;attenzione nell&#8217;embodied cognition e questo dei robot umanoidi \u00e8 un veicolo appropriato per testare queste ipotesi?<\/p>\n\n\n\n<p>Tommaso: Partendo dal comportamento erroneo dei venture capitalists, dall&#8217;altra parte, pi\u00f9 da loro consulente che ormai da persona che cerca anche fondi da loro, mi fa solo piacere forse, pi\u00f9 sbagliano pi\u00f9 vale la mia consulenza nei loro confronti, il scherzo \u00e8 pari.&nbsp;<\/p>\n\n\n\n<p>Su tutto questo sicuramente c&#8217;\u00e8 questo fenomeno ovvio chiamato il &#8220;seem to real gap&#8221;, cio\u00e8 quando tu addestri un modello all&#8217;interno di una simulazione, questa simulazione ovviamente&#8230; ha dei limiti e i limiti principali sono la nostra non comprensione della fisica e la nostra non comprensione della fisica a un punto tale che siamo in grado di calcolarla in maniera efficiente o che abbiamo modelli, approssimazioni efficienti.&nbsp;<\/p>\n\n\n\n<p>Quindi la nostra, non esiste il miglior simulatore attuale del mondo a una risoluzione simile a quella che dovrebbero avere degli embodied agent \u00e8 probabilmente Unreal Engine, quindi&#8230; engine di videogiochi, dove certo la fisica \u00e8 un po&#8217; giocattolo e dove certo sicuramente non esiste la meccanica quantistica o anche la particellizzazione funziona in una maniera completamente diversa. Quindi \u00e8 ovvio che un modello che impara all&#8217;interno di quella strazione avr\u00e0 dei gap con la realt\u00e0 dati dal&#8230; i gap per cui tu puoi spiegare il mondo essendo fatto da cubi di materia grandi 4 cm x 4 cm, qual \u00e8 l&#8217;equivalente di poligoni all&#8217;interno di una simulazione. E sappiamo dalla fisica che ci sono tutta una serie di fenomeni, tutta una serie di dinamiche, che gi\u00e0 partir\u00e0 da termodinamica stessa, dove se la tua risoluzione spaziale \u00e8 pi\u00f9 bassa di un tot, l&#8217;incertezza che hai sugli output&#8230; aumenta drasticamente.&nbsp;<\/p>\n\n\n\n<p>Quindi vedrei in questa maniera la necessit\u00e0 di feedback loop nel mondo reale per correggere gli errori della simulazione. Dall&#8217;altra parte siamo ormai molto abituati anche a queste architetture residuali in cui&#8230; i modelli si costruiscono l&#8217;uno sull&#8217;altro o all&#8217;interno dell&#8217;architettura stessa o nella composizione di pi\u00f9 modelli o come boosting, sono strategie classiche di machine learning.&nbsp;<\/p>\n\n\n\n<p>Quindi mi immagino che la procedura principale sar\u00e0 quella di partire da dei simulatori di fisica molto buoni, poi passare per delle basi dentro, passare per un altro simulatore pi\u00f9 videogiocoso che permette di avere una astrazione a oggetti entity based, basata su entit\u00e0 e cose, things, non molecole, atomi, onde o poligoni e poi questa roba qui finir\u00e0 nel mondo reale. Nel mondo reale finir\u00e0 ad avere un errore e questo errore verr\u00e0 ridotto da un secondo livello di modelli che si occupano di&#8230; ridurre questo gap dal simulato al reale.&nbsp;<\/p>\n\n\n\n<p>Probabilmente mano a mano che avremo modelli nel mondo reale, il costo di trainare direttamente su dati del mondo reale sar\u00e0 minore, per\u00f2 dall&#8217;altra parte, quando tu inizi ad avere robot diversi, forse la differenza pratica tra quei due robot che hanno dei&#8230; dei corpi completamente diversi che hanno delle resistenze fisiche che utilizzano materiali diversi e che lavorano in environment diversi forse la maniera corretta di trasferire tra una situazione e l&#8217;altra in realt\u00e0 \u00e8 quella di astrarre tutto a un game engine di nuovo e vedere le cose l\u00ec. Per cui bisogna anche essere di nuovo &#8220;not to get bitter lesson&#8221;, magari la lezione di questo embodied agent non \u00e8 quella di crearne 12 milioni in pi\u00f9 per raccogliere i dati, ma che ne bastano 3500 per migliorare Unreal Engine 5 ed Unreal Engine 8 e farlo talmente meglio e pur strappare il training di agenti di dentro che funzionano molto meglio. Quindi qui, dall&#8217;altra parte&#8230;<\/p>\n\n\n\n<p>David: Ci saranno molti approcci e ci sar\u00e0 bisogno anche di standardizzare non solo come i robot di questa prossima generazione interpretano ed agiscono sul mondo, ma anche come interagiscono con noi e come noi possiamo interagire con loro. Questa fotografia io non l&#8217;ho vista da altre parti. E secondo me l&#8217;inquadratura pi\u00f9 importante di Optimus, il robot in fase di sviluppo presso Tesla che sta gi\u00e0 testando nelle sue fabbriche, \u00e8 quello che sto puntando: il pulsante che lo ferma. E quindi nel momento in cui non c&#8217;\u00e8 sullo schermo il pollice verso o il pollice dritto che dice a CharGPT &#8220;Guarda che mi hai detto una stupidata&#8221; e ti do il riscontro, la botta sulla nuca del robot sar\u00e0 il modo per dirgli &#8220;Quel che stai facendo non mi piace mica tanto!&#8221;. Un Cannavacciuolo qualunque \u00e8 necessario probabilmente per arrivarci.<\/p>\n\n\n\n<p>Tommaso: Esattamente. Penso che ci sono diversi elementi interessanti che magari escono dal tema che trattiamo oggi, che riguardano proprio l&#8217;utilit\u00e0 di certe scorciatoie che possiamo applicare, che riguardano sia la forma umanoide del robot che interagisce con un mondo progettato per gli esseri umani, e quindi c&#8217;\u00e8 una compatibilit\u00e0 naturale, sia una desiderabile antropomorfizzazione dei suoi comportamenti, che nel momento in cui avesse una forma radicalmente diversa noi faremmo fatica a capire cosa sta per fare e come relazionarci al robot stesso.<\/p>\n\n\n\n<p>Penso che sia una scelta di UX molto pigra quella di fare degli umanoidi &#8211; la capisco, cio\u00e8 among any other choices per\u00f2 \u00e8 molto simile all&#8217;idea di dobbiamo rifare un cervello umano per fare delle cose che pensano, su cui siamo in degli aspetti completamente diversi. Il corpo umano \u00e8 proprio difficile, ci sono delle cose che per fare cose pi\u00f9 semplici &#8211; diciamo molto pi\u00f9 semplice &#8211; mi sarei aspettato che spendessimo pi\u00f9 tempo a fare cose che guardano prima di fare cose che fanno, cio\u00e8 noi non abbiamo ancora la capacit\u00e0 &#8211; e di nuovo torniamo di nuovo a spionaggio a cose security che magari diventano pericolose &#8211; per\u00f2 non abbiamo robot droni curiosi, non abbiamo ancora cose che esplorano. Scopra mi sarei aspettato diciamo dieci anni fa robe tipo sottomarini autoguidati che si esplorano l&#8217;oceano da solo e scoprono cose del mondo che non abbiamo visto, come cose che mi sembrano molto pi\u00f9 semplici.<\/p>\n\n\n\n<p>David: Sono applicazioni bellissime e sono d&#8217;accordo con te che \u00e8 un&#8217;esplosione cambriana delle forme meccaniche la dobbiamo ancora vedere e magari arriver\u00e0 sospinta dalle curve di apprendimento che percorriamo nel costruire non centinaia o migliaia di esemplari, come hai detto, magari sufficienti per l&#8217;addestramento di modelli migliori che raccolgono dati dal mondo reale, ma milioni di esemplari che abbassano il costo e quindi permettono una sperimentazione pi\u00f9 radicale che oggi altrimenti potrebbe non essere alla portata di quei gruppi curiosi a esplorare i fondali sottomarini o a creare droni che siano compatibili con noi ma che scoprano cose utili.&nbsp;<\/p>\n\n\n\n<p>Ti faccio un&#8217;ultima domanda, siamo arrivati un po&#8217; alla fine della nostra conversazione di oggi. Hai menzionato il costo energetico della fase di addestramento dei modelli attuali. E addirittura&#8230; le schede NVIDIA anche pi\u00f9 recenti e quindi pi\u00f9 potenti, premiano e sono ottimizzate a favore della fase di addestramento, necessariamente penalizzando la fase di inferenza. E quindi consumano&#8230; tantissimo e l&#8217;addestramento comunque \u00e8 costosissimo sia in termini di investimenti iniziali di capitale per tutte queste schede &#8211; non migliaia ma addirittura decine o centinaia di migliaia di schede &#8211; che oggi vengono acquistate e messe all&#8217;opera da parte dei pi\u00f9 grandi produttori di questi modelli. Ma quelle quantit\u00e0 di energia usate per l&#8217;addestramento, in prospettiva, sono quasi trascurabili rispetto all&#8217;energia necessaria perch\u00e9 i milioni o centinaia di milioni di persone che usano i modelli tutti i giorni ricevano i loro output. Come vedi l&#8217;evoluzione di questo anche osservando gli investimenti che vengono fatti in chip ancora pi\u00f9 specializzati per ottimizzare l&#8217;elaborazione dei modelli?<\/p>\n\n\n\n<p>Tommaso: Allora&#8230; Io penso che il lato del chip specializzato \u00e8 un bagno di sangue, nel senso che qualcosa funzioner\u00e0, probabilmente &#8211; direi not you, cio\u00e8 la probabilit\u00e0 che ci sar\u00e0 un chip migliore, yes, quello che direi a un amico che prova a farlo, most likely not yours. Qui di nuovo siamo quasi consigli di investimento su Nvidia o no.&nbsp;<\/p>\n\n\n\n<p>Allora, dal mio punto di vista penso che&#8230; la separazione, la ultra-ottimizzazione per il training rispetto all&#8217;inferenza \u00e8 banale ed \u00e8 dovuta al fatto che nessuno faceva inferenza prima oltre al paper pubblicato. Cio\u00e8 che la domanda di inferenza \u00e8 stata praticamente creata da Stable Diffusion prima e poi da CharGPT. Infatti Stable Diffusion single-handedly ha distrutto il rilascio delle 3090 che hanno dovuto togliere dal mercato perch\u00e9 erano troppo buone in termini di costo per capacit\u00e0 di fare generazione di immagini e sono pi\u00f9 o meno scomparse. Nessuno \u00e8 riuscito a comprarle pi\u00f9 perch\u00e9 sono uscite le 4090 subito dopo a 800 euro in pi\u00f9.<\/p>\n\n\n\n<p>David: Lo dico per esperienza personale che ne ho provato a comprare svariate. Dal punto di vista una delle ragioni delle 3090 non essendo disponibili era anche il picco del mining di cripto.<\/p>\n\n\n\n<p>Tommaso: Ti assicuro che ho provato a comprarle dopo ma non ci sono riuscito. Dovevano esserci tutte queste migliaia ma le spedire non le ho proprio viste. Mi sa che sono finito in data center cinesi direttamente, proprio su editto imperiale.<\/p>\n\n\n\n<p>Attualmente il lato di inferenza penso sia molto interessante. Ci sono i MacBook &#8211; una nuova generazione di MacBook sta facendo delle cose molto interessanti e personalmente uno questi diamantati pi\u00f9 recenti, diciamo, dove praticamente quasi qualunque modello state of the art \u00e8 funzionante, sul modello pi\u00f9 grosso, penso tutto, con un po&#8217; di quantizzazione, qualunque cosa pu\u00f2 essere rannata, probabilmente quando l&#8217;AMA 300-400 miliardi verr\u00e0 rilasciato, non sar\u00e0 pi\u00f9 il caso, per\u00f2&#8230; Attualmente la situazione migliore per giocare probabilmente a casa in termini di inferenza sono i MacBook perch\u00e9 il limite principale \u00e8 la quantit\u00e0 di VRAM della scheda che \u00e8 molto limitata invece nelle schede Nvidia da gaming dove appunto se quelle da data center vanno dai 80 a 160 giga l&#8217;una &#8211; prima erano 40, 80 &#8211; mano mano vanno avanti, quelle da gaming arrivano al massimo a 24 giga e sono praticamente insostenibili dal punto di vista energetico. In Italia a casa spegni la corrente, per usare una doppia 4090 hai bisogno di 1500 watt, un MacBook fa con 180 Watt la stessa cosa a 30% di velocit\u00e0 in meno.&nbsp;<\/p>\n\n\n\n<p>Microsoft ha dichiarato di avere un concorrente, sono queste nuove terze tipo di memoria, questa memoria unificata, neural processing unit che stanno chiamando, che sono CPU con RAM sopra praticamente. Io mi sento, diciamo, l\u00ec c&#8217;\u00e8 da vedere Grok, quella Q, non la K, \u00e8 attualmente l&#8217;unica situazione, mi sembra, di davvero successo.&nbsp;<\/p>\n\n\n\n<p>Dall&#8217;altra parte, sembrano prodotti destinati a servire gigantesche corporation pi\u00f9 che utenti, perch\u00e9 probabilmente gli utenti finali hanno alla ricerca un desiderio di flessibilit\u00e0 che architetture specializzate che richiedono tuning dell&#8217;hardware per ogni architettura &#8211; e penso che Grok proprio abbia bisogno di magari anche una saldatura o due se cambia architettura, nel senso che ovviamente meno virtualizzi pi\u00f9 efficienza riesci ad avere &#8211; quindi c&#8217;\u00e8 questo trade-off tra fare una nuova architettura che funzioner\u00e0 specificamente per qualcosa, al punto che uno potrebbe&#8230; mettere nel chip i parametri stessi del modello e quindi essere avere un transistor per ogni parametro e non avere pi\u00f9 problemi di digitalizzazione at all di movimento, di cose. Per\u00f2 dall&#8217;altra parte ogni nuova architettura che esce il tuo hardware \u00e8 obsoleto. Quindi il ciclo di produzione hardware attualmente \u00e8 uno dei pi\u00f9 grandi blocchi della tecnologia, crescita moderna e la nostra dipendenza da TSMC e ASML su questo \u00e8 molto molto importante.&nbsp;<\/p>\n\n\n\n<p>David: E per confermare quello che hai detto, io sono passato proprio ad un modello recentissimo di MacBook Pro con processore M3. Per\u00f2 non ho preso l&#8217;M3 Max con il massimo della RAM che potevo &#8211; con il massimo della RAM che potevo prendere &#8211; per poter fare delle elaborazioni di modelli locali. In particolare llama.cpp \u00e8 bellissimo come possibilit\u00e0 di eseguire un modello che non devi ricompilare, molto snello da utilizzare. E le NPU di Microsoft che hai menzionato mirano a dare delle prestazioni paragonabili. Ed entrambe queste soluzioni, sia un Mac che un notebook con Windows, basato su questo tipo di architettura sono per un&#8217;elaborazione locale, mentre quando hai menzionato Grok comunque parliamo di un&#8217;elaborazione nel cloud che quindi bisogna gestire in una maniera snella, con il vantaggio che pu\u00f2 crescere con l&#8217;utilizzo e lo svantaggio che dipende dalle prestazioni, dalla disponibilit\u00e0, dalla strategia di quel particolare fornitore.<\/p>\n\n\n\n<p>Relativamente ai cicli&#8230; di crescita dell&#8217;hardware \u00e8 gi\u00e0 da un po&#8217; che io notavo come Nvidia costantemente metta l&#8217;accento sul fatto che non seguono pi\u00f9 la legge di Moore ma che il processo che io chiamo di scossa, una &#8220;jolting technology&#8221; nella progettazione e realizzazione dei loro sistemi, \u00e8 molto molto pi\u00f9 rapida. Questo risale all&#8217;anno scorso, ho elaborato anche un&#8217;altra immagine dalle presentazioni di Jensen Wang che mette ancora pi\u00f9 in evidenza quanto&#8230; avrebbero migliorato meno di mille volte le prestazioni se avessero seguito meramente la legge di Moore, mentre nello stesso tempo di una decina d&#8217;anni le hanno aumentate di 10 milioni di volte.&nbsp;<\/p>\n\n\n\n<p>Addirittura Tesla, che aveva annunciato la realizzazione di una propria architettura proprietaria per&#8230; l&#8217;intelligenza artificiale chiamata Dojo, ha accettato di buon grado di rallentare la produzione e il dispiegamento di data center basate su Dojo perch\u00e9, come dici tu, fare concorrenza a NVIDIA non \u00e8 affatto semplice e&#8230; l&#8217;addestramento che fanno adesso per la guida autonoma e per altre cose, incluso il large language model della piattaforma X, chiamata GROK con la K, \u00e8 basato su NVIDIA e non \u00e8 basato su questa architettura dojo loro proprietaria.<\/p>\n\n\n\n<p>Tommaso: S\u00ec, io penso che gli unici che forse non si addestrano su Nvidia sia Google con il loro cluster di pi\u00f9, per\u00f2 potrebbe benissimo darsi che siano cose pi\u00f9 recenti se non andando su Nvidia.&nbsp;<\/p>\n\n\n\n<p>Cosa interessante di quel grafico che ha fatto vedere, tra l&#8217;altro, che le P100 sono delle schede quasi leggendari che sono uscite quasi assieme alle vicende. Ce n&#8217;erano pochissime e Amazon non le ha mai avute, ce l&#8217;aveva solo Google e mi sa Alibaba al tempo e quindi Amazon \u00e8 passato dalle K80 che erano delle scarpe davvero proprio delle ciabatte antiche per fare computer graphics, all&#8217;EV100 che ora sembra brutto dover usare una macchina con l&#8217;EV100 &#8211; Google Trader gratis con Colab &#8211; per\u00f2 \u00e8 la prima delle nuove generazioni di macchine da data center che sono con l&#8217;InfiniBand per fare multi machine training in maniera efficiente.&nbsp;<\/p>\n\n\n\n<p>Le K80 avevano un problema di movimento dei dati, che ci perdevi pi\u00f9 tempo a caricare i batch sulla GPU, che altro, c&#8217;era proprio un altro mondo, era pre-design, non erano ancora disegnati, era dell&#8217;hardware che casualmente andava benissimo per fare machine learning, ma probabilmente si aspettava un futuro del virtual reality in cui tutti dovevano renderizzare cose in cloud 15 anni prima, che non \u00e8 mai avvenuto.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>In questa conversazione esploriamo il futuro degli agenti AI con Tommaso Furlanello, uno scienziato di Machine Learning con un dottorato in Neuroscienze presso la USC. Con oltre un decennio di esperienza, Tommaso ha sviluppato sistemi predittivi all&#8217;avanguardia utilizzando teoria dei giochi, neuroscienze e deep learning. La sua ricerca spazia dalla previsione della domanda, alla bioinformatica, [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":10501,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"set","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[3933,920],"tags":[],"class_list":["post-10500","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligenza-artificiale","category-tecnologia"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/posts\/10500","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/comments?post=10500"}],"version-history":[{"count":1,"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/posts\/10500\/revisions"}],"predecessor-version":[{"id":10510,"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/posts\/10500\/revisions\/10510"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/media\/10501"}],"wp:attachment":[{"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/media?parent=10500"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/categories?post=10500"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/davidorban.com\/it\/wp-json\/wp\/v2\/tags?post=10500"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}