Le idee nascono in molti modi, e uno dei pi\u00f9 antichi, radicato nell’evoluzione biologica, \u00e8 il riconoscimento di schemi. Qualcosa si ripete nello spazio o nel tempo, una forma tra le foglie, una sensazione che ritorna, e la nostra attenzione si accende. Diamo un nome alla ripetizione, e quel nome diventa un puntatore compatto che possiamo consegnare a qualcun altro. L’evoluzione ha selezionato con forza questa facolt\u00e0, perch\u00e9 quasi sempre lo schema c’\u00e8 davvero, e quasi tutto ci\u00f2 che abbiamo costruito vi si appoggia.<\/p>\n\n\n\n
A volte si inceppa. Vediamo muoversi le foglie e siamo certi che dietro l’albero ci sia una tigre, e la tigre non c’\u00e8. (Anche se siamo i discendenti di quelli che sono stati pi\u00f9 prudenti, non dei temerari.) Un gatto nero attraversa la strada, inciampiamo un minuto dopo, e uniamo le due cose in una causa. Chiamiamo superstizioni questi inceppamenti, e ci\u00f2 che li rende superstizioni non \u00e8 l’errore ma il fermarsi. Ci accontentiamo della spiegazione superficiale, agiamo di conseguenza, e non indaghiamo mai abbastanza da smentirla.<\/p>\n\n\n\n
Quando gli antichi greci dicevano che il sole era Zeus che attraversava il cielo sul suo carro, non avevano una spiegazione, e quel segnaposto faceva loro poco male. Quando un comandante sacrificava un animale e ne leggeva le viscere per decidere come attaccare il mattino seguente, la superstizione era disadattiva, perch\u00e9 la probabilit\u00e0 che un simile consiglio migliori l’esito di una battaglia \u00e8 scarsa. Ci\u00f2 che conta \u00e8 se si agisce sullo schema, e quanto dipende da quell’azione.<\/p>\n\n\n\n
Le IA sono macchine per il riconoscimento di schemi. Prendono la nostra stessa facolt\u00e0 e la applicano al massimo grado, ripassando le informazioni che diamo loro ancora e ancora per spremerne ogni schema disponibile. Quasi nessuno incontra un modello in quello stato. Ci\u00f2 con cui le persone interagiscono \u00e8 passato per il post-training, e il post-training \u00e8 il momento in cui diciamo a un sistema di abbandonare una convinzione perch\u00e9 \u00e8 il tipo sbagliato di convinzione. Gli schemi che un modello di base raccoglie non sono disallineati soltanto nel senso etico di cui discutiamo di solito. Sono disadattivi nel modo in cui lo erano le viscere: sicuri di s\u00e9, a buon mercato e sbagliati. Un’IA, cos\u00ec come nasce, \u00e8 superstiziosa.<\/p>\n\n\n\n
La seconda cosa da notare \u00e8 che le macchine stanno diventando pi\u00f9 difficili da leggere. Man mano che i modelli diventano pi\u00f9 capaci, e man mano che i sistemi agentici passano dal rispondere a domande all’agire nel mondo, il loro ragionamento diventa meno interpretabile a ogni aumento di capacit\u00e0. L’Europa ha scritto nella legge l’aspettativa opposta. L’AI Act richiede che i sistemi ad alto rischio siano abbastanza trasparenti da consentire una sorveglianza umana significativa, e concede a chi \u00e8 sottoposto a certe decisioni automatizzate il diritto a una spiegazione. Non sono convinto che la capacit\u00e0 da sola soddisfi quell’aspettativa. Nessuna legge di natura dice che un modello pi\u00f9 potente sia un modello pi\u00f9 chiaro.<\/p>\n\n\n\n
Mettiamo il caso migliore, quello in cui ognuna di quelle decisioni si rivela vantaggiosa per noi come individui e come societ\u00e0. Diventer\u00e0 comunque pi\u00f9 difficile capire che cosa sia appena successo. Vedremo le conseguenze senza vedere il meccanismo, che \u00e8 esattamente la posizione dei greci rispetto al sole: grati per la luce, nutriti dai raccolti che faceva crescere, senza alcun resoconto del come. Viviamo gi\u00e0 in una versione attenuata di tutto questo. Quasi nessuno sa spiegare come le reazioni di fusione generino la luce che ci arriva dal sole, pur avendone noi le basi scientifiche. La novit\u00e0 \u00e8 che anche gli specialisti raggiungeranno il proprio limite, pratico all’inizio e, spero, mai teorico.<\/p>\n\n\n\n
Lasciata a s\u00e9, \u00e8 una ricetta per la superstizione su scala. Le regolarit\u00e0 ci saranno ancora, schemi nello spazio e schemi nel tempo, e le spiegheremo come abbiamo sempre fatto quando manca il meccanismo, cio\u00e8 male, e poi agiremo sulla spiegazione.<\/p>\n\n\n\n
Non credo che dovremmo accettarlo, e non credo che sia necessario. La risposta \u00e8 insistere perch\u00e9 il mondo resti spiegabile, e usare l’IA stessa come strumento della spiegazione. Nulla impone che un resoconto del mondo sia prodotto da una mente umana priva di aiuto. Impone che il resoconto esista, che sia verificabile, e che sia tenuto da qualcuno con cui si possa discutere. L’interpretabilit\u00e0 \u00e8 un problema di ricerca su scala di macchina, il che la rende un buon problema per le macchine. Il fatto che un sistema faccia cose che nessuna persona potrebbe fare non \u00e8 un argomento per cui di ci\u00f2 che ha fatto non si possa rendere conto. \u00c8 un argomento per costruire quel resoconto con gli stessi strumenti che hanno costruito la capacit\u00e0.<\/p>\n\n\n\n
\u00c8 questa distinzione a separare due parole che partono dallo stesso punto. Quella moderna che mi piace, e che meriterebbe pi\u00f9 riconoscimento di quanto ne abbia, \u00e8 iperstizione. \u00c8 nata nella teoria britannica degli anni Novanta, dove indicava le finzioni che si rendono reali da sole. Superstizione e iperstizione partono entrambe dal desiderio che uno schema porti un significato che ancora non ha. La superstizione si ferma l\u00ec e legge il mondo. L’iperstizione agisce, e l’agire \u00e8 ci\u00f2 che trasforma il desiderio in un fatto. La convinzione era falsa quando si \u00e8 formata ed \u00e8 vera dopo, perch\u00e9 tenerla ha cambiato ci\u00f2 che \u00e8 accaduto.<\/p>\n\n\n\n
Buona parte di ci\u00f2 in cui viviamo funziona cos\u00ec. Il denaro \u00e8 il caso pi\u00f9 semplice, una storia sul valore che diventa vera quando abbastanza persone agiscono di conseguenza e falsa nel momento in cui smettono. Un’azienda comincia come descrizione di qualcosa che non esiste e diventa la cosa descritta, perch\u00e9 si assume, si costruisce e si compra sulla forza della sua missione. Entrambi sono desideri su cui si \u00e8 agito finch\u00e9 la realt\u00e0 non si \u00e8 adeguata.<\/p>\n\n\n\n
Stiamo per diventare molto pi\u00f9 bravi in questo, perch\u00e9 la distanza tra volere qualcosa e poterla fare si sta contraendo. Strumenti capaci di progettare, scrivere, negoziare ed eseguire comprimono da anni a ore l’intervallo tra un desiderio e la sua realizzazione, e lo fanno per molte pi\u00f9 persone di quante abbiano mai avuto quel potere. Volere la realt\u00e0 secondo i nostri desideri smette di essere una metafora e diventa un’operazione ordinaria, alla portata di chiunque abbia una visione abbastanza chiara.<\/p>\n\n\n\n
Il pericolo \u00e8 antico e ben documentato. Ogni cultura ha la sua storia sul desiderio esaudito esattamente come \u00e8 stato espresso. Desiderare bene \u00e8 un’abilit\u00e0, e a questa scala \u00e8 un problema politico pi\u00f9 che personale. La protezione contro il desiderare male \u00e8 la possibilit\u00e0 di verificare, dopo, che cosa il desiderio abbia fatto. \u00c8 questa la ragione per mantenere il mondo spiegabile mentre acquisiamo il potere di rimodellarlo. Un mondo che possiamo volere ma non leggere \u00e8 un mondo in cui i nostri errori somigliano esattamente ai nostri successi finch\u00e9 non \u00e8 troppo tardi per distinguerli.<\/p>\n\n\n\n
La superstizione legge uno schema e gli obbedisce. L’iperstizione dice che cosa vuole e poi lo costruisce. La facolt\u00e0 sottostante \u00e8 la stessa, e lo \u00e8 anche il rischio di sbagliarsi. A separarle \u00e8 se facciamo o no il lavoro di scoprirlo.<\/p>\n\n","protected":false},"excerpt":{"rendered":"
Il riconoscimento di schemi ci ha dato la scienza, i presagi e l’IA. Ora dobbiamo impegnarci a mantenere il mondo spiegabile.<\/p>\n","protected":false},"author":2,"featured_media":12522,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[481],"tags":[],"class_list":["post-12521","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t