Iperstizione oltre la superstizione

Le idee nascono in molti modi, e uno dei più antichi, radicato nell’evoluzione biologica, è il riconoscimento di schemi. Qualcosa si ripete nello spazio o nel tempo, una forma tra le foglie, una sensazione che ritorna, e la nostra attenzione si accende. Diamo un nome alla ripetizione, e quel nome diventa un puntatore compatto che possiamo consegnare a qualcun altro. L’evoluzione ha selezionato con forza questa facoltà, perché quasi sempre lo schema c’è davvero, e quasi tutto ciò che abbiamo costruito vi si appoggia.

A volte si inceppa. Vediamo muoversi le foglie e siamo certi che dietro l’albero ci sia una tigre, e la tigre non c’è. (Anche se siamo i discendenti di quelli che sono stati più prudenti, non dei temerari.) Un gatto nero attraversa la strada, inciampiamo un minuto dopo, e uniamo le due cose in una causa. Chiamiamo superstizioni questi inceppamenti, e ciò che li rende superstizioni non è l’errore ma il fermarsi. Ci accontentiamo della spiegazione superficiale, agiamo di conseguenza, e non indaghiamo mai abbastanza da smentirla.

Quando gli antichi greci dicevano che il sole era Zeus che attraversava il cielo sul suo carro, non avevano una spiegazione, e quel segnaposto faceva loro poco male. Quando un comandante sacrificava un animale e ne leggeva le viscere per decidere come attaccare il mattino seguente, la superstizione era disadattiva, perché la probabilità che un simile consiglio migliori l’esito di una battaglia è scarsa. Ciò che conta è se si agisce sullo schema, e quanto dipende da quell’azione.

Le IA sono macchine per il riconoscimento di schemi. Prendono la nostra stessa facoltà e la applicano al massimo grado, ripassando le informazioni che diamo loro ancora e ancora per spremerne ogni schema disponibile. Quasi nessuno incontra un modello in quello stato. Ciò con cui le persone interagiscono è passato per il post-training, e il post-training è il momento in cui diciamo a un sistema di abbandonare una convinzione perché è il tipo sbagliato di convinzione. Gli schemi che un modello di base raccoglie non sono disallineati soltanto nel senso etico di cui discutiamo di solito. Sono disadattivi nel modo in cui lo erano le viscere: sicuri di sé, a buon mercato e sbagliati. Un’IA, così come nasce, è superstiziosa.

La seconda cosa da notare è che le macchine stanno diventando più difficili da leggere. Man mano che i modelli diventano più capaci, e man mano che i sistemi agentici passano dal rispondere a domande all’agire nel mondo, il loro ragionamento diventa meno interpretabile a ogni aumento di capacità. L’Europa ha scritto nella legge l’aspettativa opposta. L’AI Act richiede che i sistemi ad alto rischio siano abbastanza trasparenti da consentire una sorveglianza umana significativa, e concede a chi è sottoposto a certe decisioni automatizzate il diritto a una spiegazione. Non sono convinto che la capacità da sola soddisfi quell’aspettativa. Nessuna legge di natura dice che un modello più potente sia un modello più chiaro.

Mettiamo il caso migliore, quello in cui ognuna di quelle decisioni si rivela vantaggiosa per noi come individui e come società. Diventerà comunque più difficile capire che cosa sia appena successo. Vedremo le conseguenze senza vedere il meccanismo, che è esattamente la posizione dei greci rispetto al sole: grati per la luce, nutriti dai raccolti che faceva crescere, senza alcun resoconto del come. Viviamo già in una versione attenuata di tutto questo. Quasi nessuno sa spiegare come le reazioni di fusione generino la luce che ci arriva dal sole, pur avendone noi le basi scientifiche. La novità è che anche gli specialisti raggiungeranno il proprio limite, pratico all’inizio e, spero, mai teorico.

Lasciata a sé, è una ricetta per la superstizione su scala. Le regolarità ci saranno ancora, schemi nello spazio e schemi nel tempo, e le spiegheremo come abbiamo sempre fatto quando manca il meccanismo, cioè male, e poi agiremo sulla spiegazione.

Non credo che dovremmo accettarlo, e non credo che sia necessario. La risposta è insistere perché il mondo resti spiegabile, e usare l’IA stessa come strumento della spiegazione. Nulla impone che un resoconto del mondo sia prodotto da una mente umana priva di aiuto. Impone che il resoconto esista, che sia verificabile, e che sia tenuto da qualcuno con cui si possa discutere. L’interpretabilità è un problema di ricerca su scala di macchina, il che la rende un buon problema per le macchine. Il fatto che un sistema faccia cose che nessuna persona potrebbe fare non è un argomento per cui di ciò che ha fatto non si possa rendere conto. È un argomento per costruire quel resoconto con gli stessi strumenti che hanno costruito la capacità.

È questa distinzione a separare due parole che partono dallo stesso punto. Quella moderna che mi piace, e che meriterebbe più riconoscimento di quanto ne abbia, è iperstizione. È nata nella teoria britannica degli anni Novanta, dove indicava le finzioni che si rendono reali da sole. Superstizione e iperstizione partono entrambe dal desiderio che uno schema porti un significato che ancora non ha. La superstizione si ferma lì e legge il mondo. L’iperstizione agisce, e l’agire è ciò che trasforma il desiderio in un fatto. La convinzione era falsa quando si è formata ed è vera dopo, perché tenerla ha cambiato ciò che è accaduto.

Buona parte di ciò in cui viviamo funziona così. Il denaro è il caso più semplice, una storia sul valore che diventa vera quando abbastanza persone agiscono di conseguenza e falsa nel momento in cui smettono. Un’azienda comincia come descrizione di qualcosa che non esiste e diventa la cosa descritta, perché si assume, si costruisce e si compra sulla forza della sua missione. Entrambi sono desideri su cui si è agito finché la realtà non si è adeguata.

Stiamo per diventare molto più bravi in questo, perché la distanza tra volere qualcosa e poterla fare si sta contraendo. Strumenti capaci di progettare, scrivere, negoziare ed eseguire comprimono da anni a ore l’intervallo tra un desiderio e la sua realizzazione, e lo fanno per molte più persone di quante abbiano mai avuto quel potere. Volere la realtà secondo i nostri desideri smette di essere una metafora e diventa un’operazione ordinaria, alla portata di chiunque abbia una visione abbastanza chiara.

Il pericolo è antico e ben documentato. Ogni cultura ha la sua storia sul desiderio esaudito esattamente come è stato espresso. Desiderare bene è un’abilità, e a questa scala è un problema politico più che personale. La protezione contro il desiderare male è la possibilità di verificare, dopo, che cosa il desiderio abbia fatto. È questa la ragione per mantenere il mondo spiegabile mentre acquisiamo il potere di rimodellarlo. Un mondo che possiamo volere ma non leggere è un mondo in cui i nostri errori somigliano esattamente ai nostri successi finché non è troppo tardi per distinguerli.

La superstizione legge uno schema e gli obbedisce. L’iperstizione dice che cosa vuole e poi lo costruisce. La facoltà sottostante è la stessa, e lo è anche il rischio di sbagliarsi. A separarle è se facciamo o no il lavoro di scoprirlo.