Hiperstíció a babona helyett

Az ötletek sokféleképpen születnek, és az egyik legősibb mód, amely a biológiai evolúcióban gyökerezik, a mintázatfelismerés. Valami ismétlődik a térben vagy az időben, egy alak a levelek között, egy visszatérő érzés, és felkapjuk rá a fejünket. Nevet adunk az ismétlődésnek, és a név tömör mutatóvá válik, amelyet átadhatunk másnak. Az evolúció erősen szelektált erre a képességre, mert a mintázat többnyire valóban ott van, és szinte minden, amit felépítettünk, erre támaszkodik.

Néha félrecsúszik. Látjuk mozogni a leveleket, és biztosak vagyunk benne, hogy tigris lapul a fa mögött, pedig nincs ott tigris. (Még akkor is, ha azoknak a leszármazottai vagyunk, akik óvatosabbak voltak, nem a vakmerőkéi.) Fekete macska szalad át az úton, egy perccel később megbotlunk, és a kettőt okká fűzzük össze. Ezeket a félrecsúszásokat nevezzük babonának, és nem a tévedés teszi őket babonává, hanem a megállás. Beérjük a felszínes magyarázattal, aszerint cselekszünk, és sosem vizsgálódunk annyit, hogy megcáfoljuk.

Amikor az ókori görögök azt mondták, hogy a nap Zeusz, aki szekerén áthalad az égen, nem volt magyarázatuk, és ez a helykitöltő nem sok kárt okozott nekik. Amikor egy hadvezér állatot áldozott, és a belsőségeiből olvasta ki, hogyan támadjon másnap reggel, a babona rosszul alkalmazkodó volt, mert annak az esélye, hogy egy ilyen tanács javítja a csata kimenetelét, csekély. Az számít, hogy cselekszünk-e a mintázat alapján, és mennyi múlik a cselekvésen.

Az MI-k mintázatfelismerő gépek. A mi saját képességünket veszik át, és a végsőkig alkalmazzák: újra és újra átfésülik a nekik adott információt, hogy minden elérhető mintázatot kifacsarjanak belőle. Ebben az állapotban szinte senki nem találkozik modellel. Amivel az emberek kapcsolatba kerülnek, az átment az utótréningen, és az utótréning az a pont, ahol megmondjuk a rendszernek, hogy adjon fel egy meggyőződést, mert az rossz fajta meggyőződés. Az alapmodell által felszedett mintázatok nem csupán abban az etikai értelemben elhangoltak, amelyről beszélni szoktunk. Ugyanúgy rosszul alkalmazkodóak, ahogy a belsőségek voltak: magabiztosak, olcsók és tévesek. Az MI, ahogy megszületik, babonás.

A második dolog, amit észre kell venni, az, hogy a gépeket egyre nehezebb olvasni. Ahogy a modellek képesebbé válnak, és ahogy az ágensalapú rendszerek a kérdések megválaszolásától a világban való cselekvés felé mozdulnak, a gondolatmenetük minden képességnövekedéssel kevésbé értelmezhetővé válik. Európa az ellenkező elvárást írta törvénybe. Az AI Act megköveteli, hogy a nagy kockázatú rendszerek elég átláthatóak legyenek az érdemi emberi felügyelethez, és jogot ad a magyarázathoz annak, akit bizonyos automatizált döntések érintenek. Nem vagyok meggyőződve arról, hogy a képesség önmagában teljesíti ezt az elvárást. Semmilyen természeti törvény nem mondja ki, hogy egy erősebb modell egyben világosabb is.

Tegyük fel a legjobb esetet, amelyben mindegyik döntés a javunkra válik, egyénként és társadalomként is. Akkor is egyre nehezebb lesz megérteni, mi történt az imént. Látni fogjuk a következményeket a mechanizmus nélkül, ami pontosan a görögök helyzete volt a nappal szemben: hálásak a fényért, jóllakva a terméstől, amelyet felnevelt, de számot adni nem tudtak róla. Ennek egy enyhébb változatában már most is élünk. A legtöbben nem tudják elmagyarázni, hogyan hozzák létre a fúziós reakciók a napból hozzánk érkező fényt, pedig megvan hozzá a tudományos alapunk. Az újdonság az, hogy a szakemberek is elérik a maguk határát, előbb gyakorlatit és, remélem, sosem elméletit.

Magára hagyva ez a babona receptje, nagy léptékben. A szabályszerűségek ott lesznek továbbra is, mintázatok a térben és mintázatok az időben, és úgy fogjuk magyarázni őket, ahogy mindig is szoktuk, amikor hiányzik a mechanizmus, vagyis rosszul, aztán a magyarázat szerint cselekszünk.

Nem hiszem, hogy ezt el kell fogadnunk, és nem hiszem, hogy kényszerülnénk rá. A válasz az, hogy ragaszkodunk a világ magyarázhatóságához, és magát az MI-t használjuk a magyarázat eszközéül. Semmi nem követeli meg, hogy a világról szóló számadást segítség nélküli emberi elme állítsa elő. Azt követeli meg, hogy a számadás létezzék, ellenőrizhető legyen, és olyasvalaki birtokolja, akivel vitatkozni lehet. Az értelmezhetőség gépi léptékű kutatási probléma, ami jó problémává teszi a gépek számára. Abból, hogy egy rendszer olyat tesz, amire ember nem képes, nem következik, hogy nem adható számot arról, amit tett. Abból az következik, hogy ugyanazokkal az eszközökkel kell felépíteni a számadást, amelyek a képességet felépítették.

Ez a különbség választ el két szót, amely ugyanonnan indul. A modern, amelyet kedvelek, és amely több figyelmet érdemelne, a hiperstíció. A kilencvenes évek brit elméletéből származik, ahol azokat a fikciókat jelölte, amelyek maguktól valóra válnak. A babona és a hiperstíció egyaránt abból a kívánságból indul, hogy egy mintázat olyan jelentést hordozzon, amilyet még nem hordoz. A babona ott megáll, és olvassa a világot. A hiperstíció cselekszik, és a cselekvés az, ami a kívánságot ténnyé változtatja. A meggyőződés hamis volt, amikor megszületett, és igaz utána, mert a fenntartása megváltoztatta azt, ami történt.

Sok minden, amiben élünk, így működik. A pénz a legegyszerűbb eset: történet az értékről, amely igazzá válik, ha elegen cselekszenek szerinte, és hamissá abban a pillanatban, amikor abbahagyják. Egy cég valami nem létező leírásaként indul, és azzá válik, amit leír, mert az emberek a küldetése erejében bízva vesznek fel munkatársat, építenek és vásárolnak. Mindkettő olyan kívánság, amely szerint addig cselekedtek, amíg a valóság alkalmazkodott.

Ebben hamarosan sokkal jobbak leszünk, mert a valami akarása és a megcsinálásának képessége közötti távolság összezsugorodik. A tervezni, írni, tárgyalni és végrehajtani képes eszközök évekről órákra rövidítik a kívánság és a megvalósulása közötti szakaszt, és sokkal több ember számára teszik ezt, mint ahánynak valaha is ilyen hatalma volt. A valóság akaratunk szerinti alakítása megszűnik metafora lenni, és hétköznapi művelet lesz, bárki számára elérhető, akinek elég világos elképzelése van.

A veszély régi és jól dokumentált. Minden kultúrának megvan a maga története a pontosan úgy teljesített kívánságról, ahogyan kimondták. Jól kívánni készség, és ezen a léptéken inkább politikai kérdés, mint személyes. A rosszul kívánás elleni védelem az, hogy utólag ellenőrizni tudjuk, mit tett a kívánság. Ez az érv amellett, hogy a világot magyarázhatónak tartsuk meg, miközben megszerezzük az átformálásának hatalmát. Az a világ, amelyet akarni tudunk, de olvasni nem, olyan világ, amelyben a hibáink pontosan úgy néznek ki, mint a sikereink, egészen addig, amíg már késő megkülönböztetni őket.

A babona olvas egy mintázatot, és engedelmeskedik neki. A hiperstíció megnevezi, amit akar, és aztán megépíti. Az alatta lévő képesség ugyanaz, és ugyanaz a tévedés kockázata is. Az választja el őket, hogy elvégezzük-e a kiderítés munkáját.