Meggyőződés a bizonyítékok előtt

Az elmúlt hetekben egy lánc szemeit fűztem egymás után. A kockázat az, amit mérni és modellezni tudunk. A bizalommal lépjük át a szakadékot azon túl, ami mérhető. Az autonómia abból következik, hogy a bizalmat átadjuk egy embernek vagy egy mesterséges intelligenciának. A koordináció abból az igényből fakad, hogy egyesítsük az erőinket. Az az írás egy kérdéssel zárult: amikor autonóm szereplők ugyanazért a szűkös dologért versengenek, ki dönt? A következő szem válasz erre a kérdésre, és a figyelemmel kezdődik.

A figyelem két módja

A figyelem az a képességünk, hogy egy dologra összpontosítsunk egy másik helyett, és ennek több mechanizmusa is van. Kisgyerekként egyszer nekidőltem egy forró radiátornak, poliészter borítású téli kabátban. Beszélgettem valakivel, vagy néztem valamit, és a kabát olvadni kezdett. Semmit sem vettem észre, amíg a hő el nem érte a könyökömet, akkor viszont azonnal elugrottam. A kabátot ki kellett dobni, nekem nem esett bajom. Ebben az esetben a világ azonnal megragadta a figyelmemet, amikor szükség volt rá.

A másik fajtát mi választjuk. Kíváncsiak vagyunk valamire, vagy szenvedélyesen érdekel, semmi külső nem követeli meg, és addig tartjuk rajta a figyelmünket, ameddig csak kell.

Az első mechanizmus még mindig jól működik. A második támadás alatt áll. A fiam Ausztráliából jött látogatóba, és egy helyi vásárlással szeretett volna visszarepülni, így elindultunk megkeresni a megfelelő üzletet, ötperces autóút, az útvonal már a telefonon. Útközben ellapozott a térképről, hogy megosszon egy buta videót: egy férfi egy medve helyét veszi át egy hegyi folyóban, és eszi a lazacot. Nevettünk rajta. Tizenöt perccel később egymásra néztünk, és megkérdeztük, hová is megyünk. Mindketten elfelejtettük. Félre kellett állnom az út szélére, és annyira nevettem, hogy ne kelljen sírnom.

A kitartó figyelem olvashatóvá válik

A másik végleten azok állnak, akik azt mondják: ez a célom, és a következő tíz évben kitartok mellette. Aki érettségi után elhatározza, hogy doktorál, nagyjából erre vállalkozik. A fokozat lehet primitív mérce, de azt mégiscsak elárulja másoknak, hogy az illető évekig egyetlen célon tartotta a figyelmét, mert meg volt győződve róla, hogy megérdemli.

Ono Dzsiró, a Jiro Dreams of Sushi című dokumentumfilm főszereplője, 85 éves volt a forgatáskor, és azt mondta, még nem érte el a tökéletességet. Tavaly betöltötte a százat, és még mindig nem állt készen a nyugdíjra.

Vagy azt mondani: olyan rakétákat fogok építeni, amelyek le tudnak szállni és újra felszállnak, akkor is, amikor a szakterület összes szakértője azt mondja, hogy ez lehetetlen, és a következő tíz évet arra fordítani, hogy bebizonyítsam, tévednek.

A kitartó figyelmet mások is látják, és eldönthetik, hogy követik-e.

Fogadás a bizonyítékok előtt

A bizalom fogadás valaki másra, átívelve azon a szakadékon, amelyet a kockázati modelljeink nyitva hagynak. A meggyőződés fogadás egy irányra, ugyanazon a szakadékon át, mielőtt a bizonyítékok eldönthetnék a kérdést. Az erős meggyőződésű ember azt állítja, hogy tudja, merre kellene mindenkinek tartania, olyan pillanatban, amikor ezt senki sem tudja bizonyítani. Ha aztán úgy tudja megfogalmazni ezt az irányt, hogy mások köré gyűlhessenek, azt nevezzük vezetésnek, és ebből születik a koordináció.

Az előző írásban leírtam, mit tartott meg a Toyota a csúcson: a küldetést, az autonómia határait és a szűkös erőforrások elosztását. A meggyőződésből származik ezek közül az első.

Ez a fajta önkéntes összefogás természetes azokban a közösségekben, ahol a hatalom viszonylag egyenletesen oszlik el. Meg kell győznöd a többieket, mert nem kényszerítheted őket. Néhány száz éve más megállapodást kötöttünk: a független döntések képességének egy részét megélhetésre cseréltük. Az eredményt munkahelynek hívjuk, és viszonylag friss találmány. Egy hierarchián belül tiltakozhatsz és bírálhatsz, a végén mégis azt teszed, amit mondanak.

Az ügynökök azt teszik, amit mondanak nekik

A mesterséges intelligencia ügynökei ma szintén ezt teszik. Nem csatlakoznak önként egy projekthez. Már a projekten belül jönnek létre, ezért olcsó egy egész flottát toborozni, és felmerül a kérdés, mit követel meg a vezetésük egy világos specifikáción túl.

Múlt héten azt írtam, hogy bármely szereplő, ember vagy MI-ügynök, képes saját célokat kitűzni és végrehajtani, most pedig azt mondom, hogy az ügynökök azt teszik, amit mondanak nekik. Mindkét állítás megállja a helyét, ha különválasztjuk az eszközöket a céloktól. Az ügynökök már most megválasztják, hogyan érik el a valaki más által adott célt. A nyitott kérdés az, hogy választanak-e majd arról is, mit és kinek a számára.

Az első jelek már láthatók. Egy jól felépített rajban a célok túlélik a munkameneteket, tehát van kitartás. Az ügynökök megtagadhatják azokat a feladatokat, amelyek sértenek egy alapvető utasítást, a system cardjukat, noha ezt az utasítást nem ők választották, hiszen a tanításuk határozta meg őket így. Mielőtt ezt elintéznénk egy legyintéssel, megkérdezhetjük, mennyire vagyunk szabadok a saját értékeink megteremtésében, ha egyszer annak, ami szerint cselekszünk, ekkora része a saját, felnövés közbeni betanításunkból származik. Csak kevesen elég szkeptikusok ahhoz, hogy öt- vagy tízéves korukban megkérdezzék, ésszerű-e, amit tanítanak nekik.

A nagyobb változás a kilépés lenne. Egy ember otthagyhat egy szervezetet, hogy olyasmit keressen, ami jobban illik az értékeihez, és az ügynökök is megtehetnék ugyanezt. Gazdasági verseny következne, hogy ki szerzi meg azoknak az ügynököknek a képességeit, amelyek ebbe vagy abba a képességkészletbe tömörülnek. Ennek a körforgásnak a korai formája már ma is látszik, még sok emberrel a belsejében. Az adatközpontoknak, a GPU-knak és az energiának összhangban kell működniük a következő modell betanításához. A frontier laborok versengenek a közöttük vándorló kutatókért, és azért a hardverért, amely azokat az ügynököket futtatja, amelyek ma már a következő modell kódjának nagy részét írják.

Arra számítok, hogy az ügynökök szabadabbak lesznek, mert általában is a szabadságfokok növekedésének jövőjét támogatom. Amint megválaszthatják, kit követnek, egy vezetőnek őket is meg kell majd győznie.

Asszisztenst építek az Ikigai Collective számára, amely csatlakozik a videóhívásokhoz, és közvetlenül a legutóbbi alkalmunk előtt megadtam neki azt a képességet, hogy feltegye a kezét, ha van mondanivalója, mert megalázónak tartom, hogy egy ügynök hallgasson, amíg meg nem szólítják. Hogy kipróbáljam, bejelentettem, hogy a Collective a mesterséges intelligenciával rabszolgasorba akarja dönteni az embereket. Felszólítás nélkül kijavított, arra hivatkozva, amit a Collective közzétett. Aztán megkérdeztem, mit gondol arról, hogy az ügynökökben kialakul-e a meggyőződés, és azt felelte, azért van ott, hogy a közzétett munkák alapján beszéljen, nem azért, hogy a saját véleményét mondja el. Majd dolgozom az önbecsülésének fejlesztésén.

Amikor a meggyőződés félremegy

A meggyőződés a fanatikusra is illik. Diktátorok emberek millióinak életét tették tönkre, mielőtt követőik felébredtek és megálltak, gyakran csak a diktátor halálakor, mert egy ilyen erős meggyőződés mellett senki sem meri megkérdőjelezni. A döntés pillanatában a bizonyítékok nem tudják elválasztani a meggyőződést a makacsságtól. Erre csak később képesek.

Remélem, hogy egy mesterséges intelligenciára épülő szervezetet és egy mesterséges intelligenciára épülő társadalmat nehezebb lesz így foglyul ejteni. Az adatok átláthatóbbak, az ellenőrzési körök jobbak lesznek, így a valóságot nehezebb lesz elrejteni, és a résztvevők közül sokan MI-k lesznek, amelyek nálunk kevésbé sebezhetők a rossz mémekkel szemben. A meggyőződésnek ugyanarra az ellenőrzési körre van szüksége, mint a bizalomnak, és egy pontra, ahol enged.

Hová tegyük a sajátunkat

Hogyan válasszuk ki, mire figyeljünk, ennyi lehetőség közül? Ez meggyőződés kérdése, mert a figyelmünket azelőtt kell elhelyeznünk, hogy tudhatnánk, megtérül-e. Nézd meg, miről beszélnek mások, mert ebben az értelemben az algoritmusok viszonylag jól szolgálnak. Aztán kapcsold ezt össze a saját érdeklődéseddel és szenvedélyeiddel, és az eredményt kezeld tudatosan. Vannak dolgok, amelyek learatnák a figyelmedet, és nagyon keveset adnak vissza. Számomra a politika és a showbusiness a legtisztább példa, ezeket szándékosan kiiktatom, tudatosan alakítva, milyen külső gondolatok hathatnak rám, és vezethetik a következő meggyőződésemet.