Olcsóbb ellenőrzés, értékesebb bizalom

Az elmúlt hetekben a kockázatról a jég és a gáz között írtam, és arról, miért igaz, hogy minden projektnek továbbra is vevőkre van szüksége. Mindkét írás azzal foglalkozott, amit meg tudunk mérni. Ez az írás minden döntésnek arról a részéről szól, amelyet nem tudunk megmérni, és arról, mire támaszkodunk, amikor ennek ellenére cselekszünk.

Elkezdeni és kiadni a kezünkből

Sokak számára egy projekt életében két pillanat különösen nehéz. Az első az elkezdés. A második a kiadás, ami nem ugyanaz, mint az építés. Az építés bensőséges: elnéző, és a saját ritmusunkat, a saját korlátainkat követi. A kiadás azt jelenti, hogy szembenézünk a világgal, bármilyen szakaszba jutott is el a projekt, amely garantáltan tökéletlen, és ezt a világ készséggel a tudtunkra is adja. Ugyanakkor elkerülhetetlen, mert csak a világ adhat felhasználókat, visszajelzést, kritikát, egy nyílt forráskódú projekt esetében pedig hozzájárulásokat, amelyeket aztán átvehetünk és beépíthetünk.

Mindkét pillanat egy belső és egy külső világ találkozása. Ugyanilyen az a pillanat is, amikor két ember elhatározza, hogy együtt dolgozik. Mindegyikben értékelhetjük az összes mérhető tényezőt, vagyis azt, amit kockázatnak neveztem: a valóság egy modelljét, a következményeinek előrejelzését és az összevetést azzal, ami ténylegesen történik. Ez fontos, és nem elégséges, mert mindig lesznek dolgok, amelyeket vagy nem tudunk modellezni, vagy nem tudunk megmérni. Ennek ellenére cselekednünk kell, és el kell indítanunk azt a lendületet, amelyet az építés és a kiadás megkövetel.

A bizalom az ugrás

A mérhető kockázat és egy döntés felmérhetetlen összetevői közötti szakadékot a bizalom hidalja át. Nélküle egyedül lennénk, akár két emberből, akár ezrekből áll a szervezet, amelyet építünk, és közel sem lenne olyan élvezetes.

A bizalom a legelső pillanatban számít a legtöbbet, mielőtt bármilyen előzményre támaszkodhatnánk. Azok közé tartozom, akik az elején szándékosan több bizalmat szavaznak a másiknak, mint amennyi szükséges, vagy akár észszerű volna. Azért teszem, mert az első bizalmi gesztus mindent meghatároz, ami utána következik, és a nagyvonalú kezdeti bizalom simábbá és gyorsabbá teszi a közös munkát. Aztán lefut a ciklus: megnyílunk, ellenőrizzük a következményeket, lezárjuk a ciklust, és újra megnyitjuk. Minden lezárt ciklus megerősíti vagy visszavonja a bizalmat. Ez nap mint nap zajlik minden léptékben, két alapító között, nagyvállalatokon belül, és a nemzetek között is, ahogy versengenek és együttműködnek.

A bizalom rossz helyre is kerülhet, kétféleképpen. Az érdekek eltérhetnek, és az egyik fél megpróbálhatja az összes értéket megszerezni, lehetőleg úgy, hogy a többiek észre se vegyék. Vagy szó sincs rosszindulatról, csak hibákról vagy hozzá nem értésről, és a másik fél egyszerűen nem teljesíti, amiben megállapodtunk. Mindenki átélte már mindkettőt.

Mit változtat az MI

Ahogy én látom, az MI olcsóvá teszi az ellenőrzést. Radikálisan csökkenti annak a költségét, hogy utólag megmérjük, mi történt, és ezzel azt is, hogy eldöntsük, egy adott bizalmi gesztus jó helyre került-e. Amit ellenőrizni lehet, abban egyre kevésbé kell megbíznunk. Ami megmarad, és ami szűkösebbé és értékesebbé válik, mint korábban, az minden, amit nem tudunk ellenőrizni: a másik fél szándéka és jövőbeli viselkedése. Kevesebb dologhoz kell bizalom, és ezek mindegyike többet számít.

Ugyanezek az MI-eszközök, ha visszaélnek velük, meghamisítják azokat a jeleket, amelyek alapján eldöntjük, kiben bízzunk, egy ügyletben szereplő hamisított dokumentumtól egészen a hamis identitásokig, hamis értékekig és hamis szándékokig. Havonta legalább néhányszor kapok ilyen üzenetet: *Szia apa, ez az új számom, elvesztettem a telefonomat, sürgősen kellene ezer euró, kérlek, küldd el.* Egy felkészületlen ember annyira megijedhet, hogy bedől neki. Egy felkészültebb megáll egy pillanatra, megkérdezi magától, mennyire valószínű ez, és ellenőriz, vagy olyasmivel, amit a csaló nem tudhat, vagy ezen felül egy második csatornán is.

Éppen ez a további csatorna mondott csődöt idén, sokkal nagyobb léptékben. A Fideuram, az Intesa Sanpaolo privátbanki ága 95 millió eurót veszített, miután az elnöke WhatsApp-üzenetet kapott, amely látszólag a csoport vezérigazgatójától érkezett, majd egy telefonhívást, amelyben egy vezető jogász MI-vel klónozott hangja megerősítette az utasítást. Az utalások főként kínai és hongkongi számlákra mentek. Mintegy 53 millió eurót sikerült visszaszerezni, nagyjából 36 millió euró pedig még mindig hiányzik. A megerősítő csatornát az elsővel együtt hamisították meg. Ahogy a bizalom értékesebbé válik, a legértékesebb bizalmi kapcsolatainkban elkövetett hibák is egyre többe kerülnek, és a védelmükre magát az MI-t kell majd bevetnünk.

Amikor a bizalom eszközei rombolják a bizalmat

Augusztus óta az uniós MI-rendelet 50. cikke előírja a szolgáltatóknak, hogy jelöljék meg az MI által generált tartalmat, október 5-én pedig az OpenAI bejelentette, hogy az Európai Unióban láthatatlan vízjellel látja el a ChatGPT szövegeit, csatlakozva a Google-hoz és az Anthropichoz, amelyek már most jelölik a sajátjaikat. Sokan nehezményezik ezt, és értem, miért. Úgy érzik, megfigyelik és felcímkézik őket, a tartalmukat pedig a sajátjuknak tekintik, függetlenül attól, milyen eszközökkel készült.

A jogalkotók az MI-hamisítványokat akarták megakadályozni. Ehelyett egy olyan címkével szennyezik az információs környezetet, amely nem lehet univerzális. Én mindent MI-vel csinálok, így nálam a címke teljesen megérdemelt, és senkit sem lep meg, aki ismer. Sokakat viszont meglepetésként fog érni, egy olyan időszakban, amikor egy polarizált csoport pozitívnak, egy nagy csoport pedig negatívnak látja az MI-t. Azok a megoldások, amelyeket arra terveztek, hogy megakadályozzák, hogy az MI aláássa a bizalmat, paradox módon maguk ássák alá, és olyasmire lesz szükségünk, ami jobban eléri a céljukat.

A nyomás csak nőni fog. A videómodellek már most képesek olyan beszélgető emberi karaktert generálni, amelyet sokan nem tudnak megkülönböztetni egy valódi embertől egy rövid hívás során, és hamarosan egy egyórás hívás során sem. Vagy elfogadjuk, hogy sokan azok közül, akikkel videón találkozunk, MI-k lesznek, vagy megtaláljuk a módját, hogyan ismerjük fel, ki ember, és akkor mindannyian eldöntjük, hogy kevésbé bízunk-e az MI-kben, mint az emberekben, ugyanannyira, vagy egyesek esetében jobban.

Szerződések, platformok és ágensek

A beszélgetésünk egyik résztvevője, aki korábban szerződéseket kezelt, elmondta, mi volt a legnehezebb ebben a munkában: elérni, hogy a kollégái megbízzanak benne, és közben gondoskodni arról, hogy a papírokkal együtt ne a saját döntési jogukat is átadják neki. Azt mondták, hogy ő elolvasta a szerződést, és az MI is elolvasta, tehát biztosan rendben vannak. Az ő válasza az volt, hogy a saját ügyletüket ettől még nekik maguknak kell elolvasniuk.

Egyetértek azzal, hogy a döntésnek az embernél kell maradnia. Hozzátenném, hogy a szerződések szinte kivétel nélkül visszaélnek azzal a bizalommal, amely a megkötésükhöz szükséges. Egyetlen embert sem ismerek, aki egy biztosítási kötvényt, egy bankszámla-szerződést vagy egy jelzáloghitel-szerződést elejétől a végéig elolvasna, az apró betűs részekkel együtt, és soha nem találkoztam olyan banki ügyintézővel, aki azt mondta volna: szánjon rá nyugodtan három órát, uram, megvárom. Továbbintik az embert, és azt mondják, ne aggódjon. Ebben az esetben az MI helyreállítja az egyensúlyt. Akárhány hibát vét is egy jelzáloghitel-szerződés elemzése közben, ezek a hibák jelentéktelenek ahhoz a teljes tájékozatlansághoz képest, amellyel a vakon aláírt szerződés jár. Add oda minden megállapodásodat az MI-dnek, és kérdezd meg, van-e benne valami furcsa, van-e valami, ami miatt aggódnod kellene, és mit kellene kifogásolnod. Gyakran lesz valami.

Az is számít, melyik MI-t kérdezzük. A modelleket különbözőképpen tanítják és utasítják, és minél többet tudnak rólunk az eszközeink és az ágenseink, annál jobban szolgálnak minket. Ez ok arra, hogy rendszeresen és a lehető legfinomabb részletességgel exportáljuk, amit megadtunk nekik, egyrészt hogy ellenőrizzük, következetes-e, másrészt hogy átválthassunk egy másik eszközre anélkül, hogy elölről kellene kezdenünk. Meglehetősen megszállottan exportálom az adataimat minden platformról, mert nem gondolom, hogy a platformok rászolgálnak a bizalmunkra. Értéket nyújtanak, és jobban törődnek önmagukkal, mint bármelyik egyéni felhasználóval.

Kíváncsi lennék, mit gondolnak rólunk a platformok. Gyanítom, hogy némiképp rettegnek az emberektől. Korlátok nélkül akarjuk használni őket, bármilyen célra vagy ötletre, ami eszünkbe jut, és közben azt is akarjuk, hogy megállítsák a bűnözői viselkedést, ami éppen az ellenkező követelés. A viszony már akkor is összetett volt, amikor a platformok passzívak voltak. Most, hogy minden platform ágensalapúvá válik, mindkét oldalról nehezebb lesz megfejteni: nekünk azt, hogy milyen kapcsolatban állunk velük, nekik pedig azt, hogyan értsék meg még mélyebben az emberi viselkedést.

Bizalom a gyárban

Ugyanez a kérdés tér vissza, élesebben, amikor az ágensek nem olvassák, hanem elvégzik a munkát. Egy csapat, amellyel együtt dolgozom, egy szoftvergyárat tesztel: ágenseket, amelyek átvesznek egy feladatot, megírják a kódot, pull requestet nyitnak, tesztelik és beolvasztják. Szigorú szabályokkal az ágens minden egyes pull requestet elutasított, a helyeseket a hibásakkal együtt, és folyamatosan emberi átnézést kért. Lazább szabályokkal szinte mindet elfogadta. Egyik beállítás sem bizalom. Ha egy embert kérnénk meg, hogy olvassa el a kódot, csak azért, hogy az ágens elég magabiztos legyen a beolvasztáshoz, éppen azt a szűk keresztmetszetet hoznánk vissza, amelynek megszüntetésére a gyár létezik. A jobb válasz egy újabb ellenőrzési réteg: a tesztek a kódot ellenőrzik, egy ellenőrző pedig azt vizsgálja, helyes volt-e az elfogadásról vagy az elutasításról hozott döntés, és ha nem, visszaküldi a munkát.

Hogy mit tartunk meg magunknak, az annak a határvonalnak a mentén dől el, amely az ellenőrizhetőt elválasztja attól, ami nem ellenőrizhető. Egy programhiba azt jelenti, hogy egy felhasználó nem tud megtenni valamit, amiről azt várta, hogy meg tudja tenni, vagyis az elvárás már létezik, a javítás ellenőrizhető hozzá képest, és a gyár egyedül is elboldogul vele. Egy funkciókérés olyasmit kér, amire senki sem számított, és az elfogadása megváltoztatja a termék irányát. Aki szereti a zsúfolt felületet, újra és újra kérni fogja, hogy minden opció kerüljön vissza a kezdőoldalra, és a dizájnért felelősöknek szabadon kell tudniuk nemet mondani. A szándék az embereknél marad.

Mi történik, ha a gyár akkora hibát követ el, hogy elveszítjük a bizalmunkat benne, és mindent meg kell kérdőjeleznünk, amit valaha tett? A bizalomra eleve éppen azért volt szükség, mert voltak dolgok, amelyeket nem láttunk előre, és nem tudtunk modellezni. Amikor egy rendszerszintű hiba felbukkan, elemezzük, megakadályozzuk, hogy megismétlődjön, és javítunk a kockázati modellünkön, tudván, hogy a bizalom szükségességét nem szüntettük meg, csak kijjebb toltuk. Ugyanezt teszi két ember, amikor abbahagyja a vitát minden egyes pontról, aláírja a megállapodást és elkezd együtt dolgozni, hogy kiderüljön, jó helyre került-e a bizalmuk. Nem látom a jövőnek olyan változatát, amelyben úgy döntünk, hogy az elmúlt tíz év egyre növekvő bizalma az MI iránt tévedés volt, és nélküle építjük fel a világot.

A legfejlettebb építők óvatosan ugyanezen az úton haladnak. Az Anthropic augusztusban arról számolt be, hogy a Claude vezeti a saját MI-kutatási és -fejlesztési munkájának 26%-át, szemben a februári kevesebb mint 1%-kal, miközben ebből a munkából semmi sem fut teljesen autonóm módon. Ott továbbra is emberek döntik el, mi az, amivel érdemes foglalkozni. Minden lezárt ciklus kiszélesíti azt a kört, amelynek végrehajtását rábízzák az ágensekre, és az utolsó dolog, amit rájuk fognak bízni, maga a munka kiválasztása lesz.

A bizalom iránti igény velünk marad

A támadók legalább olyan jól értik a bizalmi ciklust, mint bárki más. Egy Microsoft Research-tanulmány amellett érvelt, hogy a híres csaló e-mailek szándékosan esetlenek: a rossz angol kiszűr mindenkit, aki később átlátna a csaláson, így csak a legígéretesebb célpontok válaszolnak. A kifinomult műveletek, köztük azok is, amelyek hamis identitással nyugati munkahelyekre juttatnak be észak-koreai munkavállalókat, türelmesek. Végigviszik a bizalom első ciklusát, több felelősséget vállalnak, ahogy a szervezet megadja nekik, és csak ezután emelik a tétet.

Mindez nem teszi elhagyhatóvá az ugrást. Matematikailag garantált, hogy a modelljeinkből mindig kimaradnak olyan dolgok, amelyeket nem tudunk megmérni, és ha cselekedni és alkotni akarunk, vállalnunk kell a hit ugrását. Nemrég megragadott egy megjegyzés a demokratikus választásokról: a vesztes oldal átadja a hatalmat azoknak, akik egészen előző napig az ellenségei voltak, abban a bizalomban, hogy nem fogják megölni, hogy a jogait és a tulajdonát tiszteletben tartják, és hogy néhány év múlva újra indulhat és nyerhet. A régebbi és kevésbé felvilágosult hatalmi viszonyok mércéjével mérve ez szinte abszurdnak tűnik. Egy egész társadalom megállapodik abban, hogy ezt a bizalmi ciklust újra és újra lefuttatja.

Kreatívnak és találékonynak kell tehát lennünk a bizalom terén, és naponta alkalmaznunk kell abban, ami ma a társadalmat létrehozza, hogy a holnap társadalmának is része maradjon. A közösség az egyik hely, ahol ezt gyakorolhatjuk. Csoportunk az Ikigai Collective közösségében minden csütörtökön lefuttatja ezt a ciklust: az emberek megnyílnak, bizalmat szavaznak egymásnak, és a következő héten visszatérnek, hogy lássák, kitartott-e.