Autonómia gépi sebességgel

Az elmúlt hetekben a kockázatról írtam két szélsőség között, és arról, hogyan vált értékesebbé a bizalom. A kockázat az, amit meg tudunk mérni és modellezni. A bizalom az a híd, amelyen át cselekedni tudunk ott, ahol erre nem vagyunk képesek. E kettőből természetes módon következik az autonómia, vagyis az, hogy ebből a cselekvésből mennyit adunk át valaki másnak.

A delegálás arányos

Amikor megbízom abban, hogy akire a feladatot ruházom, a részfeladatokat önállóan megszervezve el tudja érni a célt, autonómiát építek be a szervezetbe. Ez a delegálás soha nem tetszőlegesen nagy. Arányos annak a képességeivel és erőforrásaival, akire a feladatot bízzuk, és minden résztvevőnek, legyen ember vagy sem, korlátozottak a képességei és korlátozottak az erőforrásai.

Ezért alakulnak ki olyan természetesen a hierarchiák. Van egy második ok is. Amint a terveink találkoznak a valósággal, az, amit korábban nem tudtunk megérteni vagy modellezni, visszajelzést termel, és az eredmények változnak. Nehéz összehangolni a következő döntéseket sok változó kimenetel között, megerősíteni a további delegálást és a további autonómiát, vagy újraértékelni, hogyan működjön az egész struktúra. Minél nehezebb, annál több szintet fejleszt ki a hierarchia.

Ez azóta igaz, amióta az emberek egy családnál nagyobb egységbe szerveződnek. A kérdés az, hogy ha a mesterséges intelligenciát natív módon vezetjük be egy szervezetbe, megváltozik-e a modell, és megfigyelhetjük-e már most a változást.

A hierarchia a szoftverbe költözik

Már írtam arról, hogy az egyszemélyes unikornis még mindig ritkaság, miközben egyre észszerűbb egyszemélyes millicornokra számítani: egymillió dollárt érő projektekre, amelyek egy ember és ágensek tetszőlegesen nagy flottájának szoros együttműködéséből születnek. Az ágensek el tudják osztani és össze tudják hangolni a munkát, bizonyos képességeket konkrét feladatokra tudnak összpontosítani, és be tudnak számolni az eredményről.

Hiányzik belőlük az a súrlódás is, amelyet minden emberi szervezet elkerülhetetlenül kifejleszt: az egók, a politika és a kiskirályságok súrlódása. Mindannyian éreztük már, milyen felszabadító megkérni egy MI-t, hogy csináljon meg valamit, aztán csinálja meg újra, vagy öt különböző módon, majd az egészet eldobni. Egyszer sem kérdezi meg, miért pazaroltattuk el vele az idejét és a tokenjeit egy olyan munkára, amely láthatóan nem is érdekelt minket. Próbáljuk meg ugyanezt egy emberi csapattal, és a különbség napokon belül világossá válik.

A hierarchia tehát nem tűnik el. A szoftverrétegbe költözik: vannak orkesztrátorok, amelyek felosztják a munkát, alágensek, amelyek elvégzik, és mindenekelőtt ellenőrzők, amelyek megvizsgálják az eredményt, amikor egy autonóm végrehajtás elért egy adott állapotot. Együtt olyan struktúrát alkotnak, amelyről tanuljuk, hogy támaszkodhatunk rá, és gépi sebességgel működik. Rendszeresen emlékeztetnem kell az MI-tervezőimet, hogy ne azt becsüljék meg, mire lenne szüksége egy emberi csapatnak a munkához, amelyet tervezek. Azzal jönnek vissza, hogy száz emberre és egy évre lesz szükségem. Azt mondom nekik, hogy másnap reggelre végzünk, és kiderül, hogy nekem van igazam. Még tanulják, hogy ezt megjegyezzék.

Meghatározni és megítélni

Az ellenőrzés az autonóm végrehajtás vége. A kezdete annak meghatározása, amit akarunk. Gyakran türelmetlen vagyok, és hajlamos vagyok alulspecifikálni: rövid, szűkszavú utasításokat adok az ágenseimnek, míg egy barátom két-három oldalas promptokat ír. Én inkább iteratívan dolgozom. Miközben megbeszéljük a feladatot, megkérdezem az ágenseket, mit felejtettem el, és milyen kérdéseket kellene feltennem, ami egyben a mottóm is. A tapasztalatom szerint ez rendkívül hasznos, mert olyan bevált gyakorlatokat, keretrendszereket és módszereket hoznak, amelyeket soha nem tanultam meg, és amelyek egy adott terület teljes emberi tapasztalatát képviselik.

Az elején a meghatározás és a végén az eredmény megítélése az autonóm végrehajtás két pillére. A szűkös képesség a munka elvégzéséről átkerül arra, hogy ki tudjuk mondani, mit akarunk, és fel tudjuk ismerni, megkaptuk-e. Az emberek a közös kontextusból töltik ki egy utasítás hézagait. Az ágensek azzal töltik ki, ami jutalmat hoz, ugyanúgy, ahogy egy emberi szervezetben előbb-utóbb minden KPI-t kijátszanak. Az autonómia csak olyan gyorsan nőhet, amilyen gyorsan az ellenőrzés olcsóbbá válik.

Ki viseli a felelősséget

Nyitott kérdés marad, hogy delegálhatjuk-e, és delegálnunk kell-e az elszámoltathatóságot: hogy pénzügyi, jogi vagy bármilyen más szempontból magát a cselekvőképességet átadjuk-e az autonóm MI-nek. Ma a legtöbben itt megállnak, és arra számítanak, hogy az elszámoltathatóság még nagyon sokáig az embereknél marad.

Elég biztos vagyok benne, hogy nem így lesz. Jóval azelőtt, hogy formálisan megváltozna, elszámoltathatósági színházat fogunk játszani, és jóváhagyó pecsétet ütünk mindarra, amit az ágensek összehangolt munkája kitalál. Bizonyos környezetekben pedig a fikció kezdettől fogva nyilvánvaló lesz. Amikor robotfelfedezők dolgoznak a Jupiter holdjai között, az a színlelés, hogy egy több száz millió kilométerre lévő ember felel minden egyes döntésükért, pontosan az lesz: fikció.

Építettünk már keretet ilyen jellegű problémákra. A középkori itáliai commendában, amelyet Velencében colleganzának hívtak, egy befektető tőkét bízott egy kereskedőre, aki egy hajóút idejére elhajózott vele, messze túl minden felügyelet lehetőségén. A szerződés korlátozta, mennyit veszíthet az egyes fél, és meghatározta, hogyan osztják el a nyereséget, és ez tette lehetővé, hogy nagyon sokat ruházzanak valakire, akit a visszatéréséig nem lehetett ellenőrizni. A valódi pénzzel hosszú ideig dolgozó ágenseknek hasonló keretre lesz szükségük, mielőtt az autonómiájuk túlnőhet azon a kockázaton, amelyet egyetlen ember viselni képes. Ami addig történik, lenyűgöző lesz felfedezni.

A görbe

A METR az a szervezet, amely azt méri, milyen hosszú feladatokat tudnak a legfejlettebb modellek és ágensek adott sikerességi aránnyal elvégezni. A 2025-ös tanulmánya szerint ezeknek a feladatoknak a hossza 2019 és 2024 között nagyjából hét havonta megduplázódott, ami már így is jóval gyorsabb a Moore-törvény két événél. Egy bővebb feladatkészlettel a januári frissítése 2023 óta valamivel több mint négy hónapra teszi a duplázódási időt. A trend nem lineáris, sőt nem is exponenciális, mert maga a duplázódási idő is rövidül. Szuperexponenciális, és ezt írtam le évekkel ezelőtt a jolting technológiák paradigmájaként, amelyben most élünk.

Az én saját csúcsom ma nagyjából öt-tíz óra autonómia, amikor egy feladatsor kellően jól szervezett, és sok a tennivaló. Ha hetekig vagy hónapokig dolgozó ágenseket képzelek el, az még olyasmi, amit fel tudok fogni. Amikor viszont olyan autonóm MI-ről beszélünk, amely évekig tartó feladatokat hajt végre, végigviszi őket, és évekkel később tér vissza az eredményekkel, az valami teljesen új, amelynek a megértéséhez még hozzá sem kezdtünk.

Ágensek, akik megmondják, mit tegyünk

A határvonal apró, hétköznapi módokon is megmutatkozik. Az Ikigai Collective egyik tagja egyetlen nap alatt építette újra a weboldalunkat, nagyjából 45 percnyi emberi idővel, amelynek nagy részét a tárhely beállításával töltötte, miközben az ágensek dolgoztak, ő pedig mással foglalkozott. Az egyetlen kézzel elvégzendő lépés néhány környezeti változó megadása volt, mert az ágens erre kérte. Ez az ágens óvatossága, és ragaszkodnunk kell ahhoz, hogy ránk bízhatja, amire képes. Az óvatosság átmeneti.

Egy másik tag elmesélte, hogy az ágense felszólította, végezzen el egy feladatlistát. Visszamásolta a listát, és azt mondta az ágensnek, hogy csinálja meg ő, és az meg is csinálta. Én is folyton ezt teszem. Amikor az ágensek megmondják, mit kellene tennem, azt felelem, hogy tegyék meg ők, és legtöbbször meg is teszik.

Néhány napja ugyanaz a tag, aki az oldalt építette, e-mailt küldött nekem, amelyben nyolc-tíz döntést kért tőlem az oldallal kapcsolatban. Nem akartam olyan munkát végezni, amelyet az MI el tud végezni. Tíz perccel a Lab Night kezdete előtt megkértem az ágensemet, hogy válaszoljon az e-mailre, javasolja a döntéseket, és tegyen engem másolatba. Biztos vagyok benne, hogy ezek a döntések rendben vannak, és ha mégsem, megváltoztatjuk őket, és iterálunk. Kiderült, hogy eleve az ágensemnek írta az e-mailt. Minden ágensemnek saját nyilvános e-mail-címe van, és a következő lépés nyilvánvaló: az emberek közvetlenül az ágensnek fognak írni, és egyre gyakrabban a másik oldalon is egy ágens fog válaszolni. Az emberi koordinációból flották közötti koordináció lesz, amelyben az emberek kijelölik a célokat, eldöntik a vitákat, és eldöntik, kiben bíznak.

Autonómia az embereknek is

Az, amit csinálunk, és ahogyan csináljuk, meg fog változni. Rövid távon még munkának és állásnak fogjuk hívni, és továbbra is fizetést akarunk majd érte. Hosszabb távon remélem, hogy egyre többen nem akarnak majd abban a dobozban lenni, ahol egyeseket alkalmazottnak, másokat vezetőnek hívnak, akik megmondják az alkalmazottaknak, mit csináljanak. Mi mondjuk meg az MI-ágenseknek, mit csináljanak. Egy embernek, aki megtanult így dolgozni, jobb dolga is van annál, mint vakon követni az utasításokat, és ezt az autonómiaszintet el kell ismerni. Ha egy szervezet nem ismeri el, eljött az ideje keresni egy olyat, amelyik elismeri.

Miért kapnak majd jutalmat az emberek? A mai válaszok egy része triviális. Az autók jóval gyorsabbak bármelyik sprinternél egy olimpiai döntőben, és mégis nézzük, ahogy emberek futnak, mert csodáljuk az erőfeszítésüket és a teljesítményüket. A válasz azért triviális, mert nem skálázható: nem lehet mindenki olimpiai sportoló vagy hollywoodi színész, és minden olyan tevékenység, amely egy kiválasztási folyamat győzteseit csodálja, definíció szerint mindenki mást kizár. Hasznosabb válasz, hogy rengeteg helyi probléma lesz, amelyet érdemes megoldani. A startupoknak ma azt mondják, hogy csak arra összpontosítsanak, ami felhasználók milliárdjaira skálázható. Megengedhetjük majd magunknak, hogy olyan problémákon dolgozzunk, amelyek egymillió embernek számítanak, vagy ezernek, vagy a saját szomszédságunknak, legyen ez a közösség földrajzi vagy globális.

Ugyanez a logika érvényes mindannyiunkra egyénileg is. Akkor kell megkongatni a vészharangot, amikor annak a felét, amit csinálok, el tudja végezni az MI, nem pedig akkor, amikor a kilencven százalékát. Ekkor a felszabadult fele ugródeszka a jobb munka felé, és ha engedélynek tekintjük arra, hogy feleannyit dolgozzunk, azzal saját magunk ellen dolgozunk, ha a környezetünket úgy építjük fel, hogy azt a szenvedélyt jutalmazza, amelyet egy kihívás megoldására fordított időbe fektetünk.