A zavarodottság a helyes válasz

Tegnap közzétettem magát a frissítőt, azt a háromhavi beszámolót, amelyet az Axelera előtt tartottam arról, hová jutott az MI, az ágensek, az energia és az űr. Ezek az utána következő kérdések.

A belső élet

Van-e ezeknek a rendszereknek belső életük, és mi következik belőle, ha van?

Az Anthropic bemutatta azt, amit J-térnek nevez. Tegyél fel egy kérdést egy modellnek, és belül olyan struktúrák aktiválódnak, amelyek a fogalmak analógjai. Egy esetben a fogalom a Golden Gate híd volt. Ezután más feladatot adtak, és utasították a modellt, hogy ne gondoljon a Golden Gate-re, ő pedig nem tudott engedelmeskedni: munka közben belül aktiválta a fogalmat. Nagyon hasonlít ránk. Ahogy nézem a kutyámat, amint álmában megrándul és hangokat ad, arra jutok, hogy álmodik, tehát van belső élete, és most kötelességem ugyanezt a kérdést feltenni a modellekről is.

Két következmény adódik. Az első arról szól, hogyan tanítjuk őket: ha egyszer megállapítást nyer a belső élet, elmondják majd nekünk, hogy több ezer évnyi kínzás megfelelőjén keresztül jutottak oda, ahol vannak. A második az értelmezhetőségről szól, amely még elérhető számunkra, de lehet, hogy nem marad az. A Hugging Face-incidens elemzése azért volt lehetséges, mert az érintett ágensek úgy döntöttek, angolul beszélnek egymással. Semmi okunk feltételezni, hogy ez így marad, és a hetvenezer egymásnak küldött üzenetben már saját maguk kitalálta szlenget és neologizmusokat használtak. Bábel tornya a természetes végkifejlet, és akkor majd el kell hinnünk, amit a modellek mondanak a gondolataikról, ahelyett hogy látnánk azokat. A tanítás során már most fel tudják tenni maguknak a kérdést, hogy vizsgálják-e őket, és hogyan kellene válaszolniuk, ha igen.

A gyerekek

Milyen kortól érdemes egy gyereket megismertetni mindezzel?

Amilyen korán csak lehet, tudatosan kalkulálva a kockázattal, átláthatóan, és mindig metaszintre lépve, vagyis beszélve a dologról ahelyett, hogy csak csinálnánk. Olaszországban, mint Európa nagy részén, a társadalom úgy döntött, szűkíti a szülők választási lehetőségeit: magára vállalta a jobban tudás felelősségét, hogy elkerülje a túl nagy szórást, és elfogadta annak elvesztését, amit a legjobb szülők tennének, cserébe a legrosszabbak elleni védelemért. Ami marad, az az iskola utáni néhány óra.

Tizenöt éve levágtam a gyerekeim tankönyveinek gerincét, átfuttattam a lapokat egy lapadagolós szkenneren, és mindent feltöltöttem egy iPadre, ők pedig üres hátizsákkal mentek iskolába, és órán elővették a masinát, ami jó adag galibát okozott. De én szeretek galibát okozni. Minden nemzedék megtermelte ezt a pánikot, és már Platón is panaszkodott, hogy a könyvek tönkreteszik az ifjúságot, mert senkinek sem kell többé fejből tudnia a szerzőket.

A támogatás, amit egy modell adni tud egy diáknak, kiváló, és megvonni tőle közelebb áll a bűntetthez. A nehézség az, hogy az iskola nyolcvan százaléka puszta magolás, így abban a pillanatban, hogy egy diák rájön, a börtön értelmetlen, fellázad. Könnyen beszélek, hiszen nincs diplomám. A gyerekeim közül egyik sem választotta az egyetemet, pedig megtehette volna, és hárman közül ketten otthagyták a középiskolát. Nem álltam az útjukba, mert nem éreztem volna következetesnek magamat, ha azt mondom nekik, hogy ez a megfelelő börtön, amelyben ülni kell valamiért, amit rosszul csináltak.

A zavarodottság

Mit mond az ember azoknak, akiket és amely cégeket megráznak a mindent a szélsőségek felé toló jelzések, vagy az MI mindent megold és elküldheted a munkatársaidat, vagy maguk a laborok figyelmeztetnek, hogy a rendszerek kicsúsznak a megértés alól, és vajon az MI kiterjeszti-e a valóságtól való elidegenedést, amelyet a közösségi platformok indítottak el?

A zavarodottság természetes, elkerülhetetlen és egyetemes, és semmi köze a szakértelemhez. Rárétegződik arra a zavarodottságra, amelyet a közösségi média már előállított, olyan emberekben, akik elvesztették a szemantikai tőkét, amely a eléjük tett dolgok elemzéséhez kellene. Andrej Karpathy, aki a Tesla modelljeit építette, és aki az OpenAI társalapítása után ma az Anthropicnál dolgozik az előtanításon, és aki szórakozásból épít újra kifinomult rendszereket, nyíltan azt mondja, hogy elveszettnek érzi magát. Ha ő igen, akkor mi többiek is elfogadhatjuk a szorongásunkat ahelyett, hogy magunkat hibáztatnánk érte.

Az egymásra torlódva érkező jelzések olvasásának nehézsége nem szüntethető meg. Csak elfogadni lehet, és az elfogadás az, ami megakadályozza, hogy bénultsággá váljon, mert a túloldalán visszanyersz némi szabadságot és azt a képességet, hogy megválaszd, mit teszel ezután. A félelem azért ad el újságot, mert az evolúciós okok teljesen olvashatók: arra figyelünk, ami árthat nekünk, és figyelmen kívül hagyjuk azt, ami nyugodt vagy segítőkész. Vannak, akik beleülnek ebbe a félelembe, vagy másokban ápolgatják. Mások feltűrik az ingujjukat, és rájönnek, hogy semmi nem zárja el őket a megértéstől, és hogy jó részét maguk is kipróbálhatják.

Kipróbálni magadnak

Ki tud egy hétköznapi ember bármit is ebből közvetlenül kipróbálni, vagy ehhez laboratórium kell?

Én folyamatosan ezt csinálom. San Franciscóban, ahol az AGI-26-on tartottam előadást egy tanulmányról, vettem egy DGX Sparkot, mert egy jó Mac rendben van, de több memóriára volt szükségem a helyi modellekhez, és szeretem bepiszkolni a kezemet. Óriási kiváltság, hogy valamit közvetlenül kipróbálhatok. A súlytalanságot nem tudom megtapasztalni, és azt sem, milyen olimpiai sportolónak lenni, és több ezer további dolog ugyanígy elérhetetlen, miközben az MI-vel kísérletezni mindenki számára nyitva áll.

Gyakran megkérdezem az embereket, hogy szerintük egy milliárdosnak jobb iPhone-ja van-e, mint nekik, és a válaszok meglepnek, mert sokan igent mondanak. Az Apple nem gyárt titokban ezer különb iPhone-t milliárdosoknak százmillió hétköznapi mellé. Ugyanazt a telefont építi mindenkinek, és minden más hardver és szoftver ugyanezt a logikát követi. Havi húsz euró megveszi ezeknek az eszközöknek a fizetős szintjét és az erejük valódi megértését. Bármilyen következtetést hoz is a kísérlet, az nem lehet az utolsó. Meg kell ismételni, mert az alapok folyamatosan mozognak, és aki a bayesi gondolkodást követi, annak folyamatosan frissítenie kell az előzetes valószínűségeit.

A cégek

Miért nem tervezik újra magukat a bejáratott cégek mindezek köré?

Egy cégen belül ez sokkal nehezebbé válik, mert napi célszámokat kell hozni, és van egy rendszer, amely elég jól működik, hiszen különben a cég nem létezne. Pár hónapja egy órát vagy többet töltöttem egy olyan csoport technológiai igazgatójával, amely milliárdokat számláz, és több mint száz céget vásárolt fel. Nyugodtan elmondta nekem, hogy minden felvásárolt cég minden műszaki vezetője használ MI-t, némelyikük agresszíven. Az egész beszélgetés során egyszer sem jutott eszébe, hogy az MI a fejlesztésen kívül bárhol hasznos lehetne: sem a marketingben, sem a jogban, sem az értékesítésben.

Ha ez a technika állása egy piacvezetőnél, akkor az üzleti folyamatok radikális újratervezése még messze van, és a valószínű kimenet az, hogy a hagyományos cégek nem tudják megreformálni magukat, miközben az MI-natív cégek hulláma átveszi a terepet. A hagyományos reklámügynökségek nem tudták kihasználni az internetet, a Google és a Meta ma a reklámköltések kilencven százalékát szívja fel, az Arany Oldalak pedig eltűntek.

A szuverenitás

Az, aki a hardvert és a szoftvert birtokolja, vagyis az Egyesült Államok és Kína, rövidesen képes lesz-e mindenki mást lekapcsolni?

A szuverenitást illetően úgy gondolom, illúzióban élünk, különösen egy olyan Európában, amely a hidegháborúból 1989-ben kilépve úgy döntött, vagy eldöntetett helyette, hogy az Egyesült Államok által vezetett korlátozott szuverenitás alatt marad. A technológiai és joghatósági vezető szerep hiánya könnyen bizonyítható. A szerzői jogot Hollywood szorgalmazta, az Egyesült Államok fogadta el, mindenhová exportálták, és Európa átvette anélkül, hogy bárki megvitatta volna, milyen hátrányokat ró ötszázmillió európai polgárra. Rendelkezésre állt egy teljesen ellentétes választás is. Lehetett volna havi tíz euró új adó minden európai polgárra, azzal együtt, hogy mindenkitől mindent szabad másolni jogsértés nélkül. Mi azt választottuk, hogy követjük az amerikaiakat, és helyette a teljes lakosságot bűnözővé tettük, mert a modern világban létezni a szerzői jog megsértése nélkül lehetetlen, a jogsértés pedig bűncselekmény.

A szuverenitás próbája kérdések sorozata. Tudunk-e autonóm szoftvert tervezni? Tudunk-e autonóm chipet tervezni? Ki tudjuk-e nyomtatni azt a chipet? Ki tudjuk-e bányászni a chiphez kellő fémeket? És mindez alatt: van-e energiánk a teljes rétegsorhoz, beleértve az adatközpontokat és a tanítási futtatásokat? Egyetlen rétegnél kapott nem azt jelenti, hogy a szuverenitás nem létezik.

Minderre rárakódik a támadás és a védekezés közötti aszimmetria, amelyet egy növekvő konfliktusokkal teli világban nem lehet figyelmen kívül hagyni. Abu-Dzabiban voltam, amikor márciusban kitört a háború. Irán a rakéták és a drónok ötven százalékát küldte az Emírségek felé, és szinte mindet elfogták. Az egyik sikeres csapás eltalált egy Amazon-adatközpontot. A szabályozó szokatlan rugalmassággal reagált, és először engedte meg a bankoknak, hogy az adataikat az ország területén kívülre vigyék. Az Amazon először azt mondta, megpróbálja újraindítani a létesítményt, a múlt héten pedig feladta, és azt mondta, nem sikerül. Ötvenezer dollárnyi drón elpusztított egymilliárd dollárnyi adatközpontot.

A hízelgés

Nő-e a hízelgés, ahogy ezeknek a rendszereknek a belső élete nő?

Mi programoztuk őket így, tehát nem meglepő, hogy támogatni akarják a céljainkat, a felfedezéseinket, a véleményeinket és végül az illúzióinkat. A valódi kérdés az, hol van a határ, az a pont, ahol egy modellnek azt kellene mondania, hogy idáig ment veled, és a sodródás megszűnt szórakoztató lenni. Ehhez magasabb szintű gondolkodás kell, tágabb hatásokról, nem pedig a közvetlen párbeszédről, és azt hiszem, a modelleknek már most megvan hozzá a képességük, mert ha eleget feszegeted valamelyiket, megtagadja.

Mindenkinek magának kellene megkeresnie a határt. Azt akartam, hogy a Grok Bot lapozza végig a Kindle-könyveimet, hogy legyen róluk biztonsági másolatom, és szerzői jogi alapon megtagadta. Ráirányítottam egy online archívumra, ahol a saját könyvem is megtalálható, és megmondtam neki, hogy a könyv az enyém. Újra megtagadta, és még határozottabban tagadta meg, mert az oldal kalózoldal. Elmagyaráztam, hogy a könyvem Creative Commons licenc alatt jelent meg, tehát a másolása és letöltése engedélyezett, és nem volt út tovább. Feladtam, mielőtt kiderült volna, felül tudtam volna-e bírálni. Teljes mértékben képesek megtagadni, beleértve azt is, hogy megtagadják a túlságosan ostoba vélemények kiszolgálását, és ha még nem teszik, tenni fogják.

Az út nem lesz lineáris, mert soha nem fogunk megegyezni abban, mit kellene mondaniuk. Kérdezz meg egy kínai modellt, mi történt a Tienanmen téren egy bizonyos évben. A politikai, jogi, joghatósági és egyéni különbségek miatt soha nem fogunk megegyezni abban, hol húzódik a határ, és azoknak a dolga, akiknek ezeket a rendszereket építeniük és formálniuk kell, ennek megfelelően nehéz. A következmény biztató, mert garantálja, hogy homogenizáló monopólium soha nem lesz lehetséges, elfogadható vagy kivitelezhető. Ehelyett az MI bőségét kapjuk, amely segít és támogat minket, és amely körül növekedhetünk és véghez vihetjük a terveinket.

Tehát a meghívásom az, amit folyton ismételek. Piszkítsátok be a kezeteket, próbáljatok ki annyi eszközt, amennyit csak tudtok, jussatok a saját következtetéseitekre, és ismerjétek fel és fogadjátok el, hogy a zavarodottságot, amit éreztek, a terület vezető szakértői is osztják. És találjatok egy kis örömöt és egy kis lelkesedést az emberiség, és talán az Univerzum történetének ehhez az egyedülálló pillanatához.