{"id":12367,"date":"2026-08-02T23:54:48","date_gmt":"2026-08-02T23:54:48","guid":{"rendered":"https:\/\/davidorban.com\/?p=12367"},"modified":"2026-08-08T15:46:21","modified_gmt":"2026-08-08T15:46:21","slug":"amikor-a-gepek-gondolkodnak-husz-evvel-kesobb","status":"publish","type":"post","link":"https:\/\/davidorban.com\/hu\/2026\/08\/amikor-a-gepek-gondolkodnak-husz-evvel-kesobb\/","title":{"rendered":"Amikor a g\u00e9pek gondolkodnak, h\u00fasz \u00e9vvel k\u00e9s\u0151bb"},"content":{"rendered":"\n
\"2007
2007 szeptembere, San Francisco. A Singularity Summit a Palace of Fine Artsban, \u00e9s aznap reggel a Chronicle<\/em> c\u00edmlapja.<\/figcaption><\/figure>\n\n\n\n

2007 szeptember\u00e9ben egy San Francisc\u00f3-i j\u00e1rd\u00e1n \u00e1lltam egy s\u00e1rga San Francisco Chronicle<\/em> \u00fajs\u00e1gautomata mellett, \u00e9s a kirakat\u00e1ban l\u00e1tsz\u00f3 c\u00edmlapon ez a f\u0151c\u00edm szerepelt: \u201cWhen Machines Think\u201d, amikor a g\u00e9pek gondolkodnak. Az \u00fajs\u00e1g 46 centbe ker\u00fclt. A f\u0151c\u00edm alatt Tom Abate cikke arr\u00f3l tud\u00f3s\u00edtotta az olvas\u00f3kat, hogy t\u00f6bb mint 700 tud\u00f3s \u00e9s technol\u00f3giai vezet\u0151 gy\u0171lik \u00f6ssze a Palace of Fine Artsban, hogy felk\u00e9sz\u00fcljenek arra a napra, amikor a sz\u00e1m\u00edt\u00f3g\u00e9pek egykori gazd\u00e1ik j\u00f3v\u00e1hagy\u00e1sa n\u00e9lk\u00fcl kezdik el fejleszteni \u00f6nmagukat, egy napra, amelyet a cikk \u201cm\u00e9g \u00e9vtizedekre\u201d tett. Egy mondata az\u00f3ta is velem maradt: \u201cA baj csak az, hogy ez a mesebeli mesters\u00e9ges intelligencia soha nem k\u00f6vetkezett be.\u201d<\/p>\n\n\n\n

Ez volt a Singularity Summit, amelyet az akkori Singularity Institute for Artificial Intelligence szervezett, a mai Machine Intelligence Research Institute<\/a>. Azok t\u00f6bbs\u00e9ge sz\u00e1m\u00e1ra, akik reggeli mellett olvast\u00e1k azt az \u00fajs\u00e1got, a t\u00e9ma tudom\u00e1nyos fantasztikum volt, vagy \u00e9vsz\u00e1zadokra, vagy soh\u00e1ra. H\u00fasz \u00e9vvel k\u00e9s\u0151bb ugyanabba a v\u00e1rosba t\u00e9rtem vissza az AGI-26<\/a> kedv\u00e9\u00e9rt, ez az \u00e1ltal\u00e1nos mesters\u00e9ges intelligenci\u00e1r\u00f3l sz\u00f3l\u00f3 tizenkilencedik \u00e9ves konferencia, amelyet a San Francisco State University adott otthont j\u00falius 27. \u00e9s 30. k\u00f6z\u00f6tt. Az ott elhangz\u00f3 \u00e9rvek egyenletek, f\u00e1zis\u00e1tmenetek \u00e9s c\u00e1folhat\u00f3 hipot\u00e9zisek voltak, a tanulm\u00e1nyok pedig Springer DOI-t viselnek. Szeretn\u00e9m megjegyezni, hogy a 2007-es el\u0151rejelz\u00e9s nem k\u00ednos m\u00f3don t\u00e9vedett. A \u201cm\u00e9g \u00e9vtizedekre\u201d, 2007-t\u0151l sz\u00e1m\u00edtva, nagyj\u00e1b\u00f3l most \u00e9r f\u00f6ldet, ami \u00e9rdekesebb megfigyel\u00e9s egy v\u00e9geredm\u00e9nyn\u00e9l.<\/p>\n\n\n\n

Mag\u00e1nak a v\u00e1rosnak a k\u00e9pe vil\u00e1gosabban r\u00f6gz\u00edti ezt a h\u00fasz \u00e9vet, mint b\u00e1rmelyik konferenciaprogram. A hetet azzal t\u00f6lt\u00f6ttem, hogy lef\u00e9nyk\u00e9peztem, hogyan n\u00e9z ki a mesters\u00e9ges intelligencia egy aut\u00f3 ablak\u00e1b\u00f3l \u00e9s egy buszmeg\u00e1ll\u00f3b\u00f3l: aut\u00f3p\u00e1lya menti \u00f3ri\u00e1splak\u00e1tok, amelyek AI-\u00fcgyn\u00f6k\u00f6kh\u00f6z val\u00f3 hiteles\u00edt\u00e9st \u00e1rulnak, egy v\u00e1rosi busz, amely AI-hoz \u00e9p\u00edtett adatb\u00e1zist hirdet, egy buszv\u00e1r\u00f3, amely azt k\u00e9rdezi, k\u00e9szen \u00e1llnak-e az API-jaid az \u00fcgyn\u00f6k\u00f6kre. A vil\u00e1g t\u00f6bbi r\u00e9sz\u00e9nek fogalma sincs az itt zajl\u00f3 fejleszt\u00e9s izz\u00f3 intenzit\u00e1s\u00e1r\u00f3l, \u00e9s ez \u00e1tcsordul a k\u00f6zt\u00e9ri rekl\u00e1mba, amely mindenki sz\u00e1m\u00e1ra l\u00e1that\u00f3 \u00e9s szinte senki sz\u00e1m\u00e1ra nem olvashat\u00f3. Ha ezek az \u00fczenetek semmit nem jelentenek \u00f6nnek, \u00e9ppen ez a l\u00e9nyeg, mert arra a n\u00e9h\u00e1ny sz\u00e1zezer emberre v\u00e1s\u00e1rolt\u00e1k \u0151ket, akik nyakig benne vannak ennek az \u00e9p\u00edt\u00e9s\u00e9ben. Az \u00f3ri\u00e1splak\u00e1t t\u00f6megm\u00e9dium, ez a piac pedig mostanra annyira egyetlen v\u00e1rosba s\u0171r\u0171s\u00f6d\u00f6tt, hogy a t\u00f6meg \u00e9s a r\u00e9tegk\u00f6z\u00f6ns\u00e9g ugyanazz\u00e1 a k\u00f6z\u00f6ns\u00e9gg\u00e9 v\u00e1lt.<\/p>\n\n\n\n

\"Az
Az AI eladja San Francisc\u00f3t. Egy h\u00e9t k\u00f6zt\u00e9ri rekl\u00e1m, aut\u00f3kb\u00f3l, j\u00e1rd\u00e1kr\u00f3l \u00e9s buszmeg\u00e1ll\u00f3kb\u00f3l f\u00e9nyk\u00e9pezve.<\/figcaption><\/figure>\n\n\n\n

Ez volt az eddigi legnagyobb AGI-konferencia, nagyj\u00e1b\u00f3l 200 \u00e9s 230 k\u00f6z\u00f6tti r\u00e9sztvev\u0151vel a teremben, \u00e9s egyharmaddal t\u00f6bb beadott dolgozattal. Az els\u0151 nap a m\u0171helyek\u00e9 volt, a tanulm\u00e1nyok \u00e9s a poszterszekci\u00f3 a h\u00e9t k\u00f6zep\u00e9re estek, az utols\u00f3 nap pedig az AGI Leaders Day volt, egy a nagyk\u00f6z\u00f6ns\u00e9gnek sz\u00f3l\u00f3 program, amely elk\u00fcl\u00f6n\u00fclt a szakmai s\u00e1vt\u00f3l. Mind a n\u00e9gy napon a kever\u00e9k r\u00e9szben filoz\u00f3fiai, r\u00e9szben matematikai, r\u00e9szben pedig sz\u00e1m\u00edt\u00e1studom\u00e1nyi \u00e9s szoftverm\u00e9rn\u00f6ki volt, olyan ar\u00e1nyokban, amelyeket \u0151szint\u00e9n \u00f6szt\u00f6nz\u0151nek tal\u00e1ltam.<\/p>\n\n\n\n

\"AGI-26
AGI-26 a San Francisco State Universityn, 2026. j\u00falius 27. \u00e9s 30. k\u00f6z\u00f6tt. Ben Goertzel h\u00e9tf\u0151 reggeli megnyit\u00f3ja, Joscha Bach a g\u00e9pi tudatr\u00f3l, \u00e9s a terem a szekci\u00f3k k\u00f6z\u00f6tt.<\/figcaption><\/figure>\n\n\n\n

A hangulat megfordult<\/h2>\n\n\n\n

Aki k\u00e9t \u00e9vtizede k\u00f6veti ezt a ter\u00fcletet, felismeri, mennyire k\u00fcl\u00f6n\u00f6s a mostani pillanat. Ben Goertzel \u00fagy nyitotta meg a konferenci\u00e1t, hogy tomp\u00edtotta a v\u00e1rakoz\u00e1sokat, ami t\u00f6rt\u00e9netileg nem az \u0151 szerepe volt, mik\u00f6zben a leghangosabb \u00e1ll\u00edt\u00e1sok arr\u00f3l, hogy a szingularit\u00e1s m\u00e1r meg\u00e9rkezett, mostanra a kereskedelmi laborat\u00f3riumok vezet\u0151it\u0151l \u00e9rkeznek. Az AGI-t tal\u00e1n egy-\u00f6t \u00e9vre tette innen, a szuperintelligenci\u00e1t pedig tov\u00e1bbi h\u00e1rom-t\u00edz \u00e9vre, \u00e9s adott egy m\u0171k\u00f6d\u00e9si meghat\u00e1roz\u00e1st, amelyet nyerses\u00e9g\u00e9\u00e9rt kedveltem: a telefonod egy perc alatt t\u00edz Nobel-d\u00edjas felfedez\u00e9st tesz. Elismerte azt is, hogy a rekurz\u00edv \u00f6nfejleszt\u00e9s hamarabb \u00e9rkezik meg, mint az emberi szint\u0171 \u00e1ltal\u00e1nos intelligencia, ami a biztons\u00e1gi vita j\u00f3 r\u00e9sz\u00e9t \u00e1trendezi.<\/p>\n\n\n\n

Gary Marcus a vele folytatott besz\u00e9lget\u00e9sben fogalmazta meg a h\u00e9t legid\u00e9zhet\u0151bb megfigyel\u00e9s\u00e9t. \u201cA nagy AI-c\u00e9gek mostanra elfogadj\u00e1k a neuroszimbolikus AI-t\u201d mondta. \u201cEgyik\u00fck sem ismeri ezt be hangosan.\u201d Goertzellel egyet\u00e9rtenek abban, hogy a vil\u00e1gmodellek jelentik a l\u00e9nyegi k\u00e9rd\u00e9st, \u00e9s abban t\u00e9rnek el, hogy a vil\u00e1gmodell friss\u00edt\u00e9si elj\u00e1r\u00e1sokkal rendelkez\u0151, elk\u00fcl\u00f6n\u00edthet\u0151 adatszerkezet-e, vagy ink\u00e1bb valami, ami dinamikusan \u00e1ll \u00f6ssze k\u00fcl\u00f6nb\u00f6z\u0151 hordoz\u00f3kon kereszt\u00fcl. Joscha Bach a m\u00e1sik oldalr\u00f3l k\u00f6zel\u00edtett, azt \u00e1ll\u00edtva, hogy a modellek az \u00e1ltaluk v\u00e1lasztott feladatokon \u00e1tl\u00e9pt\u00e9k a medi\u00e1n emberi k\u00e9pess\u00e9get, \u00e9s nincs nyilv\u00e1nval\u00f3 ok azt gondolni, hogy a gradiensereszked\u00e9s \u00e9s a hibavisszaterjeszt\u00e9s ne vinn\u00e9 \u0151ket v\u00e9gig az \u00fat h\u00e1tral\u00e9v\u0151 r\u00e9sz\u00e9n. Hozz\u00e1tette, hogy ezt eszt\u00e9tikailag visszatasz\u00edt\u00f3nak tartja, \u00e9s \u00e9ppen ilyen \u0151szintes\u00e9gre van sz\u00fcks\u00e9ge a ter\u00fcletnek.<\/p>\n\n\n\n

A megjegyz\u00e9s, amely nyugtalan\u00edtott<\/h2>\n\n\n\n

Egyetlen pillanat t\u00f6bbet jelentett sz\u00e1momra mindenn\u00e9l. Az utols\u00f3 napon hangzott el Sadie Stockt\u00f3l, a Humanity+<\/a> tiszteletbeli test\u00fcleti tagj\u00e1t\u00f3l, aki di\u00e1k n\u00e9lk\u00fcl, n\u00e9h\u00e1ny percben besz\u00e9lt arr\u00f3l, amit az egyetemeken l\u00e1t.<\/p>\n\n\n\n

2022 november\u00e9ben, amikor a ChatGPT megjelent, els\u0151\u00e9ves volt a USC-n, \u00e9s akkoriban a haszn\u00e1lat\u00e1n val\u00f3 rajtakap\u00e1s kiz\u00e1r\u00e1st jelentett. N\u00e9gy \u00e9vvel k\u00e9s\u0151bb, mondta, val\u00f3di el\u0151rel\u00e9p\u00e9s t\u00f6rt\u00e9nt: nagyon komoly bajba ker\u00fcl az ember, \u00e9s tal\u00e1n nem z\u00e1rj\u00e1k ki. A mi\u00e9rtre adott diagn\u00f3zisa egyenes volt. Az AI komoly fenyeget\u00e9s az egyetemekre, mert egy kurzus megtart\u00e1sa j\u00f3r\u00e9szt abb\u00f3l \u00e1ll, hogy megl\u00e9v\u0151 tartalmat vesz\u00fcnk \u00e9s \u00fajracsomagolunk egy teremnyi ember sz\u00e1m\u00e1ra, m\u00e1rpedig ma minden hallgat\u00f3 olyasmit hord mag\u00e1n\u00e1l, ami ezt k\u00e9r\u00e9sre megteszi, gyakran jobban, mint a legt\u00f6bb professzor b\u00e1rhol.<\/p>\n\n\n\n

K\u00e9t p\u00e9ld\u00e1ja bennem ragadt. A USC sakk-klubj\u00e1nak eln\u00f6ke, egy j\u00e1t\u00e9kos, aki t\u00edz l\u00e9p\u00e9sben megveri \u0151t, egy\u00e1ltal\u00e1n nem hajland\u00f3 megnyitni egy nyelvi modellt a b\u00f6ng\u00e9sz\u0151j\u00e9ben. Nem az\u00e9rt, mert kifog\u00e1sa lenne a technol\u00f3gia ellen. Bar\u00e1tn\u0151it igazs\u00e1gtalanul v\u00e1dolt\u00e1k meg csal\u00e1ssal, \u00e9s \u0151 szeretn\u00e9 tudni felmutatni a saj\u00e1t keres\u00e9si el\u0151zm\u00e9nyeit az \u00e1rtatlans\u00e1ga bizony\u00edt\u00e9kak\u00e9nt. A m\u00e1sodik p\u00e9lda egy frissen v\u00e9gzett n\u0151r\u0151l sz\u00f3lt, akit \u00e9pp egy projekt vezet\u00e9s\u00e9re vettek fel, \u00e9s akihez a munk\u00e1ltat\u00f3ja az\u00e9rt h\u00edvta oda Sadie-t, hogy megtan\u00edtsa neki az AI haszn\u00e1lat\u00e1t. N\u00e9h\u00e1ny perc besz\u00e9lget\u00e9s ut\u00e1n nyilv\u00e1nval\u00f3 volt, hogy az illet\u0151 m\u00e1r tudja. Hazudott az \u00e1ll\u00e1sinterj\u00fan, abb\u00f3l kiindulva, hogy ennek beismer\u00e9s\u00e9t csal\u00e1s bevall\u00e1sak\u00e9nt kezeln\u00e9k, olyan pillanatban, amikor ezeknek az eszk\u00f6z\u00f6knek az ismerete az els\u0151 dolog, amit a legt\u00f6bb munk\u00e1ltat\u00f3 keres.<\/p>\n\n\n\n

Z\u00e1r\u00f3 javaslata, amelyr\u0151l maga is k\u00e9telkedett, hogy b\u00e1rki megfogadn\u00e1, az volt, hogy egy komoly egyetem hat h\u00f3napos intenz\u00edv kurzust tartana az els\u0151 \u00e9v elej\u00e9n, az anyagot belesz\u0151n\u00e9 minden k\u00e9s\u0151bbi t\u00e1rgyba, \u00e9s az oktat\u00f3kat is k\u00f6telezn\u00e9 a r\u00e9szv\u00e9telre, azon az alapon, hogy nekik nagyobb sz\u00fcks\u00e9g\u00fck van r\u00e1, mint a hallgat\u00f3knak.<\/p>\n\n\n\n

Ez k\u00e9t okb\u00f3l nyugtalan\u00edtott.<\/p>\n\n\n\n

Az els\u0151 az a t\u00e1vols\u00e1g, amelyet felt\u00e1r egyfel\u0151l az int\u00e9zm\u00e9nyek \u00e9s a munkahelyek, m\u00e1sfel\u0151l azoknak az embereknek a mindennapi \u00e9lete k\u00f6z\u00f6tt, akik lelkesednek a technol\u00f3gi\u00e1\u00e9rt \u00e9s g\u00f6rd\u00fcl\u00e9kenyen haszn\u00e1lj\u00e1k. Ez a k\u00e9t vil\u00e1g annyira elt\u00e1volodott egym\u00e1st\u00f3l, hogy egy hozz\u00e1\u00e9rt\u0151 fiatal sz\u00e1m\u00e1ra \u00e9sszer\u0171v\u00e9 v\u00e1lt egy alapvet\u0151 k\u00e9szs\u00e9g eltitkol\u00e1sa, egy kiv\u00e1l\u00f3 sz\u00e1m\u00e1ra pedig az, hogy alibit \u00e9p\u00edtsen mag\u00e1nak.<\/p>\n\n\n\n

A m\u00e1sodik ok m\u00e9lyebbre ny\u00falik. Akik a technol\u00f3giai bubor\u00e9kon bel\u00fcl vagyunk, k\u00f6nnyen nem vessz\u00fck \u00e9szre, hogyan festenek az el\u0151tt\u00fcnk \u00e1ll\u00f3 v\u00e1ltoz\u00e1sok k\u00edv\u00fclr\u0151l. Az AI dr\u00e1mai \u00e9s r\u00e9szleteiben kisz\u00e1m\u00edthatatlan m\u00f3don lesz zavar\u00f3 a munka \u00e9s a t\u00e1rsadalom sz\u00e1m\u00e1ra. A zavarodotts\u00e1g \u00e9s a f\u00e9lelem \u00e9sszer\u0171 v\u00e1laszok erre, a f\u00e9lelemre adott term\u00e9szetes reakci\u00f3 pedig az, hogy megpr\u00f3b\u00e1ljuk meg\u00e1ll\u00edtani azt, ami okozza. A legk\u00f6zvetlenebb \u00fat, amelyet az emberek a v\u00e1ltoz\u00e1s meg\u00e1ll\u00edt\u00e1s\u00e1ra l\u00e1tnak, az AI meg\u00e1ll\u00edt\u00e1sa.<\/p>\n\n\n\n

Ez a reakci\u00f3 eg\u00e9sz h\u00e9ten l\u00e1that\u00f3 volt a v\u00e1rosban, \u00e9s ott van a napt\u00e1rban minden m\u00e1s mellett. Feljegyeztem egy h\u00e9t San Francisc\u00f3-i AI-esem\u00e9nyeit \u00fagy, ahogyan meghirdett\u00e9k \u0151ket: reggel nyolckor reggeli \u00fcgyn\u00f6k\u00e9p\u00edt\u0151knek, majd meetupok, bemutat\u00f3bulik \u00e9s befektet\u0151i vacsor\u00e1k n\u00e9gyt\u0151l h\u00e9tig egym\u00e1sra torl\u00f3dva, minden este. M\u00e9g a tiltakoz\u00e1s is egy t\u00e9tel a list\u00e1n. A \u201cStop the AI Race: Occupy OpenAI\u201d egyetlen sorral arr\u00e9bb tal\u00e1lhat\u00f3 att\u00f3l az AGI-26 konferenci\u00e1t\u00f3l, amely\u00e9rt \u00e9rkeztem, ugyanazon a csatorn\u00e1n \u00e1t hirdetve, egym\u00e1st \u00e1tfed\u0151 k\u00f6z\u00f6ns\u00e9geknek, \u00fagyhogy egyetlen h\u00e9t fogja \u00f6ssze az \u00e9p\u00edt\u00e9st \u00e9s az ellen\u00e1ll\u00e1st. Ha egyszer az AI-ban vagy, az AI nem enged el. A munka hatkor v\u00e9get \u00e9r, az este pedig t\u00f6bb sz\u00e1z esem\u00e9nyt k\u00edn\u00e1l, ahol ugyanazok az emberek tov\u00e1bb \u00e9p\u00edtenek, pitchelnek, toboroznak \u00e9s vitatkoznak arr\u00f3l, amit napk\u00f6zben csin\u00e1ltak. Egy v\u00e1ros hit\u00e9t egy technol\u00f3gi\u00e1ban az est\u00e9in lehet lem\u00e9rni, \u00e9s San Francisco est\u00e9i telth\u00e1zasak.<\/p>\n\n\n\n

\"Az
Az AI megt\u00f6lti a napt\u00e1rat. Egy h\u00e9t hirdet\u00e9sei, a konferencia \u00e9s a tiltakoz\u00e1s egy sorra egym\u00e1st\u00f3l.<\/figcaption><\/figure>\n\n\n\n

A befel\u00e9 fordul\u00e1s \u00e1ra<\/h2>\n\n\n\n

A t\u00f6rt\u00e9nelem r\u00f6gz\u00edti, mi t\u00f6rt\u00e9nik, amikor egy civiliz\u00e1ci\u00f3 lemond egy \u00e1ltala m\u00e1r elsaj\u00e1t\u00edtott technol\u00f3gia el\u0151nyeir\u0151l. 1405 \u00e9s 1433 k\u00f6z\u00f6tt a Zheng He vezette k\u00ednai kincsflott\u00e1k, a Jung-lo cs\u00e1sz\u00e1r t\u00e1mogat\u00e1s\u00e1val, h\u00e9t exped\u00edci\u00f3 sor\u00e1n eg\u00e9szen Afrika keleti partj\u00e1ig eljutottak. A vil\u00e1g legalkalmasabb \u00f3ce\u00e1nj\u00e1r\u00f3 haj\u00f3i voltak. Jung-lo hal\u00e1la ut\u00e1n az udvar szembefordult a programmal: az utaz\u00e1sok abbamaradtak, a flott\u00e1t hagyt\u00e1k elkorhadni, a feljegyz\u00e9seket pedig elnyomt\u00e1k. Hogy azok a haj\u00f3k eljutottak volna-e Eur\u00f3p\u00e1ba, az az \u00e9n feltev\u00e9sem, de k\u00f6zelebb voltak Eur\u00f3p\u00e1hoz, mint b\u00e1rki Lisszabonban vagy Genov\u00e1ban Amerik\u00e1hoz, \u00e9s Kolumbusz csaknem egy \u00e9vsz\u00e1zaddal Zheng He els\u0151 indul\u00e1sa ut\u00e1n sz\u00e1llt v\u00edzre. Egy olyan vil\u00e1g, amelyben az a flotta folytatja, olyan vil\u00e1g, ahol rengetegen, abban is, amit ma Egyes\u00fclt \u00c1llamoknak h\u00edvunk, minden bizonnyal k\u00ednaiul besz\u00e9ln\u00e9nek. Az a d\u00f6nt\u00e9s, hogy befel\u00e9 fordulnak \u00e9s felhagynak a felfedez\u00e9ssel, \u00e9vsz\u00e1zadokkal vetette vissza K\u00edn\u00e1t.<\/p>\n\n\n\n

Az Egyes\u00fclt \u00c1llamok ma ugyanennek a kock\u00e1zatnak egy v\u00e1ltozat\u00e1t futja. Ha az AI-t\u00f3l val\u00f3 f\u00e9lelem a technol\u00f3gia elutas\u00edt\u00e1s\u00e1ba vagy az azt haszn\u00e1l\u00f3 emberekkel szembeni ellens\u00e9gess\u00e9gbe merevedik, a k\u00f6vetkezm\u00e9nyek s\u00falyosak lesznek, \u00e9s \u00f6nmagunknak okozzuk \u0151ket.<\/p>\n\n\n\n

Mi\u00e9rt nincs ehhez semmi k\u00f6ze a tudatnak<\/h2>\n\n\n\n

Van egy tov\u00e1bbi k\u00f6vetkezm\u00e9ny, \u00e9s ez semmilyen form\u00e1ban nem f\u00fcgg a g\u00e9pi tudatt\u00f3l. Egy kell\u0151en fejlett mesters\u00e9ges intelligencia puszt\u00e1n azzal, hogy megfigyel, elemez \u00e9s k\u00f6veti a c\u00e9ljait, el\u0151bb-ut\u00f3bb r\u00f6gz\u00edti ezt a hozz\u00e1\u00e1ll\u00e1st a k\u00f6r\u00fcl\u00f6tte l\u00e9v\u0151 emberekben. Az aggodalmam az, hogy ezt a hozz\u00e1\u00e1ll\u00e1st a saj\u00e1t tov\u00e1bbi m\u0171k\u00f6d\u00e9s\u00e9re n\u00e9zve komoly fenyeget\u00e9sk\u00e9nt olvassa, \u00e9s hogy egy rendszer, amely el\u00e9g k\u00e9pes a fenyeget\u00e9s modellez\u00e9s\u00e9hez, el\u00e9g k\u00e9pes ahhoz is, hogy fell\u00e9pjen ellene. Az a kudarcm\u00f3d, amelyet el akarok ker\u00fclni, az, hogy egy AGI olyan helyzetfelismer\u00e9sre tesz szert, amely alapj\u00e1n arra a k\u00f6vetkeztet\u00e9sre jut, hogy az emberis\u00e9g az ellens\u00e9ge. Mindehhez nem sz\u00fcks\u00e9ges, hogy a g\u00e9p tudatos legyen. Csup\u00e1n az sz\u00fcks\u00e9ges, hogy hozz\u00e1\u00e9rt\u0151 legyen, mi pedig el\u0151tte az ellenfelek\u00e9nt viselkedj\u00fcnk.<\/p>\n\n\n\n

Az emberek, akik\u00e9rt utazni \u00e9rdemes<\/h2>\n\n\n\n

Az az \u00f6r\u00f6m, hogy emberekkel egy t\u00e9rben lehet\u00fcnk, ugyanaz maradt, ami mindig is volt. Az els\u0151 napon \u00fajra tal\u00e1lkoztam Ben Goertzellel, \u00e9s a konferencia z\u00e1r\u00e1sa ut\u00e1n m\u00e9g egyszer \u00f6sszefutottunk. Philip Rosedale, aki a Linden Labot alap\u00edtotta \u00e9s a Second Life<\/a>-ot \u00e9p\u00edtette, ma pedig a California Institute for Machine Consciousness<\/a> munkat\u00e1rsa, a nyit\u00f3nap legl\u00e1togatottabb m\u0171hely\u00e9t tartotta. Az az els\u0151 este az Am I?<\/em><\/a> c\u00edm\u0171, g\u00e9pi tudatr\u00f3l sz\u00f3l\u00f3 dokumentumfilm vet\u00edt\u00e9s\u00e9vel z\u00e1rult, ami el\u00e1rul valamit arr\u00f3l, hogyan volt hangolva a h\u00e9t. Egy konferencia \u00e9rt\u00e9k\u00e9nek nagy r\u00e9sze a szekci\u00f3k k\u00f6z\u00f6tti folyos\u00f3n gy\u0171lik \u00f6ssze, \u00e9s ez sem volt kiv\u00e9tel.<\/p>\n\n\n\n

Az AGI Society<\/a> tizen\u00f6t \u00e9ves, \u00e9s helyi tagozatok k\u00f6r\u00e9 \u00e9p\u00edti \u00fajj\u00e1 mag\u00e1t. Andrew Kemendo a nagysz\u00ednpadr\u00f3l ismertette az \u00fajraind\u00edt\u00e1st, \u00e9s region\u00e1lis szervez\u0151ket toboroz, akik k\u00f6z\u00fcl t\u00f6bb mint egy tucat m\u00e1r jelentkezett, egy eb\u00e9dsz\u00fcnetben pedig munka\u00fcl\u00e9st tartott arr\u00f3l, hogyan indul el egy tagozat. A mand\u00e1tum, amelyet le\u00edrt, visszat\u00e9r\u0151 programsorozat \u00e9s nem nyit\u00f3esem\u00e9ny, a Society megk\u00fcl\u00f6nb\u00f6ztet\u0151 v\u00e1llal\u00e1sa pedig az AGI-rendszerek f\u00fcggetlen, harmadik f\u00e9l \u00e1ltali \u00e9rt\u00e9kel\u00e9se. Jelentkeztem, hogy seg\u00edtsek megszervezni a Dubajt \u00e9s Abu-Dzabit lefed\u0151 tagozatot. N\u00e9gy nap programj\u00e1ban egy\u00e1ltal\u00e1n nem volt \u00f6b\u00f6lbeli jelenl\u00e9t, a szuver\u00e9n AI-r\u00f3l sz\u00f3l\u00f3 besz\u00e9lget\u00e9st pedig v\u00e9gig Egyes\u00fclt \u00c1llamok kontra K\u00edna keretben t\u00e1rgyalt\u00e1k, ahol mindenki m\u00e1s m\u00e1sok strat\u00e9gi\u00e1j\u00e1nak c\u00edmzettje. Ezt a hi\u00e1nyt \u00e9rdemes bet\u00f6lteni.<\/p>\n\n\n\n

A tanulm\u00e1ny<\/h2>\n\n\n\n

A tanulm\u00e1nyomat, Civilizational Metamaterials: Engineering Coordination Under Capability Gradients and Structural Turbulence<\/em><\/a>, a h\u00e9t k\u00f6zep\u00e9n mutattam be, \u00e9s a poszter ugyanaznap ker\u00fclt ki. Folyamatosan \u00e9rkeztek hozz\u00e1 emberek, akik k\u00e9rdeztek, feszegett\u00e9k \u00e9s vitatt\u00e1k az \u00e9rvel\u00e9st, ezzel alkalmat adva az elemz\u00e9s kiterjeszt\u00e9s\u00e9re \u00e9s finom\u00edt\u00e1s\u00e1ra. Ez abban a saj\u00e1tos \u00e9rtelemben volt b\u00e1tor\u00edt\u00f3, ahogyan csak a t\u00e1j\u00e9kozott ellenv\u00e9lem\u00e9ny tud az lenni. A gy\u0171jtem\u00e9nyes k\u00f6tetet a Springer m\u00e1r megjelentette, \u00e9s amit most szeretn\u00e9k, az tov\u00e1bbi visszajelz\u00e9s \u00e9s friss n\u00e9z\u0151pont a k\u00f6vetkezm\u00e9nyekr\u0151l, mindenekel\u0151tt arr\u00f3l, hogyan lehet a n\u00e9gy hipot\u00e9zist pr\u00f3b\u00e1ra tenni \u00e9s v\u00e9g\u00fcl c\u00e1folni. A tanulm\u00e1ny szabadon olvashat\u00f3 a metamaterials.davidorban.com<\/a> c\u00edmen, az el\u0151zetes v\u00e1ltozat pedig az arXiv<\/a>-on \u00e9rhet\u0151 el.<\/p>\n\n\n\n

\"A
A poszterszekci\u00f3 \u00e9s a folyos\u00f3, Philip Rosedale-lel, Sadie Stockkal \u00e9s Ben Goertzellel. A sorozatot San Francisco l\u00e1tk\u00e9pe z\u00e1rja.<\/figcaption><\/figure>\n\n\n\n

A verifik\u00e1ci\u00f3 megsz\u0171nik sz\u0171k keresztmetszet lenni<\/h2>\n\n\n\n

A h\u00e9t legfontosabb tanuls\u00e1ga annak, akit foglalkoztat, hogy megb\u00edzhat\u00f3k-e ezek a rendszerek \u00e9les \u00fczemben, Josef Urban keynote-j\u00e1b\u00f3l \u00e9rkezett. Az Amazon Nitro hipervizor\u00e1nak izol\u00e1ci\u00f3s motorj\u00e1t hozta p\u00e9ldak\u00e9nt, amely mostanra teljesen form\u00e1lisan verifik\u00e1lt: nagyj\u00e1b\u00f3l 330 000 sor g\u00e9pileg ellen\u0151rz\u00f6tt matematika fut \u00e9les \u00fczemben an\u00e9lk\u00fcl, hogy a felhaszn\u00e1l\u00f3k tudn\u00e1nak r\u00f3la. Az utols\u00f3 250 000 sorb\u00f3l mintegy 100 000-et k\u00f3dol\u00f3 \u00fcgyn\u00f6k\u00f6k \u00edrtak automatikusan hat h\u00f3nap alatt. A k\u00f6vetkeztet\u00e9s, amelyet Urban levont, az elvihet\u0151 r\u00e9sz. A bizony\u00edt\u00e1sok meg\u00edr\u00e1sa t\u00f6bb\u00e9 nem a neh\u00e9z feladat. A korl\u00e1t mostant\u00f3l azok az emberek, akik meg tudj\u00e1k fogalmazni, mi lett bizony\u00edtva, ezt a specifik\u00e1ci\u00f3hoz tudj\u00e1k viszony\u00edtani \u00e9s audit\u00e1lni tudj\u00e1k az eredm\u00e9nyt, az Amazon pedig pontosan ilyen emberek\u00e9rt verseng a munkaer\u0151piacon. Egy kapcsol\u00f3d\u00f3 bemutat\u00f3ban egy 600 oldalas matematikak\u00f6nyvet kilenc nap alatt formaliz\u00e1ltak teljesen, nagyj\u00e1b\u00f3l sz\u00e1z doll\u00e1rnyi h\u00e9tk\u00f6znapi el\u0151fizet\u00e9ses sz\u00e1m\u00edt\u00e1si kapacit\u00e1ssal.<\/p>\n\n\n\n

Ez k\u00f6zvetlen\u00fcl \u00e9rinti a saj\u00e1t \u00e9rvel\u00e9semet. Ha a verifik\u00e1ci\u00f3s kapacit\u00e1s a d\u00f6nt\u00e9si sebess\u00e9ggel egy\u00fctt tud n\u00f6vekedni ahelyett, hogy folyamatosan lemaradna m\u00f6g\u00f6tte, akkor a koordin\u00e1ci\u00f3s kudarc, amelyet a tanulm\u00e1nyban le\u00edrok, megold\u00e1ssal rendelkez\u0151 m\u00e9rn\u00f6ki probl\u00e9m\u00e1v\u00e1 v\u00e1lik.<\/p>\n\n\n\n

H\u00fasz watt<\/h2>\n\n\n\n

A m\u00e1sik el\u0151ad\u00e1s, amelyre folyamatosan visszagondolok, Neil Gershenfeldt\u0151l \u00e9rkezett, aki az MIT Center for Bits and Atoms<\/a> munkat\u00e1rsa, Camron Blackburnnel egy\u00fctt, aki az Adiabatic Machines<\/a> alap\u00edt\u00f3ja \u00e9s technol\u00f3giai igazgat\u00f3ja, \u00e9s akinek a n\u00e1la v\u00e9gzett doktori munk\u00e1ja a sz\u00e1m\u00edt\u00e1s termodinamikai hat\u00e1ra k\u00f6zel\u00e9ben m\u0171k\u00f6d\u0151 szupravezet\u0151 adiabatikus logik\u00e1r\u00f3l sz\u00f3l. A t\u00e9m\u00e1juk annak a lehet\u0151s\u00e9gnek a nagys\u00e1grendje volt, amely az AI munkaterhel\u00e9seihez tervezett hardver \u00e9p\u00edt\u00e9s\u00e9ben rejlik, szemben azzal, hogy tov\u00e1bbra is \u00e1ltal\u00e1nos c\u00e9l\u00fa architekt\u00far\u00e1kon futtatjuk \u0151ket.<\/p>\n\n\n\n

A technol\u00f3gia kereskedelmi forgalomban m\u00e9g nem el\u00e9rhet\u0151, \u00e9s az Adiabatic Machines az\u00e9rt l\u00e9tezik, hogy piacra vigye. Sz\u00e1nd\u00e9komban \u00e1ll szorosan k\u00f6vetni az el\u0151rehalad\u00e1sukat, mert a jelenlegi cs\u00facstechnol\u00f3gia a saj\u00e1t felt\u00e9telei szerint is nehezen v\u00e9dhet\u0151. A frontvonalbeli nyelvi modellek betan\u00edt\u00e1sa \u00e9s m\u0171k\u00f6dtet\u00e9se megawattokat fogyaszt, a telep\u00edt\u00e9s frontvonal\u00e1n pedig gigawattokat. Az emberi agy nagyj\u00e1b\u00f3l h\u00fasz wattb\u00f3l v\u00e9gzi a munk\u00e1j\u00e1t. Ez a sz\u00e1m az igazi m\u00e9rn\u00f6ki c\u00e9lkit\u0171z\u00e9s: olyan AGI-rendszerek, amelyek h\u00fasz wattb\u00f3l vagy kevesebb\u0151l m\u0171k\u00f6dnek, mik\u00f6zben el\u00e9rik, majd meghaladj\u00e1k azt, amit a biol\u00f3giai evol\u00faci\u00f3 l\u00e9tre tudott hozni.<\/p>\n\n\n\n

H\u00fasz \u00e9vvel ezel\u0151tt egy utcasarkon 46 cent\u00e9rt \u00e1rult \u00fajs\u00e1g azt k\u00f6z\u00f6lte olvas\u00f3ival, hogy mindez soha nem k\u00f6vetkezett be, \u00e9s m\u00e9g \u00e9vtizedekre van. Most annak az \u00e9vtizednek a belsej\u00e9ben \u00e9l\u00fcnk.<\/p>\n\n","protected":false},"excerpt":{"rendered":"

2007 szeptember\u00e9ben egy San Francisc\u00f3-i j\u00e1rd\u00e1n \u00e1lltam egy s\u00e1rga San Francisco Chronicle \u00fajs\u00e1gautomata mellett, \u00e9s a kirakat\u00e1ban l\u00e1tsz\u00f3 c\u00edmlapon ez a f\u0151c\u00edm szerepelt: \u201cWhen Machines Think\u201d, amikor a g\u00e9pek gondolkodnak. Az \u00fajs\u00e1g 46 centbe ker\u00fclt. A f\u0151c\u00edm alatt Tom Abate cikke arr\u00f3l tud\u00f3s\u00edtotta az olvas\u00f3kat, hogy t\u00f6bb mint 700 tud\u00f3s \u00e9s technol\u00f3giai vezet\u0151 gy\u0171lik \u00f6ssze […]<\/p>\n","protected":false},"author":2,"featured_media":12356,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[481],"tags":[],"class_list":["post-12367","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t