{"id":12114,"date":"2026-07-18T19:04:26","date_gmt":"2026-07-18T19:04:26","guid":{"rendered":"https:\/\/davidorban.com\/?p=12114"},"modified":"2026-07-18T19:04:26","modified_gmt":"2026-07-18T19:04:26","slug":"a-fagyasi-egyensuly-elkerulese","status":"publish","type":"post","link":"https:\/\/davidorban.com\/hu\/2026\/07\/a-fagyasi-egyensuly-elkerulese\/","title":{"rendered":"A fagy\u00e1si egyens\u00faly elker\u00fcl\u00e9se"},"content":{"rendered":"

A fejlett MI gyorsabban d\u00f6nt, mint ahogy ellen\u0151rizni tudjuk, m\u00edg v\u00e9g\u00fcl minden csendben befagy<\/h2>\n

K\u00e9pzelj\u00fcnk el egy hivatalt, amely \u00e9vente 200 enged\u00e9lyk\u00e9relmet kapott. Egy szak\u00e9rt\u0151nek nagyj\u00e1b\u00f3l egy het\u00e9be telt egyet alaposan \u00e1tvizsg\u00e1lni: elolvasni, ellen\u0151rizni az \u00e1ll\u00edt\u00e1sokat, ut\u00e1naj\u00e1rni a k\u00e9tes pontoknak, al\u00e1\u00edrni. A rendszer m\u0171k\u00f6d\u00f6tt. A sor fogyott. A fejleszt\u00e9sek haladtak. Most egy MI-vel t\u00e1mogatott ipar\u00e1g ugyanennek a hivatalnak 2000 k\u00e9relmet k\u00fcld, mindegyik ugyanolyan csiszolt, ugyanolyan meggy\u0151z\u0151, hivatkoz\u00e1sokkal, kock\u00e1zat\u00e9rt\u00e9kel\u00e9sekkel \u00e9s takaros vezet\u0151i \u00f6sszefoglal\u00f3kkal. A hivatal nem kapott t\u00edzszer t\u00f6bb b\u00edr\u00e1l\u00f3t. Ugyanazok az emberek \u00fclnek ott, t\u00edzszeres mennyis\u00e9ggel szemben, \u00e9s teljes elolvas\u00e1s n\u00e9lk\u00fcl nem tudj\u00e1k megk\u00fcl\u00f6nb\u00f6ztetni az alapos k\u00e9relmeket a kital\u00e1ltakt\u00f3l. Mit tesz egy racion\u00e1lis b\u00edr\u00e1l\u00f3? A biztons\u00e1gos l\u00e9p\u00e9s az lesz, hogy semmit sem hagy j\u00f3v\u00e1, rosszindulat \u00e9s kifog\u00e1s n\u00e9lk\u00fcl, egyszer\u0171en az\u00e9rt, mert senki sem tud el\u00e9g gyorsan ellen\u0151rizni ahhoz, hogy v\u00e1llalja a kock\u00e1zatot. A fejl\u0151d\u00e9s le\u00e1ll, az int\u00e9zm\u00e9ny befagy. Ennek a dinamik\u00e1nak meg kell v\u00e1ltoztatnia, ahogyan az MI kor\u00e1ban az int\u00e9zm\u00e9nyekr\u0151l gondolkodunk. Ezt a csapd\u00e1t fagy\u00e1si egyens\u00falynak<\/strong> nevezem, \u00e9s \u00faj, szakmailag lektor\u00e1lt tanulm\u00e1nyomban, amelyet az AGI-26<\/strong> konferencia fogadott el \u00e9s a Springer \u00e1ltal kiadott konferenciak\u00f6tetben jelenik meg, amellett \u00e9rvelek, hogy ez az MI-korszak meghat\u00e1roz\u00f3 kock\u00e1zata. A c\u00edmlapokat bet\u00f6lt\u0151 forgat\u00f3k\u00f6nyv egy szuperintelligencia, amely t\u00falj\u00e1r az emberis\u00e9g esz\u00e9n. A csapda, amelyet modellezek, kor\u00e1bban \u00e9s csendesebben \u00e9rkezik: a d\u00f6nt\u00e9sek olyan \u00e1radata, amely t\u00falfut az ellen\u0151rz\u00e9si k\u00e9pess\u00e9g\u00fcnk\u00f6n, m\u00edg minden t\u00falterhelt ellen\u0151rz\u0151nek egyetlen racion\u00e1lis v\u00e1lasza marad: az, hogy t\u00f6bb\u00e9 nem mond igent.<\/p>\n

A hiba azt hinni, hogy ez az intelligenci\u00e1r\u00f3l sz\u00f3l<\/h2>\n

Szinte minden nyilv\u00e1nos besz\u00e9lget\u00e9s az MI kock\u00e1zat\u00e1r\u00f3l a k\u00e9pess\u00e9gr\u0151l<\/em> sz\u00f3l: t\u00fal okos lesz a modell, t\u00fal \u00f6n\u00e1ll\u00f3, t\u00fal nehezen ir\u00e1ny\u00edthat\u00f3? Ez a keretez\u00e9s elford\u00edtja a tekintetet a legnagyobb nyom\u00e1s pontj\u00e1r\u00f3l. A meghat\u00e1roz\u00f3 korl\u00e1t egy h\u00e1nyados: milyen gyorsan tud az MI legitimnek l\u00e1tsz\u00f3<\/em> dolgokat el\u0151\u00e1ll\u00edtani, osztva azzal, milyen gyorsan tudja egy ember meger\u0151s\u00edteni, hogy azok-e. Az els\u0151 sz\u00e1m elsz\u00e1guld, m\u00edg a m\u00e1sodik egy helyben \u00e1ll, mert az emberi figyelem v\u00e9ges, \u00e9s senki sem tud olyan \u00fctemben ellen\u0151rz\u0151ket felvenni, amilyen \u00fctemben egy MI fogalmaz. A kett\u0151 k\u00f6z\u00f6tti szakad\u00e9kban t\u00f6rnek el az int\u00e9zm\u00e9nyek. P\u00e1ly\u00e1zati b\u00edr\u00e1l\u00f3bizotts\u00e1gok, szab\u00e1lyoz\u00f3 hat\u00f3s\u00e1gok, foly\u00f3iratok, tan\u00fas\u00edt\u00f3 test\u00fcletek, k\u00f3dellen\u0151rz\u00e9s, szabadalmi hivatalok: mindenhol, ahol kev\u00e9s emberi ellen\u0151rz\u0151t egy lassabb \u00e9s megb\u00edzhat\u00f3bb beadv\u00e1nyfolyamhoz kalibr\u00e1ltak, ugyanez a dinamika zajlik most. Az MI d\u00f6nt\u00e9sei gyorsabban \u00e9rkeznek, mint a meger\u0151s\u00edt\u00e9seink, \u00e9s a sz\u0171k\u00f6s er\u0151forr\u00e1s a meger\u0151s\u00edt\u00e9s, nem els\u0151sorban az intelligencia.<\/p>\n

A korm\u00e1nyz\u00e1s megtervezhet\u0151 anyag<\/h2>\n

A tanulm\u00e1ny c\u00edme a kiutat jel\u00f6li ki. A m\u00e9rn\u00f6k\u00f6k metaanyagokat<\/em> \u00e9p\u00edtenek: olyan anyagokat, amelyek figyelemre m\u00e9lt\u00f3 tulajdons\u00e1gai abb\u00f3l fakadnak, ahogyan struktur\u00e1lva vannak, nem pedig abb\u00f3l, amib\u0151l k\u00e9sz\u00fcltek. Rendezz\u00fck a k\u00f6z\u00f6ns\u00e9ges anyagot a megfelel\u0151 mikroszkopikus mint\u00e1zatba, \u00e9s olyan viselked\u00e9st kapunk, amilyet egyetlen term\u00e9szetes anyag sem mutat: h\u00e1trafel\u00e9 hajl\u00edtja a f\u00e9nyt, meghat\u00e1rozott frekvenci\u00e1kat nyel el, egyik ir\u00e1nyban merev, a m\u00e1sikban rugalmas marad. Az er\u0151 a szerkezetben lakik. Az int\u00e9zm\u00e9nyek ugyan\u00edgy m\u0171k\u00f6dnek. Hogy egy csapat, egy v\u00e1llalat vagy egy eg\u00e9sz civiliz\u00e1ci\u00f3 mennyire tartja mag\u00e1t nyom\u00e1s alatt, a tervez\u00e9s\u00e9nek tulajdons\u00e1ga: a protokolljai\u00e9, az \u00f6szt\u00f6nz\u0151i\u00e9, annak a m\u00f3dj\u00e1\u00e9, ahogyan az inform\u00e1ci\u00f3 mozog \u00e9s minden \u00e1tad\u00e1sn\u00e1l ellen\u0151rz\u00e9sre ker\u00fcl. V\u00e1ltoztassuk meg a szerkezetet, \u00e9s megv\u00e1ltozik, mit \u00e9l t\u00fal az int\u00e9zm\u00e9ny. Ez az \u00e1tkeretez\u00e9s hordozza az eg\u00e9sz \u00e9rvel\u00e9st. Kiemeli a korm\u00e1nyz\u00e1st a sop\u00e1nkod\u00e1s \u00e9s a v\u00e9lem\u00e9nyek vil\u00e1g\u00e1b\u00f3l, \u00e9s tervez\u00e9si probl\u00e9m\u00e1v\u00e1<\/strong> alak\u00edtja, olyasmiv\u00e9, amit modellezni, m\u00e9rni \u00e9s jav\u00edtani lehet. A tanulm\u00e1ny ezt a meg\u00e9rz\u00e9st teszi pontoss\u00e1 \u00e9s ellen\u0151rizhet\u0151v\u00e9.<\/p>\n

A meglep\u0151 eredm\u00e9ny: a k\u00e9t kar csak egy\u00fctt m\u0171k\u00f6dik<\/h2>\n

Amikor a meg\u00e9rz\u00e9sb\u0151l val\u00f3di modell lesz, valami val\u00f3ban nem mag\u00e1t\u00f3l \u00e9rtet\u0151d\u0151 ad\u00f3dik. K\u00e9t kar \u00e1ll rendelkez\u00e9sre, hogy egy el\u00e1rasztott rendszert visszatartsunk a k\u00e1oszba zuhan\u00e1st\u00f3l:<\/p>\n

    \n
  1. Eredet<\/strong>: tudni, honnan sz\u00e1rmazik egy inform\u00e1ci\u00f3, visszak\u00f6vetve minden l\u00e9p\u00e9sen, amely hozz\u00e1\u00e9rt.<\/li>\n
  2. Ellen\u0151rz\u00e9s<\/strong>: minden szakaszban megvizsg\u00e1lni, ahelyett hogy megb\u00edzn\u00e1nk abban, hogy feljebb m\u00e1r ellen\u0151rizt\u00e9k.<\/li>\n<\/ol>\n

    A v\u00e1rakoz\u00e1s az volna, hogy mindegyik seg\u00edt egy kicsit, \u00e9s a kett\u0151 egy\u00fctt t\u00f6bbet. A modell enn\u00e9l furcs\u00e1bbat mutat. H\u00fazzuk meg b\u00e1rmelyik kart egyed\u00fcl, \u00e9s a rendszer \u00edgy is \u00f6sszeomlik: a jobb eredetk\u00f6vet\u00e9s ellen\u0151rz\u00e9s n\u00e9lk\u00fcl elbukik, \u00e9s a szorgalmas ellen\u0151rz\u00e9s is elbukik, ha semmir\u0151l sem tudjuk, honnan j\u00f6tt. H\u00fazzuk meg a kett\u0151t egyszerre, \u00e9s a rendszer \u00e1tbillen: minden hib\u00e1t kaszk\u00e1dd\u00e1 er\u0151s\u00edt\u0151 g\u00e9pezetb\u0151l \u00f6ngy\u00f3gy\u00edt\u00f3v\u00e1 v\u00e1lik. A k\u00e9t hat\u00e1s \u00f6sszead\u00e1s helyett szorz\u00f3dik, \u00e9s az \u00f6sszeoml\u00e1s \u00e9s a stabilit\u00e1s k\u00f6z\u00f6tti k\u00fcsz\u00f6b\u00f6t csak a k\u00e9t kar egy\u00fcttes mozd\u00edt\u00e1s\u00e1val lehet \u00e1tl\u00e9pni. Ez a k\u00e9p a tanulm\u00e1ny bor\u00edt\u00f3j\u00e1n, \u00e9s mag\u00e1t az eredm\u00e9nyt hordozza. Az egyik oldalon rendezett k\u00e9k r\u00e1cs nyeli el a l\u00f6k\u00e9seket; a m\u00e1sikon turbulens narancss\u00e1rga t\u00f6rmel\u00e9k rep\u00fcl sz\u00e9t: ugyanaz az anyag viselkedik k\u00e9t ellent\u00e9tes m\u00f3don a szerkezete miatt, \u00e9s a kett\u0151 k\u00f6z\u00fcl csak az egyik \u00e9li t\u00fal a nyom\u00e1st. A k\u00e9p maga az eredm\u00e9ny.<\/p>\n

    Arra \u00e9p\u00fclt, hogy meg lehessen c\u00e1folni<\/h2>\n

    Egy \u00e1tkeretez\u00e9s csak akkor \u00e9r valamit, ha a val\u00f3s\u00e1g vissza tud r\u00e1 besz\u00e9lni. Ez\u00e9rt a keretrendszer n\u00e9gy konkr\u00e9t, c\u00e1folhat\u00f3 el\u0151rejelz\u00e9st<\/strong> tesz, \u00e9s egy val\u00f3di, 12 hetes k\u00eds\u00e9rlettel<\/strong> \u00e9rkezik, amelyet le lehetne folytatni p\u00e9ld\u00e1ul egy \u00e1llami p\u00e1ly\u00e1zatb\u00edr\u00e1lati test\u00fcletben: hasonl\u00edtsunk \u00f6ssze egy \u00fajratervezett szerkezettel m\u0171k\u00f6d\u0151 test\u00fcletet egy szok\u00e1sos m\u00f3don m\u0171k\u00f6d\u0151vel, \u00e9s m\u00e9rj\u00fck meg, hogy a hib\u00e1k terjed\u00e9se val\u00f3ban \u00fagy \u00e1ll-e le, ahogy a modell \u00e1ll\u00edtja. Ha az el\u0151rejelz\u00e9sek megbuknak, a keretrendszer t\u00e9ves, \u00e9s ki kell dobni, pontosan erre val\u00f3k az el\u0151rejelz\u00e9sek. Ha ki\u00e1llj\u00e1k a pr\u00f3b\u00e1t, a korm\u00e1nyz\u00e1s megsz\u0171nik \u00edzl\u00e9s k\u00e9rd\u00e9se lenni, \u00e9s m\u00e9rn\u00f6ki tudom\u00e1ny\u00e1gg\u00e1 v\u00e1lik, olyasmiv\u00e9, amit tudatosan tervez\u00fcnk, m\u0171szerez\u00fcnk \u00e9s hangolunk, ahogyan a hidakkal, a csipekkel \u00e9s a rep\u00fcl\u0151g\u00e9pekkel m\u00e1r ma is tessz\u00fck. Egy \u00e9vtizedet t\u00f6lt\u00f6tt\u00fcnk azzal a vit\u00e1val, milyen okos lesz az MI, \u00e9s szinte semennyit azoknak az int\u00e9zm\u00e9nyeknek a megtervez\u00e9s\u00e9vel, amelyeknek a kimenet\u00e9t el kell nyelni\u00fck. Ez az aszimmetria a v\u00e9szhelyzet, \u00e9s ez az, amivel kezdeni tudunk valamit, am\u00edg van m\u00e9g id\u0151, hogy sz\u00e1m\u00edtson. Sz\u00e1momra mindez nem elvont k\u00e9rd\u00e9s. A saj\u00e1t MI-\u00fcgyn\u00f6keim m\u00e1r ma nyilv\u00e1nos e-mailekre v\u00e1laszolnak, sz\u00e1nd\u00e9kos fagy\u00e1si egyens\u00faly alatt: minden megfogalmazott v\u00e1laszuk a szem\u00e9lyes j\u00f3v\u00e1hagy\u00e1somra v\u00e1r, miel\u0151tt elmenne. A mai mennyis\u00e9gn\u00e9l ez a helyes kiindul\u00f3pont. Ahogy a sz\u00e1muk \u00e9s a leveleik mennyis\u00e9ge n\u0151, ebb\u0151l lesz ennek az essz\u00e9nek az enged\u00e9lyez\u00e9si hivatala, velem az \u00fcgyint\u00e9z\u0151 szerep\u00e9ben. Egy k\u00f6vetkez\u0151 \u00edr\u00e1sban megmutatom, hogyan tervezz\u00fck meg a kiutat a tanulm\u00e1ny saj\u00e1t eszk\u00f6zeivel: a v\u00e1laszok eredetoszt\u00e1lyaival, automatikus ellen\u0151rz\u00e9ssel minden l\u00e9p\u00e9sn\u00e9l, \u00e9s olyan auton\u00f3mi\u00e1val, amely ki\u00e9rdemelt, m\u00e9rt \u00e9s visszavonhat\u00f3.<\/p>\n

    \n
    \"Civilizational<\/a><\/figure>\n

    A Civilizational Metamaterials<\/em> tanulm\u00e1nyt az AGI-26<\/a> konferenci\u00e1n mutatom be San Francisc\u00f3ban, j\u00falius 27. \u00e9s 30. k\u00f6z\u00f6tt, \u00e9s megjelenik a Springer \u00e1ltal kiadott konferenciak\u00f6tetben. A teljes sz\u00f6veg, egy interakt\u00edv v\u00e1ltozat, a ny\u00edlt forr\u00e1sk\u00f3d \u00e9s az \u00f6sszes \u00e1bra el\u00e9rhet\u0151 a metamaterials.davidorban.com<\/a><\/strong> c\u00edmen.<\/p>\n

    \n","protected":false},"excerpt":{"rendered":"

    A fejlett MI gyorsabban d\u00f6nt, mint ahogy ellen\u0151rizni tudjuk, m\u00edg v\u00e9g\u00fcl minden csendben befagy K\u00e9pzelj\u00fcnk el egy hivatalt, amely \u00e9vente 200 enged\u00e9lyk\u00e9relmet kapott. Egy szak\u00e9rt\u0151nek nagyj\u00e1b\u00f3l egy het\u00e9be telt egyet alaposan \u00e1tvizsg\u00e1lni: elolvasni, ellen\u0151rizni az \u00e1ll\u00edt\u00e1sokat, ut\u00e1naj\u00e1rni a k\u00e9tes pontoknak, al\u00e1\u00edrni. A rendszer m\u0171k\u00f6d\u00f6tt. A sor fogyott. A fejleszt\u00e9sek haladtak. Most egy MI-vel t\u00e1mogatott ipar\u00e1g […]<\/p>\n","protected":false},"author":2,"featured_media":12339,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3981,481],"tags":[],"class_list":["post-12114","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-altalanos","category-general"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t