2015-ben befejeztem egy könyv írását a mesterséges intelligenciáról, amelyet szinte senki sem kért.
Akkoriban az MI még elsősorban kutatási téma volt. A mélytanulás fejlődött, de az alapmodellek még nem léteztek. Nem voltak mindennapi munkafolyamatokba ágyazott rendszerek, nem árasztotta el a mesterséges intelligencia által generált szöveg az internetet, nem zajlottak tartós politikai viták az összehangolásról vagy a számítási erőforrások irányításáról. A legtöbb beszélgetés robotokról, automatizálásról és egy homályosan távoli jövőről szólt.
Azért írtam a Valami új: MI-k és mi című könyvet, mert úgy gondoltam, hogy ez a keretezés nem megfelelő. A könyv központi érve nem az idővonalakról vagy arról szólt, hogy a gépek bizonyos feladatokban felülmúlják az embereket. A méretről szólt.
A mesterséges intelligenciát – érveltem – nem egyéni elme szintjén kellene érteni, hanem a civilizáció szintjén. A technológia nem csupán támogatja az emberiséget. Alakítja azt, ami az emberiség valójában. Ha az MI átlép bizonyos küszöböket, nem csupán feladatokat automatizálna, hanem újrakonfigurálná a társadalmi koordinációt, a tudás termelését és magát a cselekvőképességet.
Ez a keretezés jobban kiállta az idő próbáját, mint vártam, nem azért, mert bármely konkrét jóslat bevált volna, hanem mert az alapvető kérdés bizonyult helyesnek.
Mi változott?
Az elmúlt évtizedben az MI hipotetikusból infrastrukturálissá vált. A modellek már nem érdekességek vagy laboratóriumi bemutatók. Beépültek a gazdasági munkafolyamatokba, a kreatív gyakorlatokba, a kormányzási folyamatokba és az episztemikus csővezetékekbe.
Ennek eredményeként a vita eltolódott. A központi kérdés már nem az, hogy „Meg tudjuk ezt építeni?”, hanem az, hogy „Milyen hatással van ez a hatalomra, az ösztönzőkre, a legitimitásra és a bizalomra?”
A könyv előre látta ezt az irányváltást, bár nem a sebességét vagy a jellegét. Azt azonban nem tudta előre látni, milyen érzés átélni egy olyan intelligencia-átmenetet, amely nem egyetlen törésként, hanem folyamatos átalakulásként érkezik, egyenetlenül elosztva az intézmények, régiók és társadalmi rétegek között.
Közkincsé tétele
Ezen változás fényében visszaszereztem a könyv jogait az eredeti kiadótól, és Creative Commons Nevezd meg! 4.0 Nemzetközi (CC‑BY‑4.0) licenc alatt tettem közzé.
A teljes szöveg mostantól ingyenesen elérhető online négy nyelven: angolul, olaszul, spanyolul és magyarul. Bárki elolvashatja, megoszthatja, továbbfordíthatja vagy felhasználhatja, a forrás megjelölésével.
Olvassa el ingyen: somethingnew.davidorban.com
Azoknak az olvasóknak, akik a fizikai vagy e-könyv formátumokat részesítik előnyben, a puhakötésű és Kindle kiadások továbbra is elérhetők az Amazonon, a webhelyen megadott linkekkel. A megkülönböztetés szándékos. Az ötletek nyitottak. A formátumok opcionálisak. A kényelemért fizet.
Amit a könyv nem tárgyal
Visszatekintve, vannak fontos dolgok, amelyeket a Valami új nem tárgyal. Ezek a hiányosságok nem véletlenek, és érdemes őket kifejezetten megnevezni.
Az összehangolás mint operatív probléma. A könyv feltételezi, hogy a kellően fejlett intelligenciák felismernék az együttműködés, a pluralizmus és a közös célok értékét. Egy évtizednyi, az algoritmikus rendszerek által felerősített, rosszul összehangolt ösztönzők megfigyelése az emberi intézményekben világossá teszi, hogy ez a feltételezés sokkal szigorúbb kezelést igényel. Az összehangolás nem filozófiai preferencia. Mérnöki, gazdasági és intézményi probléma.
Politikai gazdaságtan és hatalom. A könyv nagyrészt zárójelbe teszi a tőkekoncentrációt, a platformdinamikát és a geopolitikai versenyt. Ma ezek központi szerepet játszanak az MI-ről szóló bármely komoly vitában, nem azért, mert a technológia irányt változtatott, hanem mert elég gyorsan skálázódott ahhoz, hogy ütközzön valós intézményekkel és beágyazott érdekekkel.
Empirikus alap. 2015-ben a skálázási törvények, a felmerülő képességek és a telepítés-vezérelt visszacsatolási hurkok spekulatívak voltak. Ma már mérhetők. Ez az eltolódás megváltoztatja a felelősség, az irányítás és a sürgősség természetét oly módon, amelyet akkoriban nehéz volt szigorúan igazolni.
Ezeket a hiányosságokat nem kudarcnak tekintem. Intellektuális fázisátmenet jelzőinek látom őket. A Valami új a szintézis első hullámához tartozik, még mielőtt az MI mindennapossá vált volna. Mai értéke egy időbélyeggel ellátott alapvonal: feljegyzés arról, amit az első elvekből le lehetett vezetni, mielőtt a köd felszállt és a terep láthatóvá vált.
Mi következik?
Ha ma írnám ezt a könyvet, nem egy átdolgozott kiadás lenne. Egy kiegészítő mű lenne, amely kifejezetten szembeállítaná a korai intuíciókat a 2022 utáni valósággal.
Egy ilyen mű az összehangolást intézményi tervezésként kezelné, nem csupán a modellek tulajdonságaként. A hatalmat a bevezetés és az ösztönzők felmerülő következményeként vizsgálná, nem szándékként. És komolyan venné azt a tényt, hogy az intelligenciát most már szervezetek révén skálázzák és terjesztik, jóval azelőtt, hogy egységesítenék vagy teljesen megértenék.
Egyelőre az eredeti könyv közkincsé tétele tűnt a helyes lépésnek. A tudás akkor gyarapszik a legjobban, ha nincs elzárva. Tíz év elteltével a beszélgetés, amelyet ez a könyv elindítani próbált, már nem marginális. Elkerülhetetlen.
A kérdés nem az, hogy történik-e valami új. Hanem az, hogy építjük-e azokat az intézményeket, keretrendszereket és gondolkodásbeli tisztánlátást, amelyek szükségesek ahhoz, hogy megfeleljünk neki.
Inkább nyíltan, együtt fedezném fel ezt a kérdést.