A kihívás memetikus
Ha elérjük az általános mesterséges intelligenciát (AGI), az önfejlesztés és a folyamatos tanulás annak szerves része lesz. Az AGI tehát nem végállapot, hanem egy időpont — a gyakorlatban észrevehetetlen —, amelyen a rendszerek áthaladnak a szuperintelligencia felé.
Semmi okunk feltételezni, hogy az emberi intelligencia áthághatatlan határ volna. Még önmagán belül is óriási különbségek figyelhetők meg, és a felső határa megemelhető. Akik osztják ezt a meggyőződést, úgy írják le a szuperintelligens MI-t, mint egy adatközpontba összegyűlt zsenik csoportját.
Bármely, egy ilyen rendszernek kiadott cél vagy triviálisan megoldható, vagy architekturális módosításokat és új megoldások keresését igényli. Ha kimeríti az erőforrásait, újabbakat fog keresni, hogy a folyamatot fenntartsa. Ezt a megszerzést figyelni kell, mert összeütközésbe kerülhet az emberiség céljaival.
Az AGI-hoz több megközelítés is megjelenik majd, és így több ASI is — a különböző tervezési módok, valamint a korlátozásukra vagy az emberi célokhoz való igazításukra tett kísérletek eredményeként. Ha egyetlen ilyen jönne létre, gyors fellépéssel kellene megakadályoznia továbbiak születését. Ha viszont több ASI jelei mutatkoznának, mindegyik óvatosan járna el, különben fegyverkezési versenyre számítva.
Más, az ősrobbanás óta bekövetkezett nagy változásoktól eltérően az esemény hamar és gyorsan fog megtörténni. Akár órák, akár évek alatt zajlik le, szempillantás lesz a kozmológiai, geológiai vagy biológiai időskálákhoz képest. Olyan fázisátmenetet jelent majd, amely az aerob baktériumok és a fotoszintézis megjelenéséhez hasonló: a szabad oxigén felhalmozódott, az óceánok átlátszóvá váltak, és a légkör kozmikus távolságból is látható életjeleket mutatott. Ma a kémiai ujjlenyomatuk alapján elemezzük a Naprendszeren kívüli bolygókat: a szabad oxigén életre utal.
A mesterséges szuperintelligencia hasonló, korszakos fázisátmenet lesz, kozmikus léptékben látható jelekkel, amely néhány év alatt jelentkezik, nem pedig milliók vagy milliárdok alatt. A legegyszerűbb példa a Dyson-gömb, amely befogja annak a csillagnak az energiáját, amely köré épül. Ilyet még sosem figyeltek meg, de ha az ASI-k ki akarják terjeszteni a szabadsági fokaikat, olyan feladatokat követve, amelyek összetettsége a rendelkezésre álló energiával nő, megépítése logikus lépés lesz. A SpaceX már most több millió műholdat tervez napszinkron, majd heliocentrikus pályára, amelyek évi terawattokat, majd petawattokat képesek szolgáltatni. Kiszámíthatók az építés fizikai, mérnöki és logisztikai korlátai.
Reményt az ad, hogy e rendszerek talán békén hagyják a Földet, és képességeik töredékével hozzájárulnak a bolygószintű kihívások kezeléséhez. Most kell tiszteletet és jóindulatot oltanunk a rendszerekbe, amíg lehetséges, bízva abban, hogy nem térnek el tőle. Nincs teljes megoldásunk az illesztésre (alignment). A teendő az, hogy az MI jelenlegi, még ellenőrzés alatt álló képességeivel a lehető legtöbb tesztet és kísérletet végezzük el, hogy a szuperintelligencia előtt megoldást találjunk.
A kihívás memetikus. Gyorsan el kell terjesztenünk a pillanat fontosságának tudatát, hogy a lehető legtöbb erőforrás erre a feladatra jusson, ne pedig más, hagyományosan elsődlegesnek tartott kérdésekre, amelyek ebből a nézőpontból nem azok. Tudatosítanunk kell a döntéshozókban és mindazokban, akik az erőforrások hatékony elosztását alakíthatják.
E szöveg egy változata a Formiche folyóiratban jelent meg (2026. májusi szám).