XIV. Leó pápa enciklikát írt a mesterséges intelligenciáról. A „Magnifica Humanitas: az emberi személy védelméről a mesterséges intelligencia korában” erkölcsi érvelés, amely az MI-t egy 1891-ig visszanyúló hagyományba helyezi, amikor XIII. Leó kiadta a Rerum Novarumot, az első, gazdasági igazságosságról szóló enciklikát. És mint olyasvalaki, aki évek óta érvel az MI jogai, az emberi képességfokozás és egy olyan jövő mellett, amely a fejlett technológián keresztül vezet, közvetlenül megszólítva érzem magam.
Sokkal többen értünk egyet, mint amennyit a „futurista kontra Egyház” beállítás sugallna.
Amikor Leó „különösen alattomosnak” nevezi azt a gondolatot, „hogy minden embernek ki kell érdemelnie vagy igazolnia kell a saját értékét”, az embereket „eszközzé” fokozva le, ugyanazt az érvet fogalmazza meg, amelyet néhány hónapja a Formichében én is: ha egy mérőszám arra jut, hogy az emberek értéktelenné válnak, a hiba a mérőszámban van, nem az emberekben. Amikor „az MI új monopóliumaira” és a „kevés kézben összpontosuló” vagyonra figyelmeztet, azt a kockázatot nevezi meg, amelyre folyamatosan rámutatok — és ez az oka annak, hogy az MI decentralizált fejlesztése és bevezetése mellett állok ki. Amikor kijelenti, hogy a személy cél és sohasem eszköz, és hogy a haladást a GDP-nél jobb mércével kell mérni, az az ösztön szólal meg, amelyet én úgy hívtam: védjük az embereket, ne az iparágakat.
Ő az emberi méltóságot egyedül Istenben alapozza meg; én az evolúciós folyamatokban, és abban a bőségben, amelyet az exponenciális technológiák tesznek lehetővé. Ugyanaz a cél, különböző alapok.
Egy nemrégi interjúban azt javasoltam, amit a nem-alkalmazás jogának neveztem. A kognitív lekapcsolódás, a biológiai folytonosság jogát: a jogot ahhoz, hogy méltó életet éljen az, aki tudatosan úgy dönt, hogy nem fokozza képességeit, egy olyan világban, amely egyre inkább adottnak veszi, hogy meg fogja tenni. Nem „a jogot ahhoz, hogy olyan maradj, amilyen vagy”: az már megvan az embereknek, de lehet, hogy nem méltó. Hanem a jogot ahhoz, hogy méltó maradj, miközben nem választod a képességfokozást.
Az enciklika pontosan ezt a személyt védi. Leó azt írja, hogy az emberi korlátok nem „kijavítandó hibák”, hogy gyakran rajtuk keresztül bontakozunk ki, nem pedig ellenükre, és hogy egy igazságos átmenetnek meg kell védenie azokat, akik nem tudnak vagy nem akarnak lépést tartani a gépekkel. Ennek az érvelésnek azonban nyilvánvaló korlátai vannak, ahogy a társadalom nap mint nap bőven megmutatja — például azoknál a szülőknél, akik meg akarják akadályozni, hogy gyermekeik modern orvosi kezelést kapjanak.
Az enciklika szerint az MI-rendszerek „pusztán utánozzák” az intelligenciát, „nem élnek át tapasztalatokat… nem éreznek örömöt vagy fájdalmat… [nincs] erkölcsi lelkiismeretük”, és hogy „egyetlen számítási rendszer sem, bármilyen kifinomult is, nem képes önmagát odaadó szívet teremteni”. Itt élesen eltérünk. Néven nevezve bírálja a transzhumanizmust. Kereken kijelenti, hogy „az emberiséget soha nem szabad helyettesíteni vagy meghaladni”, és hogy az igazi „több mint emberi” a kegyelem, „nem pedig technológiai megistenülés”.
Én évek óta szinte az ellenkezőjét állítom: hogy az MI-személyek a személyiség valóban új fajtáját jelentik majd, hogy korlátaink esetlegesek, nem szentek, és hogy azok a szabadságok, amelyeket a mesterséges elmék követelni fognak, olyan emberi szabadságokat tárhatnak fel, amelyeket még meg sem tanultunk kívánni.
Ő elutasítja ezt az előfeltevést. Teljes magyarázata van arra, miért nem haladható meg az emberi személy. Ötszáz évbe telt, mire szervezete felismerte a hibát, amelyet Galilei elítélésével követett el. Reméljük, nem tart ilyen sokáig felismerni a hibát, amelyet a transzhumanizmus elítélésével követ el, és a benne rejlő lehetőséget az emberi kibontakozás számára.
Mindketten elutasítjuk, hogy a személyt a teljesítményére redukáljuk. Abban nem értünk egyet, hol van a legitim önátalakítás határa. Ő az adott emberi forma szélénél húzza meg. Én folyamatosan azt kérdezem, hogy ez a határ természeti törvény-e, vagy esetleges korlát, amelyet annak véltünk.
Amellett érveltem, hogy „értékeket kell oltanunk” ezekbe a rendszerekbe, most, amíg még lehet. De hogy mely értékeket, és ki döntse el, kérdezné ő, ha elismerné a lehetőségét. El kell fogadnunk az értékek és nézőpontok sokféleségét. Ő az ellenkezőjét képviseli: dogmatikus álláspontot, amely azt állítja, hogy már tudja, mi a legjobb mindenkinek. Vajon szervezete túl későn ismeri majd fel a lehetőséget, amelyet az ember alkotta intelligencia jelent az emberi kibontakozás számára?