Érdekes ideológiai szembenállás alakult ki a pápaság intézménye és a Szilícium-völgy potentátjai között az utóbbi időben. És ez a szembenállás nem másról szól, mint az emberiség jövőjéről és a mesterséges intelligenciának az emberi társadalomban betöltött szerepéről. Tekintve azt a robbanásszerű fejlődést, amin a mesterséges intelligencia átment, és azt, ahogyan a mesterséges intelligencia egyre inkább a hatalomkoncentráció eszközévé válik, mindössze idő kérdése volt, hogy a tech-lordok és az emberiség spiritualitását, valamint az emberséget a társadalom központjába állító irányzatok ütközzenek. Jó értelemben meglepő, hogy ezt a keresztes hadjáratot az AI ellen ezúttal is a katolikus egyház indította el. Nézzük a részleteket.

A tech-lordok az AI-ról

A BlackRock, a világ legnagyobb vagyonkezelője az a fórum, ahol az AI-ipar és a pénzügyi világ összeér. Két eseményen, amelyet a cég szervezett tavaly, egymás után hangzottak el azok a mondatok, amelyek megmutatják, hogyan gondolkodnak a tech-ipar vezérei az AI jövőjéről, és a részletek elég riasztóak. 

Sam Altman, az OpenAI vezére azt mondta: olyan jövőt lát, amelyben az intelligencia közmű, mint az áram vagy a víz, és az emberek mérőóra alapján vásárolják tőlük. Larry Fink, a BlackRock vezérigazgatója arról beszélt, hogy az AI-infrastruktúrához szükséges billió dollárok a magánszektorból fognak jönni: megtakarítási számlákból, nyugdíjalapokból, biztosítóktól. Ez nem opció, hanem kényszer, mondta, mert ha Amerika nem fektet be, Kína lesz az AI globális vezetője. Larry Ellison, az Oracle alapítója az Oracle pénzügyi elemzői találkozóján festette meg a jövő képét: az állampolgárok a lehető legjobban fognak viselkedni (értsd: öncenzúra), mert ők mindent folyamatosan rögzítenek és jelentenek majd. Minden rendőrautón, kapucsengőn és műszerfalon kamera lesz, az AI feldolgozza a felvételeket, és jelent, ha probléma van. Peter Thiel korábban megfogalmazott elmélete pedig a Szilícium-völgy egyik alapvetésévé vált: talán meg lehet változtatni a világot egyoldalúan anélkül, hogy meg kellene győzni az embereket, technológiai eszközökkel. A technológia alternatíva a politikával szemben ebben a meglátásban. 

Együtt olvasva ezek a mondatok egy nagyszabású vízió részei: az intelligencia áru, a finanszírozás közvagyon, az ellenőrzés totális, a demokrácia megkerülhető. Nem éppen az, amivel a mesterséges intelligenciát eladták nekünk a kezdetben. 

Az „Antikrisztus” Rómában

Nemrég Peter Thiel, a PayPal és a Palantir alapítója zárt körű, négyrészes előadássorozatot tartott Rómában az Antikrisztusról. Az esemény annyira vitatottnak bizonyult, hogy a kezdetben érintett katolikus egyetemek sorra tagadták meg a részvételüket. Thiel tézise szerint az Antikrisztus nem feltétlenül személy, hanem egy rendszer, egy globális kormányzat, amely a mesterséges intelligencia, a klímaváltozás vagy az atomháború fenyegetésére hivatkozva veszi át az ellenőrzést az emberiség felett. Ebben a keretrendszerben az Antikrisztus a fejlődés megállítója, a technológia fékezője, valaki, aki a biztonság nevében korlátoz. Saját megfogalmazásában: „az Antikrisztus jelszava: béke és biztonság." Thiel itt Pál apostolra hivatkozik, aki szerint éppen akkor jön a pusztulás, amikor az emberek biztonságban érzik magukat.

Talán reakcióként minderre vagy teljesen függetlenül mindettől, nem tudni, de a pápa is hamarosan megszólalt a kérdésben, ha már Thiel épp Rómában prédikált az Antikrisztusról. Két hónappal később XIV. Leó pápa közzétette első enciklikáját, a Magnifica Humanitas, vagyis A csodálatos emberiség című dokumentumot. A pápa ebben a dokumentumban pontosan az ellenkezőjét állítja annak, amiről a tech lordok beszéltek a Black Rock eseményein: a mesterséges intelligenciát „le kell fegyverezni”. Saját bevallása szerint szándékosan választotta ezt a kifejezést.

Ha Thiel szerint az Antikrisztus az, aki a fejlődést fékezni akarja, a Vatikánban pontosan értették a célzást, Friar Paolo Benanti, a Vatikán AI-tanácsadója nem is kerülgette a kérdést. A Le Grand Continent francia folyóiratban megjelent esszéje ezt a címet viselte: Az amerikai eretnekség: Meg kell-e égetni Peter Thielt?

A Vatikán reakciója az „isten a dobozban” elméletre 

A Magnifica Humanitas időzítése tudatos: a pápa május 15-én írta alá, pontosan 135 évvel XIII. Leó Rerum novarum enciklikájának megjelenése után, a katolikus társadalmi tanítás alapdokumentuma után, amely az ipari forradalom korában a munkások jogai mellett szállt síkra. Amit az ipari kapitalizmus jelentett a 19. században, azt jelenti ma az algoritmizált hatalomkoncentráció, legalábbis a Vatikán olvasatában.

A Szilícium-völgy egy része gyorsan reagált. Dean Ball, a Trump-adminisztráció egykori AI-politikai tanácsadója az enciklikát „mélyen amerikaellenes, technokrata szabályozáspárti szövegnek” minősítette, és hozzátette: nem erre volt szüksége az egyháztól. David Sacks, a Fehér Ház volt AI-koordinátora azt vetette a pápa szemére, hogy kormányoknak akarja átadni az ellenőrzést az AI felett, ami szükségképpen orwelli megfigyelőállamhoz vezet. Marko Jukic elemző egyenesen azt írta: az Anthropic mögött álló Bay Area-i „effektív altruisták” morálisan és teológiailag gondolkodóbb emberek, mint az egész katolikus egyház.

Az „effektív altruista” mozgalom és a „longtermista” gondolkodók köre az általános mesterséges intelligencia megteremtését civilizációs küldetésként fogja fel. Számukra nem egy termék fejlesztéséről van szó, hanem valami olyasmi létrehozásáról, ami az embert meghaladja, és megoldja, amit az ember eddig nem tudott, ezt hívják röviden „isten a dobozban” elméletnek, és a Vatikánt nyilvánvalóan nagyon zavarja egy ilyen törekvés, ezért nincs is, amit csodálkozni azon, hogy a pápa bevetette a katolikus eszköztár egyik legfontosabbikát. A vallási nyelv nem véletlen analógia a tech lordok körében, Thiel maga is keresztényként gondolkodik, és a „tech-messianizmus” és a keresztény eszkatológia metszéspontján navigál immár évek óta.

Gondolkodásának gerince René Girard francia filozófustól származik, akivel a Stanford egyetemen találkozott az 1980-as években. Girard szerint az emberi vágy utánzott vágy: azt akarjuk, amit a másik akar, ebből rivalitás lesz, a rivalitásból erőszak. Az archaikus társadalmak ezt úgy vezették le, hogy az erőszakot egyetlen áldozatra összpontosították, a bűnbakra, akinek halála ideiglenes békét teremtett. Girard pacifista volt, és azt mondta: ez a mechanizmus csak a lemondással törhető meg. Thiel átvette az elméletet, de megfordította: szerinte az erőszak igenis szükséges eszköz lehet, az üdvút pedig nem a lemondás, hanem a korlátlan technológiai fejlődés.

Ehhez társul Vladimir Szolovjov 1900-as kisregénye, amelyben az Antikrisztus nem szarvakkal jelenik meg, hanem mérnökként, valaki, aki racionális megoldásokat kínál a káoszra, és éppen ezért veszi át a hatalmat. Carl Schmitt, a kivételes állapot elméletének kidolgozója, azt mutatta meg, hogy a rendkívüli veszélyhelyzet hogyan legitimálja a korlátlan hatalmat: aki a fenyegetést definiálja, az szabja meg a választ is.

Thiel mindebből egyetlen keretet épít: aki az AI veszélyeire hivatkozva szabályozni akar, az pontosan azt csinálja, amit Szolovjov mérnöke, a félelem nevében veszi át az irányítást. A kritikusok erre azt mondják: a mindenre kiterjedő megfigyelési rendszerek, amelyektől Thiel óv, már léteznek. Nagyrészt az övéi, gondoljunk csak a Palantirra. 

Lefegyverezni az AI-t

XIV. Leó kiindulópontja, hogy a technológia önmagában nem rossz, de nem semleges, annak arcát ölti magára, aki megtervezi, finanszírozza, szabályozza és használja. Míg Thiel azt mondja, hogy a fejlesztőknek kell szabad kezet adni, mert ők a haladás hordozói, a pápa szerint az AI nem maradhat egy szűk réteg kezében, mert az AI már nem termék, hanem a háborút, a munkát, a politikát és az emberi kapcsolatokat szervező erő.

Az enciklika külön fejezetet szentel a hadviselésnek. A pápa szerint egyetlen algoritmus sem tehet egy háborút erkölcsileg elfogadhatóvá, halálos döntéseket soha nem szabad gépekre bízni. A demokráciáról azt mondja: az igazság iránti közömbösség lassan, de biztosan totalitarizmusba torkollik. A deepfake-eket nevesíti, az algoritmikus buborékokat nevesíti, azokat a rendszereket, amelyek nem véletlenül épültek ilyenre, hanem mert így volt rájuk kereslet a hirdetési piacon. Nagyon fontos, amit a munkáról mond: az automatizáció nem válthatja ki csendben az embert. A munka nem gazdasági funkció, hanem a méltóság része, ez a Rerum novarum 135 évvel ezelőtti tétele, és a pápa szerint ma is az. És ott van a láthatatlan költség, amelyről a tech-ipar ritkán beszél: egyes régiókban gyerekek dolgoznak bányákban, hogy kitermeljék azokat az ásványokat, amelyek a világ számítógépeit működtetik. Az enciklika nem hajlandó ezt figyelmen kívül hagyni. Ha az adataink felett nem kapunk valódi kontrollt, írja a pápa, a digitális kor egy újfajta gyarmatosítássá válik. Thiel tehát az Antikrisztust a szabályozóban látja. A pápa az Antikrisztust abban látja, aki mindebből profitál, miközben a fejlődésre hivatkozik, anélkül, hogy látnánk ennek a fejlődésnek a kifutását vagy a súlyos társadalmi következményeit. 

Két úr szolgája

A paradoxon az, hogy Thiel maga is katolikus. Ahogy JD Vance is az, aki Thiel protezsáltjaként jutott el az alelnöki székig. Thiel volt az első jelentős donor Vance politikai karrierjében, és a kettejük viszonya nem csupán anyagi természetű: Vance Thiel szellemi körében szocializálódott, ugyanabban az eszkatologikus tech-konzervativizmusban, amely most szemben találja magát a pápával.

Mindehhez hozzátartozik, hogy a Trump-adminisztráció az AI-t nem etikai kérdésként, hanem hatalmi eszközként kezeli. A Palantir rendszerei ott dolgoznak a határon, az adatgyűjtésben, és ott dolgoznak a hadszíntéren is: a Project Maven, amelybe az Anthropic Claude modelljét integrálták, az Irán elleni hadműveletekben is szerepet kapott. Trump nem véletlenül adott szabad kezet a tech-iparnak: a Szilícium-völgy egy meghatározó szegmense átállt mellé, cserébe a szabályozás visszaszorításáért. Ez az alku most kap vallási dimenziót.

Vance helyzete ezért bonyolultabb, mint egy egyszerű lojalitáskonfliktus. Az Egyesült Államok legmagasabb rangú katolikusaként egyszerre tartozik annak a Szilícium-völgyi jobboldalnak, amely a karrierjét megágyazta, és annak a katolikus jobboldalnak, amelynek szavazataira szüksége lesz 2028-ban. Amikor az enciklika megjelent, pozitívan nyilatkozott, „mélynek” és „fontosnak” nevezte. Állítólag az Anthropic Mythos-modelljének megtekintése után azt mondta az összegyűlt AI-vezéreknek: megijesztette őt a modell. Egy évvel korábban Párizsban még arról beszélt, hogy a túlzott szabályozás megölhet egy transzformatív iparágat, csakhogy sok minden történt ezalatt.

Hogy szemléletváltás-e ez Vance részéről, vagy taktikai manőver, egyelőre nem tudni. De a kérdés, amellyel Vance-nek szembe kell néznie, az egész nyugati konzervatív jobboldal törésvonala: a tech-gyorsítók és a vallási konzervatívok egyelőre szövetségesek, az AI kérdésében azonban ez a szövetség máris nagyon éles ellentéteket vetít előre, s a pápa színrelépése mindenesetre új dimenziót nyitott a kérdésben.

A huszonegyedik század keresztes háborúja most kezdődik

A pápa nem tud szankcionálni, nem tud törvényt alkotni, de erre nincs is szükség. Ugyanis abban hatalmas erő van, hogy 1,3 milliárd emberhez tud szólni, akik oda is figyelnek arra, amit mond. A pápaság ezzel felvállalta az emberiesség képviseletét, és bár jómagam református vagyok, kénytelen vagyok azt mondani, hogy az ismertetett fejlemények kapcsán azt gondolom, hogy egy ilyen spirituális erőkoncentrációra jelenleg nagyon nagy szükség van, ugyanis egyre kellemetlenebb érzés fog el protestánsként, ahogy látom azt, hogy Amerikában a protestáns egyházak egyrészt vagy politikai szélsőségek és az identitáspolitika irányába tolódnak el, vagy az irrelevancia határán mozognak. A katolikus egyház ebben a kontextusban talán az utolsó „frontier” az emberiség emberiességének és az emberi méltóságnak a védelmében. 

A Magnifica Humanitas ugyanis azt mondja, hogy a technika azok jellemét veszi fel, akik tervezik, finanszírozzák, szabályozzák és használják, ezért nem mindegy, hogy kinek a kezében van és milyen célra használják. Ennélfogva a katolikus egyház megfogalmazta az alapot magát, hogy a jövőben az AI fejlesztése milyen irányt vegyen és ez fontos mérföldkő, valószínűleg történelmi jelentőségű, ezért is tartottam fontosnak írni erről. A kérdés most már tulajdonképpen az, hogy az emberiség egyik legerősebb erkölcsi tekintélye elegendő ellensúlyt jelent-e azzal a gazdasági és politikai erővel szemben, amely úgy gondolja: az Antikrisztus az, aki lassít? Meglátjuk.