Ezért imádtam az AI-ról szóló pápai enciklikát

Nem szokásom pápai enciklikákat olvasni, most mégis ezt tettem XIV. Leó mesterséges intelligenciáról szóló elmélkedésével. És abszolút megérte! Mielőtt kifejteném, hogy miért is, azt még elmondanám, hogy ha szereted az írásaim, hasznosnak találod, hogy próbálok minél izgibb gondolatokat összegyűjteni a kortárs világválságaink és kihívásaink kapcsán, hívj meg egy kávéra, nagy örömmel fog eltölteni a kedves visszajelzésed!

Sokan meg fogtok lepődni, amikor azt írom, hogy a 21. század második negyedére a katolikus egyház, és annak feje maradt az egyik kevés olyan szereplő a világban, amely karakteresen védi a humánumot, az emberi szabadságot, a szabad vitát, a népszuverenitást, a demokratikus közjót és egyetemes emberi ítélőképességet.

Pedig ez a helyzet…

Persze az a modernista karikatúra, amely a babona, a sötétség és az elnyomás ügynökeként láttatta az egyházat, mindig is eltúlzott volt, még ha volt is bőven benne igazság.

De kétezer év katolikus gondolkodásában bőven volt haladó, felszabadító gondolat is. A két kedvenc példám a lengyel Paweł Włodkowic (1370-1435) és a spanyol Bartolomé de las Casas (1484-1566), akik a Baltikum és Dél-Amerika nem-keresztény lakosságának védelmében írva, vitázva, érvelve megalapozták az egyetemes emberi jogok, egyenlő emberi méltóság és a tolerancia szekuláris gondolatait.

Itt persze nem célom több mint kétezer év ellentmondásos történelmét objektíven értékelni, mindez csak onnan jutott eszembe, hogy elolvastam XIV. Leó pápa Magnifica Humanitas című enciklikáját, és azt gondolom, hogy ezidáig

ez az egyik legértelmesebb átfogó átgondolása a mesterséges intelligencia morális, társadalmi és politikai vetületeinek.

A több mint 40 ezer szavas írás elég nagy médiafigyelmet váltott ki, sok hullámzó minőségű összefoglaló is készült belőle, és sok olyan praktikus gondolatot tartalmaz a nyilvánosság, a munka, a család, nemzetközi kapcsolatok AI nyomán bekövetkező átalakulásáról, amelyet mások is megfogalmaztak már.

A mesterséges intelligenciáról való nyilvános diskurzusból viszont hiányzik egy sokkal mélyebb, alapvetőbb, filozófiaibb réteg, és ennek kibontatása az, ami a Magnifica Humanitas valódi értékét adja, röviden erre térnék most ki.

A Wolfgang Münchauval közösen vitt podcastban, az Econoclasts-ban Jánisz Varufákisz egykori szirizás görög pénzügyminiszter fogalmazta meg, hogy rengeteget beszélünk a nyilvánosságban arról, hogy mit is tud csinálni az AI, mire képes, de kevesebbet arról, hogy mit kellene csinálnia, mire szeretnénk mi használni ezeket a képességeit.

Vagyis a technikai beszélgetés felülírja a sokkal fontosabb normatív-politikai beszélgetést arról, hogyan lenne jó integrálni ezt az új technológiát az életünkbe.

XIV. Leó elgondolásában a mesterséges intelligencia társadalmi technológia, amely képes alakítani, rendezni, sőt gyökeresen megváltoztatni az emberek egymáshoz és önmagukhoz való viszonyát.

Emiatt pedig

a mesterséges intelligenciáról való gondolkodás egyúttal az emberek egymáshoz és önmagukhoz fűződő viszonyának természetéről való gondolkodás is.

Vagyis jóról és rosszról, helyesről és helytelenről, illetve az emberi természetről való gondolkodás is.

A pápa szerint a mesterséges intelligencia elsődlegesen nem egy “mágikus” és “materialitást nélkülöző” kód vagy algoritmus, hanem egy bonyolult, többszörösen összetett közvetítési hálózat, amely nyersanyagokat, energia-infrastruktúrákat és emberek rendez össze jól beazonosítható, konkrét módokon.

És az egyáltalán nem mindegy, hogy milyen módon is végzi ezt az összekötést: ki dönt a működésmódokról és ki részesül a technológia előnyeiből? A Magnifica Humanitas néhány alapvető, a katolikus társadalmi tanokból levezetett normatív elvárást támaszt a technológia iránt. Olyan elveket, amelyekkel nem-hívőként sem nehéz azonosulni: a közjó, a javak egyetemes rendeltetése, a szubszidiaritás, a szolidaritás és a társadalmi igazságosság.

Ebben az értelemben az enciklika egyik központi bekezdése ez:

“Egy olyan világban, ahol az adatok, a számítástechnikai erőforrások és a szabályozási befolyás továbbra is kevesek kezében van, a közjóról beszélni azt jelenti, hogy feltárjuk ezt az újfajta ismeretbeli, gazdasági és politikai aszimmetriát, és megnevezzük a mesterséges intelligencia új monopóliumait. Az javak egyetemes rendeltetéséről beszélni azt jelenti, hogy meg kell találni a módját annak, hogyan biztosítható az egyetemes hozzáférés mind a technológiákhoz, mind pedig az azok használatához szükséges oktatáshoz. A szubszidiaritásról beszélni azt jelenti, hogy meg kell védeni a közösségek döntéshozatali és korrekciós képességét, ahelyett, hogy szerepüket pusztán felügyeletre korlátoznánk, miután a szabványokat máshol már meghatározták. A szolidaritásról beszélni arra kötelez minket, hogy elismerjük azokat a rejtett, gyakran kizsákmányolt munkavállalókat, akik az algoritmikus rendszereket fenntartják. Az igazságosságról beszélni azt jelenti, hogy megkérdőjelezzük azt a globális hatalmi elosztást, amely eldönti, hogy ki képezheti valójában ki ezeket a modelleket, és ki van csupán kitéve nekik. Hasonlóképpen azt is jelenti, hogy elismerjük: a társadalmi igazságosság nem csupán egy olyan cél, amelyet a technológiák bevezetése után kell megőrizni, hanem egy olyan feltétel, amelynek már a kezdetektől fogva alakítania kell azok tervezését.”

A dokumentumban aztán bővebb kifejtésre kerül ezeknek az elveknek az alkalmazása a mesterséges intelligencia területén. Nagyon érdekes olvasni ezeket az emberközi, társadalmi-politikai viszonyok alakulására vonatkozó reflexiókat, de még érdekesebb azokat, amelyek önmagunkhoz, saját emberségünkhöz való viszonyunkat taglalják.

XIV. Leó kiindulópontja, hogy

a mesterséges intelligencia minden korábbi technológiánál alkalmasabb saját emberi természetünk, saját emberségünk felszámolására,

ezért határozottan be kell azonosítanunk és meg kell védenünk mindazt, ami emberré tesz bennünket.

“…az a mindenre kiterjedő technokratikus paradigma, amelybe belemerültünk, és amelyet a digitális forradalom és a mesterséges intelligencia még tovább erősít, azzal fenyeget, hogy emberellenes világképet normalizál. Ebben a világképben az élet teljességét azzal azonosítják, hogy minél többet birtokoljunk, csökkentsük a gyengeségeinket, megszüntessük a bizonytalanságot és teljes ellenőrzést gyakoroljunk. Amikor a hatékonyság válik az értékek legfőbb mércéjévé, az emberek hajlamosak arra, hogy magukat inkább optimalizálandó projektként lássák, mintsem olyan személyekként, akik kapcsolatokra és közösségre hívatottak.
(…)
Ha az embert olyan lényként kezeljük, amelyet tökéletesíteni vagy felülmúlni kell, könnyebbé válik elfogadni, hogy egyes életek kevésbé hasznosak, kevésbé kívánatosak vagy kevésbé értékesek. A haladás nevében „szükséges áldozatokat” kezdhetnek igazolni, és a faj állítólagos optimalizálása érdekében a terhet a legsebezhetőbbekre hárítják.
(…)
Úgy tűnik, hogy manapság válságba került az élethez fűződő viszonyunk. Mindazt, ami „korlátnak” tűnik – a gyengeséget, a betegséget, az öregséget, a szenvedést, a sebezhetőséget –, elsősorban kijavítandó hibának szoktuk tekinteni, ahelyett, hogy olyan valóságnak tekintenénk, amelyen keresztül emberségünk érik meg és nyílik meg a kapcsolatokra. Pedig nem szabad elfelejtenünk, hogy az emberség nem a korlátok ellenére, hanem gyakran éppen azok révén virágzik.
(…)
Valójában, éppen azért, mert megtapasztaljuk a korlátokat – a sebezhetőséget, a szenvedést és a kudarcot –, képesek vagyunk felismerni minden ember sérthetetlen méltóságát, mind a sajátunkat, mind másokét. Ugyanezen tapasztalat révén vagyunk képesek megélni egy nálunk nagyobb testvériséget, és botrányként felfogni az igazságtalanságot.
(…)
Éppen ezért az emberiséget – annak minden nagyszerűségében és sérülékenységében – soha nem szabad felváltani vagy meghaladni. Örömmel fogadhatjuk a technológiai fejlődést, amely enyhíti a szenvedést és új lehetőségeket nyit meg, feltéve, hogy nem hagyjuk magunk mögött az emberségünk legmélyebb lényegét, nevezetesen a kapcsolatteremtés és a szeretet képességét.”
(…)
Itt rejlik a prométheuszi álmoktól való radikális eltérés: az emberiséget nem a fokozott önállóság menti meg, hanem egy felszabadító kapcsolat, egy átalakító közösség. Ebből a szempontból egy olyan technológia, amely csupán a már meglévőt osztályozza és optimalizálja, akár akaratlanul is, a változás és a fejlődés akadályává válhat. Egy algoritmus számára a hiba egy kijavítandó hiányosság; egy ember számára azonban a hiba mélyreható változás katalizátora lehet. Az ember jövője nem kiszámítható, hanem az egyén szabadságától – amelyet Isten kimeríthetetlen kegyelme emel magasabb szintre – és a kiépített kapcsolatoktól függ.

Lehet, hogy én vagyok most kicsit egy ilyen ezoterikusabb, transzcendentálisabb időszakomban, de számomra az embernek, az emberi természetnek ez a fajta meghatározása — amely nem a hatékonyságról, optimalizálásról, a korlátok kiküszöböléséről, hanem a kölcsönhatásban élésről, az önreflexió képességéről, a morális ítélőképességről és vele kéz-a-kézben járó szabad akartról szól — elképesztően lelkesítő, reménykeltő és felszabadító.

A technológia kell, hogy az embert szolgáló eszköz legyen, nem pedig az ember a technológia nyersanyaga, kiszolgálója - rögzíti nagyon helyesen a pápa. És ennek a gondolatmenetnek a keretében pompásan szétszedi azokat a transzhumán és poszthumán ideológiákat, amelyekkel a Szilícium-völgy techurai a saját uralmukat igazolni próbálják, és amelyekről pont a legutolsó Birodalomban beszélgettünk Feledy Botonddal.

Hát szóval én igazából csak ezeket akartam aláhúzni az enciklikából, nekem ezek voltak a legizgalmasabb részek, de érdemes elolvasni az egészet. Már csak azért is, mert kiváló példája annak, milyen módon érdemes bármilyen nagy társadalmi, politikai vagy gazdasági ügyről morfondíroznunk, hogyan érdemes egy-egy ügyet mérlegelnünk, megforgatnunk, egyszerre komolyan véve egyrészt az ügyek történetiségét, történelmi térbe és időbe ágyazottságát, mulandóságát és változtathatóságát, illetve másrészt időtlen ideáljaink fontosságát, súlyát.

Persze van a szövegben sok tényleg ezoterikusnak ható teológiai gondolat, ami a nem hívő katolikusoknak valószínűleg nem sokat mondd. De még így is fontos megpróbálni átérezni ezeket a fajta vájbokat, mert a jóról és rosszról, társadalomról és emberiségről való bármilyen fajta gondolkodásnak érdemes lenne hasonló mélységű etikai és lételméleti alapokra támaszkodniuk.

És akkor itt térek vissza a nyitógondolatomhoz: érdekes, hogy napjainkban a gondolkodásunkat alakító, tehát ideológiai munkát végző nagy iskolák és intézményes szereplők többnyire feladták ezt a fajta mélyebb etikai és lételméleti gondolkodást¹ — az egyik kevés kivétel a katolikus egyház maradt a maga kétezer éves, élő, folyamatosan formálódó gondolkodási hagyományával.

Pedig erre lenne szükség ahhoz, ha valaki adott esetben a liberális vagy épp a szocialista gondolkodást szeretné megújítani, hisz ahogy a Compact online magazint vezető Geoff Shullenberger rámutat: a mostani enciklika iránti lelkesedés pont azért ilyen nagy, mert pl. a szekuláris liberalizmus nem rendelkezik olyan nagy filozófiai narratívával — vagy nem vállalja fel azt —, amelyből kiindulva ellen tudna tartani a mesterséges intelligenciát ellenőrző techuraknak.

1. Mindezzel nem azt mondom, hogy egyéni gondolkodók szintjén ne lenne példa erre a fajta filozófiai mélységre. Sőt tartom azt a kritikámat is, hogy a hiperpolitika korában túlburjánzott a történeti gondolkodást nélkülöző bináris politikai moralizálás. Annyit állítok csupán, hogy a domináns politikai iskolák fősodratából kikopott ez a fajta nagy narratívaalkotás és reflexió.