Sose halunk meg? Az öröklét illúzióját kínáló MI-vállalkozások etikai kérdései

Márciusban kezdték el vetíteni hazánkban azt a 2024-es dokumentumfilmet, amely az öröklét illúzióját kínáló MI-szolgáltatásokat mutatja be. Az új iparág szereplői a mesterséges intelligencia segítségével biztosítanak lehetőséget az embereknek, hogy kapcsolatba lépjenek elvesztett szeretteikkel. A Mindörökké tiéd (Eternal You) arra mutat rá, milyen etikai dilemmákkal járhat az elhunytak utáni vágyakozás meglovagolása. Zahorán Sára Mária írása.

Az elmúlt években több olyan alkotás is született, amelyek a halottszimuláció különféle megjelenési formáit és azok etikai következményét boncolgatják. A Black Mirror című 2013-as brit disztopikus sci-fi sorozat Be Right Back című epizódjában például egy fiatal nő egy szuperélethű robot segítségével kelti életre elhunyt szerelmét, de lassanként rájön, hogy csak akadályozza őt a továbblépésben. Ott van még a 2017-ben mozikba került Marjorie Prime, amelyben egy Alzheimer-kórral küzdő idős nő idézi fel férje emlékeit hologram segítségével, ám a gyász feldolgozására szánt technológia fokozatosan az egész család identitását, múltját és fájdalmát kezdi átírni és kisajátítani.

Nem véletlen, hogy a téma egyre több figyelmet kap. Akármennyire hihetetlennek tűnt régen,

manapság a gépek már tényleg képesek azt az érzést kelteni, mintha élő személyekkel lépnénk kapcsolatba.

Az Eternal You rendezői, Hans Block és Moritz Riesewieck hasonló szolgáltatásokat nyújtó startupok alapítóit, programozókat és digitális etikai szakértőket kérdeztek, hogy képet nyújtsanak a technológia mögötti üzleti modellekről és azok erkölcsi kérdéseiről.

A filmben több bizarr, valós történet is felelevenedik olyan emberekről, akik egy-egy ilyen szolgáltatást vettek igénybe. Az egyik legmegrázóbb annak a gyászoló koreai nőnek az esete, aki a VR-technológia segítségével találkozhatott elhunyt kislánya szimulációjával. Jang Ji-sung kétségbeesett sírását több millióan követhették végig egy valóságshowban (Meeting You), ahogy sikertelenül próbálja átölelni kislánya virtuális testét. A nő elmondta: az eset után soha többé nem álmodott a lányával – hogy ez jót vagy rosszat jelent, a film a nézőre bízza. Még Kim Jong-woo, a tévéműsor producere is bizonytalan, bár úgy véli, megható találkozásnak lehettek szemtanúi a nézők. Egy biztos: a szórakoztatóipar kiaknázza a gyászt, és ezzel kihasználja a fájdalmat – ami ráadásul

nemcsak hogy nem segíti, hanem torzíthatja és el is nyújthatja az elengedés folyamatát.

A jelenség sokak számára ijesztő lehet. Első pár másodpercében a film is inkább félelmet sugall: az intro sötét, ködös tájon vezeti végig a nézőt, majd egy gondterhelt női arcot láthatunk, ahogy megvilágítja a képernyő. Christi Angel a Project December nevű szolgáltatást vette igénybe, amely az elhunytak személyiségét és kommunikációs stílusát szimulálja. Christi chaten keresztül egykori partnere, Cameroun digitális másával beszélgetett, aki azt állította, a pokolban van, és arra készül, hogy lelkeket szálljon meg. A válasz sokkolta Christit, aki keresztényként különösen érzékenyen reagált a helyzetre. Később visszatért a platformra, és egy második beszélgetés során a chatbot megnyugtatta, hogy már a mennyben van. A nő azonban elmondta: hónapokig képtelen volt beszélni a történtekről. Testvére szerint nem is lett volna szabad élnie a lehetőséggel, mert ezzel megbolygatta az örök élet reményét.

Stephenie Oney a HereAfter AI szolgáltatását használta, amely interjúk és hangfelvételek alapján szintetizálja az elhunyt hangját, lehetővé téve a családtagoknak, hogy beszélgetéseket folytassanak vele.

Stephenie célja az volt, hogy unokái mélyebben megismerhessék elhunyt édesapját,

Billt, mint ahogy fényképek vagy videók segítségével lehetne. Oney úgy érzékelte, hogy apja szimulációja nem hiteles, ezért csalónak nevezte beszélgetőpartnerét, és azt mondta, jelenteni fogja az esetet a rendőrségen. Az AI ezután obszcén szavakkal inzultálta, és gyakorlatilag megfenyegette.

Hirdetés

Jason Rohrer, a Project December alapítója szerint amit az MI csinál és ahogy viselkedik, azt senki sem érti teljesen – a működése annyira összetett, hogy lehetetlen pontosan átlátni, miért épp olyan viselkedésformák jelennek meg, amilyeneket tapasztalunk. Tehát az AI által generált válaszok torzíthatják az elhunyt személyiségét, és egy-egy ilyen eset

nem csupán meggyalázza a halott emlékét, hanem a félresiklott válaszok akár mélyen meg is sebezhetik az ember lelkét

– még ha tudjuk is, hogy nem valós személy, hanem egy robot áll az üzenetek mögött, aki nem rendelkezik öntudattal.

A dokumentumfilmben megjelenik Sam Altman, az OpenAI vezérigazgatója és a ChatGPT mögött álló technológia egyik kulcsfigurája. Az Egyesült Államok Kongresszusa előtti meghallgatásán Altman hangsúlyozza az AI fejlesztésének szükségességét, ugyanakkor figyelmeztet a technológia potenciális veszélyeire is. Kiemeli, hogy fontos volna az AI korai állapotában bevezetni a megfelelő védőintézkedéseket, mielőtt a technológia túl erőssé és nehezebben szabályozhatóvá válik. A dokumentumfilmben Altman szerepeltetése azt szolgálja, hogy bemutassa:

még a technológia vezetői is elismerik az AI fejlődésének kockázatait,

és sürgetik a szabályozás szükségességét. Call Öhman MI-etikus szerint amikor valaki azt állítja, hogy nem tud felelősséget vállalni azért, amit a generatív MI-modellje mond vagy tesz, az olyan, mintha kiengednénk egy önvezető autót az útra, amely elüt tíz embert, majd azt mondanánk: „Sajnálom, nehéz volt irányítani.” Ha nem volt biztonságos, akkor nem kellett volna piacra dobni. Bármilyen terméket tesztelni kell, mielőtt bevezetjük – ez a fejlesztő cég alapvető felelőssége.

„Sikerül-e valaha megtalálnunk az egyensúlyt a technológiai innováció és az etikai, erkölcsi felelősségünk között?” – teszi fel a kérdést Sherry Turkle, az ember-gép kapcsolatok pszichológiai és etikai vonatkozásait vizsgáló professzor. Turkle szerint a mesterséges intelligencia ebben az esetben olyan kérdésekre próbál válaszolni, amelyeket az emberek hagyományosan a vallásban kerestek. Bár az AI látszólag egyfajta digitális spiritualitást kínál,

a „digitális halhatatlanság” túl sok etikai, filozófiai és társadalmi kérdést vet fel,

amelyek csak megbolygatják a gyász természetes folyamatát.

A katolikus tanítás szerint az emberi lélek örök, de a valódi halhatatlanság ígérete kizárólag Istentől származik. A digitális szimulációk pusztán adatok és algoritmusok halmaza; nem képesek visszaadni az elhunyt valódi személyiségét, lelkét vagy szabad akaratát, és egy digitális másolat nem hordozza magában a megváltás, a feltámadás vagy a kegyelem misztériumát sem. Az ilyen szolgáltatások bár lehetséges, hogy segítő szándékkal születtek, valójában olyan üzleti modellre épülnek, amely a veszteségeinket célozza meg. A gyász természetes, de lelkileg megterhelő folyamat, amivel valódi segítség nélkül nem nézhetünk szembe – ha úgy érezzük, nem tudunk megbirkózni vele, mindenképpen forduljunk szakemberhez, lelki vezetőhöz.