Lehetséges, hogy egyszer a robotok és mesterséges értelemmel megáldott teremtmények jogokat szereznek? Szakszervezetbe tömörülhetnek a túlhajszolt autógyári szerelőrobotok? Az abolicionisták a szexrobotokkal is foglalkoznak majd? Ki felel azért, ha egy autonóm gép működése közben megsérül valaki? Emberek és gépek együtt ülnek majd a börtönben? Mindez ma elképzelhetetlennek tűnik, de nem is olyan régen elképzelhetetlen volt az is, hogy egy állatnak – vagy éppen egy nőnek vagy gyereknek –   lehetnek jogai. De mégis mi kell ahhoz, hogy morális megfontolásaink tárgyává váljon egy gép?

Sokáig az állatokat Descartes hatására automatáknak tartottuk, legalábbis a nyugati kultúrában. A hetvenes években indult meg igazán az állatok felszabadítása, olyan műveknek hála mint Peter Singer ausztrál morálfilozófus Animal Liberation című könyve, ami az állati jogokat érzőképességükből (sentience) vezeti le. Ahhoz, hogy etikai mérlegeléseink során egy élőlényt figyelembe vegyünk, Singer szerint az számít, hogy érzőképes-e, azaz képes-e szenvedni. Ha igen, akkor megfontolásaink során figyelembe kell vennünk – ami még nem jelenti azt, hogy az emberrel azonos szinten kell kezeljük. Kiindulópontként fogadjuk el Singer álláspontját, azaz, hogy egy gépet akkor ruházhatunk fel jogokkal, ha érzőképes. Így a továbbiakban azt fogjuk vizsgálni, hogy milyen feltételek mentén mondhatjuk egy gépről hogy képes szenvedni, vagy éppen boldogságot átélni.

Az állatok után a gépek felszabadítása következik?

Szögezzük le, ma még nem tartanak ott a gépek, hogy egyáltalán feltételezzük róluk azt, hogy képesek érezni. Az ember–gép interakciót kutatók számára pont a kutyák és egyéb háziállatok jelentenek azonban viszonyítási pontot. A robotizáció egyik legveszélyeztetettebb csoportja a segítő- és munkakutyák, mivel kiképzésük drága, rövid ideig dolgozhatnak csak és pár év aktív szolgálat után mehetnek is nyugdíjba. Azonban a helyettesítésükre szánt robotokat az emberek nehezen fogadják el, még akkor is ha a kutyáknál megbízhatóbban és pontosabban dolgoznak bizonyos esetekben. Ennek oka az, hogy a kutya nem csak egy automata, a kutyaetológiai vizsgálatok szerint egész jól tudják olvasni a környezetükben lévő emberek érzelmeit, tudnak viszonyulni hozzájuk, no meg valljuk be cukik is. Ezért is izgalmasak az olyan kutatások, amelyeket kutyaetológusok folytatnak a témában az ELTE Etológia Tanszékén.

A probléma, amire sokan keresik a választ, viszonylag egyszerű: a gépek nem képesek még boldogulni azzal, hogy az embereknek érzelmeik vannak. Külön kutatási területté vált az érzelmi viszonyulások felismerése és kezelése az ember–gép interakcióban – bevett magyar kifejezés híján ezt a területet Affective Computing-nak nevezzük.

Érző állatok

De nem csak azért van szükség az érzelmek megismerésére, hogy a gépek a hülye embereket jobban tudják szolgálni. Az emberi intelligencia szerves részét képezik az érzelmek, nélkülük sosem tudnánk gyorsan dönteni (gondoljon bele a kedves olvasó: ha nem lenne kedvenc írója, műfaja stb. akkor minden alkalommal, amikor könyvet szeretne venni, az összes kiadó összes új kiadványát meg kellene fontolnia – ami csak a magyar kiadók esetében kizárólag 2015-ben 11300 címet jelent). Ha a robotoknak sikerül elérniük egy kutya (vagy más háziállat) szintjét, azzal már sok minden megváltozik.

Az oldal az ajánló után folytatódik...

De honnét tudjuk, hogy valaki, vagy valami más képes érezni, szenvedni, boldognak lenni? Ezt hívja az elmefilozófia a másik elme problémájának. Wittgenstein szerint a nyelv segít nekünk ebben. Ha a kalapáccsal a szög helyett az ujjamat találom el és felszisszenek, vagy ha a lábamra áll valaki a metrón és rászólok hogy én is azon szoktam állni, akkor egy nyelvjátékot, életformát követek, mely szabályai szerint adott helyzetekben így szoktunk cselekedni. Azért van fájdalmam, mert megtanultam, hogy ilyenkor ezt és ezt szoktam csinálni. Ha elfogadjuk ezt a nézetet, akkor a nyelv és a közösségi létezés  elengedhetetlen feltétele ennek.

Tényleg nem fáj az ütés annak, aki képtelen beszélni és a nyelvet megérteni? Hiszen sokan ilyenkor ösztönösen viselkednek, “kiül az arcukra” a fájdalom, sírnak, stb. Vagy az állatok – habár fiziológiai jelét adják, hogy valami nem stimmel velük – nem éreznek fájdalmat amikor valaki beléjük rúg? Nyilván ezek csak egy filozófus számára kérdések, a legtöbben azt válaszolják, hogy „hiszen látom hogy fáj nekik”! De nem ez a kérdés, hanem először az, hogy

• a fiziológiai jelek mögött találunk-e valami általánosat, ami minden állatban és az emberben ott van. Ha pedig ez megvan, akkor,

• az azonosított fiziológiai funkciók nem szerves anyagban is megvalósíthatóak-e.

Milyen lehet denevérnek lenni?
(Forrás: Hans Holbein / Wikimedia Commons / Public Domain)

Az első kérdésre könnyű a válasz: a biológia szerint igen, azonosíthatóak – ha még pontosan le nem is írhatóak – olyan mechanizmusok, mint a fájdalom. Természetesen nem tudhatjuk, hogy egy faj hogyan éli meg a fájdalmat, de ha hasonló fiziológiai folyamatok zajlanak le benne, akkor feltételezhetjük, hogy a mi fájdalomfogalmunkhoz hasonló dolog játszódik le benne. Nagel híres Milyen lehet denevérnek lenni? című esszéjében amellett érvel, hogy nem tudhatjuk milyen lehet, például, hangok alapján tájékozódni. Persze rájöttünk, hogyan tájékozódnak a denevérek, tudunk szép illusztrációkat is készíteni róla. De valójában nem tudjuk átélni: ahhoz denevérnek kell lenni, hogy igazán tudjuk milyen az. A tapasztalat ilyen minőségét nevezik kválénak (qualia) az elmefilozófusok.

Érző gépek

Tegyük fel tehát, hogy a gépek egyszer az emberi érzőképességhez hasonló funkciójú rendszerre tesznek szert – akár hardveresen összerakva, akár csak szoftveresen implementálva. Ha szoktuk bántalmazni lefagyó számítógépünket, akkor előfordulhat, hogy a burkolatot érintő kezünk hatására a félvezetőkön gyorsan egy nagyobb erősségű elektromos hullám fut végig a központi processzorhoz, ami a jelek feldolgozása után elindít egy programot, ami jelet küld a hangszórókhoz, a hangszóró DAC (digitális jelet analóggá alakító) egysége pedig elkezdi rezegtetni a levegőt és mi meghalljuk a „Jajj” felkiáltást. Fájdalmat érzett a gép? Vannak akik szerint nem ez a kérdés, hanem az, mi hogyan interpretáljuk a gép viselkedését. Ha jobban és sikeresebben tudjuk úgy használni, hogy intelligenciát és érzéseket tulajdonítunk neki, akkor hajrá! Ők az intencionális stratégia hívei. A funkcionalisták szerint ha az emlősök fájdalommechanizmusához hasonló rendszerek vannak jelen a gépben, akkor bizony bántottuk őt! Ha a kiterjesztett elme hipotézisét fogadjuk el, akkor számítógépünk saját magunk kiterjesztése, szóval magunkat bántottuk. Ha elvetjük a funkcionalizmust, de szeretnénk materialisták maradni, akkor viszont bajban vagyunk. Annál többet nem tudunk mondani, hogy a kválé abból származik, hogy többek vagyunk az agyunknál: arra hogy hogyan is érzékeljük a minket körülvevő világot és benne magunkat nem csak agyunkat, hanem egész testünket használjuk. Akik így gondolkodnak, azokat nevezzük a megtestesült gondolkodás (embodied cognition) híveinek. Akik elvetik a materializmust, azok a dualizmusban nyernek magyarázatot, az intelligencia és érzőképesség meglétét egy kimutathatatlan valamihez kötik, amiről állítják hogy bizonyos dolgokban megvan, másokban meg nincs.

Actroid-DER – feltételezhetően – még nem érez semmit
(Forrás: Wikimedia Commons / Gnsin - Gnsin / CC BY-SA 3.0)

Az érzőképességet valamilyen szintű tudatossággal is párosítjuk, a tudatosság pedig felveti annak kérdését is, hogy egy tudatos lény milyen mértékben felel cselekedeteiért. Ha egy kutya megharap valakit, akkor ma már nem az ebet, hanem annak gazdáját szokás hibáztatni. Ha egy tizennégy éves kor alatti személy lop valamit a boltból, akkor a társadalom eltekint attól hogy megbüntesse. De ha valaki tizenöt évesen teszi ugyanezt, akkor már speciális bíróság előtt kell felelnie tettéért; ha bűnösnek találtatik, akkor akár speciális intézetbe kell vonulnia – mivel úgy gondoljuk, a fiatalkorúak korlátozottan, de felelősek tetteikért. A felelősség tudatát a másik elme feltételezéséhez kötjük, azaz ahhoz, hogy az illető tisztában van-e azzal, hogy a másiknak fájdalmat (vagy valami rosszat) okozott tettével.

Ha egy érzőképes gép bajt okoz, akkor ki felel majd az okozott kárért? Ma már felháborodást okoz, ha egy kutyatámadás után a támadó ebet, csak úgy, el akarják altatni: a kritikusok elmondják, hogy az állat viselkedése a rossz gazdának tulajdonítható, megfelelő bánásmóddal és idomítással kezelhető általában a kutyák agresszivitása.

Az agresszívan fellépő robotot kikapcsoljuk, elvegyük tulajdonosától, vagy frissítsük programját? A humanoid robotok várhatóan a szexiparban fognak megjelenni elsőként. Ha a jövő szexmunkás robotjainak akár korlátozott mértékben is lesz érzőképességük, akkor meg kell várni, amíg kellően fejlettek lesznek ahhoz, hogy kinyilváníthassák beleegyezésüket (vagy bele nem egyezésüket) az ügyfélnek? Ha nem várunk addig, akkor elfogadjuk, hogy fájdalmat, negatív érzéseket élnek át miközben használják őket?

Akár bekövetkezik a gépek érzőképessé válása,  akár nem, az biztos, hogy a mesterséges intelligencia forradalma hatással lesz életünkre. El kell gondolkoznunk azon, hogy mi tesz minket emberré, hol a határ gépek és élőlények között. A tudomány és a filozófia története azt mutatja, nincsenek végső válaszok. Mégis, az, ahogyan az ilyen kérdésekhez viszonyulunk, meghatározza, mit gondolunk a jó életről és arról, hogy milyen világban szeretnénk élni.

Felhasznált irodalom

Peter Singer: Animal Liberation, Harper Perennial Modern Classics, 2009

Antonio R. Damasio: Descartes tévedése, AduPrint, 1996

Ludwig Wittgenstein: Filozófiai vizsgálódások, Atlantisz, 1998

Thomas Nagel: What Is it Like to Be a Bat? In: Thomas Nagel: Mortal Questions, Cambridge University Press, 2003

Paul M. Churchland: Matter and Consciousness, MIT Press, 1998