Képzelje el a kedves olvasó hogy egy száguldó villamost lát, ami pillanatokon belül el fog ütni egy csapat ovist, hacsak ön nem szalad a közelben lévő váltóhoz és állítja át a villamos pályáját egy másik vágányra – ezen viszont éppen egy öreg bácsi álldogál és esélye sincs elszaladni. Mit tenne? És mit tenne akkor, ha az egész jelenetet egy hídról látná, így nem érné el a váltót, viszont ha az ön mellett álló nagydarab férfit lelökné a hídról, akkor elmozdulna a váltó karja, és most már az öreg bácsi is megmenekülne? Mit tenne ilyen helyzetben egy mesterséges intelligenciával ellátott önjáró autó? Lehet az a végső következtetés, hogy az emberek csak zavart okoznak a rendszer működésében, jobb nélkülük? Dönthetnek úgy, hogy dühösek az ovisokra, ezért nekik mindenképpen kijár egy villamos gázolás?

A Shadow robotikus kézrendszer
(Forrás: Richard Greenhill, Hugo Elias / CC BY-SA 3.0)

Az úgynevezett kísérleti filozófia irányzata előszeretettel használja a fenti példa változatait olyan kérdőívekben mint például ez.  A kitöltőtől először általános elvei iránt érdeklődnek, például, hogy az emberölés vagy éppen a kínzás minden formáját elítéli-e, majd a fentihez hasonló példák kapcsán kérdezik, hogy mit tenne. Eztán a kitöltő megtudhatja, mennyire cselekedne összhangban saját elveivel (ez amúgy 77% körül szokott mozogni). Az eredmény azt mutatja, nem minden fekete vagy fehér: attól hogy vannak elveink, még mérlegelünk az adott helyzet függvényében. De attól, hogy el szoktunk térni az elveinktől, még eléggé konzisztensek is vagyunk, és nem csupán véletlenszerűen döntünk.

Erkölcsös
mosogatógépek

Mosogatógépet is lehetne tervezni a hagyományos, kézi mosogatás példájára. Ehhez finom gépi karokra lenne szükség, amelyek képesek a különféle edényeket, tányérokat, poharakat és evőeszközöket megfogni, no meg kezelni a csapokat. Emellett a gépnek fel kell ismernie, éppen milyen eszközt fog mosogatni, amihez nem árt pár érzékelő. A sok művelet elvégzéséhez egészen összetett gép kell, bonyolult szoftverekkel. Egy ilyen gépnek tudnia kellene, hogy ha kicsúszik a „kezéből” a nagyitól örökölt pohár, akkor azonnal dobja el a másik kezében lévő vicces bögrét és két kézzel próbálja elkapni számunkra fontos örökségünket. No és azt is, hogy kinek szóljon, ha eközben összecsöpögteti a padlót.

Intelligens, de morális?
(Forrás: GE, Intelligent Dishwasher)

A mai mosogatógépek egyáltalán nem így néznek ki, pedig azért nagy részük már intelligens. A tervezők a feladat megoldásához nem az emberi megoldásból indultak ki, hanem az elérhető technológiából, amihez hozzáigazították a mosogatás környezetét. A mesterséges intelligencia (a gépi tanulással és határterületeivel)

nem
az emberi
intelligenciát követi.

Egy intelligens emberről általában szeretnénk azt gondolni, hogy erkölcsös is valamennyire. Az okostelefonunkról vagy az intelligens mosógéptől nem várjuk, hogy morális kérdésekben döntsenek. Az autonóm, önjáró autóktól sem várja ezt senki, hiszen gyakran mi magunk sem tudunk megegyezni morális kérdésekben. A mosogatógépnek saját környezete van, amiben működik. De az autókat is igyekszünk elválasztani a gyalogosoktól és az egyéb módon közlekedőktől. Ugyanígy, az önjáró autók és az egyéb gépi intelligenciával ellátott szerkezetek esetében is úgy lehet kikerülni, hogy olyan helyzetbe kerüljenek, amire nem számítottak tervezőik, ha szabályozott, a külvilágtól valamennyire elszeparált környezetbe helyezzük őket.

De miért
olyan nehéz
formalizálni az
erkölcsi döntéseket?

Habár számtalan dologról vitatkozhatunk, vannak azért olyan esetek, melyekben általában minden épelméjű, egészséges felnőtt egyet tud érteni. Joggal gondolhatja valaki, hogy ha eddig nem bogozták ki a filozófusok és egyéb bölcsészek, hogy ezek az alapelvek hogyan épülnek fel, akkor majd a kemény tudományok képviselői megteszik ezt.

Az oldal az ajánló után folytatódik...

Michael Sandel Mi igazságos? című könyvében az AIG biztosító példáján keresztül szemlélteti, hogy az érzelmeknek milyen mély szerepük van mindennapjainkban. A 2008-as válságban megroggyant biztosítót a kormányzat több milliárd dollárral mentette meg, amit a vezetőség részben arra használt, hogy megjutalmazza magát. Az esetet „zsigeri felháborodás” követte, ami nagyon jól mutatja, hogy vannak olyan alapvető társadalmi kérdések, melyek nagyon mély érzelmeket váltanak ki az emberekből. Sandel mint politikafilozófus inkább azt elemzi, mi alakítja ki ezeket a közös elveket, miért nem szeretjük kimondani, igenis léteznek ezek. Azt gondolja, igenis beszélnünk kell róluk, hiszen ezek adják azt a közös alapot, amire a modern demokrácia épül.

Martha Nussbaum Political Emotions című könyvében az ember szeretet iránti igényéből vezeti le a társadalmi összetartozást. Az egymás iránt érzett szeretet ebben a keretben nem csak a családi kapcsolatokat tartja össze, hanem ez alapozza meg az igazságosság alapelveinek elfogadását és a társadalom iránti elköteleződést. Azaz

hiába szeretné valaki
az erkölcsi elveket
racionálisan magyarázni,
érzelmek nélkül erre nincs lehetősége.

Szeretjük azt gondolni, hogy az érzelmek elválaszthatóak a racionalitástól. Ezzel szemben a tudomány mai állása szerint egész biztosan hozzátartoznak a racionális döntésekhez!

Antonio Damasio neurológus több helyen (egyebek mellett a magyarul is megjelent Descartes tévedésében is) ír olyan pácienseiről, akiknek valamilyen agyi sérülés, vagy betegség következtében érzelmeik  jelentősen csökkentek, vagy eltűntek. Az ilyen embereknek gyakran gondot okoznak olyan egyszerű döntések is, mint például az, hogy hol ebédeljenek. Gondolhatnánk, érzelmek nélkül pedig ez a legegyszerűbb kérdés lehet: keressük meg a legközelebbi éttermet, ami ehető kaját kínál, de nem túl drága. Csakhogy ezekkel a feltételekkel még rengeteg étterem maradhat a listánkon. Érzelmeink nélkül a sok lehetőség között nem tudunk rangsort felállítani, döntésképtelenek leszünk! Zsigeri megérzéseink, vagy ahogy Damasio nevezi őket, a szomatikus markerek a múltbeli tapasztalatokra épülve alakítják ki bennünk érzelmeinket. Ha a kínait jobban szeretjük, mint a gyrost, akkor a hova menjünk enni-kérdésre gondolkodás nélkül tudunk válaszolni –ezzel rengeteg időt spórolunk meg magunknak és másoknak is.

De mi közük
a zsigeri érzelmeknek
az erkölcsökhöz?

Amikor nem a kínai és a gyros között, hanem az ovis csoport és az öreg bácsi élete között döntünk, akkor nem szeretnénk úgy gondolkodni, hogy „az ovisok cukibbak, az öreg bácsival meg jókat lehetne beszélni az életéről, nos, akkor melyiket is szeretem jobban”. Az egyik véglet – az ételek kapcsán – az úgynevezett alapvető érzelmek kategóriája, amit – Paul Ekman, amerikai pszichológus nyomán – a düh, félelem, meglepődés, öröm, undor és bánat képviselnek. Ezekre épülnek rá az úgynevezett összetett érzelmek (amit sokan még szeretnek tovább kategorizálni, mint kognitív és tisztán emberi érzelmek), mint például a szeretet. Az olyan pozitív emberi érzelmek, mint az altruizmus, empátia, felelősségérzet, igazságérzet, méltányosság, tolerancia a morális alapelvekben kulcsszerepet játszanak. Ezek a pozitív alapvető érzelmekre épülnek, de tanultak. Ahogy Mérő László fogalmaz, ezek a „magasabb” érzelmek ráépültek az alacsonyabb szintekre, de az evolúció barkácsolós kontármunkája miatt nem képeznek külön rendszert. Damasio szomatikus markerei nem csak az étteremválasztáskor, hanem morális kérdések kapcsán is bekapcsolnak.

Kismet, a robotfej – emóciók felismerésére és szimulálására készítették a kilencvenes években
(Forrás: Jared C. Benedict / CC BY-SA 2.5)

Az erkölcsi elveket azért nehéz megfogni, mert gyakran nem mondjuk ki őket. Nem erkölcsi szabályokat tanulunk, hanem szocializálódunk a társadalomban amiben élünk. Életünk során többször is találkozunk erkölcsi kérdésekkel. Amikor testvérünk csokiját ellopjuk és megszid minket anyánk, akkor egy tanult szomatikus marker kezd kialakulni bennünk. Nem annyira fekete–fehér helyzetekben ezek a tanult markerek segítenek nekünk dönteni. A probléma az, hogy nagyon nehezen tudunk ezekről beszélni – jobban mondva nehezen tudunk a tudomány nyelvén beszélni ilyen kérdésekről.

Metaforák

De akkor hogy beszélünk a moralitásról? Úgy ahogy általában a legtöbb hétköznapi dologról: metaforákban! A metaforák átszövik nyelvünket, nem csak az irodalmi nyelvhasználatban vagy az ünnepi beszédekben használunk metaforákat vagy metaforikus alakzatokat.

George Lakoff és Mark Johnson Metaphors We Live By című könyvükben fektették le a kognitív nyelvészet alapjait. Központi tézisük szerint a metafora segít egy elvontabb dolgot megérteni azzal, hogy leképezi azt egy konkrétabb esetre. Például a SZERELEM UTAZÁS, vagy a VITA HARC esetében a forrástartomány egy konkrét dolog, amit egy elvont, szellemi, lelki tevékenységgel állítunk párhuzamba. Az erkölcsök esetében AZ ERÉNY ERŐ és az ERÉNY GONDOSKODÁS, a társadalommal kapcsolatban A TÁRSADALOM CSALÁD, A TÁRSADALOM EMBERI LÉNY kapcsolatok jellemzőek.

Jellemző a metaforákra, hogy általában valamilyen alapvető tapasztalati élményt „visznek át” egy másik tartományba. Például a „majd fel robbanok a dühtől” vagy a  „túlcsorduló érzelmekkel” kifejezések belső folyamatokat hasonlítanak egy külsőleg is megtapasztalható eseményhez. Ezek a keretek teremtenek analógiás kapcsolatot az elvont és konkrét dolgok között. Az, hogy ilyen analógiákat észlelünk, embervoltunk terméke. Ez kicsit fából vaskarika érvnek hangzik, de Lakoff az embodied (metestesült) gondolkodás híve, mely szerint az elme nem választható attól az anyagtól, amiben megvalósul, esetünkben az emberi testtől.

A kiterjesztett elme

A megtestesülés nem csak annyit jelent, hogy az agy köré nőtt egy test, hanem azt, hogy az elme nem ér véget az agynál – ez a kiterjesztett elme (extended mind) hipotézise. A fejünkben gondolkodunk, számolunk, tervezgetünk, mérlegelünk. A koponyánkban ott van az agyunk, ami elvégzi ezt a sok műveletet. Ha az agyunk beszélni tudna, elmondaná nekünk, hogy baromira keveset tudunk arról mit is művel ő (akit érdekel, az itt elolvashatja mit mondana nekünk egy agy erről).

De tényleg a fejünkben élünk? Szoktunk még úgy igazán fejben számolni? Ha nincs a kezünk ügyében egy mobil, egy számológép vagy egyéb elektronikus segédeszköz, akkor keresünk egy papírt meg egy tollat és nagyobb számokat bizony írásban adunk össze. Egyes műveleteket fejben végzünk, a részeredményeket papírra vetjük. Mondhatjuk, csak külső tárnak használjuk a papírt, de sokkal inkább interakcióba lépünk a külső elemekkel, hiszen a számolás műveletének szükséges része a papír és a toll használata. A kiterjesztett elme elmélete arra mutat rá, hogy az ember – természete szerint – rendszeresen használ külső tárakat, vagy akár éppen szervez ki teljes műveleteket a világba.

A nyelvhasználat az emberi nem egyedi jellemzője, eredetéről és funkciójáról a tudományos gondolkodás kezdetei óta ádáz viták folynak, a vitázók pedig valószínűleg soha sem fognak dűlőre jutni. Andy Clark, a kiterjesztett elme hipotézisének megalkotója, zseniális esszéjében arra mutat rá, hogy a nyelv egyrészt amolyan metarendszerként is szolgálhat számunkra. Ez a metarendszer segít az elme adott állapotait „megfagyasztani" és vizsgálat tárgyává tenni. A belső beszéd (amikor agyalunk egy dolgon) ennek megnyilvánulása. A sok „most mit tegyek”, vagy „miért nem hív fel” és egyéb problémák belső hadarása nem csak fárasztó lehet, de éppen segíthet saját tapasztalataink megértésében, strukturálásában.

A belső beszéd könnyen külsővé tehető. Saját magunk helyett mással is megbeszélhetjük gondjainkat, mások tapasztalatáról is tudomást szerezhetünk. Az írás megjelenésével több ezer éve élt emberek gondolataival ismerkedhetünk meg. Az internet lehetővé teszi, hogy a világ különböző pontjain élő programozók a StackOverflow-platformon tegyenek fel kérdéseket egymásnak és kapjanak választ egymástól. A nyelvhasználat során „használjuk” a többi embert is. Morális elveink kialakítása során is elménk kiterjesztését végezzük a nyelv segítségével: amikor magunkban mérlegelünk egy szituációt, vagy ismerőseinkkel beszéljük meg, esetleg a Bibliához fordulunk, vagy kedvenc morálfilozófusunk könyveit lapozgatjuk.

A fentiek szerint nem lehetetlen morális gépeket alkotni, csak kifejezetten nehéz. Mint tudományos kérdés nagyon izgalmas az érzelmek beépítése egy számítógépes modellbe, az ipar számára azonban ez még nagyon messze áll az alkalmazhatóságtól.