A sci-fi-írók előszeretettel nyúlnak a „gonosz gép” fogalmához. Ilyen gonosz szerkezet volt a Terminátor SkyNetje, Arthur C. Clark Halja, hogy csak a legismertebbeket említsük. Ugyanakkor ahhoz, hogy a rosszindulat felébredhessen egy mesterséges intelligenciában, arra van szükség, hogy egy ilyen rendszer tisztában legyen azzal az eljárással, ahogyan az emberek morális döntéseket hoznak – vezeti fel cikkét a Science Daily.

„Az erkölcsiség fogalma most már nem csak a filozófusok játszótere. Az utóbbi időben egyre többen próbálták megérteni az erkölcsiséget tudományos szempontból is” – magyarázták a tudományos lap munkatársának Luís Moniz Pereira (Universidade Nova de Lisboa) és Ari Saptawijaya (Universitas Indonesia) mesterséges intelligencia-kutatók.

A kutatók egy prospektív vagy jövőbeli logikának nevezett modellt alkalmaztak, aminek segítségével modellezték az erkölcsi dilemmát, majd megállapították a logikusan elképzelhető lehetséges döntéseket. Ez a megoldás gyakorlatilag a gépi etika születését is jelentette.

A gépi etika révén olyan teljesen autonóm gépeket hozhatunk létre, amelyek alkalmasak arra, hogy erkölcsi alapú döntéseket hozzanak. Az ilyen módszerrel működő mesterséges intelligenciákat aztán olyan területeken alkalmazhatjuk, ahol gyakran szembesülünk morális kérdésekkel – például az egészségügyben. A megközelítés aztán hasznos lehet a kutatóknak az emberi erkölcsön alapuló érvelés vizsgálatára, s segítségével talán az is elképzelhető, hogy bonyolult helyzetekből nyerhetők ki erkölcsi alapelvek, amelyek segíthetnek annak eldöntésében, mi a jó és mi a rossz. Az ilyen értelmű tudás pedig az gyermekek erkölcsi nevelését célzó alkalmazásrendszerek kifejlesztéséhez lehet elengedhetetlen.

A kutatók programjukat az úgynevezett „villamosdilemma” megoldására hozták létre. A Philippa Foot brit filozófus által a hatvanas években felvetett kérdés klasszikus morális dilemmát dolgoz fel: egy elszabadult villamos száguld a sínre kötözött öt ember felé. Szerencsénkre, van egy kapcsolónk, amivel egy váltót működtethetünk, és ha megnyomjuk a gombot, az öt ember megmenekül, a villamos egy másik sínpáron robog tovább. Csakhogy ahhoz a sínpárhoz egy ember van hozzákötözve. Megnyomjuk-e a gombot?

A prospektív logika valamennyi elemzi az összes lehetséges eredményt, ami a villamosdilemma kapcsán előállhat és logikusan bemutatja az egyes döntések lehetséges következményeit. A következő lépésben az egyes eredményekhez erkölcsi értékek rendelendők, hogy a prototípus a lehető legjobb döntést hozza a váltó működtetésével kapcsolatban.