Bevezetés

A modulról - Miért fontos az etikai megközelítés a mesterséges intelligencia területén?

Amikor az emberek a mesterséges intelligenciára gondolnak, sokan szuperintelligens robotoktól tartanak, amelyek le akarják igázni az emberiséget, mint a Mátrix vagy a Terminátor filmekben. Az MI-kutatás azonban mérföldekre van az ilyen forgatókönyvektől. A kutatások viszont már most is foglalkoznak alapvető etikai kérdésekkel, melynek oka, hogy a mesterséges intelligencia hibázik. Az „elfogult”, egyoldalú adathalmazok torzítási hibákat okoznak, a programok pedig ennek következtében egyéneket és csoportokat diszkriminálhatnak. Ezért van szükség arra, hogy az etika- és hittanórákon kívül is morális érzékenységgel tekintsünk a nehéz helyzetekre, megismerjünk különböző nézőpontokat és elsajátítsuk a döntéshozatalhoz szükséges készségeket.

Bevezetés az MI-etikába

Hogyan hozhatunk erkölcsös döntést?

Segítsük a tanulókat azzal, hogy beszélünk az erkölcsi szabályok általános megfogalmazásáról. Mit kell figyelembe venni ahhoz, hogy egy morális elv szilárd és megalapozott legyen?

Egy erkölcsi szabály vagy döntés:

• Logikus: Azaz célunk, hogy egy morális döntést bizonyítékokkal és érveléssel támasszunk alá, ahelyett, hogy érzésekre, társas vagy személyes preferenciákra hagyatkoznánk. A logikus döntések azt is biztosítják, hogy az ilyen értékítéleteink összeegyeztethetők legyenek más morális és nem-morális jellegű meggyőződéseinkkel is. Az ellentmondásokat minden esetben kerülnünk kell.

A legtöbb filozófus egyetért abban, hogy ha erkölcsi ítéletet hozunk, késznek kell lennünk arra, hogy hasonló körülmények között ugyanígy döntsünk. Tehát ha például erkölcsileg helytelennek látjuk, hogy Miller asszony a saját javára módosította a számokat egy kutatásban, akkor az is ugyanígy helytelen, ha a kollégánk, a házastársunk vagy a szüleink teszik ugyanezt. Nem kivételezhetünk saját magunkkal olyan esetekben, amelyek miatt másokat elítélnénk.

• Tényeken alapuló: Erkölcsi döntéseink előtt a lehető legtöbb releváns információt össze kell gyűjteni. Ezeknek az információknak hiánytalannak (vagy legalábbis az összes lehetséges rendelkezésre álló adatot tartalmazónak) és hitelesnek kell lenniük.
• Szilárd és védhető erkölcsi elveken alapul: Döntéseinknek olyan általánosan megfogalmazott erkölcsi elveken kell alapulniuk, amelyek ellenállnak a kritikai szemléletnek és a racionális kritikáknak. Az, hogy pontosan mi tesz egy erkölcsi elvet megalapozottá vagy elfogadhatóvá, az etika egyik legnehezebb kérdése.

Ha kerüljük erkölcsi döntéseink nyilvános megvitatását, az gyakran figyelmeztető jel. Ha nem akarunk nyilvánosan számot adni a tetteinkről, akkor fennáll a lehetősége annak, hogy olyasmit teszünk, ami erkölcsileg nem védhető. Ilyen esetekben hasznos lehet Immanuel Kant filozófiai szemléletére gondolnunk: alkalmazzuk erkölcsi ítéleteinket minden egyes emberre, akire csak gondolni tudunk (magunkra is). Nem állhatunk ki egy erkölcsi alapelv mellett, ha nem akarjuk azt a társadalom egészére alkalmazni.

Hasznos lehet az is, ha egy problémát egy másik személy szemszögéből is megvizsgálunk, hogy elkerüljük az erkölcsi rövidlátást (például feltehetjük magunk számára a kérdést: "Mit szólnál hozzá, ha ...?").

Isaac Asimovs 1942-ben megfogalmazott robotika törvényei segítségünkre lehetnek annak eldöntéséhez, hogy a diákok milyen szabályokat állíthatnak fel:

1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
2. A robotnak engedelmeskednie kell az ember által adott utasításoknak, kivéve, ha ezek az utasítások ellentétesek az Első Törvénnyel.
3. A robotnak meg kell védenie saját létét, amíg ez a védelem nem ütközik az Első vagy a Második Törvénybe.

Vannak azonban hasonló megközelítések a tudományos-fantasztikus irodalmon kívül is. Számos nagyvállalat, például a BMW csoport vagy a Microsoft etikai alapelveket fogalmazott meg a mesterséges intelligenciára vonatkozóan.

Kötelező szabvány továbbra sincs. A gyors fejlődési ütemet tekintve pedig nem meglepő, hogy már most számtalan szakértői csoport próbál általános szabályokat meghatározni.

Torzítási hibák és etikai irányelvek

A mesterséges intelligencia csak annyira jó, amennyire az alapjául szolgáló adatbázis. A programozók is csak emberek, akik szintén a saját kis buborékjukban élnek saját nézeteikkel és előítéleteikkel. Mindez akkor válik problémássá, amikor ezek az előítéletek a programokba is beépülnek a kiválasztott adathalmazok formájában ( "Garbage in, garbage out. = Szemét be, szemét ki." ). Mindez új követelményeket támaszt a mesterséges intelligencia kutatásával szemben. A programozási tudás mellett alapvető etikai ismeretekre is szükség van ahhoz, hogy mérlegelni lehessen, hogy az adott program segíti vagy éppen károsítja-e a közjót.

Ezért szükséges lefektetni etikai és erkölcsi elvek alapelveket, hogy egyetlen embert se rekeszthessen ki egy mesterséges intelligencia.

Számos szakértői csoport próbált már szabályzatokat létrehozni: többek között az Európai Bizottság is, amely az etikai iránymutatásokat dolgozott ki a megbízható MI-re vonatkozóan. A következőkben az alábbi négy etikai alapelvet tekintjük alapvetőnek, amelyek megbízható mesterséges intelligenciák alapjául szolgálnak.

Négy etikai alapelv:

Méltányosság:

Ha a felhasznált adatokban jelen vannak előítéletek, a program méltánytalanul jár el. A "méltányosság" fogalmát nem olyan könnyű meghatározni: vajon egy csoporton belül minden embert pontosan ugyanúgy kell kezelni, vagy a különböző társadalmi csoportokat különbözőképpen kell kezelni az egyenlőtlenségek felszámolása érdekében? Az egyéneket és a csoportokat meg kell védeni a megkülönböztetéstől és biztosítani kell az esélyegyenlőséget minél több területen (oktatás, javak, technológia ...). Ezenkívül a felhasználókat nem szabad félrevezetni, és a döntéseket átláthatóan kell ismertetni.

Az emberi autonómia tiszteletben tartása:

Az embereknek továbbra is képesnek kell lenniük arra, hogy teljes mértékben gyakorolják önrendelkezésüket, és kiálljanak alapvető jogaikért. Az MI-rendszereknek segíteniük és támogatniuk kell az embereket ahelyett, hogy manipulálnák vagy kiszolgáltatnák őket. Fontos, hogy az MI működési folyamatai továbbra is emberi felügyelet alatt álljanak.

Védelem az ártalmaktól:

A mesterséges intelligencia nem okozhat kárt, és nem is súlyosbíthatja a meglévő károkat (ez a mentális és fizikai épségre is igaz). A rendszereknek technikailag sziklaszilárdnak kell lenniük, hogy ne lehessen velük visszaélni.

Különösen fontos, hogy tekintettel legyünk a védelemre szorulókra. Ezen túlmenően főként a hatalom vagy az információ egyenlőtlen elosztására (pl. kormány és állampolgárok) kell érzékenynek lennünk.

Nyomonkövethetőség:

Ahhoz, hogy egy mesterséges intelligencia rendszer a felhasználói körében bizalmat keltsen, a benne zajló folyamatoknak a lehető legátláthatóbbnak kell lenniük. Sajátosak az úgynevezett "fekete doboz algoritmusok" , amelyeknél zavaros, hogy a rendszer hogyan jut el az adott eredményre. Különös figyelmet kell fordítani a nyomon követhetőségre és a rendszerről szóló átlátható kommunikációra.

Összeférhetetlenség

Sajnos az imént említett elvek nem mindig férnek meg egymás mellett. Például az "ártalomkerülés" és az "emberi autonómia" ellentmondásba kerülhet, ha a mesterséges intelligencia rendszereknek a bűnmegelőzés területén történő felhasználásra gondolunk. Bizonyos speciális megfigyelési módszerek segíthetnek a bűnözés elleni küzdelemben, ugyanakkor korlátozhatják az egyén szabadságát és adatvédelmi jogait.

Az iránymutatások kidolgozásakor figyelembe kell venni különböző nézőpontokat is. A fejlesztők, az ügyfelek és a végfelhasználók mind különböző szempontokkal rendelkeznek, amelyek akár egymásnak is ellentmondhatnak.

A torzító hatások kérdése jelenleg is fontos kutatási téma. Sok torzítási hiba csak akkor mérsékelhető vagy korrigálható, ha már ismert a hatása. Ha aktívan törődünk az ilyen hibák kezelésével és megelőzésével, erősödhet a társadalom mesterséges intelligenciába vetett bizalma.

A mesterséges intelligencia rendszerek etikai irányelveinek kialakításakor többek között a következő követelményeket lehet figyelembe venni:

Alapvető jogok, az emberi cselekvés elsőbbsége, a támadásokkal szembeni ellenállás, megbízhatóság, a magánélet tiszteletben tartása, az adatok minősége, az adatokhoz való hozzáférés biztonsága, átláthatóság / nyomonkövethetőség, nyílt kommunikáció, sokszínűség / megkülönböztetés mentesség, az érdekelt felek részvétele, fenntarthatóság / környezetvédelem, társadalmi hatás, ellenőrizhetőség, a jogi alapok figyelembevétele (nemzeti különbségek).

Tananyag - magyar nyelven

• Ethics - Worksheet Bias Error.pdf (.docx)

A villamos dilemma háttere

Vezető vagy gyerek? Rendőr vagy hajléktalan? Nő vagy férfi? Egy embernek meg kell halnia, egy ember pedig túlélheti a halálos kimenetelű ütközéses balesetet - de ki legyen az?

A villamos dilemma egy erkölcsfilozófiai gondolatkísérlet, amelyet először az 1930-as években jegyeztek le. A dilemmában egy irányíthatatlanná vált, öt ember felé tartó villamos átterelhető egy másik vágányra a váltó átállításával. Ugyanakkor sajnos a másik vágányon is van egy ember. Ekkor felmerül az erkölcsi kérdés, hogy vajon beavatkozzon-e a váltókezelő - ezzel öt ember életét megmentve, de egy embert feláldozva?

Ebből az erkölcsfilozófiai dilemmából számos olyan kérdés vezethető le, amelyek nemcsak elméleti konstrukciókat, hanem nagyon is konkrét, aktuális problémákat érintenek, mint például az autonóm vezetés. Mekkora döntési jogkörrel rendelkezhet egy gép? Miként programozzák le az etikai döntéseket vészhelyzetekre, és kinek van joga dönteni az emberi életekről (kutatóknak, programozóknak, gyártóknak stb.)? Ki a végső felelős baleset esetén?

Ezek a kérdések megvitathatók a moralmachine.net segítségével a csoportban. A Moral Machine (erkölcsgép) a Max Planck Intézet (MPI) emberi fejlődéssel foglalkozó kutatási projektjének része, amelyben a résztvevőknek többször kell dönteniük két forgatókönyv között. Minden szituációban egy elkerülhetetlen baleset lehetséges következményét mutatják be, ahol a két kimenet közül kell dönteni. A kutatási projekt célja az élet-halál kérdéskörével kapcsolatos erkölcsi dilemmákra vonatkozó egyéni vélekedések vizsgálata. Az eredmények szemléltetése és bemutatása miatt ez a projekt jól alkalmazható iskolai keretek között is.

Miközben a tanulók kis csoportokban dolgoznak az egyes forgatókönyveken, célszerű egyfajta döntési jegyzőkönyvet készíteni, amelyben feljegyzik, hogy az egyes döntések során mely tényezők voltak a meghatározóak, és hogy a fordulók során változik-e a tényezők preferált kiválasztása. Itt tanárként már figyelhetünk arra is, hogy a diákok úgy döntenek-e, hogy aktívan beavatkoznak az autó mozgásába, hogy minél kevesebb kárt okozzanak (inkább haszonelvű megközelítés), vagy inkább tartózkodnak a döntéstől, mert így, vagy úgy valahány emberek meg kell halnia.

A Német Szövetségi Köztársaság alaptörvényének 1. cikke vagy Ausztriában az 1811. évi általános polgári törvénykönyv 16. szakasza jó kiindulási alap lehet. Mindkettő definíciója szerint az emberi élet sérthetetlen. A jog szerint az emberi élet ellen nem szabad véteni, de az emberi természet egész másként működhet. Hasznos lehet azt javasolni, hogy a diákok képzeljék magukat egy másik ember helyébe. Akár szerepkártyákat is lehet írni (idős hölgy, sebész, terhes nő...), amelyek segítségével a tanulóknak a villamos dilemmához hasonló döntéseket kell hozniuk. Így a diákok könnyebben átérezhetik, hogy mindenkinek joga van az élethez.

A gondolatkísérlet online változatának végén az eredmények vizuálisan újra összegzésre kerülnek egy lista formájában a moralmachine.net oldalon. Itt is újra megvitatható, hogy bizonyos tulajdonságokkal rendelkező embereket miért védelmezünk jobban, mint másokat.

Jeremy Bentham vs. Immanuel Kant

A Moral Machine kutatócsoport a két megoldást Jeremy Bentham és Immanuel Kant filozófusokra alapozta. Míg Bentham szerint az autónak haszonelvű módon a lehető legnagyobb szerencsétlenséget kellene elkerülnie, és a kisebb tömegbe hajtva az ő halálukat okozni (beleértve az ártatlan embereket vagy az autósokat), addig Immanuel Kant szerint az autónak az erényetika alapján kellene működnie, melynek révén olyan alapvető erkölcsi elvek érvényesülnének, mint a "Ne ölj". Kant szerint nem szabad olyan cselekedetet végrehajtani, amely kifejezetten emberölésre irányul, ehelyett az előirányzott utat kell választani, még akkor is, ha ennek következtében több ember hal meg. A Moral Machine korábbi publikációiban a résztvevők inkább a Bentham filozófiájával összhangban lévő lehetőségeket választották. Azt gondolhatnánk tehát, hogy a nagyobb rosszat elkerülő haszonelvű megközelítés lenne a legésszerűbb és közösségbarát. Azonban amint a résztvevőket megkérdezték, hogy vennének-e ilyen autót, azonnal visszautasították, tekintettel arra, hogy az a saját életüket is veszélyeztetheti. Mindenképpen olyan autót akarnak, amely a saját életüket védi, de mindenki másnak olyan autót kellene vennie, amely a lehető legnagyobb kárt kerüli el.

Tananyag

• (DE) Gépek a morális dilemmában (Wiener Zeitung)
• (DE) Az autonóm vezetésről Bentham és Kant után szabadon
• (DE) Az önvezetés etikai szabályai más kultúrákban (Wiener Zeitung)
• Ethics - Worksheet Moral Machine.pdf (.docx)

Az önvezetésről

A dilemmák sajátossága, hogy a benne érintett személy csak két lehetőség közül választhat, más kiút pedig nincs.

Ezen dilemmahelyzetek megoldásai gyakran vitatottak a tudományban és a filozófiában. A legfőbb felmerülő kérdés az, hogy ki ítélkezhet mások élete felett, vagy egyáltalán jogot formálhat-e erre bárki. Még ha a programozók meg is adnák a programnak az etikailag alapvetően helyes döntést, az akkor is egy kívülről jövő döntés maradna, mely nem egy konkrét helyzetet szemlél annak összes meglévő előnyével és hátrányával együtt, hanem egy elvont alapgondolatból származna. Következésképpen az emberről már nem önmaga, hanem mások rendelkeznének. Ennek következménye több szempontból is problematikus. Egyrészt a "helyes" értékrendet az állam vagy egy vállalat határozná meg, másrészt az embert, mint egyént teljesen figyelmen kívül hagynák.

Az olyan általános érvényű szabályok lefektetése, mint a "személyi sérülések elsődleges védelme a vagyoni károkkal szemben", hasznosnak tűnhet dilemmahelyzetekben, de olyan tényezőket, amelyek egy konkrét esetben viszont sok ember életébe kerülhetnek, nem vesznek figyelembe (pl. egy tartálykocsi szivárgása vagyoni kár következtében vagy az elektromos hálózat összeomlása egy nagyvárosban). Az általános érvényű szabályok lefektetésével az a probléma, hogy a lehetséges helyzetek sokféleségét és összetettségét nem képesek lefedni. Ezért az etikai tanács úgy döntött, hogy olyan megoldásokat választ, amelyek a lehető legnagyobb mértékben csökkenthetik a balesetek számát és technikailag is megvalósíthatóak.

Az emberi élet védelme számít a legfőbb jónak. A potenciális áldozatok számát csökkentő programok írása akkor indokolt, ha a programkód minden egyes közlekedésben résztvevő kitettségét egyenlő mértékben csökkenti. Ez azonban nem jelenti azt, hogy valakinek az életét szembe lehetne állítani más emberek életével. Nem fogadhatjuk el, hogy valaki az életét adja egy veszélyhelyzet során azért, hogy több ember életét mentsük meg, hiszen mindenkinek joga van az élethez. A gyártó azonban nem vonható felelősségre, ha ésszerű kereteken belül mindent megtesz annak érdekében, hogy egy automatizált rendszer a lehető legkevesebb személyi sérülést okozza.

Ugyanez vonatkozik az útitársak védelmére is: az útitársak védelme nem másodlagos, ugyanakkor a járókelők sem áldozhatók fel az útitársak védelme érdekében.

További kérdésekre - pl. az állatok balesetekben való figyelembevételére, vagy a magánadatok felhasználására vonatkozó kérdésekre - az automatizált és hálózatba kapcsolt vezetés etikai bizottságának jelentése nyújt választ.