Mit kezd a mesterséges intelligenciával a zsidó vallásetika? Lehet-e spiritualitást tanítani algoritmusoknak?
Az 50 Perc új adása kivételes beszélgetést kínál: Oberlander Báruch rabbi és Szertics Gergely, mesterséges intelligencia-kutató találkozott Szalai Kálmán műsorvezető meghívására, hogy együtt gondolkodjanak az ember, a hit és a technológia jövőjéről.
„Az MI nem képes válaszolni az emberre”
A beszélgetés rögtön egy személyes tapasztalattal indul: Oberlander rabbi beismeri, hogy próbálta már használni a mesterséges intelligenciát vallási kérdésekben – kevés sikerrel. „A héten például beírtam egy kérdést, mondtam neki: adjál választ, adjál pontos idézetet is.
Akkor rögtön lehetett látni, hogy az idézet hamis, mert nem használta a megfelelő terminológiát.”
A rabbi szerint ez még a kisebbik baj, hiszen aki ért hozzá, az észreveszi, ha valami nem stimmel. A gond ott kezdődik, amikor „valami olyan valósnak tűnik, hogy az ember elhiszi, pedig teljesen hamis”. Ez szerinte különösen veszélyes a Talmud-értelmezések és vallásjogi döntések világában. De a probléma mélyebbre megy.
„Ha valaki jön a rabbihoz, és feltesz egy kérdést, a rabbinak nemcsak a kérdésre kell válaszolnia, hanem válaszolnia kell az emberre is, aki kérdez.”
Egy mesterséges intelligencia azonban nem képes figyelembe venni, hogy a kérdező éppen milyen lelkiállapotban van, mennyire elkötelezett, vagy éppen vívódik. Márpedig a rabbinikus döntéshozatalban ezek alapvető szempontok.
A teljes műsor itt tekinthető meg:
„Horgonyozd le az MI-t – és működik”
Szertics Gergely arra hívja fel a figyelmet, hogy a technológia fejlődése robbanásszerű. „Most már kijönnek azok a modellek, amelyek képesek érvelő, levezető típusú gondolkodást reprodukálni, ami a tudományos gondolkodás alapja.”
A kutató elismeri ugyanakkor, hogy jelenleg még nem képesek ezek a modellek forráskritikával dolgozni. Az emberi szerkesztői munka tehát nem hogy eltűnne, hanem éppen ellenkezőleg: felértékelődik. „Nagyon könnyű hihető, de valójában hamis zajt generálni.”
A jó tartalomhoz kell az ember, aki tudja, hogy mi hiteles – és mi nem.
Ugyanakkor van technológiai megoldás is: le kell „horgonyozni” a rendszert, megadni neki a pontos forrásokat, amiből dolgozhat, és így sokkal megbízhatóbb válaszokat fog adni. „Én abban viszonylag biztos vagyok, hogy ha megmondjuk neki, hogy csak a szent könyvekből dolgozzon, és mindig adjon pontos hivatkozást is, akkor már most is fel lehet építeni egy olyan rendszert, ami használható.”
Sábesz, önvezető autók és etikai dilemmák
A műsor egyik legérdekesebb szegmense az önvezető autókkal kapcsolatos etikai dilemmák tárgyalása volt. Kiért felelős a gép, ha választania kell két rossz között? Mi történik, ha balra kormányozva elüt egy nyugdíjast, jobbra húzva pedig egy anyukát a babakocsival? Oberlander rabbi a Talmud alapján fogalmaz: „Nem szabad megölni egy embert azért, mert ezzel megmentek sokakat.” De egy gépnél más a helyzet – a gép nem vétkezik.
„Ha a kocsi hibázott, akkor nem ember. Nem lehet mondani a kocsi hibás, azt gondolom, spirituálisan ő nem vétkezett.”
Az MI-kutató viszont rámutat: valakinek előre be kell programozni azokat az elveket, amik szerint a gép dönt. „Valahol egy kódoló leírta ezt, vagy le kell írnia.” Ettől válik erkölcsileg is kérdésessé a technológia használata – és ezért fontos az átláthatóság.
Szóba kerül az is, hogy szabad-e a technológiát pusztán örömforrásként, önös célból használni. Mondjuk virágokat nemesíteni, csak mert szépek? A rabbi válasza egyértelmű: „Az, hogy az ember jobban élvezze az életet, az is egy nemes cél.” Ami viszont tilos: szombaton „alkotni”. A mesterséges intelligencia által vezérelt okoseszközök használatára külön rabbinikus válasz is született már. „Az a címe, Kedves Siri, kóser-e a smart house szombaton.”
Ember vagy gép? A spirituális válasz
A beszélgetés végén a nagy kérdés: ha a mesterséges intelligencia képes lenne mindarra, amire egy rabbi – akkor lenne még szükség a rabbi szerepére? Oberlander válasza: „A rabbi sem jó, ha teljesen kiszámítható. Hál’ Istennek élek, gondolkodom, tanulok – és ma már máshogy gondolkodom, mint korábban.” Ez azt mutatja, hogy az ember képes fejlődni, új szempontokat felfedezni és változni, míg a mesterséges intelligencia csak a múlt tudását ismétli, és nem tud önállóan új megközelítéseket kialakítani.
A rabbi szerint az ember nem azért van, hogy dolgozzon, hanem hogy „Isten szolgálja”. Ha a mesterséges intelligencia felszabadít minket a hétköznapi munkák alól, az jó dolog lehet – de csak akkor, ha tudjuk, mi a magasabb cél.
„Nincs szükség az ember munkájára? Nagyon jó. Akkor lehet, hogy az ember… foglalkozhat a családdal, a tanulással, imával. Mi a probléma?”
Mi a legnagyobb veszély?
Végezetül a rabbi is óvatosságra int. Nem a technológiától fél, hanem az emberi gyarlóságtól: „Az a baj, hogy vissza fognak élni vele – mert ez benne van a rendszer logikájában. Előbb-utóbb egy bizonyos ideológiai cél, egy agenda szerint programozzák majd, és ha nem figyelünk, a végén már nem mi irányítjuk a gépet, hanem a programozók akaratát követjük anélkül, hogy észrevennénk.”
A mesterséges intelligencia tehát lehet áldás – de csak akkor, ha mi irányítjuk, és nem ő minket. És talán ebben rejlik az igazi emberi szerep: kritikus gondolkodás, erkölcsi mérce, és a felismerés, hogy nem minden tudás elég – kell hozzá bölcsesség is.
