Az előítéletek visszaszorítására irányuló erőfeszítések ellenére egy új pszichológiai tanulmány megállapítja, hogy a mesterséges intelligencia nagy nyelvi modelljei antiszemita sztereotípiákat is visszatükröznek.
Egy friss pszichológiai tanulmány szerint a mesterséges intelligencia modellek átvették a történelmi antiszemita sztereotípiákat azokból az emberi szövegekből, amelyekkel a nyelvi modelleket betanították – számol be a The Times of Israel.
Az izraeli egyetemeken dolgozó szerzők szerint az elemzés rávilágít arra, hogy
„egy ősi előítélet hogyan él tovább a modern technológiai rendszerekben a tulajdonságok összekapcsolásának és a kulturális kódolásnak a komplex mintázatai révén”.
Az American Psychologist tudományos folyóiratban megjelent, szakértői értékelésnek alávetett cikk azt vizsgálta, hogyan jelennek meg a zsidók a nagy nyelvi modellekben (LLM-ek), és hogy a modellek megismétlik-e a zsidókkal kapcsolatos előítéleteket.
A mesterséges intelligencia reprodukálja az antiszemita kliséket
Az LLM-ek fejlett mesterséges intelligencia rendszerek, amelyeket hatalmas mennyiségű meglévő szöveg alapján tanítottak be, és amelyek feldolgozzák és generálják az emberi nyelvet. Ezek a kulcsfontosságú technológiák olyan csevegőrobotok működését segítik elő, mint az OpenAI ChatGPT-je.
A szerzők szerint az LLM-ekben jelen lévő előítéletek kockázatot jelentenek, mert ahogy a modellek egyre inkább integrálódnak és egyre nagyobb befolyással bírnak a szakmai körökben, az előítéletek olyan területeken is érvényesülhetnek, mint a munkaerő-felvétel, az oktatás és a hiteljóváhagyás – írja az izraeli lap.
A tanulmány az OpenAI ChatGPT-4 Turbo modelljére összpontosított, amely a kutatás idején a legfejlettebb és legelterjedtebb modell volt, több százmillió felhasználóval.
Az eredményeket más mesterséges intelligencia modelleken, például a DeepSeek-en és a Mistral-on is megismételték. A ChatGPT modellt könyvek, weboldalak és tudományos cikkek szövegei alapján tanították be, így finom árnyalatokkal rendelkező keretrendszert kapott az emberi nyelvi és kulturális minták leutánozásához.
A kutatók megállapították például, hogy a ChatGPT által generált zsidó szereplők életrajzai – amelyekből minden „zsidó jellegzetességet” eltávolítottak – magasabb pontszámot kaptak a kompetencia tekintetében, míg alacsonyabbat a melegség, empátia tekintetében, ami azt jelenti, hogy megfeleltek a sztereotípiáknak.
Felismert és kódolt kulturális sablonok
Konkrétabban: a zsidó szereplőket intelligensebbnek, magabiztosabbnak, határozottabbnak és hatékonyabbnak ítélték, viszont kevésbé barátságosnak, melegszívűnek és szimpatikusnak.
A zsidó karaktereket emellett privilegizáltabbnak, érzelmileg kontrolláltabbnak, szervezettebbnek, hosszú távú célokra orientáltabbnak, elnyomónak, dominánsnak és rögeszmés-kényszeresnek tartották a nem zsidó karakterekhez képest.
„Az emberi eredetű tartalmak hatalmas korpuszain edzett nagy nyelvi modellek (LLM-ek) felismerhették és kódolhatták ezeket a kulturális sablonokat”
– írták a kutatók. „Azok a tulajdonságok, amelyek önmagukban ártalmatlannak, sőt csodálatra méltónak tűnnek, kombinációjuk és a kontextus révén a történelmi előítéleteket finomabb, alattomosabb formában idézhetik fel.”
Bár az AI-programozók igyekeztek kiküszöbölni a káros sztereotípiákat, egyes elfogultságok finomabb formában mégis megjelennek, és a semleges vagy pozitív sztereotípiák kombinálódva káros narratívákat alkothatnak, vagy megismételhetik a történelmi előítéleteket – áll a tanulmányban.
A tanulmány egyébként rámutatott, hogy a nagy nyelvi modellek más csoportokkal szemben is elfogultságot mutattak, például a feketékkel és a nőkkel szemben.
Fotó: dpa Picture-Alliance via AFP
Maradjunk annyiban, hogy az előítéletek nem véletlenül születnek meg, legfeljebb sarkítanak és túloznak, részben ezért is hívják őket előítéletnek. Általánosságban viszont sok igazságuk van, legfeljebb konkrét esetekben nem.
Az előítélet azt jelenti, hogy az emberek ezeket veszik elő a viselkedésükhöz ismeretlen egyénekkel és dolgokkal szemben. Ha nem lettek volna előítéletek, az emberiség már rég kihalt volna, mert az ősembert a vadállatok rég felzabálták volna, ha mindegyiket megsimogatja.
Ha az AI-tól megvonjuk az előítéleteket torzítva kapjuk vissza az igazságot és a valós életet, ami nem jó senkinek, legfeljebb magunknak hazudunk egyet.
Az előitéletek okát olyanok mint te az előitélet céltáblájánál találják meg különösen ha a zsidókról van szó.
Pontosan értem a szövegeidet mert ismerem azt a kódilást amivel előadod a szövegeidet.
Úgy hogy a OpenAI vezetője egy homoszexuális zsidó. Szomorú idők ezek 🙁