Amikor eljön az apokalipszis, a legtöbben alig fogjuk észrevenni, hogy ez történik. A legtöbb technológia által vezérelt disztópia túlságosan érdekes ahhoz, hogy reális legyen: a világvége egy zord, bürokratikus ügy lesz, amelynek uralkodó szelleme a fáradt zavarodottság – a dolgok működésével és azzal kapcsolatban, hogy ki a hibás, ha a dolgok rosszul mennek – írja Jamie Bartlett az UnHerden.
A technológia területén a két legfontosabb trend csendes és könyörtelen: az adatmennyiség növekedése és a számítási teljesítmény csökkenő költsége. Hosszú távon ezek azt jelentik, hogy a gépek a gyakori fennakadások ellenére folyamatosan fejlődni fognak. Egy kis, de egyre növekvő számú feladatokban már most is felülmúlják az embert, de nem valószínű, hogy egyhamar egy általános mesterséges intelligenciát fogunk látni. A gépek fokozatosan egyre több döntést fognak átvenni az élet fontos területein, beleértve azokat is, amelyeknek etikai vagy politikai dimenziójuk van. Már most is vannak jelei annak, hogy a mesterséges intelligenciát használják az óvadékok ügyében, a hadviselési stratégiáknál, a jóléti kifizetéseknél és a foglalkoztatási döntésekben.
A probléma nem az, hogy a gépi döntések jobbak vagy rosszabbak-e – ez gyakran amúgy is értékek kérdése –, hanem az, hogy eljutunk-e arra a pontra, amikor már senki sem lesz képes megérteni, hogyan születnek a döntések.
A mai algoritmusok már most is több millió bemenettel, őrült számítási teljesítménnyel és az emberi megértést messze meghaladó számításokkal dolgoznak. Frankenstein-szerűen a legtöbb alkotó már nem igazán érti a saját algoritmusait. A dolgok bemennek és kijönnek, de a középső rész a jelek rejtélyes kuszaságává válik.
Képzeljünk el egy 21 éves fiatalembert, aki boldogan ugrál az életben a 2050-es években. Az alvási szokásait születésétől fogva rögzíti egy hasznos SmartSleep alkalmazás; a 2 éves korában készült Baby Shark videófogyasztását biztonságosan regisztrálja egy szerver valahol. Mindezek az apró jelek segítenek majd egy nap irányítani a jövőjét: szerelmi életét egy kifinomult személyiségegyeztető szoftver határozza meg, miközben az intelligens hűtőszekrénye kioktatja a húsfogyasztásról (a biztosítási díjakra is hatással lehet, tudod!); az elhelyezkedési kilátásait egy, a mainál százszor pontosabb önéletrajz-ellenőrző rendszer határozza meg. A kriptopénz-portfóliója automatikusan, fél nanomásodpercenként frissül előre meghatározott preferenciák alapján. Politikai választásait és véleményét finoman alakítja, hogy mi jelenik meg a képernyőjén azt az 50 éve működő preferencia-algoritmusok segítségével mesterséges intelligencia-szerkesztők irányítják.
Rosszul hangzik, de nem apokaliptikusan rosszul, igaz? De most képzeljük el, hogy a mi 21 évesünk olyan szemtelen, hogy megkérdőjelezi vagy tiltakozik az ellen, amit ezek a ragyogóan okos rendszerek kínálnak neki. Valószínűleg nem lenne olyan telefonszám, amit panaszával felhívhatna. Megpróbálhatná beperelni az önéletrajz-ellenőrző szoftvert, amelyet az őt ért finom diszkrimináció miatt terveztek – de a bírák dobni fogják az ügyét, mert a szoftver tervezője már 30 éve halott, és még mindig nem igazán értik, mi az az algoritmus egyébként.
Egy ilyen gépfüggő világgal tehát nem az a probléma, amit gondolnánk. A mesterséges intelligencia teoretikusai sok időt töltenek azzal, hogy az úgynevezett „értékegyeztetés” miatt aggódnak. Ez egy olyan hipotetikus jövőbeli probléma, amikor egy hipererős mesterséges intelligencia szó szerint veszi az utasításokat, és ennek katasztrofális következményei lesznek.
A leghíresebb példa a „gémkapocs-maximalizáló”, amikor egy gyanútlan gyáros arra kér egy mesterséges intelligenciát, hogy készítsen minél több gémkapcsot – és az végül az egész világegyetemet gémkapcsokká alakítja.
Mindezt feltehetően enyhe identitásválság fogja kísérni. Néhányan közölünk imádkozni fognak ezekhez az istenszerű rendszerekhez annak a reményében, hogy rejtélyes belső működésük jót tesz majd velünk. (Egy Uber-sofőrt nemrégiben hallottak, amint azt mormolta, hogy „Az algoritmus ma jó volt hozzám”.) A kevésbé derűlátók feltehetően megpróbálják majd darabokra törni őket.
Mit fognak tenni a vezetőink? Ha az embereket nem vonják felelősségre, hajlamosak rosszabbul viselkedni – különösen, ha valaki vagy valami azt mondja nekik, hogy ez rendben van. Stanley Milgram a Tekintély természetéről szóló hírhedt kísérletében arra kérte az embereket, hogy (szerintük) árammal öljék meg a többi résztvevőt, amit általában akkor tettek meg, ha egy fehér orvosi kabátot viselő férfi azt mondta nekik, hogy ez rendben van. Adolf Eichmann, a holokauszt fő agytrösztje a történelem leghírhedtebb szabálykövetője volt, és a náci gépezetben több ezren voltak hozzá hasonlók, akik azt mondogatták maguknak, hogy ők csak parancsokat követnek, és ezért nem hibáztathatók.
Az „etikai távolságtartás” bizonyos formája valószínűleg szükséges a tisztességes és objektív kormányzáshoz, de ha ez túl messzire megy, az eredmény olyan döntéshozók lesznek, akik nem látnak összefüggést döntéseik és az emberek életére gyakorolt hatás között.
Nyilvánvaló, hogy mi, emberek túlságosan ragaszkodunk majd ahhoz, hogy feladjuk azt az elképzelést, hogy mi vagyunk a felelősek, így továbbra is megmaradnak a népszavazások, a parlamenti képviselők, a különbizottságok és a véleményoldalak. De a demokrácia lényege és célja – hogy a hatalmas embereket felelősségre vonják, hogy biztosítsák, hogy a jól tájékozott polgárok legyenek végső soron a felelősek – egy színjátékká silányulna. A valódi hatalom és a tekintély egy aprócska csoport techno-géniusz és a fekete dobozok kezében összpontosulna, amelyeket senki sem értene.
Míg a való világban az algoritmusok intelligencia, ambíció és vonzerő alapján válogatnak majd minket, addig a politika a legjobb esetben is üres rituálévá, a legrosszabb esetben pedig szórakozási formává válik. A legijesztőbb gondolat mind közül ez: egy olyan világ, amelyet gépek irányítanak, és amelyet olyan emberek alkotnak, akik elfelejtettek gondolkodni – mindez a puszta tartalomra redukált demokráciától elválasztva –, talán egyáltalán nem is aggasztja az embereket. Sőt, sokan közölünk valószínűleg nagyon is élvezni fogják.
Borítókép: Unsplash
Ezt a cikket szerkesztőségünk a sábát beállta előtt készítette és előre időzítve jelent meg az oldalon.