Egy „veszélyesen kifinomult” dezinformációs kampányra hívta fel a figyelmet az izraeli Vetric vállalat, amely szerint palesztinpárti hálózatok mesterséges intelligenciával létrehozott, hamis hírességek profiljait használják arra, hogy politikai üzeneteket juttassanak el emberek millióihoz.
A személyiséglopások, álhírek és gyanús online aktivitások felderítésére szakosodott cég a 12-es csatorna hétfői riportjában arról számolt be, hogy a mostani kampány „veszélyes eszkalációt” jelent az mesterséges intelligencia alapú manipulációk terén, és messze túlmutat az eddig megszokott, névtelen botokra épülő akciókon.
Mesterséges intelligenciával hamisított sztárok a palesztinok mellett
A Vetric vizsgálata szerint a kampány lényege, hogy az elkövetők mesterséges intelligenciával generált fotók és videók segítségével másolják le ismert hírességek identitását, majd ezeket felhasználva terjesztenek palesztinpárti üzeneteket.
A cég által bemutatott bizonyítékok között Jake Paul, Erling Haaland és Jürgen Klopp AI-gyártású mélyhamisítványai is szerepelnek – mindegyik palesztin zászlókkal vagy Gázát támogató jelszavakkal kiegészítve. A tartalmakat teljes egészében mesterséges intelligencia hozta létre.
„A stratégia világos: amikor egy népszerű futballsztár vagy előadó állást foglal, a rajongók kritikai gondolkodása szinte teljesen kikapcsol”
– mondta Orr Katznelson, a Vetric partnere és ügyvezetője.
Szerinte a kampány éppen erre az érzelmi kötődésre épít, hogy szélsőséges politikai üzeneteket juttasson el a közönséghez.
Hitelesnek tűnő profiloktól a politikai propagandáig
A Vetric megállapította, hogy a kampány többnyire megbízhatónak tűnő, gyakran hitelesített profilokkal indul. A kezdeti időszakban teljesen ártalmatlan tartalmak jelennek meg: edzésfotók, koncertvideók, kulisszák mögötti jelenetek. Amint a profilok elegendő követőt szereznek, kezelőik fokozatosan politikai üzeneteket kevernek a megszokott posztok közé.
Ez a módszer nemcsak önmagában terjeszti a dezinformációt, hanem láncreakciót indít el: amikor egy manipulált bejegyzés felkapottá válik, hétköznapi felhasználók is elkezdik továbbosztani vagy utánozni azt, így a szisztematikus kampány rövid időn belül tömegmozgalommá duzzad. A jelentés szerint az AI-eszközök fejlődése drámaian megkönnyítette a hitelesnek tűnő hamisítványok gyártását.
„Történelmi fordulópontnál vagyunk. Ma már bárki, minimális befektetéssel is képes professzionális minőségű megtévesztéseket előállítani” – figyelmeztetett Katznelson.
Példaként említette a Jake Paulról készült deepfake-videókat, amelyeken a YouTuber teljesen természetesnek tűnő módon beszél akár arabul is – jóllehet valójában nem beszéli a nyelvet.
A technológia elérhetősége miatt a tartalom mennyisége is robbanásszerűen nő, elárasztva a közösségi platformokat és újabb visszhangkamrákat teremtve.
Egyiptomból irányítják
A Vetric elemzése szerint a kampány jelentős része Egyiptomból irányított, annak ellenére, hogy az elkövetők igyekeztek elfedni a nyomaikat.
„A dezinformáció evolúciójának ugrásszerű fejlődését tapasztaljuk” – mondta Katznelson. Szerinte a palesztinpárti ideológiai motiváció, a hierarchikus szerveződés és a könnyen elérhető AI-eszközök kombinációja „jól működő tudatmanipulációs gépezetté” állt össze.
A szakértő arra is figyelmeztetett: a veszély nem pusztán a hamis tartalomban rejlik, hanem abban, hogy az emberek milliói terjesztik tovább – sokszor anélkül, hogy ráébrednének, manipuláció áldozatai lettek.
A Vetric szerint, amit most látunk, csupán „kísérleti projekt”, és a módszer a közeljövőben várhatóan még nagyobb léptékben fog terjedni.
