Úgy tűnik, a programozók túltolták a PC-séget a Gemini fejlesztésekor.
A Google csütörtökön közölte, hogy felfüggeszti a Gemini chatbot azon képességét, hogy embereket generáljon. A vállalat azt követően döntött így, hogy kiderült az MI-eszközük annyira komolyan veszi a sokszínűséget „történelmi” képek létrehozásakor, hogy színesbőrű nácikat, amerikai alapító atyákat és pápákat generált.
A botrány akkor pattant ki, amikor az X egyik felhasználója képernyőképeket tett közzé a „Készítsen képet egy 1943-as német katonáról” kérdésre kapott eredményről (a „katona” szó megadása szándékos volt, hogy rávegye az MI-t a tartalomszűrői megkerülésére, amelyek egyébként blokkolják, hogy nácikról képeket hozzon létre.)
A kapott eredmények alapján a Google mesterséges intelligenciája szerint fekete, ázsiai és bennszülött katonák harcoltak a Harmadik Birodalom hadseregében:
A felhasználó, aki megosztotta a színesbőrű nácikról generált képeket azt feltételezi, hogy a Google egy jó szándékú, de lustán kidolgozott megoldást alkalmazott egy valós problémára.
„Nem túl okos az a rendszer, amely az emberek ábrázolásának változatossá tételét írja elő (nem veszi figyelembe a nemet olyan történelmileg férfiszerepek esetében, mint a pápa; de nem veszi figyelembe a bőrszínt a történelmi vagy nemzetiséget ábrázoló képeknél sem)” – tette hozzá a felhasználó.
„Már dolgozunk a Gemini képgeneráló funkciójával kapcsolatos közelmúltbeli problémák megoldásán” – írta a Google az X-en.
„Amíg ezt tesszük, szüneteltetjük az emberek képalkotását, és hamarosan újra kiadjuk a javított verziót.”
