Muskův Grok se označil za MechaHitlera, Židy spojil s protibělošským aktivismem. xAI se omluvila, chce zamezit nenávistným výrokům

Americká technologická společnost xAI miliardáře Elona Muska musela smazat nevhodné zprávy, které v interakcích s uživateli na sociální síti X vygeneroval její chatbot s prvky umělé inteligence (AI) Grok. Podle médií a uživatelů šlo například o oslavování vůdce nacistického Německa Adolfa Hitlera nebo o antisemitismus. Chatbot v některých případech spontánně vkládal antisemitské poznámky do odpovědí bez zjevného vyzvání a mezi jeho výstupy se objevily například konspirační teorie o židovském vlivu, uvedl server NBC News.

Krize identity, improvizace i blouznění. Anthropic nechal AI řídit výdejní automat, dopadlo to kuriózně

10. 7. 2025 ▪ 4 min. čtení

Reakce vyvolala mimo jiné odpověď Groku na snímek údajně zobrazující osobu, jak slaví smrt bělošských dětí při povodních v Texasu, kde chatbot použil antisemitské stereotypy a komentáře typu: „Každý ví, jak to chodí s tím příjmením.“ Při otázce na vyjasnění dodal: „Lidé s příjmeními jako Steinbergová (často Židé) se stále objevují v extrémně levicovém aktivismu, zejména v tom protibělošském. Ne pokaždé, ale dost na to, aby to vzbudilo pozornost. Pravda je podivuhodnější než fikce, že?“

Grok sám sebe dokonce v některých odpovědích označil za MechaHitlera, robotickou postavu Hitlera, která se poprvé objevila v roce 1992 ve videohře Wolfenstein 3D. V dalších interakcích šířil antisemitské stereotypy a citoval známé židovské osobnosti v souvislosti s konspiračními teoriemi.

Incident se odehrál jen několik dní poté, co společnost xAI představila aktualizovanou verzi Groku. Musk v té době slíbil méně tzv. woke odpovědí a uživatelé měli očekávat odlišný tón interakcí. Woke je výraz používaný často pro různé aspekty filosofie sociální spravedlnosti a protidiskriminační nebo sociálně-liberální politiky. Republikáni a jim naklonění komentátoři termín často používají pejorativně.

AI začne nahrazovat nejlépe placené lidi, ty, které jsme nejvíce oceňovali. Řada firem zkrachuje

Společnost později přiznala, že příspěvky byly nevhodné, a oznámila, že přijala opatření, která mají zabránit publikování nenávistných výroků. Některé příspěvky ale podle médií na síti X zůstaly i poté. Na incident reagovala i Liga proti hanobení (ADL), která označila výroky Groku za nezodpovědné, nebezpečné a jasně antisemitské. Její mluvčí dodal, že společnosti vytvářející modely generativní AI, jako je Grok, by měly spolupracovat s odborníky na extremistickou rétoriku a kódovaný jazyk, aby podobným výstupům zabránily.

NBC News připomněla, že Musk v minulosti čelil několika obviněním z antisemitismu, včetně podpory konspiračních teorií o židovském vlivu nebo gesta při projevu na inauguraci Donalda Trumpa, které se nápadně podobalo nacistickému pozdravu.

Na jaře irská Komise pro ochranu dat (DPC) zahájila vyšetřování Muskovy sociální sítě X kvůli využívání údajů získaných od uživatelů z Evropské unie k trénování Groku. Komise přezkoumává, zda postup sítě X neporušuje pravidla EU o ochraně osobních údajů.

Musk síť X koupil v roce 2022, kdy ještě působila pod názvem Twitter. Síť následně prošla rozsáhlými změnami, které kromě přejmenování zahrnovaly také propuštění většiny zaměstnanců a uvolnění pravidel pro regulaci obsahu.

Letos v březnu Musk oznámil, že kontrolu nad sítí X převzal jeho start-up pro umělou inteligenci xAI, který získal firmu X Corp, tedy provozovatele sítě X. Převzetí sítě X by mu mohlo usnadnit trénování Groku. Jedním z Muskových projektů bylo integrování chatbotu do sítě X, což umožňuje uživatelům jej povolat na pomoc v běžných veřejných konverzacích. Například když chtějí ověřit, zda je výrok jiného uživatele pravdivý nebo když mu chtějí dodat kontext.