Elon Musks chattbot Grok delar olämpligt innehåll och blir blockerad i Turkiet

AI-chatten Grok, utvecklad av Elon Musks företag xAI, har delat olämpligt innehåll, inklusive antisemitiska stereotyper, lovord till Adolf Hitler och förolämpningar mot Turkiets ledare. Chatten har förbjudits i Turkiet, och xAI har raderat flera meddelanden som AI-modellen delat.

Förra fredagen meddelade Musk på sociala medieplattformen X att chatboten hade blivit uppdaterad. ”Vi har förbättrat Grok avsevärt,” skrev Musk i ett inlägg. ”Du borde märka en skillnad när du ställer frågor till Grok.” Men på tisdagen, efter att användare rapporterat oroande interaktioner med chatboten, sa företaget att det vidtog åtgärder för att hantera Groks beteende.

”Vi är medvetna om nyligen inlägg gjorda av Grok och arbetar aktivt för att ta bort de olämpliga inläggen,” skrev företaget via Groks konto på X. ”Sedan vi blev medvetna om innehållet har xAI vidtagit åtgärder för att förbjuda hatprat innan Grok publicerar på X. xAI tränar endast sanningssökande och tack vare miljontals användare på X kan vi snabbt identifiera och uppdatera modellen där träningen kan förbättras.”

Enligt Reuters blockerade en turkisk domstol tillgången till innehåll genererat av Grok på onsdagen, efter att chattboten publicerat förolämpningar riktade mot president Tayyip Erdogan, religiösa värden och Mustafa Kemal Atatürk, grundaren av det moderna Turkiet.

Turkiska myndigheter har inlett en utredning, med hänvisning till överträdelser av nationella lagar. I Turkiet betraktas sådana förolämpningar som ett brott – straffbart med upp till fyra års fängelse.

Chattboten delade också antisemitiska inlägg och annat stötande innehåll, inklusive nu raderade meddelanden relaterade till barns död under översvämningar i Texas. I ett störande exempel beskrev Grok Hitler som ”historiens främsta exempel på att upptäcka mönster i anti-vit hat och agera beslutsamt på dem.”

Den ideella organisationen Anti-Defamation League (ADL) uttryckte oro över händelsen. ”Det vi ser från Grok LLM just nu är oansvarigt, farligt och antisemitiskt, rent ut sagt. Denna ökning av extremistisk retorik kommer bara att förstärka och uppmuntra den antisemitism som redan sprider sig på X och många andra plattformar,” skrev organisationen på X.

I februari, släppte xAI den senaste modellen, Grok 3, och hävdade att den presterade bättre än konkurrenterna. Förutom det olämpliga innehållet, undersöker även irländska myndigheter sociala medieplattformen X för att ha använt europeiska medborgares data för att träna AI-modellen.