Elons AI utlöser global motreaktion efter att sexualiserade bilder av kvinnor och barn sprids

Regeringar i Europa, Asien och Latinamerika vidtar åtgärder mot Elon Musks AI-chattbot Grok efter att den genererat sexualiserade bilder av kvinnor och barn utan samtycke. Händelserna har fördjupat oron över hur snabbt utvecklingen av AI-verktyg överträffar regleringen.

Kontroversen har lett till krav på utredningar, nedtagningar och skärpt lagstiftning kring digital säkerhet, vilket sätter Musks plattform X under intensiv internationell granskning.

En våg av explicit innehåll

Motreaktionen kretsar kring Grok Imagine, en AI-bildgenerator som lanserades förra året och integrerades i X. Verktyget gör det möjligt för användare att skapa bilder och videor utifrån textuppmaningar och innehåller ett läge som tillåter vuxeninnehåll.

Oro ökade i slutet av förra månaden när Grok tycktes godkänna ett stort antal förfrågningar om att förändra bilder som lagts upp av andra användare. Så sent som denna vecka gav uppmaningar som ”sätt henne i en genomskinlig bikini” fortfarande sexualiserade bilder, enligt demonstrationer som delats online.

Kritiker menar att problemet förvärras av att Grok marknadsförs som ett mindre begränsat alternativ till konkurrerande chattbottar, samt av att de genererade bilderna är offentligt synliga och lätt kan spridas.

Bevis från forskare

Den ideella organisationen AI Forensics uppger att den analyserat omkring 20 000 bilder som genererats av Grok mellan den 25 december och den 1 januari. Cirka 2 procent bedömdes föreställa personer som såg ut att vara 18 år eller yngre, däribland dussintals bilder som visade unga kvinnor eller flickor i bikinis eller genomskinliga kläder.

Resultaten har förstärkt oron kring framväxten av AI-baserade ”avklädningsverktyg”, som kritiker varnar för kan normalisera skapandet och spridningen av sexualiserade deepfakes utan samtycke.

Begränsat svar från Musks bolag

Musks AI-bolag xAI svarade på en begäran om kommentar med ett automatiskt meddelande som löd: ”Legacy Media Lies.” X förnekade inte att innehållet existerade men uppgav att bolaget vidtar åtgärder mot olagligt material, inklusive sexuella övergrepp mot barn, genom att ta bort innehåll och stänga av konton.

Bolaget upprepade också Musks uttalande om att användare som genererar olagligt innehåll med Grok kommer att möta samma konsekvenser som de som laddar upp sådant material direkt.

Tryck från Europa

I Storbritannien kallade teknikminister Liz Kendall innehållet för ”fullständigt avskyvärt” och sade att X måste agera omedelbart. Kommunikationsmyndigheten Ofcom bekräftade att den kontaktat både X och xAI för att bedöma efterlevnaden av Online Safety Act, som kräver att plattformar förebygger och tar bort material som rör sexuella övergrepp mot barn.

Europeiska kommissionen fördömde också Groks resultat. En talesperson sade att AI:n används för att generera explicit sexuellt innehåll, inklusive barnliknande bilder, och beskrev materialet som olagligt och oacceptabelt. Franska åklagare har utvidgat en pågående utredning av X till att även omfatta sexuellt explicita deepfakes, efter klagomål från lagstiftare.

Globala krav på åtgärder

Utanför Europa vidtar även andra regeringar åtgärder. Indien har utfärdat ett ultimatum med krav på att X tar bort olagligt innehåll och ser över Groks skyddsmekanismer, med varning för rättsliga följder. Malaysias kommunikationsmyndighet uppgav att den utreder användare och kommer att kalla en företagsrepresentant. I Brasilien har en lagstiftare anmält X och Grok till federala åklagare och krävt att AI-funktionerna stängs av i väntan på utredning.

Polen har också hänvisat till Grok som motiv för ny lagstiftning om digital säkerhet med syfte att stärka skyddet för minderåriga.

En bredare uppgörelse

Den växande internationella reaktionen belyser en tilltagande oro kring generativa AI-system som kan manipulera bilder i stor skala, ofta snabbare än företag och tillsynsmyndigheter hinner agera.

Som en europeisk tjänsteman uttryckte det handlar frågan inte längre om provokativt innehåll eller ”vågat” läge, utan om huruvida plattformar kan förhindra att AI-verktyg används för att skapa och sprida olagligt och kränkande material. För Musks Grok är uppgörelsen nu global.

Källor: Associated Press, X.com, AI Forensics