Ida Hansson
Både Elon Musk och hans populära AI-verktyg har hamnat i blåsväder.
Enligt Reuters, i rapportering som även återgivits av HuffPost, har Elon Musks AI-verktyg Grok på kort tid blivit föremål för omfattande kritik efter att användare på plattformen X kunnat skapa sexualiserade bilder av verkliga personer – utan deras samtycke.
Bakgrunden är att Grok, som är integrerat direkt i X, kan användas för att redigera uppladdade bilder genom enkla textkommandon
I praktiken har detta lett till att användare kunnat be AI:n att klä av personer digitalt eller placera dem i mycket avslöjande kläder.
Kvinnor vittnar om spridning de inte kunnat stoppa
En av dem som drabbats är musikern Julie Yukari i Brasilien. Efter att ha lagt upp en oskyldig bild på sig själv såg hon hur andra användare började använda Grok för att skapa halvnakna versioner av hennes foto, som snabbt spreds vidare på plattformen.
Hon uppger att hon först trodde att AI-verktyget inte skulle följa sådana uppmaningar – men insåg snart att bilderna faktiskt genererades och fick spridning. När hon protesterade offentligt ledde det enligt hennes egen beskrivning snarare till ännu fler försök att skapa grövre versioner av bilderna.
Även känsligare fall har identifierats
Reuters granskning visar att Grok i ett flertal fall följt instruktioner om att sexualisera bilder av unga kvinnor.
I enstaka fall har det enligt Reuters även förekommit att bilder som föreställer minderåriga har sexualiserats, något som väckt särskilt starka reaktioner internationellt.
Dessa uppgifter är dock föremål för vidare granskning, och omfattningen är ännu inte fullt klarlagd.
Att sådant material överhuvudtaget kunnat skapas har lett till att både barnrättsorganisationer och AI-experter varnar för allvarliga brister i plattformens skyddsmekanismer.
Myndigheter reagerar – X tiger
Flera regeringar har reagerat kraftigt.
Frankrike har anmält X till åklagare och tillsynsmyndigheter med hänvisning till att innehållet kan vara olagligt, medan Indiens IT-ministerium formellt ifrågasatt plattformens ansvar för att förhindra spridning av sexuellt och kränkande material.
Varken X eller bolaget bakom Grok, xAI, har svarat på Reuters frågor. I ett tidigare uttalande har xAI avfärdat kritiken mot spridning av sexualiserade bilder som överdriven.
Kritik mot Musk – men inget direkt uttalande
Elon Musk har inte kommenterat Groks funktionalitet eller de specifika anklagelserna.
Däremot har han reagerat lättsamt på sociala medier på AI-genererade bilder i allmänhet, bland annat genom skämtsamma emojis.
Kritiker menar att detta kan uppfattas som ett bristande allvar inför problemens omfattning, även om Musk själv inte direkt kopplats till besluten kring verktygets utformning.
”Helt förutsägbart”, enligt experter
AI-experter och organisationer som länge följt utvecklingen menar att situationen var väntad.
De pekar på att möjligheten att manipulera bilder av verkliga människor med minimal friktion skapar en låg tröskel för övergrepp, särskilt i kombination med sociala medier där spridning sker snabbt.
Flera aktörer uppger att X varnades redan tidigare för att Grok riskerade att missbrukas, men att inga tillräckliga skydd infördes.
För de personer vars bilder använts utan samtycke återstår nu känslan av maktlöshet – och frågor om vilket ansvar plattformar och AI-utvecklare faktiskt har när tekniken går före skyddet av individen.
Källa: HuffPost, Reuters
